El formateo de la humanidad por parte de la IA provoca fatiga, depresión y aislamiento
Entrevista a MIGUEL BENASAYAG, Revista La Rèleve et La Peste
LR&LP: Es usted autor de numerosas obras, entre ellas La singularidad de lo vivo. Una encuesta realizada a 2778 investigadores pronostica que la IA “superará” al cerebro humano en 2037. ¿Qué opina al respecto?
Miguel Benasayag: Hay una misión unidimensional para el cerebro… Si bien es cierto que la IA pronto superará algunas funciones que actualmente desempeña el cerebro humano; el problema es que comparar el cerebro humano con una máquina lleva a cometer errores. Lo que hace el cerebro no es calculado, no es previsible. El cerebro es un sistema integrado en un cuerpo, entre los cuerpos, sometido a pasiones, impulsos, en definitiva, a la realidad. Una máquina es un agregado infinito que siempre puede ser más eficiente. El principal problema en esta cuestión sigue siendo la dificultad de establecer la alteridad, de ver dónde está la diferencia. El riesgo es que estamos formateando al ser humano como si fuera una máquina. Al asimilar el cerebro a una máquina, educamos a nuestros hijos y organizamos nuestro día a día como lo haría una máquina.
LR&LP: Entonces, ¿cuál es la diferencia entre un cerebro humano y una máquina?
Miguel Benasayag: En primer lugar, un organismo vivo es un organismo finito. Es un organismo que nace, se desarrolla, muere, que está en relación abierta con su entorno y con otros cuerpos. Mientras que una máquina es, en principio, un aparato infinito. Siempre se le pueden añadir módulos, aplicaciones, etc. Un organismo vivo, por ser finito, tiene sensaciones, angustias, deseos, placeres, intencionalidad. Históricamente, asimilamos la intencionalidad con una interioridad. Mientras que la máquina no tiene intencionalidad ni interioridad. Esa es la diferencia fundamental. La otra diferencia es que lo vivo no sirve a ningún fin. Lo vivo no es una entidad que deba servir o no para algo. Los seres vivos se comportan como si fueran su propio fin, su finalidad es la vida, sin más. No la vida individual, sino la vida de la especie, la vida en general. Mientras que la máquina es transitiva. La máquina debe servir para algo o no sirve para nada.
LR&LP: Dado que se puede optimizar una máquina hasta el infinito, ¿por qué no hacer lo mismo con el cerebro humano?
Miguel Benasayag: No se puede optimizar el cerebro. La máquina debe optimizarse para funcionar, para cumplir mejor su objetivo. Creo que no se puede comparar en absoluto la optimización y el desarrollo de las capacidades de una máquina con el devenir del cerebro y el cuerpo, que exploran las realidades, descubren posibilidades. Incluso los logros deportivos son una exploración de las capacidades humanas, antes que una cuestión de puro rendimiento. Son dos formas de ser muy diferentes. Sin olvidar que para la máquina nada tiene sentido. Para los seres vivos, no solo para el cerebro, la vida es un fenómeno que gira en torno a la cuestión del sentido. Como seres finitos, los entornos nos perturban y debemos actuar en ellos. En cambio, nada puede perturbar a la máquina, ya que no tiene angustia ni intencionalidad. Una máquina puede, efectivamente, cometer errores y provocar desastres. Sin embargo, no habrá ninguna intencionalidad detrás, porque la intencionalidad es el monopolio absoluto de los seres vivos.
LR&LP: Hoy en día, multitud de coaches de desarrollo personal nos invitan a convertirnos en la mejor versión de nosotros mismos en el deporte, pero también en el trabajo o en el uso de nuestro cerebro. ¿En qué sentido estos sesgos cognitivos son en realidad una visión errónea de la mente?
Miguel Benasayag: Los coaches son la expresión visible de un gran cambio que estamos viviendo a través de esta nueva gran tecnología digital, unida por el momento al neoliberalismo. Hay quien piensa que la gran tecnología es antagónica a la libertad y la emancipación. Yo no lo creo así. Creo que el problema es que, por el momento, está totalmente capturada por el neoliberalismo. Se están afirmando nuevos tipos de poder, ya no es solo un poder de una clase social sobre otra, es un poder de puro funcionamiento. Queremos funcionar porque existir es demasiado complicado. Intuitivamente, existir es contradictorio, no hay un objetivo claro. Por eso decimos que el camino cuenta más que el objetivo. Mientras que desde el puro «funcionamiento», todo está claro, todo es calculable. Los coaches son un poco como nuestros comisarios políticos, como en la época del marxismo soviético o chino. Los comisarios políticos juzgaban lo que era correcto en la vida de los ciudadanos en relación con los dogmas vigentes.
Hoy en día hay dos tipos de nuevos comisarios políticos: los coaches y los asesores bancarios. Se entrometen en nuestra vida, en cómo qué vivimos, en lo que es correcto o no. Vivimos en una época en la que ha triunfado la ideología, la ideología que te explica por qué nos levantamos por la mañana, cuándo nuestro día ha sido un éxito o un fracaso. Y en medio de todo esto están los asesores bancarios y los coaches, que son los dos comisarios políticos de una época hiperideológica.
LR&LP: En la sociedad del rendimiento existe la idea de que somos insuficientes, que no somos completos. Estamos acabados, pero no hemos alcanzado nuestro máximo potencial. Como la idea preconcebida de que solo utilizamos el 10 % de nuestro cerebro.
Miguel Benasayag: Esa idea preconcebida no tiene fundamento ni validez científica. Al contrario, el cerebro siempre funciona de forma integrada y global. Si hay algo destacable en el cerebro es precisamente que siempre funciona de forma integrada. El más mínimo estímulo perturba al cerebro en su conjunto. La teoría de que siempre hay que hacer más proviene del pensamiento colonial occidental, según el cual hay que ser algo que nunca se es. Es la mejor manera de someter a las personas. Como nos sentimos incompletos, siempre buscamos a nuestro gurú, a nuestro líder. La única postura, desde mi punto de vista, que nos emancipa es la de decir que todos estamos muy bien tal y como somos. Evidentemente, sin hacernos demasiado daño unos a otros, para que la gente no se destruya. Pero hay que considerar a las personas como entidades completas en sí mismas, en las que nada es un error. No niego que haya comportamientos perjudiciales que hay que reprimir, ¿de acuerdo? Pero no son “errores” como si habláramos de un disco duro.
LR&LP: A menudo se compara a los ordenadores con los seres humanos. La inteligencia artificial imita ahora el estilo artístico de ilustradores y pintores, e incluso compone música. ¿Fue la victoria del ordenador Deep Blue de IBM contra el ajedrecista Garry Kasparov el primer golpe, la primera ofensa tecnológica a la dignidad de la inteligencia humana? ¿Nunca nos hemos recuperado de esa herida? Y ese trauma genera hoy en día un gran temor en muchos sectores profesionales, incluso en los creativos, donde se presumía que era algo propio del ser humano. ¿Explica eso que nos sintamos tan pequeños frente a las máquinas?
Miguel Benasayag: Como nos cuesta mucho definir a los seres vivos, a veces decimos que pueden actuar como las máquinas. Así que intentamos definir a los seres vivos en términos de capacidades, competencias, módulos. Pero el ser humano, el ser vivo, no está compuesto por módulos. En esta visión modular de la vida, Kasparov fue derrotado por IBM. Se creía que los juegos de Go solo estaban al alcance de los humanos, pero AlphaGo le ganó al campeón humano. Se creía que la creatividad artística y estética era propia del ser humano. Sin embargo, la IA crea cuadros que son una creación algorítmica. Simplemente, hay dos diferencias. En primer lugar, lo que crea la máquina solo tiene sentido para y por los seres humanos. Decir que la máquina crea belleza es tan absurdo como decir que los astros y los soles crean la belleza de una puesta de sol. Una puesta de sol es una serie de procesos fisicoquímicos que solo resultan hermosos para la vista humana. Las correlaciones de la máquina son correlaciones muy interesantes, grandes novedades, pero no crean belleza, no crean nada. La IA funciona por densidad estadística, con las palabras o imágenes que mejor se articulan. Ejemplo: si dices cielo, no dirás verde, dirás azul, etc. La IA correlaciona lo que es más coherente estadísticamente. Pero eso siempre se mantendrá en la media estadística.
Ahora bien, la creatividad humana opera desde los márgenes, desde lo que es minoritario, lo que es muy poco denso y lo que cuestiona el orden establecido, las asimetrías… El mundo cambia porque en los márgenes, de forma deseante, loca, obstinada, hay un trabajo, allí donde nadie esperaba nada, que cuestiona el centro. Este cuestionamiento desde los márgenes hacia el centro es imposible para la máquina, porque la máquina siempre se encuentra en un centro de densidad. Esto no significa que sea mejor o peor, simplemente hay que conocer esta diferencia. Los seres humanos también funcionan muchas veces de manera muy densa, es decir, sin cuestionarse nada. Pero tenemos la posibilidad de invertir el curso de las cosas. Así es como actúan los enamorados, los artistas, los investigadores, los rebeldes de todo tipo y de todas las épocas. Así es como se producen los grandes cambios.
En 1900, de repente, los artistas empezaron a decir que las formas estéticas ya no eran adecuadas. ChatGPT, en aquella época, se habría perdido por completo la revolución dadaísta y cubista. Porque esa revolución artística fue creada por unos pocos obsesionados que pensaban que las cosas ya no funcionaban. ¿Por qué ya no funcionaban? Ya no funcionan solo para un ser vivo que, por sus deseos, se enreda, se obstina y cuestiona el centro.
LR&LP: Esta comparación permanente crea otra cosa: nos cansa. Nos agotamos por querer ser tan rápidos como las máquinas. Y en su obra «Cerebros aumentados (¿humanidad disminuida?)», señala que «cada vez delegamos más la memoria viva de nuestro cerebro a la memoria viva de nuestras máquinas, sin contrapartida por el momento». ¿Y en qué medida la comparación permanente con las máquinas puede debilitarnos como seres humanos?
Miguel Benasayag: Es una experiencia bastante loca que todos hacemos. Cuanto más nos relacionamos con las máquinas, menos tiempo tenemos y más cansados estamos. La máquina está formateando nuestra vida cotidiana, nuestra mente, etc. Sin embargo, la máquina tiene una temporalidad lineal, debe ser rápida y eficaz, pero nosotros no. Este formateo de la humanidad por parte de la máquina provoca fatiga, depresión y aislamiento. Cuanto más nos sumergimos en esta comunicación virtual permanente, menos conectados estamos, menos transmisión hay. Todo esto es muy desorientador. Desde el punto de vista psiquiátrico, hay dos tipos de fatiga: la debida a esta temporalidad rápida de la máquina y la fatiga típica de la persona deprimida. Esta exigencia de rendimiento permanente provoca un efecto depresivo.
LR&LP: Otra hipótesis que ha explorado es que, a diferencia de la escritura, que se ha desarrollado a lo largo de varios siglos, los algoritmos han colonizado el mundo entero a una velocidad increíble en apenas 15 años, lo que no ha permitido que el cerebro desarrolle mecanismos de regulación y protección. ¿Cuáles son las consecuencias de la digitalización de nuestros modos de vida sobre el desarrollo del cerebro?
Miguel Benasayag: La escritura se inventó hace unos 6000 años, en varios puntos del planeta, con unos siglos de diferencia. En sus inicios, la escritura era una herramienta de las minorías. Hubo toda una época en la que la escritura era diversa, no se escribía igual en China que en Egipto o en Mesopotamia. El cerebro ha llevado a cabo todo un proceso de regulación de la escritura. Esta coevolución entre la escritura y el cerebro ha evitado que se produjera una colonización completa. La verdad es que, si hace 6000 años, por milagro, todos los seres humanos del planeta hubieran tenido que empezar a leer y escribir muy rápidamente, habría sido un desastre. Sin embargo, la escritura ha coevolucionado de forma muy territorializada con los seres vivos. El problema con el algoritmo es que ha conquistado a todos los habitantes del planeta, tanto a los más pobres como a los más ricos, en muy poco tiempo y, además, no hay variedad. Los algoritmos son los mismos en todas partes. El hecho de que esté escrito en francés o en inglés en la máquina no significa que el algoritmo sea diferente. El problema es que no hay esos tiempos de coevolución que permitirían metabolizarlo. Ante este fenómeno, el cerebro se encuentra en una especie de asombro radical y no puede sino adoptar el funcionamiento de la máquina. La reacción del cerebro biológico es una especie de asombro paralizante porque no está a la altura, no va lo suficientemente rápido, no puede establecer todas las correlaciones de inmediato. Este tipo de asombro paralizante tiene como consecuencia la adhesión al funcionamiento de la máquina. Los riesgos fisiológicos son: pérdida de potencia, pérdida de pensamiento complejo, pérdida de regulación de los vínculos humanos por la presencia, porque la virtualización comunicativa permite desviaciones muy violentas. A este nivel a virtualización nos hace vivir al entorno social como algo muy peligroso. Los cuerpos presentes revelarían el horror total. Los genocidios, por ejemplo, siempre acaban siendo descubiertos porque hay cuerpos. Las peores dictaduras, las peores ideologías, acaban siendo inviables porque hay cuerpos. Sin embargo, en la virtualización actual, estamos gestionando nuestras vidas y nuestros mundos como si no hubiera cuerpos.
LR&LP: A diferencia de la escritura, debido a su rapidez, la tecnología digital aún no ha ofrecido al ser humano una nueva forma de estar en el mundo. ¿En qué sentido, por el contrario, lo aleja del mundo y de su poder de actuar?
Miguel Benasayag: Si tomamos el ejemplo de la literatura, ha ocurrido algo muy curioso. Sócrates no quería escribir porque decía que si escribíamos tendríamos una lengua muerta, pero hay que reconocer que los seres humanos han logrado domesticar poco a poco la escritura. La poesía está ahí para hacer que la escritura diga algo, la literatura es una dimensión adicional de la vida, un buen libro nos sumerge en una dimensión más. No sé si el mundo algorítmico podrá domesticarse algún día de esta manera. Tal y como lo utilizamos actualmente, nos debilita. Nos cuesta encontrar una forma de convivencia que no sea perjudicial para los seres humanos. Sobre todo, el mundo algorítmico no puede integrarse en su entorno. Para ilustrarlo, me gustaría hablar del martín escador. Cuando caza, el martín pescador no se zambulle donde ve los peces, sino donde realmente están, gracias al cálculo de la refracción del agua. Evidentemente, los martines pescadores no calculan realmente, sino que se proyectan a través de volúmenes, gracias a dos fóveas (zona donde la visión de los detalles es más precisa) en cada una de sus retinas. Los seres humanos hemos desarrollado el cálculo de la refracción del agua. Este cálculo es muy potente, pero el martín pescador tiene en cuenta una infinidad de datos: el entorno, el viento, el clima, relacionados con su medio ambiente. Para sobrevivir, es mucho más práctico tener el organismo de un martín pescador que un cálculo de la refracción del agua. Ahí está el problema: cuanto más nos acercamos al lado matemático del mundo, más cosas entendemos, pero más nos debilitamos en la práctica. Hay que tener en cuenta que las representaciones son representaciones, abren posibilidades, pero eliminan otras.
LR&LP: ¿Cómo proteger nuestra singularidad como seres vivos frente a los algoritmos?
Miguel Benasayag: Estamos en la era del entretenimiento: series, redes sociales, ocio, etc. Sin embargo, la distracción, desde un punto de vista militar, consiste en no ver dónde nos van a atacar. En la experiencia guerrillera, 30 minutos antes de atacar a nuestro objetivo, atacábamos otro lugar, para que todas las fuerzas represivas se concentraran en él. Si los adultos pasan su tiempo solo divirtiéndose, no están prestando atención a lo que está pasando. Es responsabilidad de los adultos comprender que nos enfrentamos a un reto. Cuando se produce un gran cambio social, histórico, es necesario que al menos una minoría de personas tome conciencia de que algo está pasando. Es el espíritu de libertad, de resistencia. Una minoría de personas debe darse cuenta de que está sucediendo algo con la IA que nos va a afectar profundamente. Esta minoría está empezando a crecer, pero aún no tenemos la masa crítica necesaria para cambiar las cosas. Lejos de cualquier tecnofobia estúpida o fascinación idiota, los profesores, investigadores, artistas, etc., deben empezar a cuestionar esta convivencia con las máquinas de forma responsable. Es el comienzo de toda revolución.
Fuente original: https://lareleveetlapeste.fr/le-formatage-de-lhumanite-par-lia-entraine-fatigue-depression-et-isolement/
Foto: PERFIL
