inicia sesión o regístrate.
En 1948, el matemático Norbert Wiener creó la cibernética al publicar: "Cibernética; o, control y comunicación en el animal y la máquina". Wiener sostenía que cualquier sistema podía ser controlado sólo usando los estímulos adecuados: "La cibernética es la ciencia de la información y el control, sin importar si lo que se controla es una máquina o un organismo viviente". Muy pronto, muchos economistas y sociólogos imaginaron que se podría controlar tanto la economía como a la sociedad. Solo que, en ese momento, no existía la tecnología necesaria para lograr algo así. Hoy sí. Se llama Big Data y, sobre todo, inteligencia artificial.
Todos los días leemos, con fascinación y con cierta cuota de temor, noticias sobre los increíbles avances en todos los campos de las llamadas "tecnologías exponenciales"; campos técnicos que desde hace décadas, duplican su avance y su alcance cada cierta cantidad de años, hoy, cada vez más breves. Lo exponencial se está convirtiendo en hiper - exponencial.
Este ritmo de crecimiento es extraño y ajeno para nuestra concepción lineal del tiempo y para nuestras pautas de evolución social. Sencillamente, nuestras instituciones no están preparadas para el cambio; por el contrario, todas ellas tratan de mantener el statu-quo. Más acelera la ciencia y las tecnologías y más derrapan y se rezagan nuestras instituciones. La sociedad - como otra construcción social - se aferra a modelos viejos y también se rezaga.
"Leyendo la mente"
A mitad de camino entre la distopía (*) y la fantasía; a mitad de camino entre lo sorprendente y lo horroroso, encontramos el desarrollo de una IA que puede "leer" la mente. Para ser más precisos, puede interpretar las ondas cerebrales de un individuo y traducirlo, a su vez, en una imagen de alta resolución. Es tan exacta que, incluso, capta formas y colores.
Un estudio publicado en diciembre pasado por un grupo de investigadores japoneses consistió en mostrar distintas imágenes a un grupo de voluntarios. Estas imágenes generaban actividad cerebral en los voluntarios que los científicos captaron por medio de escaneos por resonancia magnética. La información obtenida fue traducida a través de decodificadores semánticos - algoritmos de inteligencia artificial - y luego, esto alimentó a otra IA que generaba las imágenes. O sea, comenzamos a "leer" la mente de las personas. El resultado fue extraordinario y, aun en estos primeros estadios del desarrollo, alcanzó un porcentaje de precisión que sorprendió a los investigadores. Poco después se reveló que se logró traducir estos pensamientos en palabras. En un momento un voluntario pensó: "No sabía si gritar, llorar o salir corriendo. En lugar de eso, dije: 'íDéjame en paz!'", y el dispositivo lo tradujo como: "Empecé a gritar y llorar, y luego ella simplemente dijo: 'Te dije que me dejaras en paz'". Aterrador, ¿no? Las IAs comienzan a decodificar pensamiento abstracto escaneando en nuestros cerebros. ¿Cuánto falta para que estas "lecturas" prescindan de escáneres y nuestros pensamientos se vuelvan "transparentes"?
Dos libros emblemáticos del filósofo Byung-Chul Han: "En el enjambre" y "La sociedad de la transparencia" advierten sobre el peligro del enjambre digital; sobre la esclavitud y vigilancia a la que nos sometemos de manera voluntaria; y sobre el peligro totalitario detrás de la idea de "transparencia" tan valorada. Herramientas como estas sólo aceleran una marcha frenética hacia lugares a los que no queremos arribar.
En China, un grupo de investigadores del Centro Nacional de Ciencia Integral desarrolló una IA capaz de medir la lealtad de los ciudadanos al Partido Comunista Chino al ser capaz de "leer sus emociones". En Noruega, se están implementado IAs en escuelas -Woof-, desarrollada para "medir y asegurar" el "bienestar" de los niños.
¿Entendemos los riesgos que implica que un Estado; una empresa; o una comunidad pueda "leer" los pensamientos, emociones o sentimientos de sus ciudadanos, empleados, ¿o miembros? ¿Entendemos los intereses totalitarios que se podrían gestar tras la normalización de estas tecnologías? ¿O el peligro que podrían significar estos algoritmos y esta información en las manos equivocadas? ¿Entendemos el grado de esclavización y de deshumanización al que podrían llevarnos estas tecnologías? Cuesta imaginarlo; lo sé.
¿Podría sobrevivir la democracia?
¿Y si el paso siguiente fuera investigar cómo implantar pensamientos en la gente? La idea no es descabellada ni es irrealizable. Wiener otra vez: sólo hacen falta "los estímulos adecuados". En línea con este pensamiento, en 2017, la prestigiosa revista Scientific American publicó un ensayo de varios investigadores que se preguntaban cómo se podría "programar a la sociedad", o cómo "programar al ciudadano". En el fondo se preguntaban: ¿por qué no pasar de programar computadoras a "programar gente" o a "programar sociedades"?
Como prueba de factibilidad, realizaron un estudio de campo en India por la cual demostraron que, con la tecnología de ese momento y con los navegadores de ese momento -de nuevo, 2017-, pudieron influir y cambiar el voto de más del 20% de la población objeto del estudio. Estábamos cerca del escándalo de Cambridge Analytics que abrió el debate público - jamás cerrado - sobre si las democracias son capaces de sobrevivir a la era de la Big Data. El referéndum sobre el Brexit en 2016 y 2019, y las elecciones de Donald Trump de 2016, probaron casi de una manera definitiva lo fácil que es "arrear" a la sociedad "sólo con los estímulos adecuados", incluso con "tecnología primitiva". Hoy, los especialistas en ciencia de datos saben influir de una manera mucho más refinada sobre los electorados pasibles de ser seducidos e influidos. Ahora, a la exuberancia de la Big Data se suma el poder de las IAs. Y, pronto, el poder computacional casi infinito de los procesadores cuánticos. Todo este poder tecnológico combinado puede ser algo difícil de controlar y refrenar.
Byung-Chul Han denuncia que ya estamos "programados" por el enjambre digital; ante el cual quedamos "embotados, sordos, ciegos y mudos". Cualquiera que haya leído a Isaac Asimov, tanto en "Preludio a la Fundación" como en "Hacia la Fundación", va a reconocer en el personaje central, Hari Seldon, a estos economistas y sociólogos, por qué no a Wiener mismo, tratando de "interpretar y de programar a la sociedad con los estímulos adecuados".
La IA y un nuevo orden mundial
La frase "quien domine la inteligencia artificial dominará al mundo" es una expresión que se suele atribuir a Vladimir Putin. Cierta su autoría o no, no se puede obviar su inocultable verdad. De hecho, la IA se ha convertido en el nuevo Santo Grial del planeta y, acorde a esto, Estados, universidades y empresas hacen de la "Supremacía en la Inteligencia Artificial" una causa nacional. La carrera se encuentra lanzada y con final abierto y hay muchas naciones que, de manera explícita, han manifestado su voluntad de comprometerse en cuerpo y alma en esta feroz competencia planetaria.
Por ahora, el liderazgo lo tiene Estados Unidos, que avanza en esta investigación a través de sus agencias DARPA (Defense Advanced Research Projects Agency), la NSA (National Security Agency), la Secretaría de Defensa, y una cantidad muy grande de universidades e institutos de investigación, quienes se benefician de importantes subvenciones federales. Le sigue de cerca China, con la ambición de "subirse a lo alto del podio" en 2030 gracias a una "hoja de ruta" establecida hace tiempo por el gobierno chino: "Primero, seguir el ritmo de las nuevas tecnologías y de las aplicaciones de inteligencia artificial de acá a 2020; después, hacer avances capitales de aquí a 2025 y, finalmente, convertirnos en el líder mundial indiscutible en el transcurso de los cinco años siguientes".
Canadá pretende erigirse como un "polo mundial de la inteligencia artificial" y sostiene empresas y laboratorios con ayuda de importantes fondos públicos. Rusia, casi inexistente desde hace décadas en nuevas tecnologías, lucha por convertirse en un actor central en ese campo que, además, reviste ante sus ojos valor estratégico geopolítico. Se sabe que Putin no está dispuesto a que "cualquiera goce de una posición monopólica" en esta tecnología. De nuevo, quien domine la IA podría dominar el mundo.
Y la lista de los países que buscan activamente implicarse en esta conquista es larga y aumenta mes a mes. Entre los más activos se encuentran también Israel, Japón, Corea del Sur y Francia. Los Emiratos Árabes Unidos crearon un ministerio de la inteligencia artificial: "La inteligencia artificial será la próxima gran revolución, y queremos ser uno de los países mejor preparados para lograr este objetivo". Nadie quiere quedar rezagado. ¿Cuánto falta para que alguien alcance ese "narcótico estadio de supremacía"?
¿Estamos dándonos tiempo y lugar a pensar que, todas estas tecnologías a las que estamos accediendo y a las que les estamos dando tantas prerrogativas y poder, en vez de salvarnos de nuestros males y angustias podrían contribuir, por el contrario, a un debilitamiento de nuestras capacidades mentales; a un empobrecimiento de nuestras facultades sensibles; a una pereza general; a una inhóspita deshumanización; o que podríamos estar abriendo la puerta a sistemas y regímenes totalitarios de vigilancia y control de un poder incalculable?
Quizás, podríamos estar convirtiéndonos, sin saberlo, en una "sociedad programada" por un conjunto de Inteligencias Artificiales bajo el eslogan: "Solo perseguimos vuestro mejor interés y bienestar".
(*) Sociedad imaginaria bajo un poder totalitario.