inicia sesión o regístrate.
El filósofo José Ortega y Gasset inicia una serie de ensayos escritos entre 1939 y 1952 -reunidos en "Meditación de la técnica y otros ensayos"-, diciendo: "Uno de los temas que en los próximos años se va a debatir con mayor brío es el del sentido, ventajas, daños y límites de la técnica. Siempre he considerado que la misión del escritor es prever con holgada anticipación lo que va a ser problema, años más tarde, para sus lectores y proporcionarles a tiempo, es decir, antes de que el debate surja, ideas claras sobre la cuestión, de modo que entren en el fragor de la contienda con el ánimo sereno de quien, en principio, ya la tiene resuelta".
No creo que estemos hoy más cerca de lo que estaba él -ni la sociedad de su momento-, en haber logrado esa claridad sobre el estado de la técnica; sobre los riesgos y los límites de la tecnología; o sobre el entendimiento que se necesita para entrar a las cuestiones "como quien ya la tiene resuelta". Al contrario, creo que estamos cada vez más lejos. El avance de la técnica y su alcance nos enfrenta a dilemas sobre los que no parecemos estar dispuestos a meditar.
Primero que nada, hay que entender que la velocidad que ha adquirido la ciencia y la técnica supera -por mucho- los marcos temporales a los cuales se enfrentaba Ortega y Gasset. Luego, hay que entender a qué clase de riesgos y dilemas -éticos y morales- nos enfrenta una tecnología que se despliega a diario a velocidades pavorosas. La ciencia sin ética ni moral deshumaniza; la tecnología sin propósito aliena. Correr a toda velocidad sin saber hacia dónde vamos, no parece ser una forma sabia de avanzar.
El tema es complejo en extremo y tiene muchas aristas, por lo que propongo desarrollarlo a lo largo de una serie de columnas. En esta voy a intentar mostrar que la velocidad de la ciencia -y de la tecnología, su primera derivada- crece a ritmos hiper-exponenciales. Luego propongo enfocarnos en el "problema de la caja negra"; la razón por la cual podemos tener avances sin saber ni entender por qué. Luego propongo analizar por qué la tecnología está ayudando al incremento de la inequidad y, en la siguiente, cómo su uso desbocado está destrozando el mayor bien común que tenemos: el planeta. Dados todos estos factores, la anteúltima se enfocará en si hay chances para la democracia de sobrevivir a las fuerzas que estamos desatando. Por último, una coda intentando detenernos sobre los dilemas éticos y morales más acuciantes. Espero que esta larga exposición en entregas haga evidente por qué no podemos seguir procrastinando el entendimiento de los temas ni los debates que tanto necesitamos.
El mundo exponencial
Un ritmo de crecimiento exponencial provoca una extraña sensación. Por un buen tiempo es como si nada pasara y, luego, de repente, todo se desencadena de la nada a ritmos que dan vértigo, dejándonos pasmados por su carácter "repentino" y por su potencia.
Voy a tomar un ejemplo; la computación cuántica. En 1982, Richard Feynman (Premio Nobel de Física de 1961), presentó ideas teóricas sobre computadoras cuánticas basadas en qubits en lugar de los bits tradicionales.
Un qubit (del inglés quantum bit) es la unidad básica de información cuántica. Un bit clásico solo puede adoptar un único valor, 0 o 1. Un qubit, en cambio, puede representar un 0; un 1; o cualquier proporción entre 0 y 1 en la superposición de ambos estados, con una probabilidad de ser 0 y una probabilidad de ser un 1. Extraño y anti intuitivo como suena, esto permite un procesamiento en paralelo -probabilístico y no determinístico como una computadora tradicional- que aumenta su potencia de manera inconcebible.
En 2017, IBM puso a disposición del público general la primera computadora cuántica en la nube -IBM Q Experience-, una máquina virtual de 5 qubits. En 2019, Google presentó una computadora cuántica de 23 qubits que resolvió en 200 segundos algo que a una supercomputadora convencional le hubiera llevado diez mil años. Hoy, la computadora cuántica más avanzada de Google -Sycamore-, tiene 53 qubits y es 158 millones de veces más potente que la computadora tradicional más potente del mundo. í158 millones de veces más potente!
Es que una computadora de 53 qubits puede representar más de 9 trillones de estados posibles en forma simultánea, algo que no podría ser procesado por ningún sistema clásico conocido. Hoy se está desarrollando un chip cuántico de 1.121 qubits. ¿Se comienza a entender el abismo de posibilidades que se abren ante nosotros, a toda velocidad? Al aumentar las tasas de multiplicación de la potencia de la tecnología y, al acortar -al mismo tiempo- los plazos en los que estas tasas aumentan, pasamos de un modelo de crecimiento exponencial a uno nuevo: uno hiper-exponencial.
Pero estas velocidades de progreso son extrañas en extremo a nuestra concepción lineal; toda nuestra estructura social se basa en un progreso lineal. De alguna manera, nuestra idea de progreso es la de una larga línea recta que va desde un pasado malo hacia un futuro mejor. Es como si tuviéramos estampada en el cerebro la idea de que "el progreso es una recta magna, precisa, y sabia; la más sabia de las líneas"; parafraseando a Evgueni Zamiantín, padre de la antiutopía rusa. Nuestra estructura social no tolera ritmos de cambio a grandes velocidades; mucho menos velocidades exponenciales. Tampoco imaginar que el progreso no será para mejor.
La IA y la híper exponencialidad
Todos los días leemos con fascinación y con cierta cuota de temor, noticias referidas a los increíbles avances en inteligencia Artificial (IA). La IA es otro campo científico que avanza a un ritmo híper exponencial. ChatGPT es, hoy, quizás el ejemplo más visible.
Hace poco se hizo pública una carta firmada por prominentes investigadores en el campo de la IA, apoyada por varios empresarios tecnológicos -entre ellos Elon Musk-, que pedía "pausar" por seis meses toda investigación y entrenamiento del Chat GPT-4.
Son cada vez más frecuentes estos llamados de atención urgentes y dramáticos dirigidos al sentido común de la sociedad. Como antecedente y como ejemplo, varios años atrás, Jennifer Doudna -cocreadora de la técnica de edición genética CRISPR y ganadora del Premio Nobel de Química del año 2020 por este descubrimiento-, había escrito y firmado una petición similar junto con una gran cantidad de otros investigadores del campo de la genética solicitando que se detuvieran los avances en ese campo hasta que se creara un marco legal razonable en el cual poder encauzar las investigaciones. También urgía a tener las discusiones éticas y morales urgentes que todos estos avances exponían. Los ecos de las palabras de Ortega y Gasset parecían haberla alcanzado. La carta no tuvo el menor efecto y, hoy, tan sólo diez años después de su creación, la técnica de Doudna es "casi obsoleta" en comparación con las nuevas técnicas y tecnologías desarrolladas después. La genética también avanza a ritmos híper exponenciales.
Volviendo a la IA y a pesar de la carta, hay versiones que indican que OpenAI ya comenzó a trabajar en la versión Chat GPT-5, y que la misma estará disponible hacia fin de 2023. Según estas mismas versiones, con GPT-5 la compañía alcanzaría lo que se denomina una IAG, es decir, una Inteligencia Artificial General. Si esto fuera cierto, significaría que esta IA habría alcanzado un nivel de comprensión e inteligencia equiparable a la del ser humano. La IA habría dejado de ser "angosta" -esto es, superlativa en un ámbito de incumbencia estrecho, dedicado y exclusivo-, para alcanzar un nivel de comprensión general y "ancho". Es probable que estos rumores sean infundados y una exageración. Quizás no lo logre ChatGPT-5 pero; ¿y su décima versión? ¿O en su vigésima? ¿Y si se implementara una inevitable versión cuántica de ChatGPT en una computadora cuántica de 1.121 qubits? ¿Por qué no? Es solo una cuestión de tiempo; nada más.
El sueño prometeico
ChatGPT es solo una muestra de lo que la ciencia de la inteligencia artificial busca como si fuera el Santo Grial; el sueño prometeico de crear inteligencia sintética incluso superior a la humana. ¿Tanta es la pasión y el encantamiento por nosotros mismos que estamos dispuestos a duplicarnos sintéticamente; a editarnos biológicamente y, al final del camino -por qué no-, a hibridarnos en una forma de vida, ¿también sintética? Narciso murió de inanición -y de deseo insatisfecho-, encantado por su propia imagen. Un ensayo del filósofo sueco Nick Bostrom, se pregunta: "Una vez que las máquinas se equiparen con el ser humano en cuanto a su capacidad de razonamiento general, ¿cuánto tiempo pasará antes de que alcance la «superinteligencia radical»? ¿Será esta una transición lenta, gradual y prolongada; o será repentina, ¿explosiva?". La preocupación de Bostrom es, una vez que esta supremacía ocurra, cuando sea que ocurra; ¿seremos capaces de controlarla? Aún con todos los esfuerzos por antropomorfizarla no se puede soslayar el hecho de que la IA que surja podría operar y "pensar" de una manera por completo diferente a la nuestra. En la forma de "pensar" de estos algoritmos, reside el "problema de la caja negra" que mencioné al principio.
Geoffrey Hinton, pionero por excelencia en el campo de la inteligencia artificial, renunció esta semana a Google y a proseguir toda investigación sobre IA. Declaró estar sorprendido por el grado de inteligencia que las máquinas están alcanzando y que le da miedo pensar cómo puedan evolucionar. "Son por completo diferentes a nosotros", agregó. "Es como si hubieran aterrizado extraterrestres y no nos diéramos cuenta sólo porque hablan muy buen inglés (castellano)".
Escuchemos a Jennifer Doudna; a Geoffrey Hinton; pensemos en las advertencias de Stephen Hawkings antes de fallecer. Leamos a Ortega y Gasset. De nuevo, correr a tanta velocidad sin saber hacia dónde vamos, no parece ser la forma más sabia de avanzar.