inicia sesión o regístrate.
Estamos acostumbrados a que los multibillonarios tecnológicos nos digan que buscan salvar a la humanidad. ¿Salvarnos de qué? No lo dicen, pero la respuesta es "de nosotros mismos". ¿Cómo? A través de la tecnología. "La mejor manera de predecir el futuro es inventarlo", dijo el científico informático Alan Kay. La frase se convirtió en una especie de mantra teológico en el mundo tecnológico y fue adoptada con un estatus de evangelio por estos nuevos sumos sacerdotes investidos -por ellos mismos- en los arquitectos del futuro de la humanidad.
Sam Altman, Jeff Bezos, Elon Musk y un puñado de otros pueden tener objetivos y ambiciones diferentes en el corto plazo, pero, sus visiones para el futuro son siniestramente similares. Planteadas como objetivos tecnológicos, pero escondiendo imperativos existenciales, estas visiones incluyen crear una superinteligencia artificial capaz de resolver todos los problemas del mundo; fusionarnos con esa superinteligencia para alcanzar la inmortalidad (o algo cercano a ella); establecer una colonia permanente y autosostenible en la Luna y en Marte y, en última instancia, expandirnos por el cosmos.
Y, si bien existe un extenso mosaico de ideas y de filosofías tras estas visiones, tres características juegan un rol central en todas ellas: una certeza inquebrantable en que la tecnología es la respuesta a todo problema de la humanidad; una obsesión cuasi religiosa con poder trascender nuestros límites físicos y biológicos; y la imperiosa necesidad de una expansión de la raza humana por el cosmos como forma de superar sus ataduras con una Tierra en extinción.
Tecno feudalismo y otros "ismos"
En todos estos "imperativos" yace la idea de trascendencia y de escape; la promesa de un futuro asombroso lleno de maravillas inimaginables; y el mandato de no interponernos en el camino del progreso tecnológico. En sus visiones, todos los complejos problemas del mundo se reducen a soluciones tecnológicas "simples" y, estas soluciones, son la justificación a cualquier rumbo a tomar.
Lo que debemos preguntarnos es si estas motivaciones son genuinas; o si no son sólo una buena excusa para continuar destruyendo el medioambiente sin restricción alguna (total nos habremos de ir o, en el extremo, la IA lo solucionará); para eludir regulaciones y acumular más poder y control (necesario para poder desarrollar estos planes sin restricciones); y para descartar todo problema actual real de hoy real, y hacernos enfocar en los problemas imaginados del mañana.
Además, como consecuencia de estos "imperativos", han impuesto formas de "hacer negocios" apuntaladas en frases como "disrumpir o ser disrumpido"; "romper rápido"; "pedir perdón antes que permiso"; mantras psicopáticos que esconden una ética oscura y avasallante que no repara en consecuencias ni en daños colaterales. Así, se va instalando una idea de "tecno-feudalismo"; un retorno al vasallaje; esta vez tecnológico.
Vasallaje que se disimula detrás una apabullante cantidad de nuevos "ismos": Altruismo efectivo, racionalismo, longtermismo, extropianismo, aceleracionismo efectivo, futurismo, singularitarismo, transhumanismo; y muchos otros más. Todos están conectados y comparten la misma raíz que mencioné antes. Además, todas tienen fuertes lazos con el autoritarismo, el racismo, la misoginia y la eugenesia. Es paradójico, pero, aún negándolo de manera explícita, todas estas visiones del futuro están provocando un mayor autoritarismo, desigualdad y destrucción ambiental.
La Singularidad
Todos parten de la Singularidad: el nacimiento de una Súper Inteligencia General, muy superior a la humana, que se mejora a sí misma de manera iterativa y que lleva a una "explosión de inteligencia". La Singularidad, según el Ingeniero de Google, Raymond Kurzweil, es algo inmediato que nos permitirá "fusionar" nuestros cerebros con la nube y "expandir nuestra inteligencia en millares de órdenes de magnitud". "Esto profundizará nuestra conciencia y entendimiento y todo será asombroso". Es la visión fantástica de una tecno utopía perfecta en la que todos viviremos tanto como queramos en un paraíso eterno, vigilados por máquinas amorosas; con todo mejorando en forma exponencial para siempre. Cercanos a esta visión, se encuentran los aceleracionistas efectivos, quienes armaron una suerte de culto a medida de la cultura tecnológica "startup" (*) en la que el "Manifiesto Tecno-Optimista" de Marc Andreessen (2023) juega el rol de "Biblia".
Por supuesto que hay "ismos" -pocos- con algo más de contenido. Los racionalistas, los altruistas efectivos y los longtermistas (largoplacistas), por ejemplo, creen que la Singularidad ocurrirá (o que podría suceder); pero reconocen su peligro. Para ellos, sí debemos abordar el hecho de que una IA tan poderosa podría destruir a la humanidad una vez obtenida; el famoso "problema de alineación".
Para peor, muchas de estas ideologías se inspiran en personajes oscuros. El transhumanismo fue popularizado por primera vez por el eugenista Julian Huxley. El Manifiesto de Marc Andreessen se basa en el Manifiesto futurista" del fascista Filippo Tommaso Marinetti. (**)
Para Raymond Kurzweil, informático contemporáneo, autor, emprendedor, futurista e inventor estadounidense, existe una "Ley de Retornos Acelerados" operando en el universo que supone al progreso tecnológico como exponencial e infinito. Según él, los avances en una tecnología acelerarán los avances en el futuro, lo que conduce -inevitablemente- a una mayor complejidad y poder tecnológico; repitiendo el ciclo por siempre. Esto es -simplemente- un error conceptual. Hay demasiado gente creyendo en esta nueva forma de "Perpetuum mobile".
Me parece que esta manera de pensar surge de mirar por demasiado tiempo la Ley de Moore. Esta es la famosa predicción de que el número de transistores en un chip se duplicaría cada dos años, bajando su costo de manera acorde. Y, si bien esto ha sido así durante los últimos 70 años o más, no se debe a ninguna ley fundamental del universo. Por el contrario, es por una razón bien mundana: la industria tecnológica hizo inversiones considerables y consistentes para que esto así sucediera. Es el mejor ejemplo que existe de una profecía auto cumplida. Pero, incluso Gordon Moore (quien la articuló por primera vez en forma de "observación"; no de Ley), sabía que no podría durar para siempre.
El atractivo de estas ideas es que otorgan una hermosa fantasía sobre el futuro; la posibilidad de trascender a la muerte; y la sensación de que alguien o algo -afuera del sistema- mantiene el control. Es fácil imaginar lo reconfortante que es una narrativa simple y optimista en un mundo cada vez más complejo y confuso. Una religión para muchos nuevos creyentes. Una Teología tecno utópica.
"Uno de los temas que en los próximos años se va a debatir con mayor brío es el del sentido, ventajas, daños y límites de la técnica. Siempre he considerado que la misión del escritor es prever con holgada anticipación lo que va a ser problema, años más tarde, para sus lectores y proporcionarles a tiempo, es decir, antes de que el debate surja, ideas claras sobre la cuestión, de modo que entren en el fragor de la contienda con el ánimo sereno de quien, en principio, ya la tiene resuelta", escribió el español José Ortega y Gasset.
Martín Heidegger, en 1955, dijo: "No nos hagamos ilusiones. Todos nosotros, incluso aquellos que, por así decirlo, son profesionales del pensar, todos somos, con mucha frecuencia, pobres de pensamiento; estamos todos con demasiada facilidad faltos de pensamiento. (…) La creciente falta de pensamiento reside así en un proceso que consume la médula misma del hombre contemporáneo: su huida ante el pensar. (…) Pero el desarrollo de la técnica se efectuará cada vez con mayor velocidad y no podrá ser detenido. En todas las regiones de la existencia el hombre estará cada vez más estrechamente cercado por las fuerzas de los aparatos técnicos y de los autómatas. (…) Con todo, lo verdaderamente inquietante no es que el mundo se tecnifique enteramente. Mucho más inquietante es que el ser humano no esté preparado para esta transformación universal; que aún no logremos enfrentar meditativamente lo que propiamente se avecina en esta época…".
Estamos entrando en una nueva era de tecnologías hiper exponenciales; una era marcada por profundos cambios tecnológicos; climáticos y ambientales; laborales; sociales; políticos y económicos. Una era de grandes volatilidades; de profundas incertidumbres y de grandes miedos. Una era donde el hombre podría adueñarse de su evolución y dirigirla hacia donde quiera llevarla. Pero no le hicimos caso a Ortega y Gasset; no llegamos a ella "teniéndola resuelta". Tampoco escuchamos a Heidegger y seguimos "huyendo del acto de pensar"; no enfrentamos "meditativamente" nada. Isaac Asimov advirtió: "La ciencia gana conocimiento más rápido de lo que la sociedad, sabiduría".
¿Escucharemos -de una buena vez- a nuestros sabios y construiremos sobre los hombros de esos gigantes que nos precedieron y nos alertaron; ¿o seguiremos los cantos de sirenas de Kurzweil, Andreessen y de esos tantos otros bufones Teo-tecnológicos como ellos?
La respuesta depende de nosotros y lo que hagamos definirá la clase de humanidad en la que nos habremos de convertir. Es probable que las palabras de nuestros sabios queden opacadas por los gritos bullangueros de estos advocadores de esta Teo-tecnología. Ojalá que no sea sí. Ojalá.
(*) Startup: Empresa tecnológica que se crea de un día para otro y que alcanzan de inmediato valuaciones billonarias
(**) El Manifiesto Futurista fue escrito por el poeta italiano Filippo Tommaso Marinetti en 1909.