inicia sesión o regístrate.
Según la leyenda nórdica, cuando llegue Ragnarok -el día del Crepúsculo de los Dioses-, tres inviernos paralizarán la tierra y lobos voraces comerán el Sol y la Luna hundiendo al mundo en la más completa oscuridad. La tierra temblará, caerán las estrellas del cielo y las montañas se desintegrarán. Los monstruos se liberarán mientras Loki, el dios del caos, extenderá la guerra, la confusión y la discordia por la tierra estéril. Odín, el padre de los dioses, reunirá a sus valientes guerreros por última vez en el Valhalla para librar el último combate.
La leyenda vikinga de una congelación gigantesca seguida de llamas y de una batalla final presenta una visión épica del fin del mundo. Todas las mitologías contienen visiones similares en las que el fin del mundo va acompañado de grandes cataclismos que anuncian la batalla final entre el bien y el mal.
Lobos voraces
Algunas semanas atrás, científicos y tecnólogos del área de la inteligencia artificial (IA) firmaron un documento por el cual instaban a "mitigar los riegos de extinción a la especie humana que supone la IA", así como a dar prioridad global a otros riesgos existenciales como la edición génica, el calentamiento global o la guerra nuclear.
La Casa Blanca elaboró un documento que alerta sobre los desafíos para las democracias que implica la inteligencia artificial. Además, el presidente Joe Biden firmó, junto a su colega británico el primer ministro Rishi Sunak, un acuerdo por el cual se comprometen a "trabajar juntos, de manera multilateral, en temas relacionados con la seguridad de la IA, dado que pioneros de esta ciencia nos previnieron sobre el tamaño del desafío". El líder chino Xi Jinping exhortó a participantes y panelistas de un congreso global sobre tecnología, a "asegurar que la IA es segura, confiable y controlable". La Unión Europea alertó sobre la posibilidad de que la IA signifique un riesgo a la seguridad global y a los derechos humanos. La política hace que escucha las advertencias.
Sin duda el tema está en boga. No puede resultar una sorpresa que se reaviven los miedos milenaristas cuando es tan clara la posibilidad de estar perdiendo el control de algunas de las tecnologías que creamos; o cuando comenzamos a sufrir las consecuencias que estas causan.
Un reciente ensayo filosófico realiza una taxonomía de los riesgos existenciales y establece una diferencia entre riesgos que pueden dañar a individuos de aquellos que pueden dañar a una sociedad. También hace una diferencia entre riesgos directos a la sociedad, de aquellos que podrían perjudicarla de manera indirecta. El gran recordatorio sigue siendo la crisis de 2010 en la que, miles de algoritmos financieros provocaron la caída de la bolsa americana en más de un billón de dólares en escasos minutos. Por suerte se pudo intervenir a tiempo y revertir el daño casi de manera inmediata pero, esto podría no ser posible en la medida que la IA sea más poderosa y se encuentre embebida en todos lados.
Hagamos el siguiente ejercicio intelectual solo para ilustrar cómo la inteligencia artificial podría ser peligrosa, no por ser una entidad al estilo de SkyNet que inicie una guerra contra la raza humana, sino por nuestra pérdida de control ante algoritmos que no podemos comprender.
Hace muy poco, Meta lanzó su modelo abierto de IA, LLaMA-2, y en menos de una semana, decenas de compañías lanzaron distintas versiones de "asistentes inteligentes" que comienzan a ser desplegados y usados por las redes de manera masiva. Estos "asistentes inteligentes" podrían ser entrenados, por ejemplo, para analizar los balances y flujo de caja de una empresa, sus cadenas de logística y producción, sus flujos de trabajo; todo lo que hace a la organización y funcionamiento de una empresa.
Con toda esta información, los algoritmos podrían sugerir nuevas formas de organizar las labores y la cadena global de valor, así como nuevos negocios. Sé que no es agradable de reconocer pero todas las IAs -en muy distintos frentes- han dado con soluciones a problemas conocidos que nos parecen anti-intuitivas y equivocadas pero que han demostrado ser correctas y en extremo eficientes. No sería raro que algoritmos así encontraran maneras de aumentar la productividad de las empresas muy por encima de lo que hemos logrado nosotros, los humanos.
A medida que los algoritmos prosperan, evolucionan y adquieren mayor autonomía; van a estar más embebidos en cada industria y en cada nivel operativo, sea este de supervisión o gerencial. Hay especulaciones hoy, sobre cuándo una IA será CEO de una empresa.
Los algoritmos podrían crear nuevos algoritmos, por ejemplos "ingenieros" que introduzcan mejoras relevantes sobre las cadenas de valor globales de manufactura y logística de productos y servicios e, incluso, que hagan mejoras sobre los propios "algoritmos asistentes". IA recursivas que se automejoran con el tiempo; que siguen aprendiendo, aumentando sus capacidades y expandiéndose.
Entre la rotura de las cadenas de valor global y el declive económico global brutal que provocará el cambio climático, al cabo de pocos años, no sería descabellado pensar que se podría haber reemplazado a la fuerza de trabajo humana por una combinación de "algoritmos pensantes que introducen mejoras" y "trabajadores robots", más eficientes, incansables y baratos que la fuerza laboral humana. En marzo de este año, un informe del banco de inversión Goldman Sachs estimó que la IA podría reemplazar el 25% de todos los trabajos realizados hoy por humanos. Pensemos qué porcentaje podría ser reemplazado en 10, 15, 20 o 50 años.
Para este momento ya se habrán implementado programas como el Salario Básico Universal o iniciativas similares. El mantra imperante será: "usemos nuestro tiempo para hacer las cosas que más amamos en lugar de hacer trabajo «aburrido» que debe ser hecho por robots". Existen hoy enunciados parecidos, sostenidos desde muchas partes del espectro económico- tecnológico- financiero. Por supuesto, la productividad aumenta. A pesar del desempleo creciente, el nivel de vida, en promedio y, sobre todo al principio, aumenta a nivel global ya que los productos se vuelven más baratos a medida que los costos de producción y entrega siguen decreciendo. Esto genera un nivel de aceptación por parte de los gobiernos, de la sociedad y de las instituciones laborales; que acelera el proceso.
Las compañías más automatizadas hacen imposible que el idealismo de "compañías que defiendan el trabajo humano" prospere. En este tipo de carreras hay muy poco tiempo entre el espanto y la desaprobación generalizada; la aceptación y normalización, y la plena justificación y obligatoriedad después.
Al poco tiempo se habrá creado una nueva red global que maneje la cadena de producción. Esta red -autocontenida, autosuficiente e interconectada-, funcionará proveyendo productos y servicios en todo el mundo a fracciones del costo actual, con puntos de entrega de "manufactura precisa con impresoras 3D", distribuidas por todo el planeta que abastezcan de manera "local". En algún momento, todo estará automatizado, sin importar el rubro, el tipo de industria, el servicio ni la clase de producción. Y toda la red va a estar mejorando sus parámetros de funcionamiento de manera continua y acelerada, tal y como lo hicieron los gerentes humanos desde la época de la implementación del fordismo; a velocidades exponenciales.
Los crecimientos exponenciales son imperceptibles primero, y resultan explosivos después. A medida que transcurre el tiempo, se hace cada vez más difícil entender cómo opera la red; mucho menos auditarla o controlarla. Buscar imponerle controles a una red como la descripta, va a resultar tan declarativo y poco efectivo como todos los esfuerzos que se realizan hoy por controlar el desarrollo de los otros lobos voraces: la IA, la edición genética o la carrera armamentística nuclear.
Ragnarok y el fin de la historia
El objetivo de cada compañía en esta red es la búsqueda de maximización de su rentabilidad, porcentaje de mercado, valor de mercado, valor de marca, eficiencia operativa o grado de automatización; nada muy distinto a lo que da impulso y valor a las compañías hoy. Sin embargo, antes de implementar algo así, deberíamos preguntarnos cuál sería su objetivo último.
En algún momento de esta historia se llegará a la pregunta sobre si la red persigue el fin de mejorar nuestra calidad de vida y de preservar nuestra sustentabilidad a largo plazo. La red podría, en el extremo, amenazar la existencia humana ante la explotación sin medida de los recursos naturales disponibles en su búsqueda implacable por maximizar sus objetivos aumentando, por ejemplo, otro riesgo existencial como el del calentamiento global. Existe el peligro, además, de que se haga tan omnipresente, necesaria y segura a la hora de atender todas nuestras necesidades -hasta las más básicas- que, simplemente, no podamos prescindir de ella. Acaso, ¿hoy podríamos prescindir de la World Wide Web? *
El nudo de la cuestión será cómo y de qué manera se podría desconectar esta red global de producción, asumiendo el costo de décadas de fracturas y disloques sociales y económicos de todo tipo; o -simplemente- dejarla operar para evitar estas potencialmente violentas desarticulaciones. Dependiendo también de cuándo se tome la decisión podría suceder que no sepamos operarla por nosotros mismos, así como que tampoco seamos capaces de reemplazarla con labor humana por falta de conocimientos.
En el peor escenario imaginable, tal vez podría existir un conflicto armado entre la raza humana y esta red global, ahora sí, devenida en Loki y émulo de SkyNet, que desate el Ragnarok en su anhelo por sobrevivir. Incluso a costa nuestra. * www: banda ancha mundial, o internet.