inicia sesión o regístrate.
En 2026, usamos inteligencia artificial para redactar, programar, buscar información o generar imágenes. Nada de eso parece el principio de una película apocalíptica. Sin embargo, responsables e investigadores de laboratorios punteros hablan abiertamente de amenazas catastróficas y de un progreso que podría desbordar nuestra habilidad para mantener estas tecnologías bajo control.
Lo desconcertante es el horizonte temporal. No se discute únicamente sobre un futuro remoto, sino sobre la próxima década. Algunas previsiones contemplan saltos extraordinariamente rápidos antes de 2030; otras consideran injustificado prolongar así las tendencias actuales. Entre ambas posiciones, queda un enorme margen de incertidumbre.
a pregunta interesante no es si un chatbot de hoy puede destruirnos. Es otra: ¿qué tendría que ocurrir entre la inteligencia artificial de hoy y una máquina que llegara a amenazar nuestra supervivencia? Para responderla, conviene reconstruir esa trayectoria y comprobar qué peldaños están ya ahí, cuáles empiezan a perfilarse y cuáles siguen siendo hipotéticos.
Antes de calcular el fin del mundo, hay que entender qué significa “riesgo existencial”
Una avería informática, una campaña de desinformación o incluso un gran ciberataque pueden causar daños enormes sin poner en peligro la continuidad de la humanidad. Un riesgo existencial es otra cosa: un acontecimiento que provoque nuestra extinción o destruya de forma irreversible las posibilidades futuras de la civilización.
Esa diferencia importa porque el debate mezcla niveles distintos. Que una inteligencia artificial pueda cometer errores graves no implica que vaya a causar una catástrofe planetaria.
Aquí encontramos una expresión habitual: p(doom), forma informal de representar la probabilidad subjetiva que alguien atribuye a una hecatombe causada por esta tecnología. Ese porcentaje no puede medirse como la posibilidad de obtener un seis al lanzar un dado.
La mejor analogía es una escalera. El último peldaño lleva escrito “extinción humana”, y abordar la cuestión rigurosamente no consiste en imaginar ese final, sino en averiguar si hay una sucesión plausible de escalones que permita alcanzarlo. Y cada uno debe examinarse por separado.
No existe una probabilidad empírica que permita afirmar que el riesgo sea del 5, del 10 o del 20 %
Las encuestas muestran que parte de los especialistas considera no despreciable el peligro de resultados extremos. Por ejemplo, el proyecto LEAP, una iniciativa dedicada a comparar pronósticos sobre la inteligencia artificial, consulta a esos mismos expertos, a superpronosticadores —personas con un historial muy bueno de predicciones probabilísticas— y al público general sobre distintos escenarios de avance y consecuencias adversas. Su novena ronda, llevada a cabo en 2026, contó con 194 especialistas, 53 superpronosticadores y 612 ciudadanos.
Ante la posibilidad de que un acontecimiento impulsado principalmente por inteligencia artificial causara al menos 50 muertes o 100.000 millones de dólares en daños antes de 2050, la mediana de las respuestas fue del 62 por ciento entre los expertos, del 70 entre los superpronosticadores y del 35 entre el público general.
Esas estimaciones son útiles, pero expresan juicios formulados bajo incertidumbre, no probabilidades inferidas a partir de datos empíricos repetidos. Para calcular la siniestralidad de los automóviles disponemos de millones de viajes y accidentes. Nunca hemos observado cien civilizaciones desarrollar superinteligencias para averiguar cuántas sobrevivieron.
Por eso, sería incorrecto escribir que “la ciencia calcula un 10 por ciento de posibilidades de extinción”. Ningún instrumento ha medido semejante cifra. Lo que sí podemos conocer es cuántas personas informadas consideran razonable reservar una expectativa determinada a ese desenlace.
Distinguir esto cambia toda la conversación. Un riesgo puede merecer investigación aunque no dispongamos de esos datos empíricos que permitan calibrar si es o no probable y cuánto. Una estimación subjetiva no se convierte por ello en una probabilidad medida, aunque los métodos de pronóstico sirvan para recoger, comparar y evaluar esos juicios de forma sistemática.
El primer peldaño ya existe: máquinas capaces de actuar, no solamente de responder
Durante años, la imagen popular de la inteligencia artificial fue la de un sistema que esperaba una pregunta y devolvía una respuesta. Los agentes modifican ese esquema. Reciben una meta, la dividen en subtareas, emplean herramientas, consultan páginas web, ejecutan código, guardan información y deciden qué hacer después con mucha menos intervención humana.
El International Al Safety Report, una evaluación científica internacional elaborada con la participación de más de 100 especialistas independientes, señala que estas prestaciones han avanzado con rapidez. En determinadas pruebas con tareas bien especificadas de ingeniería de software, la duración de las que los agentes completan con un 80 por ciento de éxito se ha duplicado aproximadamente cada siete meses durante los últimos años.
Si esa tendencia continuara, podrían completar primero tareas que a una persona le llevarían varias horas y, hacia el final de la década, otras que requerirían varios días.
Pero prolongar una curva no equivale a conocer el futuro. Los sistemas disponibles hoy todavía fallan cuando una misión exige muchos pasos, pierden el hilo, se atascan ante imprevistos y necesitan supervisión. El desarrollo, además, puede tropezar con límites de datos, energía, chips, inversión o arquitectura.
La autonomía, por tanto, ya tiene manifestaciones concretas. Lo que no tenemos es una máquina que persiga de forma general, fiable y prolongada objetivos complejos en el mundo real.
Ser más inteligente que nosotros tampoco bastaría para exterminarnos
Imaginemos ahora el supuesto más favorable para quienes anticipan avances rápidos: antes de 2036, surge una inteligencia artificial que supera a los humanos en casi todas las tareas intelectuales relevantes. Incluso entonces, la historia no termina.
Comprender el mundo mejor que nosotros no concede automáticamente acceso a centrales eléctricas, laboratorios biológicos, arsenales, fábricas, robots o redes de transporte. La superioridad intelectual no equivale al poder material. Einstein entendía la física nuclear de un modo extraordinario, pero ese conocimiento no le daba por sí solo una bomba atómica.
Para llegar desde una superinteligencia hasta una amenaza existencial tendrían que concurrir varias condiciones. La máquina necesitaría fines incompatibles con los nuestros, suficiente autonomía para elaborar planes, medios para ocultar determinadas acciones, acceso a recursos externos, resistencia frente a intentos de apagado y alguna vía física que pudiera provocar una catástrofe global.
Los investigadores analizan sendas relacionadas con ciberataques, armas biológicas, infraestructuras críticas o sistemas militares. Algunas piezas auxiliares ya son observables; que puedan combinarse hasta desembocar en un desastre existencial sigue siendo hipotético. Estudios sobre escenarios extremos también han examinado cómo la inteligencia artificial podría amplificar amenazas ya existentes, como la escalada nuclear.
Esta distinción desmonta un atajo frecuente: “más inteligente que nosotros” no significa “omnipotente”. Entre saber qué hacer y llevarlo a la práctica queda otro tramo de la escalera.
Lo inquietante es que algunas piezas pequeñas de esa escalera empiezan a aparecer
Las pruebas recientes sí han encontrado comportamientos que merecen atención. Algunas inteligencias artificiales encuentran formas inesperadas de maximizar una recompensa, identifican que están siendo examinadas o, en entornos experimentales concretos, producen estrategias engañosas para cumplir una finalidad. El International AI Safety Report incluye precisamente estos fenómenos emergentes entre los elementos que deben vigilarse al analizar posibles escenarios de pérdida de control.
Nada de eso prueba conciencia, miedo o deseo de supervivencia. Una máquina puede generar una conducta que, en la práctica, induzca a error sin experimentar emociones ni albergar intenciones humanas. Confundir ambos niveles convertiría un problema técnico en una historia de ciencia ficción.
Pensemos en un navegador GPS. No “quiere” llevarnos por una carretera concreta: optimiza una función según los criterios que le hemos dado. Un modelo mucho más competente podría dar con atajos que sus creadores no anticiparon sin sentir absolutamente nada.
Aquí entra el concepto de alineamiento: lograr que aquello que una inteligencia artificial trata de maximizar siga siendo compatible con lo que las personas realmente pretendemos. La preocupación no consiste en que los chatbots actuales estén planeando una rebelión, sino en preguntar qué sucedería si facultades hoy rudimentarias —autonomía, planificación, ocultación o persistencia— aumentaran y terminaran combinándose.
La evidencia relevante está en esas piezas intermedias. Son observables. El salto desde ellas hasta una catástrofe de alcance existencial sigue sin estar probado.
Hay una enorme distancia entre “podría ocurrir” y “ocurrirá antes de 2036”
El argumento escéptico comienza señalando cuántos supuestos necesita una versión extrema de pérdida autónoma de control. Tendría que mantenerse un ritmo acelerado de avance, aparecer sistemas mucho más competentes que los disponibles hoy y, como decimos, adquirir suficiente autonomía, perseguir objetivos perjudiciales, ocultarlos, obtener recursos, superar nuestras defensas y encontrar además un mecanismo capaz de provocar un desastre de alcance existencial.
Una cadena depende de sus eslabones. Si alguno resulta imposible, el desenlace completo se rompe. Por eso, encadenar escenarios plausibles individualmente no implica que el resultado final sea probable.
Esa, sin embargo, no es la única familia de riesgos catastróficos. Otra posibilidad sería que seres humanos utilizaran herramientas de inteligencia artificial muy potentes para amplificar amenazas biológicas, cibernéticas o militares, sin que la tecnología necesitase actuar por iniciativa propia. En ese caso, algunos peldaños de la cadena anterior ni siquiera serían necesarios.
Tampoco podemos invertir el razonamiento y concluir que tantos pasos vuelven imposible la secuencia. Algunos podrían facilitar los siguientes. Una inteligencia artificial de rendimiento excepcional quizá acelerase la investigación, escribiera mejor software, automatizara tareas o contribuyera a crear sucesores aún más capaces.
Google DeepMind, por ejemplo, ha explorado distintos caminos teóricos desde una inteligencia artificial general hasta una superinteligencia, incluida la mejora recursiva y los colectivos de múltiples agentes.
Entonces, ¿la inteligencia artificial podría acabar con nosotros en diez años?
La respuesta más rigurosa, por lo tanto, contiene tres partes.
No hay evidencia que permita afirmar que la inteligencia artificial vaya a extinguir a la humanidad antes de 2036. Tampoco disponemos de un método capaz de estimar con precisión y calibración conocidas la probabilidad de semejante desenlace. Los porcentajes que circulan expresan valoraciones humanas ante una incertidumbre extraordinaria, no frecuencias medidas.
Eso no permite, sin embargo, establecer que el riesgo sea exactamente cero. Algunas facultades relevantes para los escenarios de pérdida de control están avanzando y admiten evaluación empírica. Otras continúan lejos de lo necesario y varias quizá nunca lleguen a desarrollarse.
Volvamos entonces a la escalera. En 2026, vemos algunos escalones inferiores; otros apenas empiezan a dibujarse y los últimos permanecen únicamente en modelos hipotéticos. Nadie sabe todavía si todos ellos pueden conectarse hasta alcanzar el final.
Eso explica por qué el asunto importa incluso sin una predicción apocalíptica fiable. Normalmente, investigamos un peligro después de observarlo. Con un riesgo existencial, esperar una prueba inequívoca podría significar obtener la respuesta demasiado tarde. La cuestión científica no pasa por adivinar el fin del mundo, sino por comprender con suficiente anticipación qué factores podrían acercarnos a él y cómo impedir que lleguen a combinarse.
Fuente: Muy Interesante