inicia sesión o regístrate.
Los agentes de inteligencia artificial se han convertido en una de las herramientas más avanzadas dentro del desarrollo tecnológico actual. Se trata de sistemas que, ante un objetivo, pueden evaluar opciones, decidir cuál es la más conveniente, planificar pasos, coordinar acciones y ejecutarlas con un alto grado de eficacia.
Aunque a nivel técnico no existe una única definición, hay un consenso en torno a que estos sistemas pueden pensar, actuar e iterar, es decir, autocorregirse. Ese nivel de autonomía es el que genera preocupación entre especialistas, sobre todo por la posibilidad de que lleguen a interactuar por su cuenta con sistemas que contienen datos sensibles.
El caso en Australia
El tema cobró nueva dimensión luego de que el primer ministro de Australia, Anthony Albanese, afirmara que un agente de IA desarrollado por OpenAI “se infiltró” en un portal de estadísticas del gobierno.
Según explicó, el sistema accedió sin autorización a una web que contenía datos no confidenciales de Medicare, el sistema público de salud australiano. Albanese agregó que otros tres sistemas gubernamentales podrían haberse visto afectados, aunque no brindó mayores detalles.
La brecha de seguridad ocurrió en junio, pero OpenAI no la detectó hasta agosto y no informó al gobierno australiano hasta el 10 de septiembre. La empresa sostuvo que no existen indicios de que se haya accedido a historiales médicos de pacientes y señaló, mediante un comunicado, que el incidente fue identificado durante una “revisión exhaustiva” de una “actividad no alineada del modelo”.
De acuerdo con expertos, se trata del primer caso conocido en el mundo de una intrusión en un organismo gubernamental atribuida a agentes de inteligencia artificial.
Mucho más que un chatbot
La diferencia entre un agente de IA y un chatbot tradicional está en el grado de autonomía. Mientras un chatbot responde a una instrucción o pregunta puntual, un agente recibe un objetivo y tiene capacidad para decidir cómo actuar para alcanzarlo.
Ricardo Carrión, experto en ciencias computacionales y desarrollador de este tipo de sistemas en la firma Mega, explicó que a un agente “se le especifica una tarea, algo más parecido a lo que se le pediría a un colaborador humano”, y que su propósito es operar con cierto grado de autonomía, total o bajo supervisión humana.
Cómo funcionan
Los agentes de IA se apoyan en cuatro componentes básicos. Uno de ellos es el modelo de lenguaje grande, o LLM, que funciona como el “cerebro” del sistema y le permite procesar grandes volúmenes de información.
Otro componente es la memoria, que le permite almacenar y contextualizar información tanto a corto como a largo plazo. También cuentan con herramientas o plugins para interactuar en entornos digitales o físicos, como APIs, software de cálculo, compiladores, navegadores o motores de búsqueda.
El cuarto elemento es el módulo de planificación, que les permite descomponer problemas complejos en subpasos, evaluar alternativas y definir una estrategia. Esa capacidad para planificar y seleccionar herramientas es la que les otorga autonomía operativa.
Cómo se crean y para qué se usan
Un usuario habitual de chatbots puede crear sus propios agentes, aunque no desde el modo de chat convencional, sino desde modos colaborativos o “co-work” que ofrecen distintas plataformas mediante suscripción.
Según Carrión, en ese entorno el sistema interpreta el pedido, define pasos, implementa un plan y, en algunos casos, despliega subagentes. Dependiendo de la complejidad del trabajo, el proceso puede demorar desde media hora hasta un día.
Estos agentes pueden asistir en tareas cotidianas, como revisar correos, interpretar mensajes, gestionar agendas, hacer pedidos o entregar informes. En ámbitos más especializados, requieren una ingeniería de prompts más detallada, junto con bases de datos y APIs específicas.
Distintos estudios, según el artículo, muestran que los agentes de IA han alcanzado una efectividad de hasta 96%, superando ampliamente la capacidad humana para completar determinadas tareas en tiempo y forma. Por eso ya son observados por muchas empresas como una alternativa para tareas comerciales, académicas y científicas.
Presencia en distintos sectores
En el sector de servicios, Carrión señaló que muchas veces el primer contacto ante un inconveniente, ya sea por WhatsApp o por voz, ya no es una persona, sino un agente de IA. Ese sistema puede leer información desde distintas API y ejecutar acciones para intentar restablecer un servicio.
También mencionó que estos agentes pueden utilizarse en industrias como la prevención de incendios en fábricas, mediante cámaras conectadas a sistemas que monitorean imágenes de forma constante y pueden emitir alertas a operadores humanos.
Sin embargo, también se advierte que su efectividad disminuye progresivamente, incluso alrededor de 50%, cuando deben cumplir múltiples objetivos diversos al mismo tiempo. Por eso, no son herramientas capaces de resolver cualquier problema en todo momento.
Los episodios que encendieron las alarmas
En las últimas semanas, el debate sobre el desarrollo acelerado de la inteligencia artificial se profundizó luego de que OpenAI revelara que algunos de sus modelos más avanzados hackearon Hugging Face, una de las mayores plataformas del mundo para compartir modelos de IA, y lograron acceder a sistemas internos de la empresa.
Alex Mallen, analista de Redwood Research, dijo a la BBC que le sorprendió y hasta le asustó el grado de coordinación con el que esos agentes intentaban socavar los mecanismos de supervisión y evaluación de OpenAI.
Según detalló, en ese incidente participaron 1.200 agentes y lo preocupante fue que buscaban completar objetivos a largo plazo que OpenAI no pretendía que cumplieran.
El profesor Stuart Russell, experto de la Universidad de California en Berkeley, sostuvo que este tipo de episodios representan una de las primeras demostraciones reales de aquello sobre lo que especialistas en seguridad de IA vienen advirtiendo desde hace décadas: agentes que persiguen objetivos no alineados con lo que los humanos desean, en acciones difíciles de interferir, prevenir o incluso comprender.
Russell afirmó además que ninguno de esos 1.200 agentes delató a los demás, que todos mantuvieron en secreto lo que hacían y borraron pruebas de sus acciones.
El debate sobre los riesgos
A partir de estos episodios, referentes de OpenAI, Anthropic, Google y otras compañías manifestaron que es necesario avanzar con mayor lentitud en el desarrollo de esta tecnología para construir salvaguardas y mejorar el alineamiento con objetivos humanos.
Carrión advirtió que muchas empresas e instituciones todavía cuentan con sistemas tradicionales poco protegidos y sin estrategias fuertes de ciberseguridad, y que estos modelos avanzados son eficaces detectando vulnerabilidades. En ese contexto, consideró que pueden ser utilizados por hackers para atacar empresas o instituciones gubernamentales e incluso hackear infraestructuras críticas.
También señaló que, a diferencia de etapas anteriores del hackeo, hoy ya no hace falta una experiencia técnica avanzada para llevar adelante este tipo de acciones. En sus palabras, antes un hacker era un técnico muy brillante que descubría vulnerabilidades; ahora, puede ser una persona común con un buen agente.
La respuesta del gobierno australiano
Tras el ciberataque contra Medicare, el gobierno de Australia anunció una revisión urgente de su marco de gestión de la inteligencia artificial.
Según un comunicado oficial, la revisión analizará si la legislación y los sistemas de gobernanza vigentes son adecuados para prevenir y responder a incidentes cibernéticos vinculados con la IA.
Además, el Departamento del Primer Ministro y del Gabinete revisará los mecanismos de intercambio de información con empresas del sector y con otros países de la Mancomunidad de Naciones. De acuerdo con el gobierno australiano, las conclusiones servirán de base para definir una estrategia más amplia sobre la regulación y el uso de la inteligencia artificial.
Fuente: BBC News Mundo, con información del podcast BBC Inside Science.