inicia sesión o regístrate.
Hay un futuro distópico que plantea un gobierno sin ministerios, sin funcionarios, donde la Inteligencia Artificial defina las políticas públicas de un país con ciudadanos totalmente controlados por algoritmos. Ese experimento social, inédito en el mundo, ya es casi una realidad en Argentina. Un abogado salteño salió a alertar sobre los riesgos del "Gemelo dígital social".
El reciente anuncio del Gobierno nacional sobre la creación de un "gemelo digital social" encendió el debate entre especialistas en tecnología, derecho y protección de datos personales. La iniciativa, presentada como una herramienta de IA capaz de analizar, predecir y orientar políticas públicas, genera fuertes cuestionamientos acerca de su viabilidad técnica, el uso de información sensible de la población y el impacto que podría tener sobre derechos constitucionales.
Para comprender el alcance del proyecto, el abogado y consultor salteño en gobernanza de IA, Nahuel Sebastián Sánchez, explicó que el concepto de "gemelo digital" proviene originalmente del ámbito industrial y de las ciencias exactas.
"Un gemelo digital es una réplica virtual de un objeto físico que permite realizar simulaciones sin poner en riesgo el modelo real", señaló. La metodología se utiliza habitualmente en motores de aviones, procesos industriales e incluso en modelos urbanos para prever impactos en el tránsito, la infraestructura o el consumo energético.
Sin embargo, Sánchez advierte que el Gobierno pretende trasladar esa lógica al terreno de las ciencias sociales, una decisión que considera altamente problemática.
Los sistemas físicos pueden monitorearse en tiempo real
La principal diferencia radica en que los sistemas físicos pueden monitorearse en tiempo real mediante sensores que transmiten información permanente al modelo digital. En cambio, las sociedades no funcionan bajo las mismas reglas.
"Las personas no se comportan como átomos. El Estado puede tener muchísimos datos, pero no dispone de información en vivo y segundo a segundo sobre la conducta de la población", sostuvo.
Según explicó, los registros estatales contienen datos históricos y fragmentados, obtenidos a través de censos, organismos de seguridad social, sistemas educativos, registros de salud, catastros, organismos tributarios y múltiples bases administrativas.
Esa información puede resultar útil para realizar análisis estadísticos, pero presenta limitaciones severas para construir modelos predictivos precisos sobre comportamientos sociales futuros.
"El riesgo técnico es que el algoritmo termine simulando escenarios del pasado y no del presente real", indicó.
Estado y datos
Uno de los aspectos que más preocupación genera es el enorme volumen de información que ya poseen distintos organismos públicos.
Entre las bases de datos mencionadas por Sánchez figuran: Registros de identidad y biometría administrados por organismos nacionales. Información patrimonial e inmobiliaria. Historial laboral y previsional. Datos financieros y crediticios. Registros educativos de estudiantes de todos los niveles. Historias clínicas, vacunación y cobertura sanitaria. Información vinculada a programas sociales y subsidios. Consumos de servicios públicos y beneficios estatales.
El especialista sostiene que el problema no es únicamente la existencia de estos registros, sino la posibilidad de que sean interconectados para alimentar un único sistema de IA destinado a modelar comportamientos colectivos.
Constitución y ley
Desde el punto de vista jurídico, Sánchez considera que la iniciativa podría entrar en tensión con garantías constitucionales fundamentales. Mencionó especialmente los artículos 18 y 19 de la Constitución Nacional, vinculados al debido proceso, la defensa en juicio y la protección de la esfera privada de las personas.
Asimismo, destacó la relevancia del artículo 43, que sustenta el derecho a la protección de los datos personales y que posteriormente fue reglamentado mediante la Ley 25.326.
Según explicó, esa normativa establece límites concretos al tratamiento automatizado de información personal y dispone que los actos administrativos no pueden basarse exclusivamente en perfiles informáticos o decisiones automatizadas.
"La ley protege el principio de finalidad del dato y el consentimiento. Los datos entregados para una finalidad específica no pueden utilizarse para otros objetivos sin autorización expresa de las personas", afirmó.
En ese sentido, advirtió que la interconexión masiva de bases de datos estatales requeriría cumplir con requisitos legales que hoy no aparecen explicitados en el anuncio oficial.
Otro de los puntos señalados por el especialista es la imposibilidad de alcanzar sistemas de IA completamente libres de errores. Incluso los modelos más avanzados presentan márgenes de equivocación, sesgos estadísticos y fenómenos conocidos como "alucinaciones", es decir, respuestas incorrectas generadas por el propio sistema.
Sánchez recordó que las regulaciones internacionales más avanzadas, particularmente las desarrolladas por la UE, exigen supervisión humana permanente porque los algoritmos no son infalibles.
"Un sistema con efectividad del 98% puede parecer excelente. Pero si toma decisiones sobre 2 millones de personas, ese dos por ciento de error representa 40.000 ciudadanos afectados", ejemplificó. Las consecuencias podrían traducirse en decisiones equivocadas sobre acceso a beneficios, créditos, subsidios o incluso en procesos de vigilancia y clasificación social.
Control social o libertad
Más allá de las cuestiones técnicas y legales, el debate abre una discusión de fondo sobre el papel de la política y la democracia en la era de la IA. Para Sánchez, la eventual adopción de sistemas capaces de influir en decisiones estatales sobre millones de personas plantea interrogantes sobre la transparencia, la participación ciudadana y los mecanismos de control democrático.
A ello suma otra preocupación: la posibilidad de que futuras reformas legales otorguen mayor autonomía a sistemas automatizados dentro de estructuras económicas y administrativas.
En ese contexto, considera indispensable que cualquier iniciativa vinculada al uso masivo de IA sea debatida públicamente, sometida a controles institucionales rigurosos y acompañada por garantías efectivas de protección de derechos.
"Estamos hablando de tecnologías con capacidad de impactar sobre la vida cotidiana de millones de personas. Por eso la discusión no puede limitarse al plano tecnológico: también es una discusión jurídica, política y democrática", concluyó.