ONU reclama controles internacionales ante los riesgos de una IA cada vez más autónoma
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió este lunes 14 de septiembre a gobiernos y grandes desarrolladores de inteligencia artificial establecer mecanismos internacionales de control ante el rápido avance de sistemas capaces de realizar tareas y tomar acciones con una intervención humana cada vez menor.
En una carta dirigida a gobiernos y a importantes compañías desarrolladoras de inteligencia artificial, Türk sostuvo que el mundo se aproxima a transformaciones que podrían resultar difíciles de revertir y cuyos efectos podrían extenderse durante generaciones.
- Ver Carta en formato PDF (en inglés)
https://www.ohchr.org/sites/default/files/documents/press/hc-2026-09-14-governance-of-ai.pdf
La comunicación fue enviada también a diez grandes desarrolladores de IA, de acuerdo con información difundida este lunes.
Una de las mayores preocupaciones planteadas por Türk se refiere a los sistemas denominados "Agénticos", diseñados no solamente para generar respuestas, sino para ejecutar sucesivamente acciones, utilizar herramientas digitales y completar objetivos con limitada supervisión humana.
El Alto Comisionado advirtió que una falla o actuación imprevista de sistemas suficientemente avanzados podría afectar comunicaciones, infraestructuras críticas y servicios indispensables para la población.
En un escenario extremo, señaló, comunidades completas podrían perder temporalmente acceso a agua potable, calefacción o servicios financieros, mientras una alteración de infraestructuras digitales podría tener consecuencias para instituciones públicas y sistemas democráticos.
La preocupación, según Türk, no debe limitarse a posibles escenarios futuros.
El funcionario sostuvo que los daños vinculados con la inteligencia artificial ya están ocurriendo, particularmente mediante la automatización de decisiones relacionadas con servicios esenciales, la recopilación masiva de información personal, sistemas de vigilancia y campañas de desinformación potenciadas mediante IA.
"Las campañas de desinformación impulsadas por IA ya están distorsionando el debate público, socavando la cohesión social y sometiendo a presión a las instituciones democráticas de nuevas e insidiosas maneras", aseguró.
Ninguna empresa debe decidir por sí sola qué riesgos acepta el mundo
La propuesta central de Türk consiste en trasladar parte de la discusión sobre la seguridad de la IA desde las compañías tecnológicas hacia mecanismos multilaterales internacionales.
Su planteamiento es que las reglas aplicables a la IA avanzada tengan como fundamento el derecho internacional de los derechos humanos y sean acordadas entre gobiernos, organismos internacionales, desarrolladores y otros actores.
“Ningún país puede gobernar esta tecnología por sí solo”, señaló Türk, quien también advirtió que ninguna compañía debería tener la capacidad de decidir unilateralmente qué nivel de riesgo debe aceptar el resto del mundo.
Las empresas que están a la vanguardia del desarrollo de IA de frontera, radicadas principalmente en la República Popular China y los Estados Unidos de América, tienen tanto la responsabilidad como la capacidad de actuar inmediatamente para reducir los riesgos.
La intervención amplía una advertencia que el propio Alto Comisionado había realizado una semana antes.
El 7 de septiembre, durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos de Naciones Unidas en Ginebra, Türk afirmó que compartía la preocupación de especialistas de la industria acerca de que una IA avanzada pudiera llegar a representar un riesgo existencial para la humanidad.
En aquella ocasión pidió un esfuerzo internacional para establecer garantías sólidas de seguridad, límites acordados entre países y mecanismos independientes de verificación antes de que las capacidades de estos sistemas continúen aumentando.
La ONU pide evaluaciones y controles independientes
Ante este panorama, el Alto Comisionado planteó varias medidas dirigidas tanto a los gobiernos como a las compañías que desarrollan los modelos más avanzados.
Entre ellas se encuentran la creación de estándares comunes de seguridad, evaluaciones continuas de impacto sobre los derechos humanos y mecanismos independientes capaces de verificar técnicamente el comportamiento y las capacidades de los sistemas más poderosos.
También pidió que los países donde se encuentran las principales compañías de IA establezcan mecanismos efectivos de rendición de cuentas y exijan verificaciones independientes particularmente cuando los modelos sean capaces de ejecutar acciones de manera autónoma.
"Los sistemas de IA no deberían tener personalidad jurídica, y la responsabilidad por las acciones de los agentes de IA debe seguir correspondiendo a seres humanos identificables", afirmó en su carta.
Türk considera insuficiente que la seguridad dependa exclusivamente de compromisos voluntarios adoptados por las propias compañías.
La cooperación y autorregulación dentro de la industria representan un primer paso necesario, sostuvo, pero no bastan para enfrentar riesgos tecnológicos que podrían trascender las fronteras nacionales.
IA, guerra y armas de destrucción masiva
Asimismo, Türk afirmó que la inteligencia artificial está aumentando la velocidad y el alcance de determinadas operaciones relacionadas con conflictos armados y expresó preocupación por una posible reducción de las barreras que tradicionalmente separan una decisión humana del empleo de armamento extremadamente peligroso.
En su carta alertó particularmente sobre el riesgo de que el avance tecnológico debilite salvaguardas relacionadas con las armas de destrucción masiva.
Indicó que "dada la magnitud de lo que está en juego y la situación en la que nos encontramos actualmente, hago un llamamiento a los Estados y a las empresas para que se movilicen urgentemente a través de foros multilaterales y tracen una vía de acción para gobernar los modelos avanzados de IA de frontera, basándose en el derecho internacional de los derechos humanos".
"El Diálogo Global sobre la Gobernanza de la IA, que se reunió por primera vez en Ginebra, Suiza, en julio y volverá a reunirse en mayo de 2027, constituirá un foro vital para convertir la evidencia en políticas, generar consensos y facilitar la cooperación internacional entre los Estados y otras partes interesadas en torno a la gobernanza de la IA", aseguró.