Premio Nobel de la Paz advierte que la IA podría erosionar la capacidad humana de decidir y pide reglas antes de un “punto de inflexión”
La Premio Nobel de la Paz y copresidenta del panel científico internacional de la ONU sobre inteligencia artificial, María Ressa, lanzó una nueva advertencia sobre la velocidad con la que está avanzando la inteligencia artificial y llamó a establecer límites legales que protejan la capacidad de las personas para tomar sus propias decisiones.
En una entrevista concedida a Reuters durante una visita a Oslo, Ressa sostuvo que la evolución de las plataformas digitales y de la inteligencia artificial ha atravesado distintas etapas que, desde su perspectiva, han incrementado progresivamente la influencia de la tecnología sobre el comportamiento humano.
Su preocupación principal ya no se limita a los algoritmos que determinan qué contenidos aparecen en las redes sociales.
Ressa puso el foco en la llegada de sistemas de IA agentiva y multiagente, capaces de realizar acciones, coordinar tareas y operar con grados crecientes de autonomía en nombre de los usuarios.
Para la también periodista, esa evolución plantea una cuestión de fondo: quién conserva finalmente la capacidad de decidir, las personas o los sistemas tecnológicos que actúan en su nombre.
“No es una cuestión de libertad de expresión. Es una cuestión de seguridad pública”, afirmó Ressa al defender la regulación.
La Premio Nobel advirtió que podría acercarse un momento en el que intervenir resulte considerablemente más difícil.
Según explicó a Reuters, si no se establecen mecanismos de control ahora, el desarrollo tecnológico podría alcanzar un punto en el que determinados efectos escapen a la capacidad de respuesta de gobiernos y sociedades.
Las tres etapas que identifica Ressa
Ressa planteó una interpretación del desarrollo reciente de la tecnología basada en tres grandes oleadas.
La primera etapa habría ocurrido con las redes sociales, cuyos sistemas de recomendación compiten por captar y mantener la atención de los usuarios. A juicio de Ressa, ese modelo contribuyó además a la polarización y al aislamiento social.
La segunda etapa estaría relacionada con los chatbots y los sistemas conversacionales, que establecen interacciones cada vez más personales con sus usuarios. Ressa describe este fenómeno como una explotación tecnológica de la necesidad humana de intimidad.
La tercera etapa, que considera particularmente delicada, es la aparición de la IA agentiva y multiagente: modelos que ya no se limitan a producir información o conversar, sino que pueden ejecutar acciones y realizar tareas por cuenta de una persona.
Estas tres etapas corresponden al análisis presentado por Ressa y no constituyen por sí mismas una clasificación científica universalmente aceptada.
Pide presión ciudadana para legislar
Ressa considera que el cambio no dependerá únicamente de las compañías tecnológicas. En su opinión, los ciudadanos deben exigir a sus representantes que desarrollen normas capaces de establecer responsabilidades y límites claros para las empresas que desarrollan y operan sistemas de IA.
También sostuvo que uno de los primeros pasos debería ser establecer mecanismos para que las compañías respondan por daños atribuibles a sus productos y modelos de negocio.
Además, cuestionó la idea de que cualquier regulación implique necesariamente perder competitividad tecnológica frente a otros países.
María Ressa reconoció medidas adoptadas en diferentes jurisdicciones para proteger especialmente a menores en redes sociales, aunque argumentó que limitar determinadas herramientas únicamente entre adolescentes no resolvería un problema que, según su análisis, también afecta a los adultos.
Un papel internacional en el debate sobre la IA
Las declaraciones tienen un peso adicional porque Ressa ocupa actualmente una posición dentro de la nueva arquitectura internacional creada por Naciones Unidas para analizar los efectos de la inteligencia artificial.
Ressa y el investigador canadiense Yoshua Bengio son los primeros copresidentes del Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas, integrado por 40 especialistas procedentes de las cinco regiones de la ONU.
El organismo fue creado para elaborar evaluaciones científicas independientes sobre los riesgos, oportunidades e impactos de la IA.
El panel, sin embargo, no tiene autoridad para regular empresas, imponer restricciones o aprobar leyes.
Naciones Unidas especifica que su papel es científico y consultivo: producir evidencia que pueda ser utilizada posteriormente por gobiernos y organismos internacionales.
María Ressa recibió junto con el periodista ruso Dmitry Muratov el Premio Nobel de la Paz de 2021 por sus esfuerzos para proteger la libertad de expresión como condición para la democracia y la paz.
El Comité Nobel destacó entonces su trabajo al frente de Rappler, medio que cofundó en Filipinas, y señaló específicamente las investigaciones sobre desinformación, hostigamiento digital y manipulación del debate público mediante redes sociales.