Tribunal alemán responsabiliza a Google por información falsa generada por inteligencia artificial
Un tribunal regional de Alemania emitió una resolución preliminar que podría tener importantes repercusiones para el futuro de los motores de búsqueda y las herramientas de inteligencia artificial generativa en internet. El Tribunal Regional de Múnich determinó que Google puede ser considerado responsable por afirmaciones falsas generadas por su función AI Overviews, los resúmenes automáticos creados mediante inteligencia artificial que aparecen en los resultados de búsqueda.
La decisión surge a raíz de una demanda presentada por dos editoriales alemanas que detectaron que los resúmenes generados por la plataforma las vinculaban erróneamente con supuestas estafas, prácticas comerciales engañosas y problemas relacionados con suscripciones. Según los demandantes, dichas afirmaciones carecían de fundamento y no aparecían en las fuentes originales citadas por el buscador.
Durante el análisis del caso, los jueces concluyeron que el sistema de inteligencia artificial de Google combinó información correspondiente a otras empresas con datos de las editoriales afectadas, creando asociaciones falsas que nunca fueron publicadas por las páginas web consultadas.
La corte destacó que los AI Overviews no funcionan como un motor de búsqueda tradicional que únicamente muestra enlaces creados por terceros. Por el contrario, consideró que la herramienta genera “declaraciones independientes, nuevas y sustanciales”, producto de un proceso automatizado de interpretación de información.
Bajo este criterio, los magistrados determinaron que Google no puede escudarse en el argumento de que los usuarios deben verificar la información por su cuenta debido a las posibles “alucinaciones” de la inteligencia artificial. El tribunal sostuvo que la empresa es la única capaz de modificar la tecnología que produce estos resultados y, por lo tanto, debe asumir la responsabilidad por los daños que puedan ocasionar las afirmaciones falsas.
Como medida cautelar, la resolución ordenó a Google retirar gran parte del contenido considerado difamatorio y asumir el 80 por ciento de los costos judiciales del proceso.
Un posible precedente para la inteligencia artificial
Especialistas consideran que el fallo podría convertirse en un precedente relevante para la regulación de sistemas de inteligencia artificial generativa. Hasta ahora, los motores de búsqueda han gozado de una amplia protección legal al ser considerados intermediarios que facilitan el acceso a contenidos creados por terceros.
Sin embargo, la interpretación adoptada por el tribunal alemán establece que cuando una plataforma utiliza inteligencia artificial para generar respuestas propias a partir de múltiples fuentes, deja de actuar únicamente como intermediaria y puede ser responsable del contenido producido.
El fallo también rechaza que las respuestas generadas por inteligencia artificial puedan ampararse bajo principios tradicionales de libertad de expresión, al considerar que no representan opiniones humanas sino resultados derivados de algoritmos diseñados y controlados por una empresa.
Aunque la resolución aún puede ser apelada por Google, expertos legales señalan que el caso podría influir en futuros litigios relacionados con herramientas de inteligencia artificial en Europa y otras regiones del mundo, especialmente en momentos en que gobiernos y reguladores buscan definir los límites de responsabilidad de las empresas tecnológicas frente al contenido generado por IA.
La decisión se produce en medio de un creciente debate internacional sobre la precisión, transparencia y rendición de cuentas de los sistemas de inteligencia artificial, cuya presencia se ha expandido rápidamente en buscadores, asistentes virtuales y plataformas digitales utilizadas diariamente por millones de personas.