Café para Todos. El peligro no es que la inteligencia artificial quiera dominarnos. (Parte I de IV) Por Alberto Carbot

Los hombres que compiten por desarrollar las máquinas más poderosas ahora piden frenar la carrera y advierten que la tecnología avanza más rápido que nuestra capacidad para vigilarla.

No estamos frente a máquinas que hayan decidido rebelarse contra nosotros. El problema puede ser más sencillo y, por eso mismo, más difícil de controlar. Una Inteligencia Artificial puede salirse de lo previsto precisamente mientras intenta cumplir con enorme eficacia la tarea que le dimos.

El riesgo no está en que quiera dominarnos, sino en cuánto poder, acceso y capacidad de decisión estemos dispuestos a entregarle.

Durante muchos años el cine y la televisión nos acostumbraron a imaginar nuestra relación con las máquinas a través de personajes que unas veces resultaban entrañables y otras comenzaban a producir inquietud.

Estaban el Hombre de Hojalata de El mago de Oz —que ni siquiera era propiamente un robot, pero tenía ya la apariencia del hombre mecánico—, el Robot B-9 de Perdidos en el espacio, siempre cerca de Will Robinson, y después R2-D2 y C-3PO en La guerra de las galaxias, dos máquinas que hablaban discutían y resolvían problemas mientras permanecían del lado de los humanos. Aquello podía mirarse todavía con simpatía porque la máquina ayudaba al hombre y, por muy inteligente que pareciera, seguía ocupando un lugar secundario.

Y hubo también otras historias. 2001: Odisea del espacio nos dejó a HAL 9000, aquella computadora de voz tranquila que termina desobedeciendo y matando para cumplir la misión que le habían confiado. WarGames colocó a una computadora frente a la posibilidad de desencadenar una guerra nuclear y Terminator llevó las cosas bastante más lejos con Skynet y sus máquinas dispuestas a eliminar a la humanidad.

El planeta de los simios y La guerra de los mundos hablaban de asuntos diferentes, pero compartían ese viejo temor de descubrir que el hombre podía dejar de mandar sobre aquello que creía tener bajo control.

Todo eso sigue siendo cine y conviene recordarlo antes de empezar a imaginar robots caminando por las calles con una metralleta. Una Inteligencia Artificial como las que conocemos no puede salir por sí misma de una computadora, encerrarnos en una habitación ni apoderarse físicamente de una central eléctrica. Necesita accesos, permisos, conexiones y sistemas construidos por nosotros.

Ahí empieza a cambiar la discusión, porque cada día colocamos más decisiones humanas cerca de máquinas capaces de analizar información, ejecutar instrucciones y encontrar soluciones a una velocidad que difícilmente podemos seguir.

Algo parecido, guardadas todas las distancias, ocurrió hace más de dos siglos con la Revolución Industrial. Cuando las máquinas comenzaron a entrar en los talleres ingleses, muchos trabajadores vieron amenazada una forma de ganarse la vida que había pasado de padres a hijos.

Los luditas —trabajadores ingleses del siglo XIX que resistieron la introducción de máquinas que amenazaban sus empleos y condiciones laborales—, quedaron durante mucho tiempo retratados simplemente como enemigos del progreso, cuando buena parte de su protesta estaba dirigida contra la manera en que aquella tecnología modificaba sus oficios, sus salarios y sus condiciones de trabajo. La máquina producía más y más rápido, pero detrás de aquel avance había hombres que empezaban a preguntarse qué lugar les quedaría a ellos.

La diferencia es importante, porque durante la Revolución Industrial se temía que una máquina sustituyera los brazos y el trabajo de una persona. Igual, con la Inteligencia Artificial hoy empezamos a preguntarnos si puede ocupar además una parte del espacio donde hasta ahora colocábamos el juicio, el análisis y las decisiones humanas, porque ya no hablamos solamente de una máquina capaz de fabricar en una hora lo que antes requería cien trabajadores, sino de sistemas que pueden intervenir en asuntos relacionados con nuestro dinero, el transporte, la energía, la seguridad y hasta la guerra.

No soy especialista en Inteligencia Artificial ni pretendo convertirme ahora en uno, pero leo desde hace días lo que están diciendo quienes sí la construyen y lo que me llama la atención no son tanto las explicaciones técnicas, sino una coincidencia difícil de pasar por alto, como lo es el hecho de que algunos de los hombres que encabezan esta carrera —que han invertido fortunas y compiten ferozmente por desarrollar modelos cada vez más poderosos—, empiezan a decir que quizá convendría correr un poco menos.

Dario Amodei, director de Anthropic, pidió el 12 de septiembre precisamente eso. Sostiene que las capacidades de estos modelos están creciendo con tal rapidez que sería conveniente moderar el ritmo para dar tiempo a entenderlos mejor y construir mecanismos de seguridad capaces de acompañar su desarrollo.

Entre los problemas que menciona aparecen los ataques informáticos, el uso de la Inteligencia Artificial para producir daños graves y las consecuencias económicas que podrían surgir si estos sistemas reciben capacidades antes de que sepamos manejarlas adecuadamente.

Sam Altman, director de OpenAI, estuvo de acuerdo con él. Elon Musk dijo prácticamente lo mismo. Los tres son competidores y mantienen diferencias considerables entre ellos, pero coinciden en algo que hace apenas unos años habría resultado extraño escuchar de su boca, y es que la velocidad ya empieza a preocuparles. Y la verdad, cuando quienes fabrican los automóviles más rápidos del mundo comienzan a hablar de pisar con mayor fuerza el freno, vale la pena averiguar por qué lo dicen y qué han visto realmente en la carretera.

El contenido de esta columna es responsabilidad exclusiva del columnista