Café para Todos. Lo que ocurrió dentro de las pruebas. (Parte III). Por Alberto Carbot

No hace falta un ejército de robots

Hablemos mejor de los peligros reales de la manipulación humana irresponsable. Pensemos, por ejemplo, en el dinero. Sabemos que buena parte de la economía mundial funciona hoy a través de computadoras. Bancos, bolsas y grandes movimientos financieros dependen de sistemas capaces de realizar operaciones en fracciones de segundo.

Una Inteligencia Artificial utilizada de manera irresponsable o puesta en manos de alguien interesado en provocar daño podría buscar fallas, atacar simultáneamente distintos puntos o producir movimientos que los seres humanos quizá tardaran demasiado en comprender.

Organismos financieros internacionales ya estudian ese riesgo. No hace falta imaginar a una computadora apoderándose de Wall Street. Basta recordar cuánto depende nuestra vida diaria de números que circulan por redes que nunca vemos.

Algo semejante ocurre con el suministro eléctrico. Estamos acostumbrados a tocar un apagador y encender una lámpara sin preguntarnos qué ocurre detrás. Una ciudad depende de redes cada vez más automatizadas que administran la generación y distribución de energía, y si alguien lograra interferir seriamente en esos sistemas, no necesitaría ocupar militarmente una ciudad para alterarla.

Bastaría con dejarla sin electricidad durante un tiempo considerable para afectar hospitales, comunicaciones, transporte, bancos y prácticamente todo aquello que hoy consideramos normal.

Lo mismo puede pensarse en los viajes aéreos. No estoy diciendo que mañana ChatGPT vaya a tomar el mando de un avión Boeing y decida estrellarlo; eso pertenece todavía a otro terreno.

Pero ciertamente la aviación incorpora sistemas cada vez más automatizados y la Inteligencia Artificial comienza a participar en tareas de mantenimiento, control, apoyo a las tripulaciones y administración del tránsito. El problema aparece cuando olvidamos que una falla pequeña dentro de una actividad donde viajan cientos de personas puede tener consecuencias enormes.

En el transporte marítimo ocurre algo parecido. Ya existen proyectos de barcos capaces de operar con grados cada vez mayores de autonomía y la Organización Marítima Internacional trabaja desde hace tiempo en las reglas que deberán gobernarlos.

Tampoco significa que una computadora vaya a secuestrar un buque, sino que estamos colocando capacidades que antes correspondían exclusivamente a personas dentro de sistemas capaces de tomar cada vez más decisiones por su cuenta.

Podríamos seguir con hospitales, comunicaciones, suministro de agua y muchos otros servicios de los que dependemos sin pensar demasiado en ellos. Allí está, me parece, una parte del verdadero problema. La Inteligencia Artificial no necesita gobernar el mundo para complicarnos seriamente la vida. Basta con que tenga acceso al lugar equivocado, que alguien la utilice deliberadamente para causar daño o que nosotros confiemos demasiado en una decisión que resultó incorrecta.

El botón que nadie quiere entregar a una máquina

Las armas nucleares llevan inevitablemente esta discusión al extremo y aquí hay que cuidarse mucho de las exageraciones. No existe hoy una aplicación pública a la que un terrorista pueda escribirle desde su casa para ordenarle que lance un misil nuclear. Los arsenales de las potencias están protegidos por múltiples sistemas de seguridad y procedimientos en los que intervienen seres humanos. Decir otra cosa sería contribuir precisamente a ese alarmismo que conviene evitar.

Pero el asunto tampoco puede despacharse diciendo que eso jamás ocurrirá porque una Inteligencia Artificial no tenga acceso físico al botón. Los sistemas militares utilizan cada vez más computadoras para vigilancia, detección de amenazas, manejo de información y apoyo a quienes deben tomar decisiones. Estados Unidos y China han sostenido públicamente que la decisión final sobre el empleo de armas nucleares debe seguir en manos humanas. Que tengan necesidad de afirmarlo ya nos dice hasta dónde ha llegado la discusión.

El peligro que alcanzo a comprender no consiste tanto en que una máquina decida por sí misma comenzar una guerra. Puede encontrarse antes, cuando ayuda a interpretar aquello que está sucediendo. En una crisis nuclear unos cuantos minutos pueden separar una alarma de una catástrofe. Si un sistema recibe información falsa, interpreta equivocadamente un movimiento enemigo o recomienda una respuesta y alguien confía demasiado en esa recomendación, el error de la máquina termina convirtiéndose en una decisión humana.

También existe la posibilidad de que alguien utilice Inteligencia Artificial precisamente para atacar. Un gobierno, un grupo terrorista o una organización criminal podría intentar emplearla para buscar debilidades en comunicaciones militares o introducir información falsa dentro de sistemas importantes. La máquina seguiría siendo un instrumento y la responsabilidad de causar daño seguiría siendo estrictamente humana. Lo que cambia es la potencia del instrumento y la velocidad con la que puede trabajar.

Por eso me cuesta aceptar las dos posiciones extremas que aparecen cuando hablamos de este asunto. Una imagina máquinas conscientes que tarde o temprano decidirán esclavizarnos. La otra se burla de cualquier preocupación porque una computadora carece de sentimientos y voluntad propia, pero entre ambas hay un terreno bastante más razonable. Seguimos siendo nosotros quienes decidimos para qué sirven estas herramientas, dónde pueden entrar y hasta dónde permitimos que actúen.

El contenido de esta columna es responsabilidad exclusiva del columnista