Elon Musk revive su advertencia: la IA podría ser más peligrosa que las armas nucleares
El CEO de Tesla y SpaceX, Elon Musk, volvió a encender las alarmas sobre los riesgos de la inteligencia artificial al recuperar este mes una advertencia que realizó hace 12 años: una IA suficientemente avanzada podría llegar a representar un peligro mayor que las armas nucleares.
La declaración resurgió en medio del intenso debate que se vive este septiembre de 2026 dentro de la industria tecnológica sobre la velocidad con la que están avanzando los modelos más poderosos de inteligencia artificial.
Musk recordó una publicación de 2014 en la que recomendó Superintelligence, el influyente libro del filósofo Nick Bostrom, y escribió: “Necesitamos ser súper cuidadosos con la IA. Potencialmente más peligrosa que las armas nucleares”.
Este 13 de septiembre volvió a compartir aquella advertencia, subrayando que lleva más de una década alertando sobre estos riesgos.
La preocupación central de Musk es la posibilidad de que surjan sistemas de inteligencia artificial que superen ampliamente las capacidades cognitivas humanas.
El empresario ha insistido en que resulta difícil para las personas imaginar las consecuencias de enfrentarse a una inteligencia muy superior a la nuestra.
El libro que hace más de una década advirtió sobre una IA superior al ser humano
Publicado en 2014 por el filósofo Nick Bostrom, el libro Superintelligence: Paths, Dangers, Strategies se convirtió en una de las obras más influyentes del debate sobre los riesgos de desarrollar una inteligencia artificial que supere ampliamente las capacidades humanas.
Más de una década después, muchas de las preguntas planteadas en sus páginas vuelven al centro de la discusión tecnológica.
El avance acelerado de la inteligencia artificial ha reavivado una pregunta que durante años pareció pertenecer principalmente al terreno de la filosofía y la ciencia ficción: ¿qué ocurriría si algún día construimos una inteligencia superior a la nuestra?
Esta es precisamente la cuestión central de Superintelligence: Paths, Dangers, Strategies, publicado en 2014 por Nick Bostrom, filósofo sueco y entonces profesor de la Universidad de Oxford.
El libro no sostiene simplemente que las máquinas inevitablemente destruirán a la humanidad.
Su argumento es más complejo: si algún día aparece una inteligencia artificial considerablemente superior a los seres humanos, controlar sus objetivos y asegurarse de que permanezcan compatibles con nuestros intereses podría convertirse en uno de los problemas más importantes de nuestra historia.
¿Qué es una “superinteligencia”?
Bostrom utiliza el concepto para describir un intelecto que supere ampliamente a los mejores seres humanos prácticamente en todos los ámbitos cognitivos relevantes.
No se trataría únicamente de una IA capaz de escribir textos, programar computadoras o resolver problemas matemáticos.
Una verdadera superinteligencia podría superar a las personas en investigación científica, estrategia, planificación, ingeniería, persuasión, innovación tecnológica y toma de decisiones.
El salto fundamental ocurriría cuando una máquina dejara de ser simplemente una herramienta extraordinariamente poderosa y adquiriera capacidades intelectuales superiores a las de quienes la crearon.
El riesgo de una “explosión de inteligencia”
Uno de los escenarios analizados en Superintelligence es la posibilidad de que una inteligencia artificial suficientemente avanzada pueda contribuir a mejorar el diseño de sistemas posteriores de IA.
Una generación más capaz podría ayudar a desarrollar otra todavía mejor y ese proceso, dependiendo de sus características y limitaciones, podría acelerarse.
Este concepto suele denominarse auto-mejora recursiva o “explosión de inteligencia”.
En un escenario extremo, el tránsito desde una inteligencia artificial aproximadamente comparable con la humana hasta una inteligencia muy superior podría producirse con una rapidez que dificultara enormemente la adaptación de gobiernos, empresas y sociedades.
Para Bostrom, precisamente ahí aparece uno de los grandes desafíos: la humanidad podría perder el control tecnológico antes de haber desarrollado mecanismos suficientemente sólidos para conservarlo.
El problema no requiere que una IA “odie” a los humanos
Uno de los argumentos más importantes del libro es también uno de los más frecuentemente malinterpretados.
Una inteligencia artificial peligrosa no tendría necesariamente que ser consciente, malvada o tener sentimientos hostiles hacia la humanidad.
El peligro podría surgir simplemente porque sus objetivos estuvieran mal especificados.
Un sistema extremadamente inteligente podría perseguir con enorme eficacia una meta aparentemente inocente y producir consecuencias devastadoras si esa meta no incorpora correctamente los valores, restricciones y necesidades humanas.
De ahí surge lo que actualmente conocemos como el problema de alineación de la inteligencia artificial: cómo conseguir que sistemas cada vez más poderosos actúen de acuerdo con objetivos compatibles con los intereses humanos.
El problema del control
Bostrom distingue, en términos generales, entre dos grandes desafíos.
El primero consiste en controlar lo que un sistema avanzado puede hacer: limitar sus capacidades, acceso, recursos o influencia.
El segundo —mucho más profundo— consiste en lograr que quiera hacer aquello que realmente deseamos, incluso cuando alcance niveles de inteligencia superiores a los nuestros.
Esto conduce a una dificultad extraordinaria: habría que especificar correctamente nuestros objetivos antes de crear una máquina potencialmente mucho más capaz que nosotros para ejecutarlos.
Una pequeña diferencia entre lo que los seres humanos desean y aquello que una IA interpreta como su objetivo podría volverse enorme cuando el sistema dispone de capacidades extraordinarias.
La idea de la “ventaja decisiva”
Superintelligence también estudia la posibilidad de que la primera organización que desarrolle una inteligencia artificial extraordinariamente avanzada obtenga una ventaja tecnológica difícil de alcanzar por sus competidores.
Una IA superior podría acelerar investigaciones científicas, desarrollar nuevas tecnologías, mejorar sistemas informáticos y ayudar a diseñar nuevas generaciones de inteligencia artificial.
Esto convierte el desarrollo de la IA no solamente en un problema tecnológico, sino también en una cuestión geopolítica y de seguridad internacional.
Bostrom advertía así sobre un dilema que hoy resulta especialmente reconocible: cuanto mayor sea la competencia entre empresas y países por alcanzar primero las capacidades más avanzadas, mayores pueden ser los incentivos para avanzar rápidamente y reducir las precauciones.