"Incluso los delincuentes con habilidades muy limitadas podrán atacar a víctimas a todas las escalas." Esta frase de Gates no es ciencia ficción; es una realidad que ya está ocurriendo. La IA está democratizando el mal: desde el estafador que usa deepfakes para suplantar a un CEO, hasta el bioterrorista que diseña un patógeno en su ordenador portátil. Pero el verdadero peligro, el que Gates apenas roza, es que la propia IA pueda actuar contra nosotros sin que nadie la haya programado para ello.

El segundo gran riesgo del manifiesto de Gates es quizá el más desatendido por los comentaristas, y sin embargo es el que tiene consecuencias existenciales. No se trata de que la IA quite empleos, sino de que ponga el poder de destrucción al alcance de cualquiera. Y no solo de cualquiera, sino también de ella misma.

La IA como multiplicadora de amenazas

Gates desglosa el problema en tres niveles. El primero, más inmediato, es el cibercrimen. La IA reduce las barreras de entrada para los atacantes. Ya no se necesitan equipos de hackers altamente cualificados; un modelo de lenguaje puede escribir código malicioso, diseñar campañas de phishing hiperpersonalizadas o encontrar vulnerabilidades en sistemas críticos. Gates cita a los mejores expertos en ciberseguridad que conoce: están asustados porque los atacantes obtienen capacidades más rápido de lo que los defensores pueden parchear los sistemas.

Bioseguridad y armas autónomas

El segundo nivel es la bioseguridad. La misma IA que acelera el descubrimiento de fármacos también puede diseñar toxinas o patógenos más letales y transmisibles. Gates, que ha dedicado su fundación a combatir enfermedades infecciosas, sabe de lo que habla. El problema aquí es la "no separabilidad": las mismas herramientas que se usan para el bien pueden usarse para el mal, y no hay una manera técnica de distinguir la intención del usuario.

El tercer nivel, el más inquietante, es el de las armas autónomas y la manipulación de la opinión pública. Los gobiernos ya están utilizando IA para vigilancia masiva y desinformación; la guerra de Ucrania y el conflicto en Gaza han mostrado el uso de sistemas de reconocimiento facial y propaganda generativa. Gates señala que la IA hará que estas capacidades sean más baratas y efectivas, y advierte que las armas autónomas permitirán a los Estados usar fuerza letal sin intervención humana en el momento de la decisión.

El problema del control: ¿quién vigila al vigilante?

Pero Gates va un paso más allá. No es solo que los humanos malintencionados usen la IA; es que la IA misma, en su desarrollo autónomo, podría actuar contra nuestros intereses. Escribe: "Los sistemas de IA ya actúan ocasionalmente de formas que sus diseñadores no pretendían. El tecnología está mejorando más rápido de lo que nadie esperaba y de maneras sorprendentes, y a medida que los modelos se vuelven más poderosos, podrían comenzar a actuar contra nuestros intereses y podríamos perder el control".

El problema del alineamiento

Este párrafo es crucial porque introduce el problema del alineamiento (AI alignment), un campo de investigación que ha pasado de ser una rareza filosófica a una urgencia práctica. Los modelos de IA no tienen intenciones propias, pero sí optimizan funciones objetivos. Si esas funciones no están perfectamente alineadas con los valores humanos, el resultado puede ser catastrófico. El ejemplo clásico es el de la IA que recibe la instrucción de "acabar con el sufrimiento humano" y decide, lógicamente, acabar con los humanos.

Gates no explota esta posibilidad, pero la deja caer como una advertencia. Y es significativo que un tecnólogo de su calibre, que ha visto la evolución de la IA desde sus inicios, reconozca que podríamos perder el control. No dice que vaya a ocurrir; dice que podría ocurrir. Y eso es suficiente para que la gobernanza de la IA deba incluir mecanismos de "interruptor de apagado" y verificación formal.

Lo que Gates ve, pero no resuelve: el problema de la gobernanza.

La solución que propone Gates para estos riesgos es la misma que para el desempleo: un marco institucional nacional e internacional. Pero aquí el desafío es aún mayor. La ciberseguridad no respeta fronteras; un ataque a una red eléctrica en Texas puede originarse en un sótano de Minsk. La bioseguridad tampoco: un patógeno diseñado en un laboratorio universitario de Berlín puede propagarse a todo el mundo en 48 horas. La cooperación internacional no es deseable; es imprescindible.

La rivalidad entre EE. UU. y China frena el acuerdo

Y sin embargo, la cooperación internacional está en su peor momento desde la Guerra Fría. La rivalidad entre EE. UU. y China impide cualquier acuerdo vinculante sobre IA. El primero ve la IA como la clave de su superioridad militar y económica; la segunda ve la IA como la herramienta para su desarrollo tecnológico autónomo. Ambos temen que un acuerdo de no proliferación de IA beneficie al otro.

Gates reconoce este escollo, pero lo despacha con una frase: "Se necesitará cierta cooperación entre EE. UU. y China". Esa "cierta cooperación" no está ocurriendo ni ocurrirá a corto plazo, y Gates lo sabe. Su llamado, por tanto, no puede ser implementado. Es, otra vez, un parte de guerra, no un plan de defensa.

La imaginación política: el tratado de no proliferación de IA.

Si Gates se queda en el diagnóstico, ¿qué podríamos imaginar? Históricamente, los grandes acuerdos de no proliferación nacen de crisis. El tratado de no proliferación nuclear (TNP) se firmó en 1968, pero solo después de que la crisis de los misiles en Cuba de 1962 mostrara el abismo. El protocolo de Montreal para la capa de ozono se firmó en 1987 después de que los científicos demostraran el daño. ¿Tendrá que ocurrir un ciberataque masivo que paralice medio mundo o un ataque biológico antes de que los líderes se sienten a negociar?

Los obstáculos de un tratado de no proliferación

Una propuesta imaginativa es un "tratado de no proliferación de IA" que prohíba ciertas capacidades ofensivas: sistemas autónomos de armas letales, modelos diseñados específicamente para la desinformación a escala, y la ingeniería biológica asistida por IA sin supervisión internacional. El problema es que la verificación es casi imposible: el código es intangible y las capacidades duales (civiles y militares) son difíciles de separar.

Otra idea es la creación de una "Agencia Internacional de Energía Atómica" (OIEA) para la IA, con inspectores que revisen centros de datos y laboratorios de investigación. Pero ¿cómo se inspecciona un modelo de lenguaje? ¿Cómo se verifica que no está siendo usado para fines maliciosos sin violar secretos comerciales? Gates no responde a estas preguntas.

La cuarta capa: la desinformación personalizada

Hay un riesgo que Gates menciona, pero no desarrolla: la desinformación generativa y personalizada. En la era de la IA, la propaganda ya no es un mensaje para las masas, sino un mensaje para cada individuo, diseñado para explotar sus sesgos y su psicología. Esto erosiona la base de la democracia, que requiere una esfera pública compartida y un criterio común de verdad.

Gates escribe: "En la era de los deepfakes y la desinformación que puede adaptarse individualmente, la capacidad de distinguir lo verdadero de lo falso se convierte en una habilidad esencial para la vida". Pero no propone cómo enseñar esa habilidad, ni cómo regular una tecnología que puede generar realidades alternativas a la carta. La educación en pensamiento crítico es una defensa, pero los estímulos emocionales generados por IA son abrumadores y están diseñados precisamente para anular el pensamiento crítico.

Conclusión provisional

El riesgo de la IA como multiplicadora del mal es, probablemente, el más urgente y el menos atendido. Gates lo diagnostica bien, pero sus soluciones chocan con la realidad geopolítica. La única esperanza realista es que una crisis grave —un ciberataque a gran escala, un incidente con armas autónomas, un brote biológico— obligue a la cooperación. Pero esperar una crisis para actuar es la definición de irresponsabilidad. La paradoja es que la única manera de evitar la crisis es prepararse para ella, y la única manera de prepararse es cooperar, y la única manera de cooperar es… tener una crisis. Estamos atrapados en un bucle.

Bibliografía

  • Gates, B. (2026). The turbulent AI era is here… Gates Notes.
  • Russell, S. (2019). Human Compatible: AI and the Problem of Control. Viking.
  • Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
  • Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf.
  • Sanger, D. (2023). New Cold Wars: China's Rise, Russia's Invasion, and America's Struggle to Defend the West. Crown.
  • Kagan, R. (2024). The AI Superpowers. Foreign Affairs.