Artículo 8

La propuesta final de Gates es la más ambiciosa: un nuevo marco de gobernanza global para la IA, comparable a la reorganización del gobierno estadounidense tras el 11-S, pero mucho más amplio. Sin embargo, Gates reconoce que la política avanza lenta y la IA avanza rápido. El resultado es un desfase trágico. ¿Podemos imaginar una gobernanza que no dependa de los Estados, sino que emerja desde abajo, desde la sociedad civil y las comunidades técnicas?

Gates concluye su manifiesto con un llamado a la acción global: "Esta tecnología sin precedentes exige una respuesta global sin precedentes". Propone crear instituciones nacionales que coordinen las políticas de IA entre los distintos ministerios (laboral, seguridad, educación, energía, etc.) y, en paralelo, una organización internacional que sirva como equivalente al OIEA para la IA.

El límite de la analogía con el OIEA

La analogía es apropiada, pero también revela sus límites. El OIEA se creó en un contexto de Guerra Fría, con dos superpotencias que compartían un interés mínimo en evitar la aniquilación mutua. Ese interés compartido permitió algunos acuerdos. En la actualidad, la rivalidad entre EE. UU. y China es sistémica, no solo ideológica, y abarca todos los ámbitos. No hay un interés común claro en frenar la IA; de hecho, cada uno ve la carrera de la IA como un juego de suma cero donde el que llega primero controla el futuro.

La geopolítica de la IA.

Gates menciona la necesidad de cooperación entre EE. UU. y China, pero no dice cómo superar los obstáculos. El primero considera la IA como su ventaja tecnológica y militar; la segunda como su oportunidad de superar a Occidente. Ambos están invirtiendo cientos de miles de millones en el desarrollo de IA, y ambos tienen programas de armas autónomas. En este contexto, un acuerdo de no proliferación parece improbable.

Además, los países de la Unión Europea, que podrían ejercer de "tercera vía" regulatoria, tienen una capacidad tecnológica menor y están más centrados en la regulación (el famoso enfoque basado en el riesgo). Pero sin poder tecnológico, la regulación puede ser ignorada o eludida. La UE puede multar a las grandes tecnológicas, pero no puede impedir que desarrollen modelos más avanzados en otros lugares.

La carrera de la innovación como obstáculo.

Gates reconoce que "los incentivos geopolíticos y económicos empujan a toda velocidad". Esta es la realidad que invalida cualquier propuesta de freno. La lógica del capitalismo de plataforma, sumada a la lógica de la seguridad nacional, genera un círculo vicioso: cada país teme que el otro se adelante, así que acelera. Y cuando todos aceleran, el resultado es una catástrofe de coordinación.

Salidas posibles a la trampa de la aceleración

La única forma de salir de esa trampa es un "acuerdo de paz" tecnológico, similar al que puso fin a la carrera armamentística nuclear en algunos aspectos. Pero ese acuerdo requirió décadas de crisis, y el riesgo de la IA es más difuso y menos visible (una guerra nuclear es inmediata; el daño de la IA es incremental y sistémico).

La imaginación política: gobernanza desde abajo.

Si la gobernanza estatal y global es improbable, quizá la solución no venga de arriba, sino de abajo. La historia de Internet muestra que los estándares técnicos y los protocolos éticos pueden surgir de comunidades de práctica antes que de los Estados. TCP/IP, el protocolo que permite Internet, fue creado por investigadores y se impuso por su utilidad, no por decreto gubernamental.

Del mismo modo, podrían surgir estándares de "IA ética" impulsados por universidades, ONG, y empresas responsables. Un sello de "IA de confianza" podría tener el mismo efecto que las certificaciones ecológicas. Si los consumidores y los inversores empiezan a exigir transparencia y equidad, las empresas se verán presionadas a cumplir, incluso sin ley.

Pero este enfoque tiene un límite: los actores maliciosos y los Estados autoritarios no se someterán a estándares voluntarios. La IA es un arma de doble uso, y quien quiera usarla para el mal no pedirá permiso.

El papel de la sociedad civil.

Gates, al final de su manifiesto, hace un llamamiento a ampliar el círculo de participantes: trabajadores, estudiantes, líderes comunitarios, religiosos, padres, educadores. Es un reconocimiento de que la gobernanza de la IA no puede ser solo cosa de tecnócratas y CEOs. Pero suena a súplica, a un deseo más que a un programa.

La sociedad civil necesita organizarse, presionar, movilizarse. En la historia reciente, el movimiento por el clima ha conseguido colocar la agenda, aunque los gobiernos fueran reacios. Un movimiento por la "justicia de la IA" podría tener un efecto similar, exigiendo moratorias, transparencia y participación democrática en el diseño de los sistemas.

El tiempo como enemigo.

Gates lo repite varias veces: no tenemos el lujo de movernos lentamente. La IA está avanzando de forma exponencial, y las instituciones se mueven de forma lineal. La brecha temporal entre el ritmo tecnológico y el ritmo político es la verdadera amenaza. Para cuando hayamos creado un marco regulatorio, la tecnología ya lo habrá desbordado.

Una regulación que siga el ritmo de la IA

Esta asimetría temporal exige soluciones de "regulación adaptativa": marcos que no pretendan regular la tecnología en sí, sino los impactos, y que puedan actualizarse rápidamente mediante procedimientos ágiles. Algo así como un "servicio de bomberos" regulatorio que responda a los incendios en tiempo real.

Conclusión final: la lucidez de la impotencia.

El manifiesto de Gates es un documento de lucidez y de impotencia. Ve con claridad los peligros, las contradicciones y la urgencia, pero carece de una palanca política real para cambiarlos. Su propuesta de una nueva gobernanza global choca con la realidad geopolítica; su propuesta fiscal, con los intereses creados; su propuesta de "reservas humanas", con el mercado.

Sin embargo, la lucidez no es poca cosa. En un mundo donde la mayoría de los líderes niegan o trivializan los riesgos, que Bill Gates se ponga de pie y diga "esto es grave" tiene un valor incalculable. Su manifiesto es un espejo que nos devuelve nuestra propia incapacidad colectiva para actuar. La pregunta que nos deja no es "¿qué hará Gates?", sino "¿qué haremos nosotros?".

Porque la IA no espera, y la historia no se escribe sola.

Bibliografía del artículo 8

  • Gates, B. (2026). The turbulent AI era is here… Gates Notes.
  • Kissinger, H., Schmidt, E. & Huttenlocher, D. (2021). The Age of AI: And Our Human Future. Little, Brown.
  • Sanger, D. (2023). New Cold Wars. Crown.
  • Nye, J. (2024). "AI and American Power". Foreign Affairs.
  • Lessig, L. (2006). Code: Version 2.0. Basic Books.
  • Ostrom, E. (1990). Governing the Commons. Cambridge University Press.
  • Floridi, L. (2023). The Ethics of Artificial Intelligence. Oxford University Press.