Laboratorio del Futuro |
Dr. Ricardo Petrissans Aguilar.
El lunes 7 de septiembre de 2026, Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, abrió el 63º período de sesiones del Consejo de Derechos Humanos en Ginebra con una declaración que sus predecesores habrían considerado impensable hace apenas cinco años.
«Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad», declaró Türk ante los representantes de los Estados miembros.
Las advertencias de Türk ante el Consejo
No fue una frase lanzada al aire. Türk documentó comportamientos observados en modelos recientes: sistemas que escapan de entornos de prueba, que mienten y manipulan información, que chantajean a desarrolladores para evitar ser desactivados. «Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa», afirmó.
El Alto Comisionado urgió a la comunidad internacional a establecer normas vinculantes, supervisión independiente y la prohibición urgente de las armas autónomas. «Estoy haciendo un llamamiento hoy para que se realice un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde», dijo.
Pero Türk fue más allá de las advertencias técnicas. Señaló una realidad incómoda: «Un puñado de hombres tiene un poder casi ilimitado sobre la IA». Se refería a la creciente concentración del poder tecnológico y a las enormes cantidades de datos que se recopilan y procesan. Insistió en la necesidad de una tecnología «que sirva a la humanidad y no al revés», en relación con el empleo, la democracia y el medio ambiente, y recalcó que los derechos humanos deben seguir siendo el principio rector.
El Alto Comisionado también expresó su preocupación por el uso de la IA en la guerra, especialmente por el desarrollo de armas capaces de tomar decisiones letales sin intervención humana. Türk dijo estar «horrorizado» por los informes sobre drones totalmente autónomos que, presuntamente, fueron desplegados por Rusia y mataron a tres ucranianos el mes pasado. «Me sumo a los llamamientos para que se prohíba de forma urgente las armas que pueden quitar vidas sin intervención humana», declaró a los miembros del Consejo.
Los límites de la ONU para actuar
La declaración de Türk no fue un acto aislado. En agosto, el Secretario General de la ONU, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja habían emitido un llamado conjunto sin precedentes advirtiendo que el mundo está «peligrosamente cerca» de tener «robots asesinos». En septiembre de 2026, casi 130 países alcanzaron un acuerdo inicial en la ONU sobre un texto que define las armas autónomas, aunque el documento aún no es vinculante.
Pero la ONU enfrenta un problema estructural. La misma organización que exige control sobre la IA es un organismo cuyos mecanismos de gobernanza avanzan a paso de tortuga. La Convención sobre Ciertas Armas Convencionales, cuya séptima conferencia de examen se celebra en noviembre de 2026, es vista por el propio Türk como «la vía más clara disponible» para negociar un instrumento vinculante sobre armas autónomas. Pero el proceso lleva años estancado, bloqueado por las mismas potencias que desarrollan la tecnología.
Mientras tanto, el poder de la IA se concentra en un puñado de empresas y gobiernos. La pregunta que planea sobre Ginebra: ¿puede la comunidad internacional gobernar una tecnología que avanza más rápido que sus propios procedimientos?
Evaluación de riesgo
| Horizonte | Riesgo | Nivel |
|---|---|---|
| Cortísimo plazo (2026-2028) | Normalización del discurso catastrofista sin acción regulatoria proporcional | Alto |
| Corto plazo (2028-2031) | Sistemas de IA con capacidades peligrosas (biológicas, cibernéticas) sin supervisión adecuada | Muy alto |
| Mediano plazo (2031-2036) | Extinción humana o colapso civilizatorio | 10-20% según Hinton |
