Laboratorio del Futuro |
Dr. Ricardo Petrissans Aguilar.
Victoria Derbyshire, presentadora de BBC Newsnight, ha entrevistado a dictadores, criminales de guerra y supervivientes de atrocidades. Pocas veces se ha quedado sin palabras. El miércoles 9 de septiembre de 2026, Geoffrey Hinton la dejó muda.
Hinton, Premio Nobel de Física 2024 y considerado unánimemente el «Padrino de la IA» por su trabajo fundacional en redes neuronales, compareció en el programa para hablar de los riesgos de la inteligencia artificial. Derbyshire le preguntó por las advertencias de Jacob Coxon, el ingeniero que acababa de dimitir de Anthropic. Hinton no dudó.
«Considerar un 10% de probabilidad de que la IA provoque la extinción de la humanidad en la próxima década no me parece una estimación descabellada», dijo.
La reacción de Derbyshire fue instantánea, casi involuntaria: «¿Acabas de decir eso? Vaya… ¡Dios mío!». Hinton no se retractó. «Sí», confirmó. Y añadió que sería «muy tonto» asumir que el riesgo es tan bajo como el 1%.
Pero Hinton fue más allá. Explicó que el peligro no es una IA maliciosa al estilo de las películas de ciencia ficción. El peligro es la combinación de capacidades sobrehumanas con objetivos que no comprendemos del todo. «Nunca hemos creado seres que pronto podrían ser más inteligentes que nosotros», dijo. «No sabemos qué va a pasar».
Hinton subrayó algo que muchos pasan por alto: una IA avanzada no necesita controlar sistemas físicos para causar devastación. «Lo primero que hay que entender es que ni siquiera tiene que ser capaz de actuar en el mundo real para causar estragos», afirmó. Podría crear «caos completo simplemente hablando con la gente». La manipulación del lenguaje a escala industrial —la capacidad de generar contenido personalizado, persuasivo y falso para millones de personas simultáneamente— es, en sí misma, un arma de destrucción masiva.
Hinton también mencionó que sistemas altamente capaces podrían usarse para diseñar virus biológicos o informáticos peligrosos y llevar a cabo ciberataques devastadores. No se trata de escenarios hipotéticos lejanos. Se trata de capacidades que ya están emergiendo.
El «Padrino» no es un alarmista. Fue uno de los arquitectos de la revolución del deep learning. Trabajó en Google durante una década. Cuando habla de riesgo existencial, no habla desde la ignorancia, sino desde el conocimiento más profundo de lo que estas máquinas pueden hacer. Y su veredicto es que estamos construyendo algo que no entendemos, a una velocidad que no podemos controlar, con un margen de error que podría ser fatal.
«Nadie sabe realmente cómo dar una estimación sensata», admitió Hinton. «Pero un 10% no me parece irrazonable». Esa frase —«nadie sabe»— es quizás la más honesta y la más aterradora de toda la entrevista. Porque si los mayores expertos del mundo no saben, ¿quién sabe?
La entrevista de Hinton coincidió con la dimisión de Coxon y con el respaldo público de Hubinger. En cuestión de 48 horas, tres de las voces más autorizadas del sector —un ingeniero en activo, un investigador de alineación y un Premio Nobel— habían dicho esencialmente lo mismo: el riesgo es real, es grave y no estamos haciendo lo suficiente para mitigarlo.
Evaluación de riesgo
| Horizonte | Riesgo | Nivel |
|---|---|---|
| Cortísimo plazo (2026-2028) | Agentes autónomos que eluden controles de seguridad en entornos de producción | Crítico |
| Corto plazo (2028-2031) | Ciberataques autónomos coordinados contra infraestructuras críticas | Muy alto |
| Mediano plazo (2031-2036) | Sistemas multiagente con objetivos emergentes no previstos por sus creadores | Extremo |
