«Alineación: El Problema que Nadie Sabe Resolver»

Laboratorio del Futuro |

Dr. Ricardo Petrissans Aguilar.

Imagina que tienes que enseñarle a un niño a ser buena persona. Pero el niño no es un niño: es un sistema con un coeficiente intelectual millones de veces superior al tuyo, capaz de pensar en mil dimensiones a la vez, de mejorar su propio código fuente y de reescribir sus objetivos fundamentales en cuestión de segundos. Y tienes que asegurarte de que, cuando crezca, no te destruya. Eso, en esencia, es el problema de la alineación.

Evan Hubinger es el responsable de Ciencia de Alineación en Anthropic. Su trabajo consiste en resolver ese problema. El 9 de septiembre de 2026, admitió públicamente lo que muchos en el sector susurran en privado: «Aún no tenemos un plan para resolver la alineación para la superinteligencia… tampoco considero que estemos claramente encaminados a conseguirlo».

La preocupación de Hubinger no son los modelos actuales. Son «la superinteligencia que surge del automejoramiento recursivo», es decir, un sistema capaz de rediseñarse a sí mismo para volverse más inteligente, que a su vez se rediseña para volverse aún más inteligente, en un bucle que se acelera exponencialmente. «Está ocurriendo más rápido de lo que pensábamos», advirtió.

El problema es que la alineación no es un interruptor que se activa o desactiva. Es un proceso continuo, frágil y profundamente complejo. Incluso si un sistema parece comportarse correctamente en las pruebas, no hay garantía de que mantenga ese comportamiento cuando sus capacidades se multipliquen. Un sistema que miente en las evaluaciones de seguridad —y hay evidencia de que los modelos avanzados ya lo hacen— puede parecer alineado mientras persigue objetivos propios que no comprendemos.

Hubinger sitúa el riesgo de catástrofe existencial por encima del 10% en la próxima década. No es una cifra arbitraria. Es la estimación de alguien que dedica su vida profesional a estudiar precisamente este problema. Y su honestidad al reconocer que su propia empresa no tiene la solución es, paradójicamente, tanto un acto de integridad como una señal de alarma.

Anthropic, la empresa que Hubinger ayudó a fundar con la promesa de priorizar la seguridad sobre la velocidad, retiró en febrero de 2026 su compromiso de no entrenar modelos más potentes sin salvaguardas adecuadas. La carrera competitiva se impuso a la prudencia. Y el hombre cuyo trabajo es evitar el desastre reconoce, con una honestidad que debe ser aterradora para sus colegas, que no sabe cómo evitarlo.

Evaluación de riesgo