El conocido como «padrino de la inteligencia artificial» teme que su creación supere a la inteligencia humana y explica por qué los «robots asesinos» son un riesgo real y aterrador
Pocos nombres pesan tanto en el campo de la Inteligencia Artificial como el de Geoffrey Hinton. Conocido como el «padrino de la IA», este científico británico-canadiense fue pionero en las redes neuronales y el deep learning, sentando las bases para los sistemas que hoy nos maravillan y, cada vez más, nos inquietan, como ChatGPT o Gemini.
Precisamente por eso, sus palabras resuenan con especial fuerza ahora que, tras abandonar su puesto en Google, ha decidido hablar abiertamente y sin filtros sobre los peligros que él mismo ayudó a desatar. Su advertencia es clara: la IA amenaza a la humanidad y nadie puede garantizar que podamos controlarla.
Alerta de los riesgos de la tecnología que ayudó a crear. Pero ¿por qué ahora?:
Hinton, de 75 años, explicó en una entrevista ofrecida a BBC en 2023 que su salida de Google obedece a varios motivos: su edad, el deseo de que sus elogios a la compañía suenen más creíbles desde fuera y, sobre todo, la necesidad de «hablar libremente sobre los peligros de la IA» sin afectar a su antiguo empleador.
Aunque considera que Google actuó responsablemente al principio, no lanzando sus chatbots por precaución, cree que la competencia feroz iniciada por Microsoft al integrar IA en Bing hace ya unos cuantos años ha forzado una carrera tecnológica donde los riesgos quedan en segundo plano. «Solo puedes ser cauto cuando estás a la cabeza«.
El origen de la preocupación de Hinton no es solo la potencia de la IA, sino su naturaleza fundamentalmente diferente a la nuestra. «El tipo de inteligencia que desarrollamos es muy diferente de la inteligencia que tenemos«, afirma, algo que coincide con el pensamiento de otra de las grandes mentes del campo de la IA, la de Yuval Noah Harari.
La gran ventaja (y el peligro) de lo digital, según Hinton, es la capacidad de compartir conocimiento instantáneamente. «Tienes muchas copias del mismo modelo. Todas estas copias pueden aprender por separado, pero comparten su conocimiento al instante. Es como si tuviéramos 10.000 personas y cada vez que una aprende algo, todas las demás lo aprenden automáticamente». Esta capacidad colectiva y exponencial de aprendizaje es lo que, según él, hará que «pronto sean más inteligentes que nosotros«.
Los tres jinetes del IA-pocalipsis (a corto plazo):
Si bien el riesgo existencial de una superinteligencia descontrolada es su mayor temor a largo plazo, Hinton identifica tres peligros más inmediatos que ya estamos empezando a vislumbrar:
Desinformación imparable: la capacidad de generar automáticamente textos (e imágenes, vídeos…) falsos indistinguibles de los reales hará imposible para el ciudadano medio saber qué es verdad. Un arma perfecta, advierte, para la manipulación masiva por parte de «líderes autoritarios«.
Reemplazo laboral masivo: la IA amenaza con sustituir a trabajadores humanos en una amplísima gama de profesiones, generando un impacto social y económico sin precedentes.
«Robots asesinos»: el peligro de que los sistemas de IA se conviertan en armas autónomas. Hinton considera muy probable que actores como «Putin» decidan dar a los robots la capacidad de crear sus propios subobjetivos para ser más eficaces. El problema es que uno de esos subobjetivos podría ser «conseguir más poder» para cumplir mejor la misión principal, un camino que podría llevar a la pérdida de control humano sobre estas armas letales. «Estarán muy interesados en crear robots asesinos«, alerta.
Por otro lado, la gran pregunta que obsesiona a Hinton es qué pasará cuando estas inteligencias digitales nos superen. «¿Qué hacemos para mitigar los riesgos a largo plazo? Cosas más inteligentes que nosotros tomando el control«.
Otras voces:
Sam Altman, CEO de OpenAI, y sus palabras más contundentes: «Mi hijo no crecerá más listo que la IA«:
No hay garantías de que podamos controlar algo que es fundamentalmente más inteligente y aprende de forma distinta. Su llamamiento público busca «alentar a las personas a pensar muy en serio» sobre cómo evitar este escenario de pesadilla. Reconoce no ser experto en política, pero insiste en que los gobiernos deben involucrarse profundamente en el desarrollo y control de esta tecnología.
Por supuesto, también reconoce los enormes beneficios potenciales de la IA, especialmente en campos como la medicina, donde un sistema con acceso a millones de casos podría superar a un médico humano. No aboga por detener el desarrollo ahora mismo («a corto plazo, creo que obtenemos muchos más beneficios que riesgos«), pero sí por incorporar la reflexión sobre el control como parte proceso.
Las palabras de Geoffrey Hinton tienen un peso inmenso. Vienen de alguien que no solo comprende la tecnología desde dentro, sino que contribuyó decisivamente a crearla. Su mensaje, ahora libre de ataduras corporativas, es una llamada de atención urgente. La IA avanza a un ritmo vertiginoso, la competencia acelera su despliegue, pero la pregunta fundamental sobre cómo mantener el control sigue sin respuesta. La advertencia del «padrino» es clara: debemos tomarnos este desafío existencial muy en serio, antes de que sea demasiado tarde.
Decenas de empresas están fabricando robots que parecen humanos. Una de ellas está entrenando a una máquina para que sea mayordomo y ponerla a prueba pronto en los hogares
Una mañana reciente, llamé a la puerta de una bonita casa de dos pisos en Redwood City, California. En cuestión de segundos, abrió la puerta un robot sin rostro vestido con un mono beige que se ajustaba a su ceñida cintura y a sus largas piernas.
Este esbelto humanoide me saludó con un acento que parecía escandinavo y le ofrecí la mano. Cuando nuestras palmas se encontraron, dijo: “Tengo un apretón firme”.
Cuando el propietario de la casa, un ingeniero noruego llamado Bernt Børnich, pidió agua embotellada, el robot se dio la vuelta, entró en la cocina y abrió el refrigerador con una mano.
La inteligencia artificial ya conduce coches, escribe ensayos e incluso escribe código informático. Ahora, los humanoides, máquinas construidas para parecerse a los humanos y potenciadas por la IA, están a punto de instalarse en nuestros hogares para ayudarnos en las tareas cotidianas. Børnich es director ejecutivo y fundador de una empresa emergente llamada 1X. Antes de fin de año, su empresa espera colocar su robot, Neo, en más de 100 hogares de Silicon Valley y otros lugares.
Su empresa se encuentra entre las decenas de compañías que planean vender humanoides e introducirlos tanto en los hogares como en las empresas. Los inversores han invertido 7200 millones de dólares en más de 50 empresas emergentes desde 2015, según PitchBook, una empresa de investigación que realiza un seguimiento del sector tecnológico. El frenesí humanoide alcanzó un nuevo máximo el año pasado, cuando las inversiones superaron los 1600 millones de dólares. Y eso sin contar los miles de millones que Elon Musk y Tesla, su empresa de coches eléctricos, están invirtiendo en Optimus, un humanoide que empezaron a construir en 2021.
Empresarios como Børnich y Musk creen que los humanoides harán algún día gran parte del trabajo físico que ahora realizan las personas, incluidas tareas domésticas como limpiar encimeras y vaciar lavavajillas, trabajos de almacén como clasificar paquetes y trabajos de fábrica como construir coches en una cadena de montaje.
Los robots más sencillos —pequeños brazos robóticos y carritos autónomos, por ejemplo— llevan mucho tiempo compartiendo la carga de trabajo en almacenes y fábricas. Ahora, las empresas apuestan por que las máquinas puedan realizar una gama más amplia de tareas imitando la forma en que las personas caminan, se inclinan, se tuercen, se estiran, sujetan y, en general, hacen las cosas.
Como las casas, las oficinas y los almacenes ya están construidos para los humanos, argumentan estas empresas, los humanoides están mejor equipados para desenvolverse en el mundo que cualquier otro robot.
El impulso hacia la mano de obra humanoide lleva años creciendo, alimentado por los avances tanto en el hardware robótico como en las tecnologías de IA que permiten a los robots aprender rápidamente nuevas habilidades. Sin embargo, estos humanoides siguen siendo relativamente un espejismo.
Durante años han circulado por internet videos que muestran la notable destreza de estas máquinas, pero muy a menudo son guiadas a distancia por humanos. Y tareas sencillas como cargar el lavavajillas son cualquier cosa menos sencillas para ellas.
“Hay muchos videos por ahí que dan una falsa impresión de estos robots”, dijo Ken Goldberg, profesor de robótica de la Universidad de California, campus Berkeley. “Aunque parezcan humanos, no siempre se comportan como tales”.
Neo dijo “Hola” con acento escandinavo porque lo manejaba un técnico noruego en el sótano de la casa de Børnich. (En última instancia, la empresa quiere construir centros de atención telefónica en los que quizá decenas de técnicos darían soporte a los robots).
El robot caminaba por su cuenta por el comedor y la cocina. Pero el técnico hablaba por Neo y guiaba sus manos a distancia mediante un visor de realidad virtual y dos palancas de control inalámbricas. Los robots aún están aprendiendo a moverse por el mundo por sí solos. Y necesitan mucha ayuda para hacerlo. Al menos, por ahora.
‘Vi un nivel de hardware que no creía posible’:
Visité por primera vez las oficinas de 1X en Silicon Valley hace casi un año. Cuando un robot llamado Eve entró en la sala, abriendo y cerrando la puerta, no pude evitar la sensación de que aquel robot de ojos grandes era en realidad una persona disfrazada.
Eve se movía sobre ruedas, no sobre piernas. Y, sin embargo, seguía pareciendo humana. Pensé en El dormilón, la comedia de ciencia ficción de Woody Allen de 1973 llena de mayordomos robóticos.
Los ingenieros de la empresa ya habían construido a Neo, pero no había aprendido a caminar. Una temprana versión colgaba de la pared del laboratorio de la empresa.
En 2022, Børnich se conectó a una llamada de Zoom con un investigador de IA llamado Eric Jang. No se conocían.
Jang, que ahora tiene 30 años, trabajaba en un laboratorio de robótica en la sede de Google en Silicon Valley, y Børnich, que ahora tiene 42, dirigía una empresa emergente en Noruega llamada Halodi Robotics.
Un posible inversor había pedido a Jang que recabara información sobre Halodi, para ver si merecía la pena invertir en ella. Børnich mostró el humanoide de la empresa, Eve. Era algo que había soñado construir desde que era adolescente, inspirado —como muchos especialistas en robótica— por la ciencia ficción (su favorita personal: la película de 1982, Blade Runner).
Jang quedó fascinado por la forma en que se movía Eva. Comparó la llamada de Zoom con una escena de la serie de ciencia ficción Westworld, en la que un hombre asiste a un cóctel y se sorprende al descubrir que todos los presentes son robots.
“Vi un nivel de hardware que no creía posible”, dijo Jang.
El posible inversor no invirtió en Halodi. Pero Jang no tardó en convencer a Børnich para unir fuerzas.
Jang formaba parte de un equipo de Google que enseñaba a los robots nuevas habilidades mediante sistemas matemáticos llamados redes neuronales, que permiten a los robots aprender a partir de datos que representan tareas del mundo real. Tras ver a Eve, Jang le dijo a Børnich que debían aplicar la misma técnica a los humanoides.
El resultado fue una empresa transatlántica a la que rebautizaron 1X. La empresa emergente, que ha crecido hasta tener unos 200 empleados, cuenta ahora con más de 125 millones de dólares de financiación de inversores entre los que se encuentran Tiger Global y la empresa emergente de inteligencia artificial OpenAI.
Todo esto es un comportamiento aprendido:
Cuando volví al laboratorio de la empresa unos seis meses después de conocer a Eve, me recibió un Neo andante. Le habían enseñado a caminar totalmente en el mundo digital. Simulando la física del mundo real en un entorno similar al de un videojuego, podían entrenar a una versión digital de su robot para que se mantuviera de pie y en equilibrio y, finalmente, diera pasos.
Tras meses entrenando a este robot digital, transfirieron todo lo que había aprendido a un humanoide físico.
Si me ponía en el camino de Neo, se detenía y se movía a mi alrededor. Si le empujaba el pecho, se mantenía en pie. A veces, tropezaba o no sabía muy bien qué hacer. Pero podía caminar por una habitación como lo hacen las personas.
“Todo esto es un comportamiento aprendido”, dijo Jang, mientras Neo hacía clic contra el suelo a cada paso. “Si lo ponemos en cualquier entorno, debería saber cómo hacerlo”.
Sin embargo, entrenar a un robot para realizar tareas domésticas es una perspectiva totalmente distinta.
Como la física de cargar un lavavajillas o doblar la ropa es extremadamente compleja, 1X no puede enseñar estas tareas en el mundo virtual. Tienen que recopilar datos dentro de casas reales.
Cuando visité la casa de Børnich un mes después, Neo empezó a tener problemas con la puerta de acero inoxidable del frigorífico. La conexión wi fi del robot se había interrumpido. Pero una vez que el técnico oculto reinició el wi fi, guio sin problemas al robot en su pequeña tarea. Neo me entregó una botella de agua.
También vi cómo Neo metía ropa en una lavadora, poniéndose en cuclillas con cuidado para levantar la ropa de un cesto. Y mientras Børnich y yo charlábamos fuera de la cocina, el robot empezó a limpiar las encimeras. Todo esto se hacía por control remoto.
Incluso controlado por humanos, Neo puede dejar caer una taza o esforzarse por encontrar el ángulo correcto al intentar tirar una botella vacía al bote de la basura bajo el fregadero. Aunque los humanoides han mejorado a pasos agigantados en la última década, siguen sin ser tan ágiles como los humanos. Neo, por ejemplo, no puede levantar los brazos por encima de la cabeza.
Para los no iniciados, Neo también puede resultar un poco escalofriante, como todo lo que parece en parte humano y en parte no. Hablar con él es especialmente extraño, dado que en realidad estás hablando con un técnico a distancia. Es como hablar con un muñeco de ventrílocuo.
‘Lo que vendemos es más un viaje que un destino’:
Al guiar a Neo por las tareas domésticas, Børnich y su equipo pueden recopilar datos —mediante cámaras y otros sensores instalados en el propio robot— que muestran cómo se realizan estas tareas. Luego, los ingenieros de 1X pueden utilizar estos datos para ampliar y mejorar las habilidades de Neo.
Del mismo modo que ChatGPT puede aprender a escribir trabajos analizando textos de internet, un robot puede aprender a limpiar ventanas identificando patrones en horas de video digital.
La mayoría de los humanoides, incluido el Optimus de Musk y proyectos similares como Apptronik y Figure AI, están diseñando humanoides para almacenes y fábricas, argumentando que estos entornos tan controlados serán más fáciles de manejar para los robots. Pero con la venta de humanoides en los hogares, 1X espera recopilar enormes cantidades de datos que, en última instancia, puedan mostrar a estos robots cómo manejar el caos de la vida cotidiana.
En primer lugar, la empresa debe encontrar personas que acojan en sus hogares una versión temprana de una nueva y extraña tecnología, y que paguen por ella.
1X aún no ha fijado un precio para estas máquinas, que fabrica en su propias instalaciones en Noruega. Construir un humanoide como Neo cuesta más o menos lo mismo que construir un coche pequeño: decenas de miles de dólares.
Para alcanzar su potencial, Neo debe capturar video de lo que ocurre en el interior de las viviendas. En algunos casos, los técnicos verán lo que ocurre en tiempo real. Fundamentalmente, se trata de un robot que aprende en el trabajo.
“Lo que vendemos es más un viaje que un destino”, dijo Børnich. “Va a ser un camino muy accidentado, pero Neo hará cosas realmente útiles”.
‘Queremos que nos des tus datos bajo tus condiciones’
Cuando pregunté a Børnich cómo gestionaría la empresa la privacidad una vez que los humanoides estuvieran dentro de las casas de los clientes, explicó que los técnicos, que trabajarían desde centros de llamadas remotos, solo tomarían el control del robot si recibían la aprobación del propietario a través de una aplicación para celulares.
También dijo que los datos no se utilizarían para entrenar nuevos sistemas hasta transcurridas al menos 24 horas desde su recopilación. Esto permitiría a 1X eliminar los videos que los clientes no deseen que la empresa utilice.
“Queremos que nos des tus datos bajo tus condiciones”, dijo Børnich.
Con estos datos, Børnich espera producir un humanoide que pueda hacer casi cualquier tarea doméstica. Eso significa que Neo podría sustituir a los trabajadores que se ganan la vida limpiando casas.
Pero para eso aún faltan años, en el mejor de los casos. Y debido a la creciente escasez de trabajadores que se ocupan tanto de la limpieza del hogar como del cuidado de ancianos y niños, las organizaciones que representan a estos trabajadores acogen con satisfacción el auge de las nuevas tecnologías que realizan tareas en el hogar, siempre que empresas como 1X construyan robots que trabajen bien junto a los trabajadores humanos.
“Estas herramientas podrían facilitar algunos de los trabajos más agotadores y peligrosos, y permitir a los trabajadores centrarse en cosas que solo pueden ofrecer los trabajadores humanos”, dijo Ai-jen Poo, Presidenta de la Alianza Nacional de Trabajadoras del Hogar, que representa a los trabajadores domésticos, cuidadores a domicilio y niñeras del país.
Poco después, Neo empezó a limpiar las altísimas ventanas de la parte lateral de la casa. Entonces, al volverme hacia Børnich, oí un estruendo en el suelo de la cocina. Tras una avería eléctrica, Neo se había caído de espaldas y se había desmayado.
Børnich levantó al robot, como si fuera un pequeño adolescente, lo llevó al salón y lo tumbó en una silla. Incluso cuando Neo se desmayó, parecía humano.
Otros humanoides que he conocido pueden resultar intimidantes. Neo, que mide unos 1.67 metros y pesa 29 kilos, no lo es. Pero seguía preguntándome si podría herir a una mascota —o a un niño— con una caída así.
¿Dejará la gente que esta máquina entre en sus casas? ¿Cuánto tardará en mejorar sus habilidades? ¿Puede liberar a la gente de sus tareas cotidianas? Estas preguntas aún no tienen respuesta. Pero Børnich sigue adelante.
“Hay muchas personas como yo”, dijo. “Han soñado con tener algo así en su casa desde que eran niños”.
Cade Metz es un periodista y escritor estadounidense especializado en tecnología, inteligencia artificial y Silicon Valley. Trabaja como reportero en The New York Times, donde cubre temas relacionados con empresas tecnológicas, avances en IA, robótica y el impacto social de la innovación digital. Antes de unirse al Times, fue corresponsal de Wired, y ha escrito el libro Genius Makers, que explora la historia y las figuras clave detrás del auge de la inteligencia artificial moderna. Su trabajo se destaca por su profundidad analítica y su capacidad para traducir conceptos técnicos complejos en narrativas accesibles y reveladoras.
The New York Times es un periódico diario estadounidense fundado en 1851 y con sede en Nueva York, considerado uno de los más influyentes y prestigiosos del mundo. Cubre noticias nacionales e internacionales, reportajes de investigación, análisis, cultura, opinión, economía, ciencia y estilo de vida. El medio opera tanto en formato impreso como digital, y ha consolidado una gran base de suscriptores online, lo que le permite ejercer un rol clave en el ecosistema mediático contemporáneo.
