Hablemos de la visión de Raymond Kurzweil sobre la Singularidad y su significado. Kurzweil es uno de los principales defensores y divulgadores de este concepto, y su perspectiva ha influido significativamente en la forma en que se entiende y se debate la Singularidad. La visión de Kurzweil sobre la Singularidad es optimista y transformadora. Él la ve como una oportunidad para superar las limitaciones humanas y resolver los grandes desafíos de la humanidad. Sin embargo, también es importante recordar que sus predicciones son objeto de debate y crítica, y que el futuro es inherentemente incierto.
¿Qué es la Singularidad según Kurzweil?:
Para Kurzweil, la Singularidad Tecnológica es un punto hipotético en el futuro en el que el avance tecnológico, especialmente en inteligencia artificial (IA), se acelera de forma tan radical que transforma la civilización humana de una manera fundamental e irreversible. Este punto se caracteriza por:
En primer lugar, por la inteligencia artificial superhumana:la IA alcanza y supera la inteligencia humana en todos los aspectos, lo que lleva a un crecimiento exponencial en la capacidad de las máquinas para aprender, razonar y resolver problemas.
En segundo lugar, por la fusión entre humanos y máquinas: se produce una convergencia entre la inteligencia biológica humana y la inteligencia artificial, a través de interfaces cerebro-computadora, nanotecnología y otras tecnologías. Esto podría dar lugar a seres híbridos con capacidades cognitivas y físicas mejoradas.
Finalmente, por un cambio tecnológico incontrolable: el ritmo del cambio tecnológico se vuelve tan rápido que resulta difícil para los humanos predecir o controlar su dirección. Se produce una «explosión de inteligencia» que transforma radicalmente la sociedad, la economía y la propia naturaleza humana.
El significado de la Singularidad para Kurzweil:
Kurzweil ve la Singularidad como un evento trascendental en la historia de la humanidad, comparable a la aparición de la vida en la Tierra o al desarrollo del lenguaje. Para él, la Singularidad representa:
La superación de las limitaciones humanas: la fusión con la Inteligencia Artificial y los avances en biotecnología y nanotecnología permitirán superar las limitaciones biológicas humanas, como la enfermedad, el envejecimiento y la muerte.
La expansión de la conciencia: la Singularidad podría dar lugar a nuevas formas de conciencia y experiencia, expandiendo los límites de lo que significa ser humano.
La resolución de los grandes problemas de la humanidad: Kurzweil cree que la Inteligencia Artificial superinteligente podría ayudarnos a resolver los grandes desafíos que enfrenta la humanidad, como el cambio climático, la pobreza, las enfermedades y la escasez de recursos.
La cronología de la Singularidad según Kurzweil:
Kurzweil ha ofrecido una cronología aproximada para la llegada de la Singularidad, basada en sus análisis de las tendencias tecnológicas:
Alrededor de 2029: la IA superará la prueba de Turing, demostrando una inteligencia a nivel humano.
Alrededor de 2045: se alcanzará la Singularidad Tecnológica propiamente dicha, con una transformación radical de la sociedad y la aparición de la inteligencia superhumana.
La base de las predicciones de Kurzweil:
Kurzweil basa sus predicciones en varios factores muy interesantes, incluyendo:
La aplicación de la Ley de Moore: la observación de que el número de transistores en un circuito integrado se duplica aproximadamente cada dos años, lo que se ha traducido en un crecimiento exponencial en la potencia de los ordenadores.
La aceleración del cambio tecnológico: Kurzweil argumenta que el progreso tecnológico se acelera cada vez más, siguiendo una curva exponencial.
El análisis de diversas tecnologías convergentes: Kurzweil considera la convergencia de la IA, la biotecnología, la nanotecnología y otras tecnologías como un factor clave para la Singularidad.
Base teórica de la Singularidad según Kurzweil:
La visión de Kurzweil sobre la Singularidad se sustenta en una serie de conceptos y observaciones que cuando son analizadas en su conjunto nos ofrecen la auténtica base de las ideas de Kurzweil:
Aplicación de la Ley de Rendimientos Acelerados: Kurzweil extiende la Ley de Moore (que describe el crecimiento exponencial en la densidad de los transistores en los chips) a un principio más general que abarca diversas formas de progreso tecnológico. Argumenta que el progreso tecnológico no es lineal, sino exponencial, y que la tasa de cambio se acelera con el tiempo. Esto significa que cada vez se producen avances más significativos en períodos de tiempo más cortos.
La convergencia de tecnologías: enfatiza la importancia de la convergencia de diversas tecnologías, como la inteligencia artificial, la biotecnología, la nanotecnología y la robótica (lo que a menudo se abrevia como NBIC). Sostiene que la interacción y la sinergia entre estas tecnologías amplificarán su impacto y acelerarán el camino hacia la Singularidad.
La ingeniería inversa del cerebro: Kurzweil cree que la comprensión del funcionamiento del cerebro humano a través de la neurociencia y la ingeniería inversa es fundamental para el desarrollo de la IA superhumana. Considera que, al replicar la arquitectura y los procesos del cerebro en máquinas, podremos crear inteligencias artificiales con capacidades cognitivas comparables o superiores a las humanas.
La computación ubicua y en la nube: la disponibilidad de una computación cada vez más potente, ubicua y accesible a través de la nube es un factor clave para la visión de Kurzweil. Esta infraestructura computacional permitirá el procesamiento de grandes cantidades de datos y el desarrollo de sistemas de IA complejos.
Implicaciones éticas de la Singularidad según Kurzweil (y las preocupaciones que surgen):
La Singularidad plantea una serie de importantes cuestiones éticas que deben ser consideradas:
Control y seguridad de la Inteligencia Artificial superinteligente: una de las principales preocupaciones es cómo asegurar que una IA superinteligente se mantenga alineada con los valores y objetivos humanos. Existe el riesgo de que una IA con capacidades superiores a las nuestras pueda tomar decisiones que sean perjudiciales para la humanidad.
Desigualdad y acceso a la tecnología: la Singularidad podría exacerbar las desigualdades sociales si el acceso a las nuevas tecnologías, como las mejoras cognitivas o la extensión de la vida, no se distribuye de manera equitativa. Esto podría crear una brecha aún mayor entre ricos y pobres, generando nuevas formas de discriminación y exclusión.
Impacto en el empleo y la economía: la automatización impulsada por la Inteligencia Artificial podría tener un impacto significativo en el mercado laboral, desplazando a millones de trabajadores humanos. Esto plantea la necesidad de repensar los modelos económicos y sociales para abordar el desempleo tecnológico y garantizar una distribución justa de la riqueza.
Cambios en la naturaleza humana: la fusión entre humanos y máquinas podría transformar profundamente nuestra identidad y nuestra comprensión de lo que significa ser humano. Esto plantea preguntas sobre la autonomía humana, la privacidad y la preservación de los valores humanos fundamentales.
Riesgos existenciales: algunos expertos, como Nick Bostrom, han planteado la posibilidad de riesgos existenciales asociados con la Inteligencia Artificial superinteligente. Si no se toman las precauciones adecuadas, una IA con objetivos diferentes a los nuestros podría representar una amenaza para la supervivencia de la humanidad.
Implicaciones filosóficas: la Singularidad plantea profundas cuestiones filosóficas sobre la conciencia, la identidad, el libre albedrío y el propósito de la existencia.
La postura de Kurzweil ante estas implicaciones:
Kurzweil reconoce la importancia de abordar estas cuestiones éticas y aboga por un desarrollo responsable de la tecnología. Si bien es optimista sobre los beneficios potenciales de la Singularidad, también enfatiza la necesidad de establecer marcos éticos y regulatorios que garanticen que la tecnología se utilice para el bien común. Argumenta que la mejor manera de mitigar los riesgos es comprender la tecnología y trabajar activamente para guiar su desarrollo de manera positiva. En resumen, la base teórica de la visión de Kurzweil sobre la Singularidad se basa en la Ley de Rendimientos Acelerados, la convergencia de tecnologías y la ingeniería inversa del cerebro. Sin embargo, este escenario plantea importantes implicaciones éticas que deben ser consideradas cuidadosamente para asegurar que la tecnología beneficie a la humanidad y no se convierta en una amenaza.
Es muy importante analizar las críticas a las predicciones de Raymond Kurzweil para tener una perspectiva completa de sus ideas. Si bien es un visionario con un historial de predicciones acertadas, también ha recibido críticas y escepticismo por parte de científicos, tecnólogos y otros pensadores. A continuación, exploramos algunas de las críticas más comunes:
La sobreestimación del ritmo del progreso tecnológico:
La primera de las críticas sobre el ritmo del progreso tecnológico es la denominada Curva de crecimiento exponencial: Kurzweil se basa en la idea de una «curva de crecimiento exponencial» para el desarrollo tecnológico, argumentando que el progreso se acelera cada vez más. Sin embargo, algunos críticos señalan que esta curva no siempre se cumple en todas las áreas de la tecnología y que existen límites físicos y prácticos para el crecimiento exponencial.
La segunda critica se refiere a la complejidad de la IA: Si bien la Inteligencia Artificial ha avanzado significativamente, algunos expertos argumentan que la creación de una IA general, con capacidades cognitivas comparables a las humanas, es un problema mucho más complejo de lo que Kurzweil sugiere. Señalan que aún no comprendemos completamente el funcionamiento del cerebro humano, lo que dificulta su replicación en máquinas.
La Falta de evidencia empírica para la Singularidad:
Aquí, la primera de las criticas es la naturaleza hipotética de la Singularidad: la Singularidad Tecnológica es un concepto hipotético, y algunos críticos argumentan que no hay evidencia empírica sólida que respalde su ocurrencia. Señalan que Kurzweil se basa en extrapolaciones de tendencias actuales, pero que el futuro es inherentemente incierto.
La segunda critica dentro de este agrupamiento es la dificultad para predecir avances disruptivos: los avances tecnológicos disruptivos son, por definición, difíciles de predecir. Algunos críticos argumentan que Kurzweil asume una continuidad lineal en el progreso tecnológico, sin tener en cuenta la posibilidad de cambios inesperados o la aparición de nuevas tecnologías que podrían desviar la trayectoria actual.
Ciertas Implicaciones éticas y sociales:
Los riesgos de la Inteligencia Artificial avanzada: algunos críticos expresan preocupación por los posibles riesgos de una Inteligencia Artificial superinteligente, incluyendo la posibilidad de que se vuelva incontrolable o que se utilice con fines maliciosos.
La desigualdad y acceso a la tecnología: la transformación tecnológica que Kurzweil predice podría exacerbar las desigualdades sociales si el acceso a las nuevas tecnologías no se distribuye equitativamente. Esto podría crear una brecha aún mayor entre ricos y pobres. Recientemente, se ha colocado este tema sobre la mesa y ha comenzado a discutirse, justamente por generar – algo que ya está siendo claro – una brecha adicional dentro de las diferencias que se han marcado entre ricos y pobres.
Impacto en el empleo: la automatización impulsada por la IA podría tener un impacto significativo en el empleo, desplazando a trabajadores humanos en diversas industrias.
Las críticas específicas a sus predicciones:
Las fechas específicas: algunos críticos señalan que Kurzweil ha dado fechas específicas para algunas de sus predicciones que no se han cumplido, lo que cuestiona la precisión de su metodología. Sin embargo, Kurzweil argumenta que sus fechas son aproximaciones y que lo importante es la tendencia general.
El énfasis en la inmortalidad: la idea de que la tecnología permitirá alcanzar la inmortalidad ha sido objeto de escepticismo. Algunos críticos argumentan que esto ignora las limitaciones biológicas y físicas del cuerpo humano.
También se le endilga la existencia de un cierto enfoque determinista:
Algunos críticos acusan a Kurzweil de tener un enfoque determinista, asumiendo que el progreso tecnológico es inevitable y que seguirá una trayectoria predeterminada. Argumentan que el futuro es el resultado de múltiples factores, incluyendo decisiones humanas, factores económicos y eventos imprevistos.
La respuesta de Kurzweil a las críticas:
Kurzweil responde a muchas de estas críticas argumentando que:
Sus predicciones se basan en un análisis riguroso de las tendencias tecnológicas.
La historia muestra que las predicciones sobre el futuro a menudo se subestiman.
Es importante tener una visión optimista del futuro para impulsar la innovación.
Como conclusión, es importante considerar las críticas a las predicciones de Kurzweil para tener una visión equilibrada. Si bien es un visionario con importantes contribuciones, sus ideas no están exentas de debate. El futuro es incierto y es fundamental analizar diferentes perspectivas para comprender las posibles implicaciones del avance tecnológico.
Analizar las predicciones más específicas de Raymond Kurzweil nos permite entender mejor su visión del futuro y cómo cree que la tecnología transformará la humanidad. A continuación, exploraremos algunas de sus predicciones más destacadas, agrupándolas por áreas temáticas:
La Inteligencia Artificial y la Singularidad, el primer grupo de predicciones: que comprende a las que ahora vamos e indicar y que comprenden a la superación de la inteligencia humana por la inteligencia artificial, la llega de la singularidad tecnológica y la computación basada en el cerebro.
La superación de la inteligencia humana por la Inteligencia Artificial (alrededor de 2029): predice que, para finales de la década de 2020, la Inteligencia Artificial superará la inteligencia humana en pruebas de Turing y otras métricas. Esto no significa necesariamente que las máquinas tendrán conciencia o sentimientos humanos, sino que superarán nuestras capacidades en tareas cognitivas específicas.
Un poco más tarde, llegara la Singularidad Tecnológica (alrededor de 2045): esta es su predicción más famosa. Kurzweil cree que alrededor de 2045, el avance de la Inteligencia Artificial será tan rápido e imparable que transformará radicalmente la civilización humana. Se fusionarán la inteligencia humana y la artificial, dando lugar a capacidades sin precedentes.
También ha predicho la computación basada en el cerebro: Kurzweil cree que la Inteligencia Artificia; se basará cada vez más en la simulación del cerebro humano, utilizando técnicas de ingeniería inversa para comprender y replicar su funcionamiento.
Un segundo grupo de predicciones se centran en la Biotecnología y la Nanotecnología: y que comprenden a la reversión del envejecimiento, el desarrollo de los nanobots médicos y la conexión directa entre el cerebro y la computadora. Veamos.
La reversión del envejecimiento: Kurzweil predice que la nanotecnología permitirá reparar y rejuvenecer las células del cuerpo, revirtiendo el proceso de envejecimiento y extendiendo significativamente la esperanza de vida humana. Menciona la posibilidad de que la esperanza de vida se expanda más allá de los 120 años. Recientemente ha vuelto a desarrollar este punto, que veremos en otro post.
Nanobots médicos: visualiza nanobots que navegarán por nuestro cuerpo, reparando tejidos dañados, destruyendo células cancerosas y monitoreando nuestra salud en tiempo real.
La conexión directa cerebro-computadora: donde predice que la nanotecnología permitirá crear interfaces directas entre el cerebro humano y las computadoras, mejorando nuestras capacidades cognitivas y permitiéndonos acceder a información y comunicarnos de forma más eficiente.
Un tercer grupo de predicción se refiere a la computación y la realidad virtual/aumentada. Estas comprenden a:
La computación ubicua y miniaturización: Kurzweil anticipa que las computadoras se volverán cada vez más pequeñas y ubicuas, integrándose en nuestra ropa, nuestros cuerpos y nuestro entorno.
El desarrollo creciente de la realidad virtual y aumentada inmersivas: predice que la realidad virtual y aumentada se volverán tan inmersivas que será difícil distinguirlas de la realidad física. Esto transformará la forma en que trabajamos, aprendemos, nos entretenemos y nos relacionamos.
La recreaciones virtual de personas fallecidas: Kurzweil ha mencionado la posibilidad de recrear digitalmente a personas fallecidas a través de la reconstrucción de sus patrones de pensamiento y comportamiento a partir de datos disponibles. Hay reciente experimentos que involucran a la inteligencia artificial que permite llegar al menos a la primera fase de esta predicción.
Un cuarto grupo comprende a sus contribuciones en energía y medio ambiente. Dentro de esto tenemos:
La energía solar abundante y barata: Kurzweil cree que los avances en la tecnología fotovoltaica harán que la energía solar sea extremadamente barata y abundante, resolviendo los problemas energéticos del planeta.
La impresión 3D a gran escala: predice que la impresión 3D se utilizará para construir infraestructuras a gran escala, como edificios y casas, de forma rápida y eficiente. También recientemente hemos visto algunos ejemplos de esto tanto en Europa como en China Roja.
Adicionalmente, tenemos puntos importantes a considerar:
La existencia de una cronología flexible: si bien Kurzweil ofrece fechas específicas para algunas de sus predicciones, también reconoce que estas son aproximaciones y que el ritmo del progreso tecnológico puede variar.
La interconexión de tecnologías: enfatiza que estas tecnologías no se desarrollarán de forma aislada, sino que interactuarán y se potenciarán mutuamente.
Riesgos y desafíos: si bien Kurzweil es optimista sobre el futuro, también reconoce que existen riesgos y desafíos asociados con estas tecnologías, como las implicaciones éticas y sociales de la IA avanzada y la nanotecnología. Es fundamental recordar que estas son predicciones y que el futuro es incierto. Sin embargo, analizar las predicciones de Kurzweil nos ayuda a comprender mejor las posibles trayectorias del desarrollo tecnológico y a reflexionar sobre las implicaciones que podrían tener para la humanidad.
Raymond Kurzweil es un nombre que resuena con fuerza en los ámbitos de la tecnología, la inteligencia artificial y el futurismo. Nacido en Queens, Nueva York, el 12 de febrero de 1948, este inventor, escritor, científico de la computación y empresario estadounidense ha dedicado su vida a explorar las fronteras del conocimiento y a anticipar los avances que transformarán la humanidad.
Kurzweil mostró un interés precoz por la tecnología. Desde joven, construyó una computadora usando relés electromecánicos y se dedicó a la programación. Su fascinación por la inteligencia artificial y la capacidad de las máquinas para replicar el pensamiento humano lo impulsaron a estudiar Ciencias de la Computación en el Instituto Tecnológico de Massachusetts (MIT), donde se graduó en 1970.
Kurzweil ha desarrollado varias invenciones y contribuciones tecnológicas de importancia:
A lo largo de su carrera, Kurzweil ha sido pionero en diversas áreas tecnológicas, destacando por invenciones como:
El primer escáner plano CCD: este dispositivo revolucionó la digitalización de documentos e imágenes.
El primer software de reconocimiento óptico de caracteres (OCR) omnidireccional: esta tecnología permitió a las computadoras «leer» texto impreso en diversos formatos.
La primera máquina de lectura para ciegos: este invento, llamado Kurzweil Reading Machine, transformó la vida de las personas con discapacidad visual al permitirles acceder a la información impresa.
El primer sintetizador de voz texto-a-voz: esta tecnología sentó las bases para los actuales sistemas de voz computarizada.
Los sintetizadores musicales avanzados: Kurzweil también incursionó en la música, desarrollando sintetizadores capaces de emular fielmente el sonido de instrumentos acústicos, incluyendo el piano de cola. Su trabajo con el músico Stevie Wonder fue particularmente notable.
Hablemos ahora sobre el futurismo y la singularidad:
Además de sus invenciones, Kurzweil es conocido por sus predicciones sobre el futuro de la tecnología y la humanidad. Es un ferviente defensor de la «Singularidad Tecnológica», un punto hipotético en el tiempo en el que el avance de la inteligencia artificial será tan rápido e imparable que transformará radicalmente la civilización humana. Kurzweil predice que la Singularidad podría ocurrir a mediados del siglo XXI.
Sus ideas sobre el futuro se plasman en varios libros como:
La era de las máquinas espirituales (1999): en este libro, explora el potencial de la inteligencia artificial para superar las capacidades humanas.
La Singularidad está cerca (2005): esta obra detalla su visión de la Singularidad Tecnológica y sus posibles implicaciones.
Cómo crear una mente (2012): en este libro, Kurzweil profundiza en el funcionamiento del cerebro humano y cómo podríamos replicarlo en máquinas.
Su libro más reciente es «The Singularity Is Nearer» de 2023. Este libro es una actualización y expansión de «La Singularidad está cerca». En «The Singularity Is Nearer: When We Merge with AI», Kurzweil reafirma su predicción de que la Singularidad está cerca, pero con una perspectiva más matizada y con nueva evidencia. Algunos puntos clave del libro son:
La colocación de un mayor énfasis en la biotecnología y la nanotecnología: además de la Inteligencia Artificial, Kurzweil destaca el papel crucial de estos campos en la transformación humana. Explora cómo la nanotecnología podría utilizarse para revertir el envejecimiento a nivel celular y curar enfermedades.
Una visión más detallada de la fusión entre humanos y máquinas: Kurzweil explora con mayor profundidad cómo la nanotecnología y otras tecnologías permitirán una integración más profunda entre la biología humana y la tecnología, difuminando las líneas entre ambos.
La actualización de sus predicciones: si bien mantiene la idea general de que la Singularidad ocurrirá a mediados de siglo, ofrece una perspectiva más detallada de los hitos tecnológicos que nos llevarán a ella.
Kurzweil y su labor en Google:
Desde 2012, Kurzweil trabaja como Director de Ingeniería en Google, donde lidera proyectos relacionados con la inteligencia artificial y el procesamiento del lenguaje natural. Su labor se centra en desarrollar sistemas que permitan a las computadoras comprender y responder al lenguaje humano de manera más efectiva.
Raymond Kurzweil ha recibido numerosos premios y reconocimientos a lo largo de su carrera, incluyendo la Medalla Nacional de Tecnología y el Premio Lemelson-MIT. Su trabajo ha tenido un profundo impacto en la tecnología, la música y la forma en que concebimos el futuro. Es considerado un visionario que ha anticipado con notable precisión muchos de los avances tecnológicos que estamos viviendo hoy en día. Raymond Kurzweil es una figura clave en la historia de la tecnología y un pensador influyente en el campo del futurismo. Sus invenciones y sus ideas sobre la inteligencia artificial y la Singularidad han dejado una marca indeleble en el mundo, y su trabajo continúa inspirando a nuevas generaciones de científicos, ingenieros y soñadores.
La decisión de Geoffrey Hinton de dejar Google y expresar públicamente sus preocupaciones sobre los riesgos de la IA ha generado un gran debate y ha puesto de manifiesto la importancia de abordar los desafíos éticos y sociales asociados con esta tecnología.
Esto tiene varios significados para el futuro de la Inteligencia Artificial.
Por un lado, un mayor escrutinio: la renuncia de Hinton ha aumentado el escrutinio público sobre el desarrollo y uso de la IA, lo que podría llevar a una mayor regulación y supervisión. Algo de eso estamos viendo en la preocupación europea con la regulación de la materia.
Por otra parte, ha provocado un profundo debate sobre los riesgos: la decisión de Hinton ha impulsado un debate más amplio sobre los riesgos potenciales de la Inteligencia Artificial, como la pérdida de empleos, la propagación de desinformación y el desarrollo de armas autónomas.
Finalmente, y sin intenciones de agotar, las oportunidades para la investigación ética: la renuncia de Hinton podría abrir nuevas oportunidades para la investigación ética en IA, con un mayor enfoque en el desarrollo de sistemas seguros, transparentes y beneficiosos para la sociedad.
Hinton y sus aportes a los elementos éticos de la inteligencia artificial:
Es importante analizar la trayectoria de Hinton, novel Premio Nobel de Física 2024, en cuanto a que hay un conjunto de elementos que nos otorgan pistas para comprender su pensamiento, el que, por cierto, no es de ahora, sino que son lineamientos que viene desarrollando desde hace mucho tiempo, tanto como el que Hinton lleva desarrollando sus investigaciones en inteligencia artificial.
En primer lugar, las reflexiones sobre la importancia de la ética en la IA: Hinton ha sido un defensor de la ética en la IA y ha advertido sobre los riesgos potenciales de esta tecnología. Su ejemplo nos recuerda la importancia de considerar las implicaciones sociales y éticas de nuestras investigaciones.
En segundo lugar, la necesidad de una colaboración interdisciplinaria: el trabajo de Hinton ha demostrado la importancia de la colaboración entre diferentes disciplinas, como la informática, la psicología y la filosofía, para abordar los desafíos complejos planteados por la IA.
Finalmente, el papel de los investigadores en la sociedad: los investigadores en IA tienen un papel crucial en la configuración del futuro de la tecnología. Es importante que los investigadores sean conscientes de las implicaciones de su trabajo y que se comprometan a desarrollar tecnologías beneficiosas para la sociedad.
Hinton ha vuelto a expresar recientemente preocupaciones significativas sobre el rápido desarrollo de la inteligencia artificial. Dentro de sus principales objeciones puede listarse:
La pérdida de control. Una de las preocupaciones más destacadas de Hinton es la posibilidad de que la inteligencia artificial supere la inteligencia humana y se vuelva inmanejable. Teme que los sistemas de IA puedan tomar decisiones que no estén alineadas con los valores humanos y que puedan tener consecuencias imprevistas y potencialmente dañinas.
La desinformación a gran escala. Hinton ha advertido sobre el potencial de la IA para generar y difundir desinformación a gran escala. Los modelos de lenguaje grandes como ChatGPT pueden producir textos altamente convincentes pero falsos, lo que podría socavar la confianza en las instituciones y en la información en general.
El desempleo masivo. Al igual que otros expertos, Hinton ha expresado preocupación por el impacto de la IA en el mercado laboral. Teme que la automatización de tareas cada vez más complejas pueda llevar a un desempleo masivo y a una desigualdad económica creciente.
El desarrollo de armas autónomas. También ha advertido sobre los peligros del desarrollo de armas autónomas, es decir, sistemas de armas que pueden seleccionar y atacar objetivos sin intervención humana. Estas armas podrían desencadenar una nueva carrera armamentística y aumentar el riesgo de conflictos armados.
¿Por qué la renuncia de Hinton a Google es tan significativa?
La renuncia de Hinton a Google ha generado un gran impacto en la comunidad de la inteligencia artificial. Su decisión de abandonar una de las empresas líderes en el desarrollo de esta tecnología y expresar públicamente sus preocupaciones ha puesto de manifiesto la importancia de abordar los desafíos éticos y sociales asociados con la IA.
La renuncia de ha abierto un debate crucial sobre el futuro de la inteligencia artificial. Es probable que veamos un mayor escrutinio público sobre el desarrollo y uso de esta tecnología, así como una mayor presión para establecer normas y regulaciones internacionales que garanticen su desarrollo seguro y beneficioso para la humanidad.
Es importante destacar que:
Hinton no se opone a la investigación en inteligencia artificial, sino que aboga por un desarrollo más responsable y ético de esta tecnología.
La comunidad científica y tecnológica está trabajando en el desarrollo de herramientas y técnicas para mitigar los riesgos asociados con la IA, como la alineación de valores, la transparencia y la explicabilidad de los modelos.
El futuro de la inteligencia artificial dependerá de las decisiones que tomemos como sociedad. Es fundamental fomentar un debate abierto y constructivo sobre los beneficios y riesgos de esta tecnología, y trabajar juntos para garantizar que se utilice para el bien de la humanidad.
Una visión final:
Geoffrey Hinton ya era pesimista con la IA antes de ganar el Premio Nobel. Ahora lo es aún más. Cree que en 20 años o menos la IA acabará superando la inteligencia humana. Y pide que las empresas dediquen un porcentaje de sus recursos de computación a evitar posibles riesgos ante ese futuro
De hecho, en una de las primeras entrevistas que ha concedido tras recibir el Nobel, Hinton vuelve a alertar sobre la amenaza existencial que para él supone la IA. Una que llegará incluso de lo que él pensaba hace no mucho.
Ya expuso su opinión sobre los riesgos a los que nos enfrentamos con la inteligencia artificial, pero con el tiempo ve aún más acuciante esa «amenaza existencial». Hasta no hace mucho él mismo creía que el riesgo estaba muy lejos, que la amenaza no se plantearía hasta dentro de 100 años, quizás 50, y por tanto tendríamos tiempo de afrontarla. «Ahora creo que es bastante probable que en algún momento en los próximos 20 años las IAs se vuelvan más inteligentes que nosotros y realmente necesitamos preocuparnos por lo que ocurrirá después».
Necesitamos mantener el control. Explica cómo habría que dedicar muchos más recursos a lograr que los seres humanos mantengan el control sobre el desarrollo y la operativa de la inteligencia artificial. Sin embargo, explica, los gobiernos no tienen los recursos para ello: son las grandes empresas las que lo tienen. Además, destaca, aquí lo necesario sería no dedicar un porcentaje de los ingresos. Para él eso puede ser muy confuso y engañoso debido a cómo las empresas publican esos ingresos. En lugar de eso, deberían dedicar un porcentaje de su capacidad de computación.
Una de cada cuatro GPUs deberían centrarse en los riesgos. Para él, ese porcentaje debería situarse en un 33%: la tercera parte de los recursos de computación de empresas como Microsoft, Google, Amazon o Meta debería dedicarse precisamente a investigar cómo evitar que la IA se convierta en una amenaza para los seres humanos. Él, no obstante, se conformaría incluso con que fuera una cuarta parte (un 25%) de esos
Otros expertos como LeCun critican esa visión pesimista. Yann LeCun, máximo responsable de IA en Meta y otra de las grandes voces de este ámbito, tiene una visión muy distinta de lo que nos espera. En una entrevista reciente con The Wall Street Journal LeCun indicó que mensajes como los que lanza Hinton son «ridículos». Para él la IA tiene mucho potencial, pero hoy por hoy la IA generativa es básicamente tonta y este tipo de sistemas no lograrán igualar la inteligencia humana.
Por el momento, Hinton, que se fue de Google para “hablar con libertad” parece tener mas credibilidad que LeCun, involucrado directamente en el desarrollo de la inteligencia artificial. Solo eso puede explicar el “calificativo” de LeCun a su viejo maestro.
