El tema de la Inteligencia Artificial, con su enorme alcance y lo poco que en realidad sabemos – en muchos casos todavía estamos en etapa intuitiva – ha dado lugar a una autentica catarata de estudios, opiniones, controversias y encendidos debates que prácticamente se producen diariamente.

Nuestro Laboratorio entiende que uno de los mejores servicios que puede prestar a todas aquellas personas y organizaciones que siguen nuestros trabajos es ofrecer una Serie escogida de aquellas opiniones, posiciones y debates, llevados prácticamente al día en que se producen, para mantener genuinamente informados a aquellos que están pendientes de lo que está sucediendo y de nuestra visión.

Por cierto, el Laboratorio se encuentra trabajando en su Microlab de Inteligencia Artificial y oportunamente hará saber sus conclusiones y percepciones, pero la urgencia del tema no admite demasiadas demoras. Esa es la razón por la que hoy inauguramos una Serie, la de Inteligencia Artificial, la que esperamos sea el fermento de análisis, meditación y conclusiones sobre la proyección que un tema de esta envergadura nos obliga a abordar. Nadie, ni gobiernos, ni organismos internacionales, ni organismos regionales, think thanks e individuos pueden permanecer indiferentes a su evolución.

Como siempre, esperamos que nuestro servicio pueda resultarles de utilidad.

Yuval Noah Harari argumenta que la IA ha pirateado el sistema operativo de la civilización humana

Las computadoras que cuentan historias cambiarán el curso de la historia humana, dice el historiador y filósofo

Tener calma con las profecías y las especulaciones:

Dentro de nuestra serie sobre la Inteligencia Artificial, hemos decidido hoy analizar las últimas declaraciones y artículos de Yuval Harari. Como es de conocimiento general, el Dr. Harari es historiador, filósofo y autor de “Sapiens”, “Homo Deus” y la serie infantil “Unstoppable Us”. Es profesor en el departamento de historia de la Universidad Hebrea de Jerusalén y cofundador de Sapienship, una empresa de impacto social. Se le escucha por lo general como una autoridad importante en la interpretación del futuro, la que realiza desde el punto de vista sociológico y filosófico.

Harari ha dicho en The Guardian que “la IA ha hackeado el sistema operativo de la civilización humana”. Esta es una frase muy fuerte y que sin duda llaman la atención y que pueden justificar que solo avisan de una posibilidad que nadie sabe si ocurrirá. Con absoluta franqueza y con todo el respeto por el Dr. Harari, en algún caso, esto puede ser tomado como una afirmación temeraria, que puede eventualmente fundamentar en el prestigio de una carrera académica muy importante, pero que justifica en algunos casos ciertas afirmaciones que nos suenan un poco apocalípticas. No sabemos qué probabilidad hay de que ocurra. A veces, como aquí con Harari, son también incomprensibles. Pero decirlo en 2023 es llamativo y sirve, igual que los tiktoks virales que exageran, para hackear nuestra atención, que es lo que más rápidamente se hackea.

Es lógico pensar que la IA puede traer problemas graves, pero faltan certezas. Si el “padrino de la IA” (Geoffrey Hinton, Premio Turing 2018, al cual analizaremos en otro de los artículos de esta serie) se equivocó en su predicción hace seis años, puede volver a equivocarse ahora. Harari también incluyó en un artículo en marzo de 2023 en el New York Times que la mitad de “investigadores en IA” cree que hay un 10% de opciones de que la IA nos mate a todos. Pero no es verdad. Ese artículo lo ha colocado en la discusión y lo ha proyectado saltado a otros medios y redes, asegurando “tablas” para mantener la posición de super experto. Eso debería, en todo caso, llamar a cada opinante a la prudencia, porque lo que es cierto, es que no sabemos.

Lo cierto es que todos debemos ser muy prudentes en este tema. De la misma manera que hemos dicho que hay que tener cuidado con Altman, también tenemos que tener cuidado con otros eventuales profetas, y concentrarnos en lo que realmente está pasando y, cuando no estamos seguros – y eventualmente muy inseguros – regular el avance de algunos hechos sobre los que podemos tener ciertas certezas de que pueden ser potencialmente peligrosos.

Las ideas de Harari sobre el hackeo a la civilización por parte de la Inteligencia Artificial:

Los temas de la inteligencia artificial han perseguido a la humanidad desde el comienzo de la era de las computadoras de acuerdo con lo que nos dice Harari. Hasta el momento, estos temores se concentraban en las máquinas que utilizaban medios físicos para matar, esclavizar o reemplazar a las personas. Pero en los últimos años han surgido nuevas herramientas de inteligencia artificial que parecen amenazar la supervivencia de la civilización humana desde una dirección inesperada. Es cierto que la Inteligencia Artificial parece haber adquirido algunas habilidades notables para manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes. Desde allí, Harari sostiene que la Inteligencia Artificial ha pirateado así el sistema operativo de nuestra civilización. Puede que, si o puede que no, vamos con calma. Es cierto que han aparecido manifestaciones que no entendemos e inclusive ciertos sesgos que no alcanzamos a explicar todavía, pero desde allí a sostener que estamos en manos de Hal, la maravillosa máquina de 2001, Odisea del Espacio, hay una distancia bastante grande.

La idea no es rebatir ni al Dr. Harari ni al Dr. Hinton. La idea es colocar moderación dentro de un debate que se esta calentando demasiado, donde hay afirmaciones un poco temerarias, donde hay muchas cosas que aun no sabemos y con las cuales tenemos que ir con cuidado. Pero una cosa es esto y otra cosa adelantar que la Inteligencia Artificial esta a punto de apoderarse de la conducción de la civilización humana. En fin, habemos algunos que le tenemos bastante confianza a la inteligencia humana, al menos por el momento, y aun a pesar de algunos que parecen caminar por un sendero complicado con respecto al desarrollo tecnológico.

La argumentación de Harari es muy interesante: nos dice que el lenguaje es el material del que está hecha casi toda la cultura humana. Los derechos humanos, por ejemplo, no están inscritos en nuestro ADN . Más bien, son artefactos culturales que creamos al contar historias y escribir leyes. Los dioses no son realidades físicas. Más bien, son artefactos culturales que creamos al inventar mitos y escribir escrituras.

El dinero también es un artefacto cultural. Los billetes de banco son solo piezas de papel de colores, y en la actualidad más del 90% del dinero ni siquiera son billetes de banco, es solo información digital en las computadoras. Lo que le da valor al dinero son las historias que los banqueros, los ministros de finanzas y los gurús de las criptomonedas nos cuentan al respecto. Sam Bankman-Fried, Elizabeth Holmes y Bernie Madoff no eran particularmente buenos creando valor real, pero todos eran narradores extremadamente capaces. Ciertamente, podemos agregar a estos comentarios que el dinero, que es una mercadería, tiene residiendo su concepción de valor en una pura cuestión de fe.

¿Qué pasaría una vez que una inteligencia no humana sea mejor que el humano promedio para contar historias, componer melodías, dibujar imágenes y escribir leyes y escrituras? Cuando las personas piensan en Chat GPT y otras nuevas herramientas de Inteligencia Artificial, a menudo se sienten atraídos por ejemplos como niños en edad escolar que la usan para escribir sus ensayos (por cierto, hay gente que tiene una notoria preponderancia por la aplicación de la ley del mínimo esfuerzo; ahora bien, y dependiendo de la criolla frase de “hecha la ley, hecha la trampa”, sabemos que a toda acción le corresponde una reacción). Con esto. ¿Qué pasará con el sistema escolar cuando los niños hagan eso? Pero este tipo de pregunta pierde el panorama general. Olvídate de los ensayos escolares. Piense en la próxima carrera Presidencial estadounidense en 2024 e intente imaginar el impacto de las herramientas de ia que se pueden hacer para producir contenido político en masa, noticias falsas y escrituras para nuevos cultos. Todas estas afirmaciones colocadas al fin de la frase son elementos para la reflexión. Sin duda, la influencia – y ya lo hemos visto en las manipulaciones de datos de Facebook, por ejemplo – es posible, en especial cuando la inteligencia humana tiene la tentación de descansarse en sucedáneos no del todo confiables.

¿Cultos creados por la Inteligencia Artificial?

En los últimos años, el culto a q Anon[i] se ha fusionado en torno a mensajes anónimos en línea, conocidos como » q drops». Los seguidores recopilaron, veneraron e interpretaron estas gotas q como un texto sagrado. Si bien, hasta donde sabemos, todos los q Drops anteriores fueron compuestos por humanos, y los bots simplemente ayudaron a difundirlos, en el futuro podríamos ver los primeros cultos en la historia cuyos venerados textos fueron escritos por una inteligencia no humana. Las religiones a lo largo de la historia han reclamado una fuente no humana para sus libros sagrados. Pronto eso podría ser una realidad. Sin duda que es una posibilidad. Y una posibilidad inquietante.

En un nivel más prosaico, es posible que pronto nos encontremos realizando largas discusiones en línea sobre el aborto, el cambio climático o la invasión rusa de Ucrania con entidades que creemos que son humanos, pero que en realidad son inteligencia artificial. El problema es que no tiene ningún sentido que dediquemos tiempo a tratar de cambiar las opiniones declaradas de un bot de inteligencia artificial, mientras que esta podría perfeccionar sus mensajes con tanta precisión que tiene buenas posibilidades de influir en nosotros.

A través de su dominio del lenguaje, la inteligencia artificial podría incluso entablar relaciones íntimas (tenemos evidencia que ha sucedido, en actos aislados, pero ha sucedido) con las personas y usar el poder de la intimidad para cambiar nuestras opiniones y visiones del mundo. Aunque no hay indicios, por el momento (son las cosas sobre las que tenemos que trabajar seriamente) de que la inteligencia artificial tenga conciencia o sentimientos propios, para fomentar una intimidad falsa con los humanos es suficiente si ella puede hacer que se sientan apegados emocionalmente a ella. En junio de 2022, Blake Lemoine, un ingeniero de Google, afirmó públicamente que el chatbot en el que estaba trabajando, se había vuelto sensible. La controvertida afirmación le costó el trabajo. Lo más interesante de este episodio no fue la afirmación del Sr. Lemoine, que probablemente era dudosa o al menos influida por una percepción emocional que no tenía un peso racional para justificar la afirmación. Ahora bien, si la inteligencia artificial puede influir en las personas para que arriesguen sus trabajos por ello, ¿qué más podría inducirlos a hacer?

Una batalla que librar:

Dice Harari que estamos frente a una batalla política por las mentes y los corazones, la intimidad es el arma más eficiente, y la inteligencia artificial acaba de obtener la capacidad de producir relaciones íntimas en masa con millones de personas. Todos sabemos que, durante la última década, las redes sociales se han convertido en un campo de batalla para controlar la atención humana, y que, por cierto, se han convertido en el principal lugar donde las personas, en esta particular evolución de las relaciones humanas, buscan sus relaciones de afecto. Y, aquí coincido fuertemente con Harari, con la nueva generación de inteligencia artificial, el frente de batalla está pasando de la atención a la intimidad. ¿Qué pasará – entonces – con la sociedad y la psicología humanas cuando la inteligencia artificial luche contra la inteligencia emocional en una batalla para fingir relaciones íntimas con nosotros, que luego pueden usarse para convencernos de votar por políticos en particular o comprar productos en particular?, y aun, algo que puede ser mucho mas complejo, que es la delicadeza en las relaciones entre humanos. Por cierto, aquí es preciso investigar y hacerlo con el mayor énfasis posible.

Incluso sin crear una «intimidad falsa», las nuevas herramientas de la inteligencia artificial tendrían una inmensa influencia en nuestras opiniones y visiones del mundo. Las personas pueden llegar a utilizar un solo asesor de esta inteligencia como un oráculo omnisciente y de una sola parada (hay demasiadas personas que están esperando esto, y no es una afirmación gratuita, sino que podemos observarlo todos los días en las redes sociales, y en particular algunas de ellas. No es preciso individualizarlas en este momento. Ya llegara ese momento) . No es de extrañar que algunos de los responsables de Google estén aterrorizados (aunque no quieren perder el tren del inmenso negocio que está detrás de todo esto). ¿Por qué molestarse en buscar, cuando solo puedo preguntarle al oráculo? Las industrias de noticias y publicidad también deberían estar aterrorizadas. ¿Por qué leer un periódico cuando puedo simplemente pedirle al oráculo que me diga las últimas noticias? ¿Y cuál es el propósito de los anuncios, cuando solo puedo pedirle al oráculo que me diga qué comprar? Veamos, Amazon y otros ya han descubierto esto hace tiempo, se trata únicamente de potenciarlo.

Harari, el fin de la historia humana y la necesidad de moverse con cautela en algunas afirmaciones:

Incluso estos escenarios no captan realmente el panorama general. De lo que estamos hablando es potencialmente del fin de la historia humana. No es el final de la historia, solo el final de su parte dominada por los humanos. La historia es la interacción entre biología y cultura; entre nuestras necesidades y deseos biológicos de cosas como la comida y el sexo, y nuestras creaciones culturales como las religiones y las leyes. La historia es el proceso a través del cual las leyes y las religiones dan forma a la comida y al sexo. Bordeamos aquí un terreno peligroso y el punto donde estimo que Harari quería dirigirse desde el principio. La inversión del control humano hacia el control de la inteligencia artificial y, ¿por qué no preguntárselo?, que control humano podría erigirse detrás de la inteligencia artificial…? Por cierto, esto solo ya daría para un Tratado.

Continua Harari, partiendo de la base del supuesto que esa inversión de control de inteligencias efectivamente se produzca: ¿Qué pasará con el curso de la historia cuando la inteligencia artificial se haga cargo de la cultura y comience a producir historias, melodías, leyes y religiones? Las herramientas anteriores, como la imprenta y la radio, ayudaron a difundir las ideas culturales de los humanos, pero nunca crearon nuevas ideas culturales propias. la ia es fundamentalmente diferente. la ia puede crear ideas completamente nuevas, una cultura completamente nueva.

Al principio, la inteligencia artificial probablemente imitará los prototipos humanos en los que fue entrenada en su infancia. Pero con cada año que pasa, la cultura de este tipo de inteligencia irá audazmente a donde ningún humano ha ido antes. Durante milenios, los seres humanos han vivido dentro de los sueños de otros humanos. En las próximas décadas podríamos encontrarnos viviendo dentro de los sueños de una inteligencia alienígena. Por cierto, que la referencia alienígena no responde a los conceptos comunes, no estamos hablando de seres extraterrestres, sino de inteligencias no humanas aun cuando han sido creadas – paradójicamente – por humanos.

Esto que hemos visto es de alto interés. Lo que sigue, muy relacionado con los sueños y con el storytelling va de cargo de Harari. No estoy tan de acuerdo. Es subordinar la mente humana a mitos y sueños y, esa, es una cuestión sobre la que discutir largamente. Así, Harari afirma que el miedo a la inteligencia artificial ha perseguido a la humanidad solo durante las últimas décadas ( y estaríamos partiendo de la base que un conjunto amplio de la humanidad que sabe y teme de la inteligencia artificial, cuestión que francamente me parece artificial). Pero durante miles de años, los seres humanos han sido perseguidos por un miedo mucho más profundo. Siempre hemos apreciado el poder de las historias y las imágenes para manipular nuestra mente y crear ilusiones. En consecuencia, desde la antigüedad los humanos han temido quedar atrapados en un mundo de ilusiones (¿el miedo a los sueños?, cuando los sueños han sido el motor del avance de los humanos. Francamente me parece excesivo…, con todo respeto por las construcciones y el pensamiento del Maestro Harari).

En el siglo XVII, René Descartes temía que tal vez un demonio malicioso lo estuviera atrapando dentro de un mundo de ilusiones, creando todo lo que veía y escuchaba. En la antigua Grecia, Platón contó la famosa Alegoría de la Cueva, en la que un grupo de personas están encadenadas dentro de una cueva durante toda su vida, frente a una pared en blanco. Una pantalla. En esa pantalla ven proyectadas varias sombras. Los presos confunden las ilusiones que ven allí con la realidad. Sin duda, pero nos estamos refiriendo a Maestros, el hombre y la mujer del pueblo, que luchan diariamente por el pan, cuestión que no ha cambiado durante siglos, esta un poco lejos de estas disquisiciones filosóficas).

Agrega, haciendo caudal de su teoría, el autor: en la antigua India, los sabios budistas e hindúes señalaron que todos los humanos vivían atrapados dentro de Maya, el mundo de las ilusiones. Lo que normalmente tomamos como realidad a menudo son solo ficciones en nuestras propias mentes. Las personas pueden emprender guerras enteras, matando a otros y deseando que las maten ellos mismos, debido a su creencia en esta o aquella ilusión. Otro de los elementos que podemos discutir y largamente.

Alguna buena noticia parece llegar:

Por supuesto, el nuevo poder de la inteligencia artificial también podría usarse para buenos propósitos. No me detendré en esto, porque la gente que la desarrolla habla bastante de ello. El trabajo de los historiadores y filósofos como yo es señalar los peligros. Pero ciertamente, la ia puede ayudarnos de innumerables formas, desde encontrar nuevas curas para el cáncer hasta descubrir soluciones a la crisis ecológica. La pregunta que enfrentamos es cómo asegurarnos de que las nuevas herramientas  se utilicen para bien y no para mal. Para hacer eso, primero debemos apreciar las verdaderas capacidades de estas herramientas.

Desde 1945 sabemos que la tecnología nuclear podría generar energía barata en beneficio de los humanos, pero también podría destruir físicamente la civilización humana. Por lo tanto, remodelamos todo el orden internacional para proteger a la humanidad y asegurarnos de que la tecnología nuclear se utilice principalmente para el bien. Ahora tenemos que lidiar con una nueva arma de destrucción masiva que puede aniquilar nuestro mundo mental y social.

Todavía podemos regular las nuevas herramientas de ia , pero debemos actuar con rapidez. Mientras que las armas nucleares no pueden inventar armas nucleares más poderosas, la inteligencia artificial puede hacer una inteligencia exponencialmente más poderosa. El primer paso crucial es exigir controles de seguridad rigurosos antes de que las potentes herramientas se lancen al dominio público. Así como una compañía farmacéutica no puede lanzar nuevos medicamentos antes de probar sus efectos secundarios a corto y largo plazo, las compañías tecnológicas no deberían lanzar nuevas herramientas de inteligencia artificial antes de que sean seguras. Necesitamos un equivalente de la Administración de Drogas y Alimentos para nuevas tecnologías, y lo necesitamos para ayer. Lo que, por cierto, es una idea completamente compartible y combatible en el sentido de hacer campana para eso.

La siguiente pregunta de Harari es más que interesante. ¿La ralentización de los despliegues públicos de inteligencia artificial no hará que las democracias se queden atrás de regímenes autoritarios más despiadados? Todo lo contrario. los despliegues de esa tecnología no regulados crearían caos social, lo que beneficiaría a los autócratas y arruinaría las democracias. La democracia es una conversación, y las conversaciones se basan en el lenguaje. Cuando la tecnología piratea el lenguaje, podría destruir nuestra capacidad de tener conversaciones significativas, destruyendo así la democracia. En este sentido – y sin atribuirlo a Harari – el caso mas claro es el de la República Popular China.

Finalmente, Harari acaba con una sentencia apocalíptica, pero muy atendible. Acabamos de encontrarnos con una inteligencia extraterrestre, aquí en la Tierra. No sabemos mucho al respecto, excepto que podría destruir nuestra civilización. Deberíamos poner fin al despliegue irresponsable de herramientas de inteligencia artificial en la esfera pública y regularla antes de que nos regule a nosotros. Y la primera regulación que sugeriría es hacer obligatorio que la inteligencia artificial tenga la obligación de revelar que lo es. “Si estoy teniendo una conversación con alguien y no puedo decir si es un ser humano o una inteligencia artificial , ese es el fin de la democracia”.

---

[1] QAnon o Q: (abreviación de Q-Anónimo) es una de las principales teorías de la conspiración de la extrema derecha estadounidense, la cual detalla una supuesta trama secreta organizada por un supuesto “Estado profundo” contra Donald Trump y sus seguidores.

La idea general de la trama es que hay actores de Hollywood, identificados como políticamente progresistas, políticos del Partido Demócrata y funcionarios de alto rango que participan en una red internacional de tráfico sexual de niños y realizan actos pedófilos; y que Trump los está investigando y persiguiendo para prevenir un supuesto golpe de Estado orquestado por Barack Obama, Hillary Clinton y George Soros. ​ Los medios de comunicación han descrito a QAnon como una «rama» de la teoría de la conspiración Pizzagate, ​ y muchos la han considerado como una actualización de los protocolos de los sabios de Sion.

Aunque de origen estadounidense, existe un movimiento QAnon fuera de los Estados Unidos, incluso en el Reino Unido y Francia desde 2020​, con un movimiento «particularmente fuerte y creciente» en Alemania y Japón. ​ Los adherentes japoneses de QAnon también son conocidos como «JAnon».

Los adherentes de QAnon comúnmente etiquetan sus publicaciones en las redes sociales con el hashtag #WWG1WGA, que significa el lema “Where We Go One, We Go All” (traducido como Donde vamos uno, vamos todos), derivado de la película White Squall de 1996.

La teoría comenzó con una publicación, en octubre de 2017, realizada por un anónimo en el foro 4chan que usaba el nombre Q. Este era, al parecer, un individuo estadounidense, pero más tarde creció hasta convertirse en un grupo de personas, que aseguraba tener acceso a información clasificada sobre la administración Trump. “Q” es una referencia a la autorización de acceso Q utilizada por el Departamento de Energía de dicho país, requerida para acceder a los datos restringidos de alto secreto y a información de seguridad nacional. Según la cadena NBC, al menos tres personas tomaron la publicación original de «Q» y poco después la volvieron a publicar en múltiples plataformas como 4chan, como «FBIAnon», «HLIAnon», «CIAAnon» y «WH Insider Anon».

Los seguidores de QAnon comenzaron a aparecer en los mítines de la campaña de reelección de Trump en agosto de 2018, recibiendo bastante promoción en redes sociales y algunas estaciones de radio, llegando a organizar mítines a las afueras de la Casa Blanca. ​ En agosto del 2019 el FBI publicó un informe en el cual calificaba a QAnon como una fuente potencial de terrorismo interno, la primera vez que dicha agencia calificaba de este modo un grupo derivado de una teoría de conspiración. ​ Según el análisis de la organización Media Matters for America, en octubre de 2020, Trump había amplificado los mensajes de QAnon al menos 265 veces al retuitear o mencionar 152 cuentas de Twitter afiliadas a QAnon, a veces varias veces al día. ​ Los seguidores de QAnon se refieren a Donald Trump como «Q+».

El número exacto de adeptos de QAnon es incierto, ​ pero gran parte de su actividad es en línea. ​ El sitio web del tablón de imágenes 8chan (rebautizado como 8kun en 2019) es el hogar en línea de QAnon, ya que es el único lugar donde «Q» publica mensajes. ​ En junio de 2020, en una publicación en 8chan, Q exhortó a sus seguidores a hacer un «juramento de soldados digitales»; cosa que muchos hicieron, usando el hashtag de Twitter #TakeTheOath.³⁰​ En julio de 2020, Twitter prohibió miles de cuentas afiliadas a QAnon y cambió sus algoritmos para reducir la propagación de dicha teoría de la conspiración. Un análisis interno de Facebook informado en agosto de 2020 encontró millones de seguidores en miles de grupos y páginas; Facebook actuó para eliminar y restringir la actividad de QAnon, y en octubre dijo que prohibiría por completo esta teoría de la conspiración de su plataforma. ​ Los seguidores también habían migrado a foros de mensajes dedicados, incluido EndChan, donde se organizaron para librar una guerra de información en un intento de influir en las elecciones del 2020. ​