Inteligencia Artificial y sus peligros
Laboratorio del Futuro | 10 de septiembre de 2026
Dr. Ricardo Petrissans Aguilar.
El 6 de julio de 2026, en la región de Zaporizhzhia, en el sureste de Ucrania, tres personas murieron. No eran combatientes. Eran civiles. Una estudiante universitaria de 19 años y dos hombres de 41 y 48 años. Estaban en una gasolinera cuando el dron impactó.
Según una investigación del New York Times publicada en agosto, el aparato era un dron ruso Molniya guiado íntegramente por un sistema de inteligencia artificial. Llevaba instalado un chip Nvidia Jetson Orin, el mismo tipo de procesador que alimenta los sistemas de IA más avanzados del mundo. El sistema identificó, seleccionó y atacó a sus objetivos sin intervención humana.
Los investigadores forenses que examinaron los restos del dron encontraron evidencia reveladora: el aparato no tenía antenas para comunicarse con un operador. Volaba en un grupo de aproximadamente seis drones, ninguno de los cuales transmitía señales de radio. El minicomputador Nvidia, que cuesta solo unos cientos de dólares, era el que tomaba las decisiones de objetivo.
Los drones funcionan así: un operador programa el dron para que vuele hacia un objetivo específico, como una gasolinera. A medida que se aproxima, el dron elige su objetivo final —tanques de propano, por ejemplo— por sí solo, basándose en entrenamiento previo para reconocer ese tipo de contenedores. Hasta ahora, la visión artificial se había utilizado a escala solo en la etapa final de un ataque, fijando un objetivo automáticamente después de que un operador ya lo había elegido. La IA totalmente autónoma elimina al humano de esa decisión final.
Rusia comenzó a probar drones Molniya con guiado por IA en mayo de 2026. Ucrania también está experimentando con sistemas de IA en varios modelos de drones. La tecnología se está proliferando rápidamente.
La reacción internacional fue rápida y contundente. António Guterres, Secretario General de la ONU, y Mirjana Spoljaric, presidenta del Comité Internacional de la Cruz Roja, emitieron un llamado conjunto sin precedentes: «Estamos peligrosamente cerca de cruzar una línea roja moral: la caza autónoma de seres humanos por máquinas».
El llamado conjunto pedía la prohibición de dos tipos de armas autónomas: aquellas cuyas acciones son «impredecibles» y aquellas que tienen como objetivo a seres humanos. Pero actualmente no existe ningún tratado específico sobre armas autónomas. Desde hace una década se debate un posible futuro tratado, pero el proceso ha estado estancado.
En septiembre de 2026, casi 130 países alcanzaron un acuerdo inicial en la ONU sobre un texto que define las armas autónomas. Sin embargo, el documento aún no es vinculante y no está claro cuándo lo será.
El derecho internacional humanitario exige que los ataques distingan entre combatientes y civiles, que sean proporcionales y que exista responsabilidad. Pero cuando una máquina toma la decisión de matar, ¿quién es responsable? ¿El programador que escribió el código? ¿El comandante que desplegó el dron? ¿El fabricante del chip? ¿El Estado que autorizó su uso?
La pregunta ya no es si las máquinas matarán sin humanos, sino cuándo lo harán a escala industrial. Y si no se establecen límites claros pronto, la línea roja moral se cruzará sin que nadie pueda detenerlo.
Evaluación de riesgo
| Horizonte | Riesgo | Nivel |
|---|---|---|
| Cortísimo plazo (2026-2028) | Erosión acelerada de la confianza en instituciones, medios y procesos electorales | Crítico |
| Corto plazo (2028-2031) | Imposibilidad práctica de verificar contenido audiovisual en tiempo real | Muy alto |
| Mediano plazo (2031-2036) | Colapso de los mecanismos de autenticación y verificación de identidad digital | Extremo |
