La Alucinación De Una IA Que Casi Abrió Fuego Entre EEUU Y China
El aviso parecía lo bastante grave como para movilizar aviones y preparar a un grupo de militares estadounidenses para abordar un carguero chino en Oriente Próximo. Según un informe de inteligencia estadounidense distribuido en primavera, en plena guerra con Irán, el buque transportaba componentes destinados a un programa de armas nucleares. Los mandos comenzaron a organizar la interceptación. Sólo cuando la operación estaba a punto de ejecutarse, alguien volvió a mirar con detenimiento el documento que había encendido todas las alarmas.
La fuente decisiva no era un espía infiltrado, una imagen de satélite ni una comunicación interceptada. Era un chatbot.
Según una información publicada por la CNN, un analista de un comando de operaciones especiales de EEUU había recurrido a la IA para examinar la carga del barco. La máquina identificó erróneamente el material y su conclusión acabó convertida en un informe que circuló como si fuera inteligencia fiable.
El documento era "completamente falso" y "estuvo a punto de desencadenar una guerra", relató una de las cuatro fuentes conocedoras del episodio citadas por CNN. Atacar o abordar por la fuerza un buque chino habría colocado frente a frente a las dos mayores potencias militares del planeta.
No hizo falta un robot asesino rebelándose contra su programador. Bastó una respuesta equivocada que fue escalando por una cadena humana demasiado dispuesta a creerla. El peligro inmediato no es que la máquina comience una guerra, sino que entregue a quienes pueden empezarla una falsedad convincente cuando apenas queda tiempo para comprobarla.
Todo este debate acompañará a Donald Trump y Xi Jinping cuando los dos hombres más poderosos del mundo se reúnan el próximo jueves en Washington. La IA figura en los preparativos de una cumbre dominada también por los aranceles, los semiconductores, las tierras raras y Taiwán. Los negociadores estudian posibles salvaguardas contra el uso indebido de modelos. Pero nadie espera un gran tratado: ambos países temen al mismo accidente y ninguno quiere aceptar límites que permitan al rival correr más deprisa.
"Quien Gane En Ia, Gana"
Trump resumió su doctrina esta semana con una frase sin matices: "Quien gane en inteligencia artificial, gana". Washington está integrando algoritmos en casi todas las capas de su aparato militar: procesan datos, localizan amenazas, ayudan a seleccionar objetivos y recomiendan qué recursos desplegar.
En enero, el secretario de Defensa, Pete Hegseth, presentó una estrategia para acelerar esa adopción y eliminar trabas burocráticas. EEUU sostiene que no puede contenerse mientras el Ejército Popular de Liberación de China aplica la IA a la vigilancia, la planificación, los enjambres de drones y la guerra electrónica.
Esta semana, la inquietud llegó al Foro de Xiangshan, el principal escaparate de la diplomacia castrense china. Unos 2.000 oficiales, diplomáticos y académicos de alrededor de cien países se reunieron durante tres días en Pekín. Se habló de drones baratos, algoritmos capaces de recomendar un ataque en segundos y noticias falsas que pueden incendiar una crisis antes de que un Gobierno consiga desmentirlas. La IA, presentada durante años como el gran multiplicador del poder militar, apareció bajo una luz menos triunfal: la tecnología acelera la guerra mucho más deprisa que las reglas concebidas para contenerla.
"La IA acelera la toma de decisiones, mientras que la desinformación puede erosionar la confianza pública antes incluso de que los gobiernos sean capaces de responder", advirtió el secretario de Defensa paquistaní, Muhammad Ali. Un algoritmo detecta una señal, la clasifica como amenaza y propone una respuesta en instantes. Cuanto más veloz sea, menos margen conserva el operador para distinguir entre un ataque real, un señuelo o una alucinación como la del carguero de Oriente Próximo.
Jürg Lauber, vicepresidente del Comité Internacional de la Cruz Roja, reclamó en Pekín preservar el control humano sobre el uso de la fuerza. Ucrania ya ha mostrado la tendencia: drones baratos vigilan, corrigen el fuego y atacan; el reconocimiento automático de objetivos promete reducir aún más la intervención del combatiente.
El riesgo se multiplica cuando esos sistemas rozan arsenales nucleares o centros de mando. Pekín y Washington comparten una línea roja elemental: la decisión de emplear armas atómicas debe permanecer en manos humanas. Expertos de ambos países proponen una línea directa para incidentes relacionados con la IA y protocolos de notificación. El problema comienza al convertir esos principios en reglas verificables.
China aprovechó su principal foro de defensa para presentarse como defensora de una gobernanza multilateral. El ministro de Defensa, Dong Jun, describió la seguridad internacional como "frágil" y pidió cooperación en IA. Xi reclamó durante la reciente cumbre de los BRICS desarrollar la tecnología "para el bien común". Casi al mismo tiempo, Chen Yixin, ministro de Seguridad del Estado, la definió como "el principal campo de batalla de la competencia tecnológica global". Pekín pide reglas universales mientras blinda sus algoritmos y persigue la autosuficiencia en chips.
La contradicción se repite en Washington. Trump desconfía de una regulación que pueda frenar a las empresas norteamericanas justo cuando China ofrece modelos baratos al Sur Global. Puede aceptar barandillas contra una catástrofe, pero no un acuerdo que reduzca su ventaja. Xi tampoco congelará una herramienta esencial para modernizar su Ejército.
Por eso, los analistas apuntan a que el resultado más plausible de la cumbre no es un tratado, sino un puñado de compromisos estrechos: abrir canales de emergencia y explorar pruebas de seguridad compartidas. Cuando Trump y Xi se sienten en unos días frente a frente en Washington, negociarán sobre una tecnología que ambos quieren controlar sin renunciar a dominarla.