Cómo la IA está cambiando la guerra: de los drones a las cadenas de ataque

La IA está cambiando la guerra desde los talleres de mantenimiento hasta los ataques con misiles. A finales de 2021, la Royal Navy preguntó a Microsoft y Amazon Web Services si había una mejor manera de coordinar un hipotético equipo de asalto de comandos en el Caribe con los sistemas de misiles de una fragata.

Las empresas tecnológicas colaboraron con BAE Systems, Anduril y otros contratistas militares. En 12 semanas —una rapidez inconcebible en contratación de defensa— el consorcio se reunió en Somerset, en el Reino Unido, para una demostración de lo que se denominó StormCloud.

StormCloud: una red en malla para sensores y armas

Los infantes de marina sobre el terreno, los drones en el aire y muchos otros sensores se conectaron a través de una red «en malla» de radios avanzadas que permitía a cada uno ver, sin fisuras, lo que ocurría en otros puntos, una configuración que ya había permitido a los infantes de marina superar con creces a fuerzas mucho mayores en ejercicios anteriores.

Los datos que recogieron se procesaron tanto en el «borde» de la red, a bordo de pequeños ordenadores robustos sujetos con correas elásticas a vehículos de comandos, como en lejanos servidores en la nube, adonde se habían enviado por satélite. El software de mando y control vigilaba una zona designada, decidía qué drones debían volar adónde, identificaba objetos en tierra y sugería qué arma debía atacar cada objetivo.

Los resultados fueron impresionantes. Era evidente que StormCloud era la «cadena de ataque más avanzada del mundo», dice un oficial que participó en el experimento, en referencia a una red de sensores (como drones) y armas (como misiles) entrelazados con redes digitales y software para dar sentido a los datos que fluyen en ambas direcciones. Incluso hace dos años, dice, estaba «a años luz», en términos de velocidad y fiabilidad, de los oficiales humanos de un cuartel general convencional.

La IA en combate, de Gaza a Ucrania

Las herramientas y armas con IA no solo se despliegan en ejercicios. También se utilizan a una escala cada vez mayor en lugares como Gaza y Ucrania. Las fuerzas armadas vislumbran oportunidades extraordinarias. También temen quedarse atrás frente a sus adversarios. El gasto aumenta con rapidez (véase el gráfico 1). Pero juristas y expertos en ética temen que la IA haga la guerra más rápida, más opaca y menos humana.

No existe una única definición de IA. Cosas que antes habrían merecido ese término, como la navegación por correlación con el terreno de los misiles Tomahawk en los años ochenta o las capacidades de detección de carros de combate de los misiles Brimstone a principios de los 2000, hoy se consideran software rutinario. Y muchas capacidades punteras descritas como IA no implican el «aprendizaje profundo» ni los grandes modelos de lenguaje que sustentan servicios como ChatGPT. Pero, en diversas formas, la IA se está filtrando en todos los aspectos de la guerra.

La IA poco glamurosa: mantenimiento, logística y personal

Empieza por lo aburrido: mantenimiento, logística, personal y otras tareas necesarias para mantener a los ejércitos dotados de efectivos, alimentados y abastecidos de combustible. Un estudio reciente de RAND Corporation reveló que la IA, al predecir cuándo sería necesario el mantenimiento de los aviones de ataque A-10C, podría ahorrar a la Fuerza Aérea estadounidense 25 millones de dólares al mes al evitar averías y el exceso de piezas (aunque la IA funcionó peor con piezas que rara vez fallaban).

La logística es otro ámbito prometedor. El Ejército de Estados Unidos está utilizando algoritmos para predecir cuándo los obuses ucranianos necesitarán tubos nuevos, por ejemplo. La IA también está empezando a llegar a recursos humanos. El ejército está utilizando un modelo entrenado con 140.000 expedientes de personal para ayudar a puntuar a los soldados para ascensos.

Drones autónomos en primera línea

En el otro extremo está el frente. Tanto Rusia como Ucrania se han apresurado a desarrollar software para que los drones sean capaces de navegar y dirigirse a un objetivo de forma autónoma, incluso si las interferencias interrumpen el enlace entre piloto y dron. Ambos bandos suelen utilizar pequeños chips para este fin, que pueden costar tan solo 100 dólares.

Los vídeos de ataques con drones en Ucrania muestran cada vez más «recuadros» que aparecen alrededor de objetos, lo que sugiere que el dron está identificando y fijando un objetivo. La tecnología sigue siendo inmadura, y los algoritmos de designación de objetivos se enfrentan a muchos de los mismos problemas que los coches autónomos, como entornos abarrotados y objetos ocultos, y a algunos propios del campo de batalla, como el humo y los señuelos. Pero está mejorando con rapidez.

Entre la IA de retaguardia y la IA dentro de las municiones se abre un vasto ámbito de innovación, experimentación y avances tecnológicos. Los drones, por sí solos, están perturbando la guerra, más que transformándola, sostienen Clint Hinote, general retirado de la Fuerza Aérea estadounidense, y Mick Ryan, general retirado australiano. Pero cuando se combinan con «sistemas de mando y control digitalizados» (piénsese en StormCloud) y «nuevas redes en malla de sensores civiles y militares», el resultado, dicen, es una «trinidad transformadora» que permite a los soldados en primera línea ver información en tiempo real y actuar sobre ella, cuando antes estaba confinada a un cuartel general distante.

Verlo todo: sensores, voz y visión por computador

La IA es un requisito para ello. Empecemos por la malla de sensores. Imagínense datos de drones, satélites, redes sociales y otras fuentes circulando por una red militar. Hay demasiados para procesarlos manualmente. Tamir Hayman, general que dirigió la inteligencia militar israelí hasta 2021, señala dos grandes avances. El «salto fundamental», dice, hace ocho o nueve años, fue el software de conversión de voz a texto que permitió buscar palabras clave en interceptaciones de voz. El otro fue la visión por computador.

El Proyecto Spotter, del Ministerio de Defensa británico, ya utiliza redes neuronales para la «detección e identificación automatizadas de objetos» en imágenes por satélite, lo que permite que los lugares se «vigilen automáticamente 24 horas al día, 7 días a la semana, ante cambios en la actividad». Hasta febrero, una empresa privada había etiquetado 25.000 objetos para entrenar el modelo.

Tom Copinger-Symes, general británico, declaró el año pasado ante la Cámara de los Lores que esos sistemas estaban «todavía en las fases altas de investigación y desarrollo más que en despliegue a gran escala», aunque señaló el uso de herramientas comerciales para identificar, por ejemplo, grupos de civiles durante la evacuación de ciudadanos británicos de Sudán a principios de 2023.

Estados Unidos parece más avanzado. Puso en marcha el Proyecto Maven en 2017 para hacer frente a la avalancha de fotos y vídeos tomados por drones en Afganistán e Irak. Maven «ya está produciendo grandes volúmenes de detecciones por visión por computador para necesidades operativas», señaló en mayo el director de la Agencia Nacional de Inteligencia Geoespacial, que dirige el proyecto. El objetivo declarado es que Maven «iguale o supere el rendimiento humano en detección, clasificación y seguimiento». Aún no lo ha logrado: tiene problemas con casos difíciles, como armas parcialmente ocultas.

Pero The Economist, con su rastreador de incendios relacionados con la guerra en Ucrania —basado en aprendizaje automático, totalmente automatizado y a una escala que los periodistas no podrían igualar— ya ha detectado 93.000 probables incendios provocados por la guerra.

Sonar, minas y caza de submarinos

La IA puede procesar más que llamadas telefónicas o imágenes. En marzo, la Royal Navy anunció que su unidad de caza de minas había completado un año de experimentación en el golfo Pérsico con una pequeña embarcación autónoma, la Harrier, cuyo sonar remolcado podía buscar minas en el fondo marino y alertar a otros buques o unidades en tierra.

Y Michael Horowitz, funcionario del Pentágono, declaró recientemente a Breaking Defense que Estados Unidos, Australia y el Reino Unido, como parte de su pacto AUKUS, habían desarrollado un «algoritmo trilateral» que podría utilizarse para procesar los datos acústicos recogidos por las sonoboyas lanzadas desde los aviones P-8 de caza de submarinos de cada país. En la mayoría de estos casos, la IA identifica una señal entre el ruido o un objeto entre la confusión: ¿es eso un camión o un carro de combate? ¿Un ancla o una mina? ¿Un arrastrero o un submarino?

Identificar personas y fusionar inteligencia

Identificar a combatientes humanos es quizá más complicado y, sin duda, más polémico. En abril +972 Magazine afirmó que las Fuerzas de Defensa de Israel (IDF) estaban utilizando una herramienta de IA conocida como Lavender para identificar a miles de palestinos como objetivos, y que los operadores humanos solo examinaban superficialmente los resultados del sistema antes de ordenar ataques. Las IDF replicaron que Lavender era «simplemente una base de datos cuyo propósito es cruzar fuentes de inteligencia».

En la práctica, es probable que Lavender sea lo que los expertos llaman un sistema de apoyo a la decisión (DSS, por sus siglas en inglés), una herramienta para fusionar distintos datos como registros telefónicos, imágenes por satélite y otra inteligencia. El uso por parte de Estados Unidos de sistemas informáticos para procesar datos acústicos y olfativos de sensores en Vietnam podría considerarse un DSS primitivo. También lo sería, señala Rupert Barrett-Taylor, del Instituto Alan Turing de Londres, el software utilizado por espías y fuerzas especiales estadounidenses en la guerra contra el terrorismo, que convertía registros telefónicos y otros datos en enormes gráficos en forma de telaraña que visualizaban las conexiones entre personas y lugares, con el objetivo de identificar a insurgentes o terroristas.

De la inteligencia al mando: cuando el software sugiere ataques

Lo diferente es que el software actual se beneficia de mayor potencia informática, algoritmos más avanzados (los avances en redes neuronales solo se produjeron en 2012) y más datos, gracias a la proliferación de sensores. El resultado no es solo más inteligencia o mejor. Es una difuminación de la línea entre inteligencia, vigilancia y reconocimiento (ISR, por sus siglas en inglés) y mando y control (C2, por sus siglas en inglés): entre dar sentido a los datos y actuar a partir de ellos.

Pensemos en el software ucraniano GIS Arta, que recopila datos sobre objetivos rusos, normalmente para baterías de artillería. Ya puede generar listas de posibles objetivos «según las prioridades del comandante», escriben los generales Hinote y Ryan. Una de las razones por las que la designación de objetivos rusa en Ucrania ha mejorado en los últimos meses, dicen oficiales, es que los sistemas rusos de C2 están mejorando en el procesamiento de información de drones y su envío a las piezas de artillería. «Según algunas estimaciones», escribe Arthur Holland Michel en un documento para el Comité Internacional de la Cruz Roja (CICR), «una actividad de búsqueda, reconocimiento y análisis de objetivos que antes llevaba horas podría reducirse… a minutos».

La Fuerza Aérea estadounidense pidió recientemente a RAND Corporation que evaluara si las herramientas de IA podían ofrecer opciones a un «combatiente espacial» ante una amenaza entrante contra un satélite. La conclusión fue que la IA sí podía recomendar respuestas de «alta calidad». Del mismo modo, DARPA, el brazo de investigación avanzada del Pentágono, trabaja en un programa denominado, con retranca, Strategic Chaos Engine for Planning, Tactics, Experimentation and Resiliency (SCEPTER), para producir acciones recomendadas para los comandantes durante «enfrentamientos militares a alta velocidad de máquina». En esencia, puede generar planes de guerra novedosos sobre la marcha.

«Muchos de los métodos que se emplean» en SCEPTER y proyectos similares de DARPA «ni siquiera existían hace dos o cinco años», dice Eric Davis, director de programa en la agencia. Señala el ejemplo de la «teoría del operador de Koopman», un marco matemático antiguo y oscuro que puede utilizarse para analizar sistemas complejos y no lineales —como los que se dan en la guerra— en términos de álgebra lineal más sencilla. Los avances recientes en su aplicación han hecho más abordables una serie de problemas de IA.

¿Puede la IA respetar las leyes de la guerra?

El resultado de todo esto es una creciente brecha intelectual entre quienes tienen como oficio hacer la guerra y quienes tratan de domesticarla. Expertos jurídicos y éticos sostienen que el creciente papel de la IA en la guerra está plagado de peligros. «Los sistemas que tenemos ahora no pueden reconocer la intención hostil», sostiene Noam Lubell, de la Universidad de Essex. «No pueden distinguir entre un soldado bajo con un arma real y un niño con una pistola de juguete… o entre un soldado herido desplomado sobre un fusil y un francotirador listo para disparar con un fusil de precisión». Tales algoritmos «no pueden utilizarse legalmente», concluye.

Las redes neuronales también pueden ser engañadas con demasiada facilidad, dice Stuart Russell, informático: «Se podrían tomar objetos perfectamente inocentes, como farolas, e imprimir en ellos patrones que convencerían al arma de que se trata de un carro de combate».

Los defensores de la IA militar replican que los escépticos tienen una visión demasiado idealizada de la guerra. Un dron de ataque que busque un objeto concreto quizá no sea capaz de reconocer, y menos aún de respetar, un intento de rendición, reconoce un exoficial británico implicado en la política sobre IA. Pero si la alternativa es un intenso fuego de artillería, «en esa circunstancia no hay rendición posible». Keith Dear, exoficial de la Royal Air Force que ahora trabaja para Fujitsu, va más allá con su argumento a favor de la delegación si las tasas de error son menores.

«Realizamos varios tipos de pruebas en las que comparamos las capacidades y los logros de la máquina con los del ser humano», dice el general Hayman, de las IDF. «La mayoría de las pruebas revelan que la máquina es muchísimo más precisa… en la mayoría de los casos no hay comparación».

Una falacia consiste en extrapolar a partir de las campañas antiterroristas de los años 2000. «El futuro no va de identificar por reconocimiento facial a un tipo y dispararle desde 10.000 pies», sostiene Palmer Luckey, fundador de Anduril, una de las empresas implicadas en StormCloud. «Se trata de intentar hundir una flota de lanchas de desembarco anfibio en el estrecho de Taiwán». Si un objeto tiene la firma visual, electrónica y térmica de un lanzamisiles, sostiene, «es imposible equivocarse… es increíblemente singular». El modelado previo a la guerra reduce aún más la incertidumbre: «El 99 % de lo que se vea en el conflicto con China se habrá simulado múltiples veces», dice el Sr. Luckey, «mucho antes de que ocurra».

«El problema es que cuando la máquina comete errores, son errores horribles», dice el general Hayman. «Si se aceptan, conducirían a sucesos traumáticos». Por ello se opone a sacar al humano «del bucle» y automatizar los ataques. «Es muy tentador», reconoce. «Se acelerará el procedimiento de una manera sin precedentes. Pero se puede vulnerar el derecho internacional». El Sr. Luckey admite que la IA será menos relevante en el trabajo «sucio, farragoso y espantoso» de la guerra urbana al estilo de Gaza. «Si la gente imagina que habrá robots Terminator buscando al Muhammad correcto y disparándole… no es así como va a funcionar».

Por su parte, el CICR advierte de que los sistemas de IA son potencialmente impredecibles, opacos y susceptibles de sesgos, pero admite que «pueden facilitar una recopilación y análisis más rápidos y amplios de la información disponible… minimizando los riesgos para los civiles». Mucho depende de cómo se utilicen las herramientas. Si las IDF emplearon Lavender como se ha informado, sugiere que el problema fueron unas reglas de enfrentamiento demasiado amplias y unos operadores laxos, más que una patología del propio software.

Armas autónomas: ¿qué cuenta como control humano?

Durante muchos años, expertos y diplomáticos han estado discutiendo en Naciones Unidas si restringir o prohibir los sistemas de armas autónomos (AWS, por sus siglas en inglés). Pero incluso definirlos es difícil. El CICR dice que los AWS son aquellos que eligen un objetivo a partir de un perfil general —cualquier carro de combate, por ejemplo, en lugar de un carro concreto—. Eso incluiría muchos de los drones que se utilizan en Ucrania. El CICR es partidario de prohibir los AWS que atacan a personas o se comportan de forma impredecible.

El Reino Unido replica que las armas «totalmente» autónomas son aquellas que identifican, seleccionan y atacan objetivos sin «participación humana adecuada al contexto», un listón mucho más alto. El Pentágono adopta un punto de vista similar, haciendo hincapié en «niveles adecuados de juicio humano».

Definir eso, a su vez, es endiabladamente difícil. Y no se trata solo del acto letal, sino de lo que viene antes. Un dron de ataque altamente autónomo puede parecer carente de control humano. Pero si su comportamiento se comprende bien y se utiliza en una zona donde se sabe que hay objetivos militares legítimos y no hay civiles, podría plantear pocos problemas. Por el contrario, una herramienta que se limita a sugerir objetivos puede parecer más benigna. Pero los comandantes que aprueban manualmente objetivos concretos sugeridos por la herramienta «sin claridad cognitiva ni consciencia», como dice Article 36, un grupo de defensa, —pulsar sin pensar el botón rojo, en otras palabras— han abdicado de la responsabilidad moral ante una máquina.

Es probable que el dilema se agrave por dos motivos. Uno es que la IA engendra IA. Si un ejército utiliza la IA para localizar y alcanzar objetivos con mayor rapidez, el otro bando puede verse obligado a recurrir a la IA para seguir el ritmo. Ya ocurre con la defensa antiaérea, donde el software avanzado ha sido esencial para rastrear amenazas entrantes desde los albores de la era informática. El otro motivo es que será más difícil para los usuarios humanos comprender el comportamiento y las limitaciones de los sistemas militares. El aprendizaje automático moderno aún no se utiliza ampliamente en sistemas «críticos» de apoyo a la decisión, señala el Sr. Holland Michel. Pero lo será. Y esos sistemas asumirán tareas «menos definibles matemáticamente», señala, como predecir la intención futura de un adversario o incluso su estado emocional.

La IA y la decisión nuclear

Incluso se habla de utilizar la IA en la decisión nuclear. La idea es que los países no solo podrían fusionar datos para seguir amenazas entrantes (como ocurre desde los años cincuenta), sino también tomar represalias automáticamente si la dirigencia política muere en un primer ataque. La Unión Soviética trabajó en este concepto de «mano muerta» durante la Guerra Fría como parte de su sistema «Perimetr». Sigue en uso y ahora se rumorea que depende de software basado en IA, señala Leonid Ryabikhin, exoficial de la fuerza aérea soviética y experto en control de armas. En 2023, un grupo de senadores estadounidenses incluso presentó un nuevo proyecto de ley: la «Block Nuclear Launch by Autonomous Artificial Intelligence Act». Naturalmente, es un ámbito secreto y poco se sabe sobre hasta dónde quieren llegar los distintos países. Pero el tema es lo bastante importante como para haber ocupado un lugar destacado en la agenda de las conversaciones presidenciales del año pasado entre Joe Biden y Xi Jinping.

Humanos aún en el bucle… por ahora

Por el momento, en las guerras convencionales, «casi siempre hay tiempo para que alguien diga sí o no», dice un oficial británico. «No se necesita ni se impulsa la automatización de toda la cadena de ataque». Si eso sería cierto en una guerra de alta intensidad con Rusia o China está menos claro.

En «The Human Machine Team», libro publicado bajo seudónimo en 2021, el general de brigada Yossi Sariel, jefe de una unidad israelí de élite de inteligencia militar, escribió que un «equipo humano-máquina» con IA podría generar «miles de objetivos nuevos cada día» en una guerra. «Hay un cuello de botella humano», sostenía, «tanto para localizar los nuevos objetivos como para tomar la decisión de aprobarlos».

En la práctica, todos estos debates están siendo superados por los acontecimientos. Ni Rusia ni Ucrania prestan mucha atención a si un dron es un sistema de armas «autónomo» o meramente «automatizado». Su prioridad es construir armas que puedan evadir las interferencias y destruir la mayor cantidad posible de blindados enemigos. Los falsos positivos no preocupan mucho a un ejército ruso que hasta la fecha ha bombardeado más de 1.000 instalaciones sanitarias ucranianas, ni a un ejército ucraniano que lucha por su supervivencia.

Quién lidera: Estados Unidos, China y Rusia

Sobre este debate planea también el espectro de una guerra entre grandes potencias. Los países de la OTAN saben que podrían tener que enfrentarse a un ejército ruso que, una vez terminada esta guerra, podría tener una amplia experiencia en construir armas de IA y probarlas en el campo de batalla. China, también, persigue muchas de las mismas tecnologías que Estados Unidos. Las empresas chinas fabrican la gran mayoría de los drones vendidos en Estados Unidos, ya sea como bienes de consumo o para fines industriales.

El informe anual del Pentágono sobre el poder militar chino observa que en 2022 el Ejército Popular de Liberación (PLA, por sus siglas en inglés) empezó a hablar de «guerra de precisión multidominio»: el uso de «macrodatos e inteligencia artificial para identificar rápidamente vulnerabilidades clave» en los sistemas militares estadounidenses, como satélites o redes informáticas, que luego podrían ser atacados.

La cuestión es quién lleva ventaja. Antes a los oficiales estadounidenses les preocupaba que las laxas normas de privacidad de China y su control sobre el sector privado dieran al PLA acceso a más y mejores datos, lo que se traduciría en algoritmos y armas superiores. Esas preocupaciones se han atenuado. Un estudio reciente de datos de contratación del Centro para la Seguridad y la Tecnología Emergente (CSET, por sus siglas en inglés) de la Universidad de Georgetown concluyó que Estados Unidos y China «dedican niveles comparables de atención a un conjunto similar de aplicaciones de IA» (véase el gráfico 2).

Además, Estados Unidos se ha adelantado en modelos punteros, gracias en parte a sus restricciones de chips. En 2023 produjo 61 modelos notables de aprendizaje automático y Europa 25, según Epoch AI, empresa de datos. China produjo 15. No son los modelos de los sistemas militares actuales, pero influirán en los futuros. «China se enfrenta a importantes vientos en contra en… IA militar», sostiene Sam Bresnick, del CSET. No está claro si el PLA tiene el talento tecnológico para crear sistemas de primer nivel, señala, y su toma de decisiones centralizada podría obstaculizar el apoyo a la decisión con IA.

Muchos expertos chinos también están preocupados por una IA «poco fiable». «El PLA posee abundante poder militar letal», señala Jacob Stokes, del CNAS, otro laboratorio de ideas, «pero en este momento ninguno parece tener niveles significativos de autonomía habilitada por IA».

Por qué la transformación de la IA sigue lejana

La aparente lentitud de China forma parte de un patrón más amplio. Algunos, como Kenneth Payne, del King’s College de Londres, creen que la IA transformará no solo la conducción de la guerra, sino su naturaleza esencial. «Esta inteligencia fusionada entre máquina y humano anunciaría una era genuinamente nueva de toma de decisiones en la guerra», predice. «Quizá el cambio más revolucionario desde el descubrimiento de la escritura, hace varios miles de años». Pero aunque tales afirmaciones resultan cada vez más plausibles, la transformación sigue obstinadamente lejana en muchos aspectos.

«Lo irónico es que hablamos como si la IA estuviera en todas partes en defensa, cuando no está casi en ninguna», señala Sir Chris Deverell, general británico retirado. «La penetración de la IA en el Ministerio de Defensa del Reino Unido es casi nula… Hay mucho teatro de innovación». Un alto funcionario del Pentágono dice que el departamento ha avanzado seriamente en la mejora de su infraestructura de datos —las tuberías por las que se mueven los datos— y en aeronaves no tripuladas que operan junto a aviones de combate tripulados. Aun así, el Pentágono gasta menos del 1 % de su presupuesto en software, una estadística que los directivos de empresas emergentes de tecnología de defensa repiten con frecuencia.

«Lo singular [del Pentágono] es que nuestra misión implica el uso de la fuerza, así que hay mucho en juego», dice el funcionario. «Tenemos que adoptar la IA con rapidez y con seguridad». Mientras tanto, el StormCloud británico va «a mejor», dice un oficial implicado en su desarrollo, pero el proyecto ha avanzado lentamente por la política interna y la burocracia en torno a la acreditación de nueva tecnología. La financiación para su segunda fase fue de unos exiguos 10 millones de libras, calderilla en el mundo de la defensa. El plan es utilizarlo en varios ejercicios este año. «Si fuéramos Ucrania o estuviéramos realmente preocupados por entrar en guerra en breve», dice el oficial, «habríamos gastado más de 100 millones de libras y lo habríamos desplegado en semanas o meses».

Report a correction