Leonid Savin
¿Qué es la guerra algorítmica?
En los Estados Unidos, hay muchos conceptos, doctrinas y estrategias que registran varios términos nuevos relacionados con la conducción de operaciones militares. Uno de esos conceptos es la guerra algorítmica, que ya se utiliza en documentos y publicaciones del Departamento de Defensa de Estados Unidos sobre el tema del conflicto. Aunque es relativamente nuevo, las primeras discusiones sobre el tema se remontan a 2016.
En el otoño de 2016, varios científicos estadounidenses propusieron el concepto de un "algoritmo militar" y una estructura adjunta para la "responsabilidad de los algoritmos militares". i La idea principal de este enfoque es que en la guerra, como en muchos otras áreas de la vida moderna, el poder y la fuerza se expresan más a menudo algorítmicamente. Estos académicos definieron un "algoritmo militar" como cualquier algoritmo, expresado en código de computadora, que se implementa mediante un sistema diseñado y que es capaz de operar en un conflicto armado.
En ese momento, como cualquier concepto nuevo, la guerra algorítmica no era una definición del todo clara, lo que requería la creación de una taxonomía adecuada, es decir, el desarrollo de un aparato terminológico y explicaciones en todos los niveles de decisiones. El ejército estadounidense todavía está particularmente preocupado por las tecnologías de inteligencia artificial, cuya “elección” es difícil o incluso imposible de predecir para los humanos, y cuyas “decisiones” se consideran como “reemplazantes” del juicio humano.
Además de proponer "algoritmos militares" como nuevo tema organizativo, Estados Unidos está considerando el uso de sistemas de combate autónomos (es decir, robots armados), la relación con el derecho internacional humanitario (también conocido como derecho de los conflictos armados), el derecho penal internacional, transferencias de armas, espacio espacial y derechos humanos. ii
Es significativo que Estados Unidos ya esté considerando posibles escenarios para responsabilizar a las personas por el desarrollo o uso de algoritmos de guerra. iii Es decir, en este ámbito, como en otros, Estados Unidos quiere reivindicar para sí la prerrogativa exclusiva de determinar y emitir un juicio sobre quién, dónde y bajo qué condiciones puede aplicar “algoritmos militares” y quién será un “violador de las reglas” y criminal de guerra.
En general, el proceso de discusión e introducción de este concepto en la terminología recuerda a las primeras publicaciones sobre guerras centradas en redes. Luego hablaron de cambiar el paradigma económico de Estados Unidos, que debería representar un ecosistema conectado, donde las líneas de comunicación sean un vínculo importante y la velocidad de transferencia de información sea clave. Como resultado, las empresas construidas y operadas según el principio de red fueron más eficientes y competitivas.
El desarrollo y la ubicuidad de Internet y el surgimiento de las redes sociales se consideraban cada vez más herramientas de guerra que ya no podían pasarse por alto. A principios de 2011, el número de usuarios de Internet superó los dos mil millones y, en 2014, el número de teléfonos inteligentes vendidos anualmente superó los 1,5 mil millones de dispositivos. Y para entonces Internet se había convertido en una plataforma para la manipulación política. No es casualidad que la destrucción del edificio del parlamento moldavo en 2009 fuera llamada nada menos que la revolución de Twitter (por analogía con las revoluciones de color). Al mismo tiempo, los proveedores de servicios de redes sociales y las agencias de marketing intentaban maximizar los ingresos publicitarios, por lo que se introdujeron ciertos algoritmos en las redes sociales. En el mismo 2009 ya empezaron a utilizarse en Facebook, y luego en Twitter e Instagram. Las redes sociales también jugaron un papel importante durante los acontecimientos de la Primavera Árabe en 2010-2012. Se utilizaron para dar forma a debates políticos y difundir contenido antigubernamental sin importar fronteras ni intentos de control gubernamental. Donald Trump construyó su campaña electoral centrándose en las redes sociales y, con la ayuda de la empresa Cambridge Analitica, que recopiló y analizó datos de perfil de las redes sociales, logró conseguir el apoyo de la mayoría de los votantes. Luego comenzaron a utilizarse las tecnologías de bots y trolls, y ahora los llamados deepfakes, cuando una imagen de vídeo creada artificialmente es difícil de distinguir del original.
El ejército estadounidense está convencido de que la guerra algorítmica tiene ventajas especiales. iv Se trata, en primer lugar, de la flexibilidad y adaptabilidad del sistema. Los algoritmos no supervisados, debido a su flexibilidad y capacidad para extraer información incluso en escenarios nuevos, son ideales para misiones del mundo real. En resumen, sin información predeterminada, los sistemas no supervisados pueden operar y aprender a medida que hay nueva información disponible. Los programas exitosos de guerra algorítmica requerirán que el personal militar sea igualmente adaptable a su ejecución táctica y capacidad de aprendizaje.
En segundo lugar, reducir la complejidad de la misión. Se sabe que el aprendizaje profundo reduce la complejidad. La reducción de la dificultad en una misión real se debe a cómo se interpreta y comprende el conocimiento. La guerra algorítmica exitosa, al igual que con los humanos, se basa en el reconocimiento de patrones, el razonamiento y la resolución de problemas.
En tercer lugar, la toma de decisiones independiente sin la participación de la dirección. Dado que la guerra algorítmica implica el uso de medios distintos de los humanos, la inteligencia artificial debe elaborar de forma independiente un plan de acción y tomar una decisión. La inteligencia artificial debe completar la decisión en función de su flexibilidad y conocimiento de las circunstancias.
El Pentágono acelera el proceso de introducción de la IA en la tecnología militar
Todas estas ventajas son, por decirlo suavemente, muy controvertidas. Sin embargo, el departamento militar de Estados Unidos está acelerando el proceso de introducción de la IA en el campo de la tecnología militar. En un nivel puramente militar, las decisiones se tomaron en abril de 2017, cuando el Pentágono creó un "equipo de guerra algorítmica multifuncional". La premisa de esta iniciativa era que mantener la superioridad cualitativa en la guerra requeriría cada vez más el uso de sistemas algorítmicos, inteligencia artificial subyacente y aprendizaje automático.
En 2018 se creó en Estados Unidos el Centro Conjunto de Inteligencia Artificial (JAIC), cuyo objetivo es introducir sistemas de inteligencia artificial en todas las unidades estructurales del ejército estadounidense. Estaba dirigido por Jack Shanahan, exjefe del proyecto Maven y principal ideólogo de la guerra algorítmica. La principal área de interés de JAIC es la computación neuromórfica.
El término "neuromórfico" cuando se aplica a los sistemas informáticos significa que su arquitectura se basa en los principios del cerebro. El sistema neuromórfico representa una desviación de la arquitectura informática clásica de von Neumann. En la arquitectura von Neumann, las unidades de computación y de memoria están separadas.
La diferencia clave entre la arquitectura de los procesadores neuromórficos y la arquitectura clásica es que combinan memoria y núcleos informáticos, y la distancia de transmisión de datos se minimiza. Esto minimiza la latencia y el consumo de energía. Los procesadores neuromórficos, a diferencia de los clásicos, no necesitan acceder a la memoria (o registros) y extraer datos de allí; toda la información ya está almacenada en neuronas artificiales. Por lo tanto, es posible procesar grandes cantidades de datos en dispositivos periféricos sin necesidad de conectar potencia informática adicional.
Otra etapa de preparación para la “guerra algorítmica” fue la creación de la Dirección General de Tecnologías Digitales e Inteligencia Artificial (CDAO), encabezada por el reservista de inteligencia del Cuerpo de Marines, que ha participado repetidamente en operaciones especiales, Joe Larson. vi El desafío de la gobernanza es implementar y escalar tecnologías digitales y algorítmicas para la guerra. También trabajó en el proyecto Maven, y como responsable de la nueva estructura, la iniciativa marco Alpha-1 AI, la creación del grupo de trabajo de Lima centrado en inteligencia artificial generativa y el desarrollo de algoritmos avanzados de aprendizaje automático para la detección de señales acústicas como parte del proyecto Harbinger. Se espera su presentación el 1 de febrero de 2024.
El Proyecto Maven, que el Pentágono hizo público en 2017, utiliza inteligencia artificial y algoritmos para analizar cantidades masivas de datos de video de inteligencia a escala de petabytes de vehículos aéreos no tripulados para desarrollar un sistema que etiquete objetos de forma autónoma en cualquier transmisión de video en vivo. Los datos ya recopilados se procesan mediante algoritmos y se desarrolla un sistema que puede identificar objetos en tiempo real. Luego, este sistema se integra en vehículos aéreos no tripulados, que luego pueden identificar amenazas (y otros objetos) en el cuadro de video para obtener inteligencia o apuntar a objetivos de manera precisa y eficiente.
En enero de 2021, la revista Popular Mechanics publicó un artículo del subsecretario de la Fuerza Aérea de EE. UU., Bill Roper, sobre el tema de la guerra algorítmica. vii En la publicación, Roper analiza el futuro de la guerra asistida basándose en la experiencia existente y las tecnologías emergentes. Roper señaló que en diciembre de 2020 ya había volado en California un avión de reconocimiento U2 cuyo copiloto era inteligencia artificial, siendo la primera vez que la inteligencia artificial controlaba el sistema militar estadounidense.
Para ello se utilizó el algoritmo µZero, desarrollado por Deep Mind, que nació como startup en 2010. El famoso programa AlphaGo, que venció a una persona real en Go, era una especie de prototipo de µZero. Roper concluye su publicación con una tesis sobre el enorme potencial de la inteligencia artificial en las guerras del futuro y destaca especialmente el papel de las asociaciones público-privadas en su desarrollo. “Todos los avances armamentísticos del pasado, como los satélites, la microelectrónica y la propia Internet, fueron creados casi exclusivamente para el ejército estadounidense a precios prohibitivos para la mayoría de los países, y mucho menos para las empresas. Ahora incluso las nuevas empresas pueden competir con capacidades que alguna vez fueron solo de grado militar y en una escala que alguna vez fue de ciencia ficción. La familia µZero es más que un simple momento satélite para la inteligencia artificial de ciencia ficción. De la misma manera (y tal vez más importante) este avance para ganar la guerra no se logró en un laboratorio gubernamental, una base industrial de defensa o un contrato gubernamental. Surgió de una startup de tecnología comercial con una gran idea y escalando para hacerla realidad”.
Cuestiones metodológicas: características del funcionamiento de algoritmos militares.
Se cree que existen varios tipos de algoritmos que pueden utilizarse en la guerra. viii
La primera opción es la deducción inversa. Se puede explicar de forma muy sencilla a cualquiera que tenga conocimientos básicos de álgebra. Es decir, a partir de los datos disponibles, averiguar cuál es la incógnita. Por ejemplo, si se sabe que A+B=C, A=1 y C=3, entonces B debería ser = 2. Por cierto, este es un patrón común que utilizan los militares en diversas tareas cotidianas, por ejemplo. por ejemplo, en reconocimiento al estimar aproximadamente una ubicación o para calcular la ubicación de la artillería enemiga si se conoce la trayectoria de vuelo de la munición (que se registra por medios modernos) para contraatacar utilizando la guerra de contrabatería.
La segunda opción es la reproducción inversa y el análisis del punto focal.
Este método utiliza patrones de situación superpuestos y el estado final táctico, operativo y/o estratégico percibido por el enemigo para medir los sistemas enemigos y los indicadores de desempeño.
Dependiendo de cómo vaya la campaña del enemigo (buena, mala, en algún punto intermedio), se puede volver a las diversas funciones de guerra enemiga y determinar qué unidades y capacidades enemigas están presentes, cuáles son ruido blanco y cuáles están atacando la red. Esto requiere un enfoque más amplio que el primer método. También se utiliza en el ejército estadounidense.
Pero también existe un tercer método, llamado “evolución”. La esencia del algoritmo está en los siguientes pasos:
Paso 1. Determinar el grupo que se estudiará. Esto se hará después de completar la deducción inversa en las primeras etapas de planificación.
Paso 2. Evaluación. La evaluación se realiza convirtiendo los patrones del adversario en patrones situacionales y desarrollando sus análisis de puntos focales y multifuncionales.
Paso 3: Valor de idoneidad. Una vez establecido el objetivo (targeting), se debe realizar un análisis para determinar qué puntos focales dejaron de existir, cuáles de ellos interrumpieron el funcionamiento del sistema y cuáles no fueron influenciados.
Paso 4. Reproducción. Después de evaluar la idoneidad de cada punto focal objetivo, se determina cuáles el enemigo intentaba simplemente replicar y reintroducir en una batalla de desgaste. ¿Cuál de ellos el enemigo intentó reducir en relevancia y centrarse en otras áreas? Cuáles el enemigo todavía quería seguir usando, pero cambiaron por completo la forma en que los había usado anteriormente.
Paso 5. Intersección. A medida que los puntos focales del enemigo desaparecen, cambian o se fortalecen, las técnicas de focalización deben actualizarse para seguir encontrando los medios más eficaces para alcanzar el objetivo. Esto se hace evaluando los diferentes métodos utilizados para la focalización.
Paso 6. Mutación. Al apuntar con éxito a puntos focales enemigos, el sistema enemigo cambiará. Algunos cambios serán obvios durante el proceso de planificación y pueden predecirse. Otros no lo hacen.
Como podemos ver, los algoritmos para operaciones de combate representan mucho más que calcular la trayectoria de las municiones, calcular la navegación o utilizar drones kamikazes contra objetivos identificados y confirmados.
Ejemplos del uso de algoritmos con fines militares.
Veamos cómo funcionan los algoritmos utilizando ejemplos específicos de diferentes áreas de aplicación. El ejército estadounidense utiliza sistemas satelitales GPS para organizar la logística de los vehículos. Pero si no hay señal GPS, puede haber problemas con la ubicación, navegación y sincronización. Para resolver este problema, se desarrolló un programa de posicionamiento, navegación y temporización asegurados (MAPS) que puede funcionar en condiciones en las que el acceso al GPS está bloqueado, alterado o la señal suprimida por la guerra electrónica. ix La primera versión de GEN I fue un sistema de respuesta rápida proporcionado al ejército de EE. UU. para proteger la antena de interferencias y garantizar la disponibilidad del GPS. GEN II proporciona una mayor protección gracias a algoritmos que mezclan datos de diferentes sensores, incluidos los que no son de radiofrecuencia. La última versión de GEN III supone que el programa puede funcionar en las condiciones más extremas.
Otro ejemplo de la vida real de una herramienta de guerra algorítmica es el evento Heron Systems AI Pilot vs. F-16. Heron Systems ha desarrollado un sistema de pilotaje autónomo con inteligencia artificial. Este sistema fue probado por el ejército estadounidense con el nombre en clave "Alpha Air Combat" en agosto de 2020. La IA de Heron venció por primera vez a otros siete equipos de IA de fabricantes de aviones de combate de élite, como Lockheed Martin y Boeing. Luego lo sometieron a un combate aéreo simulado con un F-16 pilotado por un instructor de élite de la USAF. De los cinco disparos realizados, el dron Heron derribó al F-16 cada vez.
El ejército de EE. UU. también se está moviendo en esta dirección y, en asociación con la Universidad de Clemson, ha desarrollado un vehículo terrestre no tripulado SUV de alta velocidad, denominado Deep Orange 14. x El vehículo prototipo puede reconocer y navegar por terrenos desconocidos y complejos: Las características críticas y los algoritmos de autonomía permiten planificar misiones, recopilar información y actualizar mapas. La plataforma está equipada con una interfaz de usuario intuitiva, cámaras y GPS de alta precisión y puede alcanzar velocidades de 45 mph, escalar obstáculos de 18 pulgadas de alto, maniobrar en superficies con una inclinación del 60% y girar 360 grados en dos segundos. Las orugas de 24 pulgadas de ancho funcionan con motores síncronos de imanes permanentes que pueden ofrecer una potencia máxima de 340 kW (456 hp) por oruga. Esta plataforma también cuenta con un tren motriz híbrido de serie adaptable y proporciona agilidad y economía de combustible.
Otro ámbito importante para el Pentágono es la especificación de la inteligencia artificial. Las especificaciones brindan información sobre de dónde proviene el código dentro de las aplicaciones de software clave, o como lo expresa la Administración Nacional de Telecomunicaciones e Información, "la lista de ingredientes que componen los componentes de software", que según los partidarios reduce el riesgo de ciberseguridad.
Según publicaciones militares estadounidenses, las especificaciones de inteligencia artificial pasarán a formar parte del proceso de transformación digital del ejército estadounidense. xi
También existió el Proyecto Convergencia en el ejército estadounidense, que impulsó los experimentos en curso para transformar el ejército. Basado en experiencias anteriores, en 2022 - 2023 se llevó a cabo el ejercicio del Comando de Fuerzas Conjuntas de EE. UU. “Scarlet Dragon Oasis”, centrado en inteligencia artificial y datos. xiii
Según el manual de maniobras, “estos ejercicios utilizan datos para mejorar la capacidad humana de toma de decisiones. Estamos tratando de reducir la carga cognitiva de nuestros soldados y líderes para que puedan tomar decisiones de manera rápida y efectiva y mejorar el conocimiento de la situación".
Estos ejercicios se llevaron a cabo en varios estados de EE. UU., incluidos Carolina del Norte, Georgia, Utah y Florida. Se ha utilizado una variedad de plataformas en todas las áreas para alcanzar objetivos específicos de manera más precisa y efectiva. Y a principios de junio de 2023, el Departamento de Defensa de Estados Unidos inició su último Experimento de Dominio de la Información Global (GIDE, por sus siglas en inglés) que involucra a comandos combatientes y todos los servicios. xiii Los eventos GIDE están diseñados para probar la capacidad de la IA para permitir mayores niveles de integración de datos dentro del ejército de los EE. UU. Un posible objetivo de la prueba es permitir la implementación del Concepto de Control y Comando Conjunto de Todos los Dominios (JADC2) de EE. UU., destinado a coordinar de manera más efectiva los numerosos sensores, sistemas de misiles y redes que forman parte de la difícil estructura militar.
Hace dos años se inició toda una serie de ejercicios de este tipo. Los primeros cuatro fueron dirigidos por el Comando Norte de Estados Unidos y el Comando de Defensa Aeroespacial de América del Norte, y luego asumidos por la nueva Oficina de Inteligencia Digital y Artificial (CDAO) del Pentágono, en asociación con el Estado Mayor Conjunto.
Según el jefe del Comando Norte y de NORAD, general J. Glen VanHerck, el ejercicio se basa en un escenario global "sobre un competidor o adversario potencial... que en realidad ha obligado a otro competidor a intentar aprovechar una situación [simulada".] de crisis actual." El ejército estadounidense anunció su deseo de interconectar más los datos de todas las áreas (incluido el espacio, el ciberespacio submarino, el aire y la tierra) y crear un espacio de toma de decisiones para el comando estadounidense.
Los estudiosos estadounidenses de la guerra y la seguridad nacional dicen que, a pesar de los avances actuales en este campo, hay motivos para preocuparse de que la actual ola de entusiasmo por la inteligencia artificial y el aprendizaje automático choque con burocracias obsoletas dentro del Departamento de Defensa de Estados Unidos. Por tanto, en su opinión, es demasiado pronto para hablar de cómo será la nueva era de la guerra algorítmica y quién saldrá vencedor en ella. xiv
Aunque no ocultan su optimismo. Especialmente teniendo en cuenta los esfuerzos que ya se están realizando en tecnología digital e inteligencia artificial para crear una red diversa de especialistas militares, funcionarios civiles y empresas del sector privado estadounidenses dispuestos a cambiar la forma en que se libra la guerra.
La guerra en Ucrania sirve como un importante campo experimental para que el ejército estadounidense estudie la eficacia de las tecnologías algorítmicas. Además, se utilizan en el campo del reconocimiento y Estados Unidos ayuda a transmitir datos a las Fuerzas Armadas de Ucrania utilizando toda la gama de sus instrumentos, desde satélites hasta interceptaciones de radio. Los terminales de Internet de la empresa de Elon Musk fueron utilizados por el ejército ucraniano directamente en el frente. También se sabe que la empresa estadounidense Palantir, que es un proyecto de riesgo de la CIA, proporcionó a la parte ucraniana software basado en inteligencia artificial. El uso de tabletas APU con el sistema de control y comando centrado en la red Krapiva también es una tecnología importante para los experimentos estadounidenses, que permite una toma de decisiones más rápida basada en los datos recibidos y su rápido procesamiento. xv Y se tiene en cuenta en el panorama general para la futura aplicación de algoritmos.
¿Con qué amenaza todo esto a la humanidad?
No hay duda de que en el futuro los métodos de guerra algorítmica se utilizarán cada vez más y las tecnologías serán más baratas y accesibles. Sin embargo, los mecanismos de toma de decisiones que se basan en inteligencia artificial y plantillas robóticas seguirán siendo un gran desafío. Ya es obvio que el ejército estadounidense está siguiendo el camino de ignorar todas las restricciones éticas, sacando la IA del control humano. Al intentar resolver el problema de la niebla y la fricción de la guerra (según Clausewitz), los estrategas e ingenieros militares estadounidenses están siguiendo el camino de crear un análogo del sistema Skynet de la serie de películas de ciencia ficción Terminator.
NOTAS
i https://www.lawfaremedia.org/article/pentagons-new-algorithmic-warfare-team
ii https://pilac.law.harvard.edu/war-algorithm-accountability-report//
international-law-pertaining-to-armed-conflict
iii https://www.lawfaremedia.org/article/accountability-algorithmic-autonomy-war
iv https://www.globaltechcouncil.org/artificial-intelligence/
algorithmic-warfare-army-consolidating-cyber-operatives-forces/
vi https://defensescoop.com/2023/10/17/
joe-larson-pentagons-algorithmic-warfare-chief-resigning-from-cdao/
vii https://www.popularmechanics.com/military/
research/a35252840/air-force-ai-u2-spy-plane-algorithm-next-mission/
viii https://smallwarsjournal.com/jrnl/art/
algorithmic-warfare-or-algorithmic-warfare-and-focal-point-analysis
ix https://defensescoop.com/2023/03/28/
general-dynamics-pitching-internally-developed-tech-to-bolster-the-armys
-resilience-against-jamming-and-spoofing/
x https://breakingdefense.com/2023/08/
clemson-university-army-deep-orange-14/
xi https://breakingdefense.com/2023/08/
the-army-wants-to-use-ai-boms-to-catch-up-to-china/
xii https://www.army.mil/article/263951/modernization_leaders_use_scarlet_dragon_exercise
_to_continue_project_convergence_campaign_of_continuous_learning
xiii https://defensescoop.com/2023/06/14/
pentagons-chief-digital-and-ai-office-leading-another-global-information
-dominance-jadc2-experiment/
xiv https://warontherocks.com/2023/07/
the-future-of-algorithmic-warfare-fragmented-developmen
xv https://iz.ru/1544553/2023-07-15/
vs-rf-zakhvatili-planshet-s-sistemoi-krapiva-v-khode-shturma-pozitcii-vsu
