IA y Unión Europea: prioridad a la ética en el contexto del uso de la IA como herramienta geopolítica

Esta contribución pretende realizar un diagnóstico provisional sobre la capacidad de la UE, que prioriza la ética en relación con el rápido desarrollo de la IA, para combatir el MUAI (Uso Malicioso de la Inteligencia Artificial) en el contexto del uso de la IA como herramienta geopolítica. Es necesario contribuir a reducir la brecha entre el ritmo de desarrollo en el campo de la IA y las tecnologías relacionadas y la capacidad de la sociedad para comprender la realidad cambiante, y proponer recomendaciones para contribuir al cumplimiento de las políticas internacionales y nacionales en el ámbito de la construcción de la sociedad de la información y del conocimiento, con el fin de mejorar el equilibrio y la estabilidad geopolítica global y un mayor control humano sobre su destino.

El uso malicioso de la Inteligencia Artificial (MUAI) puede ser utilizado como un arma geopolítica para desestabilizar el sistema de relaciones internacionales para modificar la jerarquía geopolítica e implementar nuevas agendas y proyectos imperialistas, con el uso de herramientas para lograr el control de las poblaciones a través de la guerra cognitiva, “colonización digital”, monopolio global o hegemonía sobre la tecnología de IA y las nubes (combustible de la IA), leyes extraterritoriales sobre datos (imperialismo digital), programas diseñados por IA para controlar el territorio y el campo de batalla (Boulanger 2020, 2016), con el desarrollo de inteligencia geoespacial diseñada por IA (GEOINT).

La Ley de IA de la Unión Europea es el primer marco jurídico integral sobre IA a nivel mundial. El objetivo de las nuevas normas es fomentar una IA fiable en Europa y en el resto del mundo, garantizando que los sistemas de IA respeten los derechos fundamentales, la seguridad y los principios éticos, y abordando los riesgos de los modelos de IA muy potentes e impactantes.

Hasta ahora, la Unión Europea se ha centrado principalmente en la IA y la digitalización, en sus aspectos éticos, normativos y económicos, en el contexto de la regulación del mercado común de la UE. Sin embargo, no se ha realizado un análisis sistemático de la capacidad de la UE para posicionarse ante los desafíos geopolíticos que plantean la digitalización y la IA, y en particular en lo que respecta a la IA de mercado único y las amenazas a los IPS en el contexto de mayores rivalidades de poder y la diversidad de opiniones de los Estados miembros de la UE respecto a los objetivos estratégicos del proyecto europeo.

Los 27 estados miembros de la UE han respaldado por unanimidad la Ley de IA, afirmando el acuerdo político alcanzado en diciembre de 2023. De manera similar, las comisiones de Mercado Interior y Libertades Civiles del Parlamento Europeo votaron 71-8 (7 abstenciones) para aprobar el resultado de las negociaciones con los estados miembros sobre la Ley de IA.

Los documentos oficiales de la UE describen la nueva legislación de la UE de la siguiente manera: «La Ley de IA es el primer marco jurídico integral sobre IA a nivel mundial. El objetivo de las nuevas normas es fomentar una IA fiable en Europa y en el resto del mundo, garantizando que los sistemas de IA respeten los derechos fundamentales, la seguridad y los principios éticos, y abordando los riesgos de los modelos de IA muy potentes e impactantes». [i]

¿Cuál es la postura de la UE respecto a los riesgos asociados a la IA en esta nueva legislación?

Los riesgos se dividen en diferentes categorías: riesgos inaceptables, riesgos altos, riesgos limitados y riesgos mínimos.

Sistemas de IA:

-utilizar técnicas subliminales, manipuladoras o engañosas para distorsionar el comportamiento y perjudicar la toma de decisiones informada, causando un daño significativo.

- explotar vulnerabilidades relacionadas con la edad, la discapacidad o las circunstancias socioeconómicas para distorsionar el comportamiento y causar un daño significativo.

-puntuación social, es decir, evaluar o clasificar a individuos o grupos en función de su comportamiento social o rasgos personales, provocando un trato perjudicial o desfavorable hacia esas personas.

-evaluar el riesgo de que un individuo cometa delitos penales basándose únicamente en perfiles o rasgos de personalidad, excepto cuando se utilice para ampliar las evaluaciones humanas basadas en hechos objetivos y verificables directamente vinculados con la actividad delictiva.

-compilar bases de datos de reconocimiento facial mediante la extracción no dirigida de imágenes faciales de Internet o de grabaciones de CCTV.

-inferir emociones en lugares de trabajo o instituciones educativas, excepto por razones médicas o de seguridad.

-sistemas de categorización biométrica que infieren atributos sensibles (raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual), excepto el etiquetado o filtrado de conjuntos de datos biométricos adquiridos legalmente o cuando las fuerzas del orden categorizan datos biométricos.

-identificación biométrica remota 'en tiempo real' (RBI) en espacios de acceso público para la aplicación de la ley, excepto cuando:

• búsqueda selectiva de personas desaparecidas, víctimas de secuestro y personas que han sido víctimas de trata o explotación sexual;
• prevenir una amenaza específica, sustancial e inminente a la vida o la seguridad física, o un ataque terrorista previsible; oro
• identificar sospechosos de delitos graves (por ejemplo, asesinato, violación, robo a mano armada, tráfico de estupefacientes y armas ilegales, crimen organizado y delitos ambientales, etc.).

-El uso de RBI en tiempo real habilitada por IA solo está permitido cuando no usar la herramienta causaría daño, particularmente en cuanto a la gravedad, probabilidad y escala de dicho daño, y debe tener en cuenta los derechos y libertades de las personas afectadas.

-Antes del despliegue, la policía debe completar una evaluación de impacto sobre los derechos fundamentales y registrar el sistema en la base de datos de la UE, aunque, en casos de urgencia debidamente justificados, el despliegue puede comenzar sin registro, siempre que se registre posteriormente sin demoras indebidas.

Antes del despliegue, también deben obtener autorización de una autoridad judicial o de una autoridad administrativa independiente [ii] ; sin embargo, en casos de urgencia debidamente justificados, el despliegue puede comenzar sin autorización, siempre que esta se solicite en un plazo de 24 horas. Si se rechaza la autorización, el despliegue debe cesar de inmediato, eliminando todos los datos, resultados y productos.

Los sistemas de IA de alto riesgo estarán sujetos a estrictas obligaciones antes de poder comercializarse: sistemas adecuados de evaluación y mitigación de riesgos; Los sistemas de IA identificados como de alto riesgo por la UE incluyen la tecnología de IA utilizada en:

-infraestructuras críticas (por ejemplo, el transporte), que podrían poner en riesgo la vida y la salud de los ciudadanos;

-formación educativa o vocacional, que pueda determinar el acceso a la educación y el curso profesional de la vida de alguien (por ejemplo, la calificación de los exámenes);

-componentes de seguridad de los productos (por ejemplo, aplicación de IA en cirugía asistida por robot);

-empleo, gestión de trabajadores y acceso al autoempleo (por ejemplo, software de clasificación de CV para procedimientos de contratación);

-servicios privados y públicos esenciales (por ejemplo, la calificación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo);

-aplicación de la ley que pueda interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de las pruebas);

-gestión de la migración, el asilo y el control de fronteras (por ejemplo, examen automatizado de solicitudes de visado);

-administración de justicia y procesos democráticos (por ejemplo, soluciones de IA para buscar sentencias judiciales).

Todos los sistemas de identificación biométrica remota se consideran de alto riesgo y están sujetos a requisitos estrictos. El uso de la identificación biométrica remota en espacios de acceso público con fines policiales está, en principio, prohibido. Se definen y regulan estrictamente excepciones limitadas, como cuando es necesario buscar a un menor desaparecido, prevenir una amenaza terrorista específica e inminente, o detectar, localizar, identificar o enjuiciar a un autor o sospechoso de un delito grave. Dichos usos están sujetos a la autorización de un órgano judicial u otro organismo independiente y a límites adecuados en cuanto a tiempo, alcance geográfico y bases de datos consultadas.

La Ley de IA de la UE establece tres exenciones principales en las que no se aplica [iii] :

1. Sistemas de inteligencia artificial utilizados exclusivamente con fines de seguridad nacional.
2. Sistemas de IA comercializados o puestos en servicio exclusivamente con fines militares, de defensa o de seguridad nacional.
3. Sistemas de IA que no se comercializan ni se ponen en servicio dentro de la UE, pero cuyos resultados se utilizan exclusivamente con fines militares, de defensa o de seguridad nacional.

1. Exención General para la Seguridad Nacional:Un ejemplo práctico incluye un sistema de IA desarrollado por un Estado miembro para la evaluación y vigilancia de amenazas en tiempo real. Este sistema podría analizar datos de redes sociales, imágenes satelitales y otras fuentes para identificar posibles amenazas a la seguridad. Las exenciones garantizan que los Estados miembros puedan utilizar la IA para la seguridad nacional sin las restricciones de la Ley de IA.
2. Exención para fines militares y de defensa:Consideremos un vehículo aéreo no tripulado (UAV) mejorado con IA, utilizado en misiones de reconocimiento en zonas de conflicto. Este UAV, equipado con IA para el análisis de datos y la toma de decisiones en tiempo real, queda fuera del ámbito de aplicación de la Ley de IA cuando se utiliza exclusivamente con fines de defensa. La exención apoya el avance tecnológico en las capacidades militares, pero plantea consideraciones éticas, en particular respecto a la toma de decisiones autónoma en el despliegue de fuerza letal.
3. Sistemas de IA no comercializados ni puestos en servicio en la UE, pero utilizados con fines militares o de seguridad nacional:Un ejemplo es el despliegue de un sistema de defensa de ciberseguridad basado en IA, adquirido en un país no perteneciente a la UE, para proteger la infraestructura nacional contra ciberataques. Esta exención reconoce la naturaleza global del desarrollo de la IA y la necesidad de que los Estados accedan y utilicen tecnologías de vanguardia con fines de seguridad.

Analizamos las principales características de la legislación de la UE para luchar contra el riesgo asociado a la IA, pero ¿es capaz la UE de afrontar el problema más agudo del uso de la IA como arma geopolítica en la nueva configuración geopolítica?

El mundo se enfrenta a una creciente fragmentación geopolítica, con la multiplicación de actores, el reforzamiento de las brechas de poder entre los Estados y cambios en las jerarquías geopolíticas previas. Además, la confrontación geopolítica se desarrolla cada vez más en el escenario de la guerra híbrida, incluida la guerra psicológica.

En el contexto del rápido desarrollo de las tecnologías de IA en los últimos años, su posible uso como arma geopolítica mediante la desestabilización de la seguridad psicológica internacional (SPI) podría contribuir a determinar el orden internacional del siglo XXI y al surgimiento de los "imperios digitales", acelerando así la dinámica del ciclo anterior, en el que la tecnología y el poder se han reforzado mutuamente. Esto transformará algunos paradigmas de la geopolítica mediante el surgimiento de nuevas relaciones entre los territorios y sus poblaciones, las dimensiones espacio-temporales y la inmaterialidad.

La naturaleza sistémica y el efecto del MUAI (Uso Malicioso de la Inteligencia Artificial) estratégico serían posibles gracias a un mayor margen de maniobra de los actores en el espacio y el tiempo. Las grandes potencias capaces de implementar estrategias potenciadas por la IA que les permitan alcanzar múltiples áreas de supremacía en dimensiones espaciales como los dominios terrestre, marítimo, aéreo, cibernético, espacial y cognitivo, y obtener ganancias de tiempo, con su capacidad de anticipación favorecida por el análisis predictivo, podrían conducir al colapso del orden internacional o imposibilitar su estabilización.

Describiremos este proceso como la entrada en la geopolítica espacio-temporal, que exige el dominio del espacio y el tiempo a niveles sin precedentes en la historia y que podrían escapar a cualquier moderación ejercida por un sistema multilateral. Ya estamos presenciando el inicio de esta era con la impotencia de organismos multilaterales como la ONU, la UE, la OTAN y la OSCE en Europa.

Para un Estado o una alianza de Estados que posee toda la gama de herramientas de poder aumentadas por el dominio de la IA, y es capaz de actuar en todos los espacios de confrontación (tierra, aire, mar, espacio, ciberespacio, cerebro humano), existe un gran riesgo de verse tentado a emprender políticas expansionistas internacionales, gracias al uso de la IA como arma de conquista espacio-temporal.

Esto conducirá a un aumento de la fragmentación del mundo geopolítico, a una desestabilización muy profunda de las relaciones internacionales y a un aumento de las desigualdades de poder.

Es probable que la MUAI estratégica tenga un efecto decisivo en la evolución de la configuración geopolítica, lo que conllevará un reforzamiento de las jerarquías y desigualdades, y posiblemente una nueva bipolaridad entre Estados Unidos y China. También podría conducir a una era en la que la noción de estabilidad relativa desaparezca. Tras el auge de la MUAI estratégica, los conflictos podrían volverse permanentes y los organismos multilaterales actuales, ya en gran medida obsoletos para contener las crisis, serán ignorados por actores estatales y privados decisivos involucrados en la rivalidad geopolítica. Estos actores actuarán sin restricciones ni control popular.

Como ha señalado Raymond Aron, “todo orden internacional, hasta el día de hoy, ha sido esencialmente un orden territorial” (1962).

No puede haber una manera eficiente de contener el conflicto mediante un sistema internacional normativo sin un orden espacial y geopolítico subyacente aceptado por las grandes potencias. En una configuración donde las grandes potencias acuerden sus respectivas líneas rojas y zonas de influencia, es decir, un orden espacial necesariamente precario pero que permita el diálogo y la cooperación en foros multilaterales, sería posible frenar el potencial destructivo del MUAI estratégico IPS. Como alternativa, podría favorecerse un escenario en el que el sistema internacional se destruya o se anquilose en un orden jerárquico extremadamente desigual que conduzca a una oposición violenta y, a veces, extrema.

El surgimiento del concepto de “guerra cognitiva” (CW) (François du Cluzel, 2020) [iv] , añade una tercera dimensión de combate en un campo de batalla: la dimensión cognitiva se suma a las dimensiones informativas y físicas. Como resultado, ahora tenemos diferentes espacios geopolíticos de competencia como los dominios terrestres, marítimos, aéreos, cibernéticos, espaciales y cognitivos. Lo “humano” podría considerarse como el sexto dominio de operaciones (los otros: aéreo, terrestre, marítimo, espacial y cibernético). Desde esta perspectiva, la guerra cognitiva, gracias al progreso científico en nanotecnología, biotecnología, tecnología de la información y ciencia cognitiva (NBIC), combinado con la inteligencia artificial, el big data y la creciente dependencia del espacio digital por parte de las poblaciones (internet, redes sociales), tiene como objetivo el cerebro de los humanos dentro de las poblaciones. La guerra cognitiva va más allá de la guerra de la información, ya que su objetivo no es influir en lo que las personas piensan, sino en la forma en que piensan. Tiene el potencial de transformar a toda una nación en una colonia de un tercer estado, o de perturbar a toda una nación y su territorio. Con el surgimiento del teatro ciberespacial con el uso de Internet, la confrontación de narrativas e ideas antagonistas entre potencias rivales o grupos terroristas a través de herramientas de inteligencia artificial (IA) para cambiar la forma de pensar de las personas es permanente sin límite de tiempo ni espacio, ya que tiene lugar en diferentes escalas globales, regionales, nacionales y locales.

Actualmente, faltan estudios dedicados a las implicaciones geopolíticas de la IAMU estratégica y sus implicaciones para la UE y la seguridad psicológica internacional. El análisis de los riesgos de la IAMU en las relaciones internacionales suele centrarse en las amenazas a la democracia y el uso que los regímenes no democráticos pueden hacer de ella. El vínculo entre la IA y las relaciones internacionales, y sus posibles consecuencias sistémicas (es decir, la mutación de la configuración geopolítica), está pendiente de investigación.

La UE ha reconocido el regreso de la política de poder en un mundo multipolar en disputa. Ha enfatizado que necesita prepararse para los desafíos que surgen rápidamente, ya que sus competidores estratégicos están socavando activamente su acceso seguro a los ámbitos marítimo, aéreo, cibernético y espacial.

En el ámbito cibernético, la UE desea desarrollar y utilizar intensivamente las nuevas tecnologías —en particular, la computación cuántica, la IA y el big data— para lograr una ventaja comparativa (por ejemplo, en términos de operaciones con capacidad de respuesta cibernética y superioridad de la información). También necesita mantener su excelencia a la hora de garantizar la autonomía en la toma de decisiones de la UE, incluida la basada en datos geoespaciales.

Sin embargo, la UE no ha cambiado su postura doctrinal sobre el multilateralismo y sigue negándose a aceptar el modelo multipolar. Promueve la autonomía estratégica, pero se considera complementaria de la OTAN y de Estados Unidos como su principal socio estratégico. Por lo tanto, está alineada de facto con los objetivos unipolares de Estados Unidos y seguirá cooperando en áreas como las respectivas iniciativas de seguridad y defensa, el desarme y la no proliferación, el impacto de las tecnologías emergentes y disruptivas, el cambio climático y la defensa, la ciberdefensa, la movilidad militar, la lucha contra las amenazas híbridas, como la manipulación e interferencia de información extranjera, la gestión de crisis y las relaciones con competidores estratégicos (principalmente, Rusia y China).

La UE no considera las implicaciones sistémicas de la MUAI estratégica en la configuración geopolítica ni cómo podría adquirir mayor autonomía, especialmente respecto de EE. UU. (de quien depende en gran medida); tampoco aboga por un sistema internacional más estable y equilibrado. En este sentido, la estrecha alianza de la UE con EE. UU. corre el riesgo de una fragmentación geopolítica en bloques antagónicos a nivel global.

En estas propuestas legislativas de la UE, la cuestión de preservar la soberanía de los Estados miembros no incluye el establecimiento de una preferencia europea para la adquisición de sistemas que utilizan IA, ni restricciones a productos que cumplen las normas, pero proceden de terceros países. Tampoco hay propuestas sobre cómo abordar los problemas de la IA en relación con las rivalidades de poder y su impacto en sus relaciones exteriores.

Ante la posible aparición de una nueva bipolaridad en materia de IA, dominada por EE. UU. y China, la UE, además de las cuestiones éticas con las que pretende diferenciarse y una mayor soberanía en materia de datos, no considera una postura de no alineamiento con aquellos Estados que no desean verse arrastrados a esta confrontación sin límites. La resiliencia de la UE no se aborda en términos de equilibrio de poder. Por lo tanto, la UE favorece una alianza tecnológica con EE. UU. y, en consecuencia, corre el riesgo de reforzar la fragmentación geopolítica global en bloques antagónicos. Si bien aún existen numerosos desacuerdos entre la UE y EE. UU., este enfoque puede obstaculizar una negociación global para combatir eficazmente la IAMU a nivel táctico, y especialmente a nivel estratégico.

Aunque se ha mencionado de forma fragmentada, no se ha realizado un análisis sistemático de la capacidad de la UE para posicionarse respecto a los desafíos geopolíticos que plantean la Guerra Cognitiva, la digitalización y la IA, y en particular respecto a la MUAI y las amenazas a las IPS en el contexto de mayores rivalidades de poder y la diversidad de perspectivas de los Estados miembros de la UE respecto a los objetivos estratégicos del proyecto europeo. La UE también ha enfatizado el peligro de polarización política a través de la MUAI (Parlamento Europeo, 2019) [v] ; sin embargo, si la UE promueve un modelo de desarrollo obsoleto y participa en alianzas exclusivas contra el surgimiento de la multipolaridad, existe el riesgo de que esto en sí mismo promueva la polarización geopolítica.

La UE está integrada en la configuración geopolítica dominante como un subelemento de las prioridades geopolíticas de EE. UU. y la OTAN en relación con la guerra informativa y cognitiva global basada en IA (Chessen, 2017) [vi] contra China y Rusia. El Parlamento Europeo ha subrayado que si bien « la IA en el ámbito de la defensa es esencial para garantizar la autonomía estratégica europea en cuanto a capacidad y áreas operativas, reconoce el papel de la OTAN en la promoción de la seguridad euroatlántica y aboga por la cooperación dentro de la OTAN para el establecimiento de estándares comunes y la interoperabilidad de los sistemas de IA en defensa; subraya que la relación transatlántica es importante para la preservación de los valores compartidos y para contrarrestar las amenazas futuras y emergentes » (Parlamento Europeo, 2020) [vii] .

La UE se posiciona como un regulador neutral (principio de competencia) sobre las actividades en su territorio, pero no como una potencia global y soberana.

Este enfoque no puede tener éxito en un sistema abierto donde prevalece la competencia geopolítica.

Esto funcionaría si todos los actores respetaran las mismas reglas de la UE (competencia libre y justa, libre comercio, austeridad presupuestaria, estándares ambientales y sociales, etc.).

Estados Unidos y China están enfrascados en una competencia geopolítica y no respetan estas reglas

En la UE no pueden surgir campeones tecnológicos nacionales ni empresas emblemáticas como en Estados Unidos y China (apoyo estatal y subvenciones, órdenes gubernamentales y estatales, apoyo estatal a la expansión del mercado, sinergia civil-militar, etc.)

La UE ha excluido la regulación de los sistemas de IA en defensa y seguridad, y esto significa que la UE no puede ser un actor geopolítico real y, con su complementariedad con la OTAN, la UE será prisionera del uso de la IA por parte de la OTAN como herramienta geopolítica (como la guerra cognitiva).

Al final, la UE es una colonia digital de EE. UU. y no puede pretender tener un papel geopolítico ni un enfoque independiente en IA, ya que

-GAFAM tiene su sede en Estados Unidos.

-Ley de nubes (las empresas estadounidenses en el extranjero transfieren datos (sobre ciudadanos y empresas de la UE) a las autoridades estadounidenses)

-Leyes extraterritoriales de EE. UU.

-Puertas traseras de la NSA

Sin embargo, es poco probable que esto contribuya a la construcción de alianzas globales comunes para contrarrestar la amenaza de MUAI a IPS. Esto podría conducir a una guerra total y permanente y poner en peligro a la humanidad.

Tras el auge de la MUAI estratégica y la guerra cognitiva, los conflictos pueden volverse permanentes y los estados miembros de los actuales organismos multilaterales y alianzas estatales, plataformas potenciales para la cooperación y en particular la cooperación necesaria contra la MUAI para limitar los conflictos, podrían verse arrastrados a una rivalidad entre grandes potencias.

Dado que la UE se considera complementaria de la OTAN, existe el riesgo de que sus Estados miembros se vean arrastrados a la confrontación geopolítica entre grandes potencias, según las prioridades de la OTAN (ideología euroatlantista excluyente): «Occidente contra Rusia y China». Esto está socavando el objetivo de autonomía estratégica de la UE. En lugar de promover la cooperación global con todos los estados y naciones para hacer frente a las amenazas de la guerra cognitiva y la inteligencia artificial, los Estados miembros de la UE corren el riesgo de alinearse con los intereses y objetivos específicos de la OTAN.

La ética es necesaria ante el rápido desarrollo de la IA y requiere una amplia cooperación internacional. Si la UE es consciente de la ética, está mostrando grandes contradicciones en su posicionamiento para luchar contra la IAMU estratégica.

Sin un diagnóstico preliminar del problema, no será posible abordar las implicaciones geopolíticas de la IAMU estratégica ni sus implicaciones para la UE y la seguridad psicológica internacional. Si bien afirma haber alcanzado una mayor autonomía estratégica, la UE está reforzando de facto el surgimiento de alianzas antagónicas, incluidas las dedicadas al desarrollo de IA, al posicionarse como parte de una alianza euroatlántica exclusiva que se resiste a la multipolaridad (en lugar de propugnar una doctrina de no alineamiento).

Se necesita un mayor equilibrio para evitar la escalada y una espiral descontrolada de rivalidades geopolíticas sin límites temporales ni espaciales. A escala global, no habrá orden internacional ni reglas y normas comunes para el desarrollo de la IA que combata la IAMU sin un orden geopolítico aceptable que involucre a las grandes potencias. Debe aceptarse un orden ético y centrado en el ser humano, una nueva configuración multilateral que ofrezca un modelo para la cooperación global en IA. Solo así se podrán contener la IAMU y las amenazas a las IPS.

De lo contrario, la estrategia de la MUAI, en el contexto de la rivalidad entre grandes potencias y su amenaza para el IPS, abrirá la caja de Pandora de la conquista mundial por una nueva entidad. Esto podría conducir a una guerra total y permanente y poner en peligro a la humanidad.

Para evitar la polarización de bloques rivales de diferentes Estados y organizaciones multilaterales, ¿es posible promover una nueva cooperación multilateral en IA y MUAI basada en un orden ético y centrado en el ser humano, junto con un mejor equilibrio geopolítico de poder? Solo promoviendo nuevos modelos de cooperación global en IA entre los BRICS, la OCS, la UE y otras alianzas estatales bajo la coordinación y supervisión de la ONU, se podrán contener la MUAI, incluida la guerra cognitiva, y las amenazas a las IPS.

La cooperación internacional basada en la inclusión, el respeto y la reciprocidad se logrará mejor con un mayor equilibrio geopolítico en materia de IA entre actores globales como EE. UU., China, Rusia y los Estados miembros de la UE, así como entre Estados más pequeños. Por lo tanto, los actores internacionales deberían priorizar las cuestiones relacionadas con el equilibrio geopolítico y la soberanía de los datos para contrarrestar las amenazas a las IPS derivadas de la MUAI. También deberían centrarse más en las diferentes consecuencias que podrían enfrentar en relación con la MUAI estratégica, como las implicaciones para la UE de la Guerra Cognitiva y el desarrollo de GEOINT que trascienda la MUAI táctica.

Se deberían crear fuertes coaliciones bilaterales o más pequeñas para la cooperación entre actores voluntarios que acordarían poner en común los recursos y las habilidades necesarias para crear conciencia sobre los peligros de la guerra cognitiva, garantizar su independencia y su futura soberanía digital y evitar ser arrastrados a la confrontación entre Estados Unidos y China.

La UE debería abstenerse de alinearse con posibles alianzas exclusivas nuevas y emergentes como resultado de la creciente confrontación entre Estados Unidos, China y Rusia, y, en cambio, debería promover la autonomía y la soberanía estratégicas, así como la cooperación inclusiva.

Las cuestiones de poder y soberanía también deberían orientarse hacia un modelo de desarrollo más cohesionado socialmente y orientado a la innovación y a una mejor combinación de multipolaridad y multilateralismo (una multipolaridad mejor aceptada es la condición de un multilateralismo reforzado) para todo el mundo.

También es necesaria la cooperación internacional (bajo la coordinación de la ONU y la UNESCO) para la evaluación prospectiva de amenazas, incluyendo el mapeo del panorama de amenazas de la IA asociado con la Guerra Cognitiva y la cooperación global para desarrollar proyectos que utilicen IA para contrarrestar la MUAI. Un centro internacional de investigación sobre el riesgo de la MUAI y su amenaza para las IPS podría promoverse con estados voluntarios, y no debería basarse en una membresía restrictiva que refleje el surgimiento de bloques geopolíticos (como una "alianza de democracias").

[i] https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

[ii] Las autoridades administrativas independientes pueden estar sujetas a una mayor influencia política que las autoridades judiciales ( Hacker, 2024 ).

[iii] https://www.linkedin.com/pulse/eu-ai-act-implications-use-countries-national-defense-frederiksen-uvrqe/

[iv] Francois du Cluzel, Cognitive Warfare, Innovation Hub, patrocinado por ACT (Allied Command Transformation) de la OTAN, noviembre de 2020, 45 p.

[v] Parlamento Europeo (2019) Polarización y uso de la tecnología en campañas políticas y comunicación. https://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2019)634414 .

[vi] Chessen M (2017) El futuro de Madcom: Cómo la inteligencia artificial potenciará la propaganda computacional, reprogramará la cultura humana y amenazará la democracia… y qué se puede hacer al respecto. Consejo Atlántico. https://www.atlanticcouncil.org/in-depth-research-reports/report/the-madcom-future/.

[vii] Parlamento Europeo (2020) Marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas, Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas (2020/2012(INL). https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_ES.html.