Vladímir Prokhvatilov
El 10 de agosto se publicó en el portal del Foro Económico Mundial (WEF) el artículo ¿La solución al abuso en línea? IA más inteligencia humana.
El autor del artículo, Inbal Goldberger, vicepresidente de la empresa israelí Active Fence , "con experiencia en inteligencia", propone combinar una red de inteligencia artificial con inteligencia humana para combatir el "mundo oscuro del abuso en línea” del "extremismo, desinformación y discurso de odio".
La inteligencia artificial (IA) de los programas informáticos, según Goldberger, muchas veces no puede comprender las "formulaciones verbales de los grupos de odio", no ha logrado "fluidez en los lenguajes terroristas y una comprensión sutil de las campañas de desinformación".
“Por ejemplo, existen modelos robustos de IA para detectar desnudez, pero solo unos pocos pueden distinguir si esta desnudez es parte de una pintura renacentista o una imagen pornográfica. Del mismo modo, la mayoría de los modelos no pueden saber si el cuchillo que se muestra en el video se está utilizando para anunciar el equipo de una carnicería o para un asalto violento. Los atacantes pueden explotar este enorme agujero”.
Los moderadores que eliminan contenido "no deseado" carecen de la fuerza y ??el conocimiento para incluir en la lista negra todos los sitios de información errónea. “A diferencia de la IA, los moderadores humanos y los expertos en la materia pueden detectar los matices del abuso en línea... Sin embargo, esta precisión se limita al área particular de especialización del analista: un moderador humano que es experto en la supremacía blanca en Europa necesita no podrá reconocer contenido malicioso en India o narrativas de desinformación en Kenia”.
Goldberger hace una solicitud de censura global: dicen que los moderadores están en su mejor momento en Europa, pero aún no han llegado a India y Kenia. Se entiende que a los indios, africanos, árabes, así como a los propios chinos y rusos no se les puede confiar el control de la información en Internet.
Para que la lucha contra el “contenido ofensivo” sea realmente global, Goldberger propone combinar los esfuerzos de la IA (escala de amenazas) con las mentes de los expertos de los países.
Las redes del mundo se volvieron locas : "El Foro Económico Mundial Klaus Schwab propone automatizar la censura del 'discurso de odio' y la 'desinformación' con la ayuda de IA alimentada por 'expertos en el dominio'". Tal simbiosis de hombre y máquina se llama inteligencia híbrida, pero Goldberger evita este término, ya que el campo de la inteligencia híbrida es una de las principales áreas de investigación y desarrollo de las agencias de inteligencia estadounidenses a través de la Agencia de Investigación Avanzada ( IARPA ) en el campo de la llamada inteligencia anticipatoria ( Anticipatory intelligence ).
En 2017, IARPA lanzó el desarrollo de "un sistema de pronóstico híbrido humano - máquina para problemas como brotes de enfermedades, fluctuaciones del mercado de valores, elecciones, conflictos interestatales". En particular, el proyecto de Anticipación sinérgica de eventos geopolíticos ( SAGE ) fue dirigido por el jefe del grupo de investigación sobre inteligencia artificial y bases de datos de la Universidad del Sur de California, Aram Galstyan. Se elaboró ??la "retroalimentación entre la inteligencia humana y la informática". Al establecer dicha retroalimentación, Inbal Goldberger ve las perspectivas de una censura global.
El proyecto SAGE es parte del programa más grande Hybrid Forecasting Competition (HFC) supervisado por la Oficina del Director de Inteligencia Nacional ( ODNI ) de EE. UU. El programa HFC tiene como objetivo comparar el rendimiento de "varios híbridos hombre-máquina en la predicción de eventos de la vida real al fusionar el juicio humano con información de fuentes como informes de noticias tradicionales, redes sociales y cifras financieras", dijo ODNI .
La posibilidad de utilizar la inteligencia híbrida con fines de inteligencia en Estados Unidos se abordó debido a que proyectos anteriores de este tipo habían fracasado. El proyecto FutureMap fracasó . Falló el proyecto de predicción de inteligencia colaborativa; su precisión resultó ser inferior al 48%, es decir, peor que cuando se lanza una moneda al aire (cara-cruz).
El proyecto de inteligencia proactiva con ayuda de inteligencia híbrida también ha fracasado. Elon Musk ahora se ha trasladado a esta dirección, quien rápidamente se reorganizó a partir de promesas de enviar personas a Marte y comenzó a argumentar que las personas deberían fusionarse con inteligencia artificial en un futuro cercano.
Según el Director de Tecnología Digital de la CIA, Andrew Hellman, la inteligencia proactiva estadounidense ha aprendido a predecir con precisión brotes de inestabilidad, conflictos y ataques terroristas de 3 a 5 días antes de que ocurran. Sin embargo, “las capacidades predictivas con un horizonte de eventos de 3 a 5 días solo pueden adaptarse a la gente común que se va de picnic el próximo fin de semana y está interesada en el clima. Para la inteligencia proactiva de la inestabilidad social y los conflictos, se necesita desesperadamente un horizonte de pronóstico de al menos un par de semanas, pero en el buen sentido de 3 a 5 semanas ”, dice Sergey Karelov , un destacado analista de TI ruso .
En el contexto de fallas en el uso de la inteligencia híbrida, parece que decidieron no intentar predecir el futuro, sino diseñarlo, como enseñó el premio Nobel Dennis Gabor. Eso es hacer ingeniería social.
El artículo de Inbal Goldberger en el sitio web del WEF causó mucho ruido. “El WEF planea usar tecnología de inteligencia artificial para combatir el ‘discurso de odio y la desinformación’ y ahora todo lo que vaya en contra de su agenda se considerará desinformación… Llamémoslo una dictadura global en ciernes”, escribe la periodista británica Sophie Corcoran.
“Inbal Goldberger promueve la IA como el rey de la censura... Parece que se ha fusionado por completo con el equipo de Biden” , dicen en las redes sociales.
“El grupo detrás del Gran Reinicio está promoviendo la censura global bajo el esquema 'IA más inteligencia humana'. “El Foro Económico Mundial (WEF, por sus siglas en inglés) ha propuesto una nueva forma de censurar el contenido en línea que requiere un pequeño grupo de expertos para entrenar inteligencia artificial para detectar 'información errónea' y contenido ofensivo”, se lee en los titulares.
De una forma u otra, los intentos de introducir la censura global con la ayuda de la inteligencia artificial no se han caracterizado por el éxito práctico. Hasta ahora, mucho ruido y pocas nueces.
