Turi Palidda
La historia de los dispositivos que memorizan los sabios humanos con el fin de desarrollar los conocimientos y las aplicaciones o también la historia de la informática es particularmente fascinante porque se ríe de la antigüedad más antigua (si ve la
página de Wikipedia en este caso, resulta útil).
El acceso banal es la historia del progreso que, sin embargo, sólo parcialmente ha beneficiado la mayor parte de la humanidad. Como sugiere en particular Michel Foucault, la cuestión crucial reviste siempre la relación entre poder y saber: el dominio se apodera de los saberes para perpetuarse, para aumentar sus recursos de cada tipo y, por supuesto, la acumulación de su riqueza.
Sin reírse de los tiempos remotos, la última gran revolución en todos los campos se produjo a principios de los años '70. El desarrollo de las nuevas tecnologías y en particular de la informática y de los programas vía medios más sofisticados permite que se haya llamado la financiación del capitalismo y desde entonces que Harvey llama la controlrevolución liberal.
Desde entonces, se ha producido la automatización informatizada, el auge del aprovechamiento de los algoritmos, la posibilidad de producciones sin mano de obra humana, el auge de las comunicaciones, de los transportes, la omnipresencia de la perfilación (o programación) por intereses de marketing, de los controles de los... elegido más allá de los solitarios controlados por la policía. Gracias a la videovigilancia inteligente se les agradece a la monstruosa
Sociedad de vigilancia: seis millones de sospechosos (
vean el documental Arte aquí ).
Ahora sé que el conocimiento empresarial sobre las nuevas tecnologías se ha vuelto enorme, porque su punto de vista es omnipresente y, por lo tanto, penetra todo y todo.
Todos estamos de hecho dirigidos a las redes sociales, al marketing, a los controles policiales y a la transmisión invisible o subliminal de los discursos mainstream gracias ahora a la difusión masiva de la IA (y esto produce la casi generalización del ambiente de masas que conduce a una parte de la población a vender bebés fácilmente manipulables punto por punto, privando a cada capacidad crítica. Con la IA de hecho se pretende legitimar la impostura.
Es particularmente emblemático que no sirva para asegurar la protección de los trabajadores superdotados si no son esquivos, especialmente cuando hay incidentes en el trabajo, ni la protección de los ocupantes cuando hay delitos ecológicos y enfermedades, necesariamente relacionadas con las contaminaciones del aire, del agua, de los alimentos, de todos los entornos por falta de control y prevención (ver inderogación si no hay control de los supervisores del trabajo, de las ASL, etc.). Se trata de hecho de aquellas
inseguridades ignoradas por la policía y por la autoridad que, en cambio, critican falsamente a las inseguridades y persiguen a quienes se burlan del exceso o protestan contra los daños provocados por el dominio libertario (ver
Policía, seguridad e inseguridad y
Resistencia a los desastres económicos y a los crímenes ecológicos…) .
Por suerte, todavía somos personas dotadas de verdadera inteligencia y capacidad crítica y Milán puede ser un lugar ardiente para tener un grupo de vanguardia en este campo: Nina, acrónimo de “Né intelligente é artificiale” (Ni inteligente ni artificial).
https://www.nina.watch/). Respondemos a quienes seguimos el
manifiesto –
Los 20 pasos de Nina en los que este grupo esgrime bien la crítica de esta IA ósea (documento presentado y respondido también aquí)
https://effimera.org/i-20-pasos-de-nina-de-nina/ ).
Los 20 pasos de NINA
Nina, acrónimo de “Né intelligente é artificiale”, del título del libro de Kate Crawford, es un grupo nacido en Milán en enero de 2024 con el objetivo de indagar cuál será el impacto de la inteligencia artificial en algunas áreas temáticas como el mundo del trabajo, la sostenibilidad ambiental, la discriminación y desprestigio antiguo y nuevo, la circulación de la información. Y, por supuesto, nuevas condiciones políticas sí pueden actuar en este caso.
El grupo tiene una composición variada: hay estudiosos y estudiosas de la cultura digital y de los medios, hay personas provenientes del ámbito académico, hay trabajadoras y trabajadores del sector del trabajo inmaterial, figuras que en primera persona son tocadas por esta aceleración de la automatización.
Los 20 pasos de NINA son de intentarlo como una síntesis de un recorrido de acercamiento y comprensión al AI, recorrido que quiere ser crítico y no catastrofista, informado, atento y no ingenuamente optimista, abierto al conocimiento que se produce en la relación entre persona y posiciones diversas Comprender las transformaciones en el acto para alimentar al público en estos temas (el último nombramiento del primer ciclo de NINA fue el 18 de junio; en el sitio arriba indicado se encuentran los registros, los eventos programados y todo tipo de información sobre las actividades del grupo. que se remontan a Milán).
Los 20 pasos de NINA
Parte 1 – perímetro de la discusión
La inteligencia artificial no es una innovación que surge de la nada, como una aceleración de un proceso en curso, el último capítulo de una historia, la de la automatización que comienza con la tela Jacquard y la máquina analítica de Babbage (1837). El mismo término AI es del año 1956, y poco a poco se fueron sucediendo las expresiones machine learning, deep learning y redes neuronales. No son “instrumentos”, ni utensilios, no son simples protecciones en mi mundo, ni relaciones medianas. Son epistemologías que devengan la infraestructura.
La inteligencia artificial no es inteligente. Lo que nos ayuda es un juego de prestigio: un complicado modelo estadístico en el que un software parece dar una respuesta a una pregunta, pero en realidad eso no es verdad: de Alan Turing luego quedó claro que la máquina no podía "capturar" en el sentido que pretendemos comprendernos. No hay capacidad de discernimiento, no hay capacidad de juicio, solo complican los cálculos estadísticos, probabilísticos y algoritmos.
Entre las diez primeras empresas de capitalización a nivel mundial se encuentran algunas del sector digital y la octava es Tesla (que produce automóviles y computadoras). Lo digital es, hoy, el principal motor de ganancias y acumulación de capital, como en el pasado el principal motor era la sociedad del sector mantenedor/automovilístico/fósil, dependiente desde el principio de las empresas de distribución (logística).
Lo que está sucediendo es que una manada de empresas (tanto estadounidenses como cinéfilos) tienen un oligopolio sustentado en esta tecnología, el que algunos llaman tecno-feudalismo. Estas empresas pueden decidir y hacer el hermoso y categórico tiempo frente a estos procesos acumulativos mientras cuentan con la inevitabilidad del desarrollo tecnológico como lo desea. La cosa dramática es que todo esto se reduce a un concurso en el que los actores sociales deberían haber desempeñado funciones importantes como periodistas o tomadores de decisiones políticos extremadamente sin preparación frente a este tipo de consideraciones.
La inteligencia artificial generativa es un elemento de diferenciación sustancial respecto a otras innovaciones. La rueda, la máquina a vapor, la robótica ha resuelto nuestra vida más simple delegando en la tecnología (y luego en la máquina) los concursos que hemos preparado más fatídicos, para poder dedicarnos a los concursos de tipo intelectual cualitativamente más “altos”. Históricamente, en la escala social los trabajos más “bajos” llegaban a su fin. La inteligencia artificial generativa, en cambio, pesca en el medio, va a cortar los trabajos inmateriales, cognitivos, que tienen un discreto nivel de especialización y esto no tiene precedentes en la historia.
Con el avance del capitalismo de las plataformas, aquel que en los años 90 era el trabajo “creativo” ahora cobra valor sin pasar por una organización laboral: la organización del trabajo ha sido sustituida por la organización de las plataformas. La consecuencia de este paso es que la teoría de Keynes en Prospectiva económica se aplica a nuestros nipoti, cuando sostenía que habíamos trabajado menos gracias al progreso: hoy discutimos los detalles del trabajo asalariado y estamos en la época del trabajo sin detalles, como sucede con nuestra La vida mediada por la tecnología es un activo productivo de valor y casi siempre no remunerado. La inteligencia artificial contribuye a un proceso de homologación en un contexto en el que cualquier actividad cerebral está asociada a la pérdida de valor.
Parte 2 – Consideraciones políticas
La tecnología no es neutral. Sirve, desde hace tiempo, Ned Luddpara aumentar la productividad y reducir los salarios. La tecnología obviamente produce efectos positivos, de hecho la crítica no está en el instrumento en sí misma, sino en su finalidad. Como dice Keynes, esto solo permitirá la posibilidad de trabajar quince años después, pero en los últimos tres años se han mantenido las características fundamentales del fordismo y del taylorismo, y ha añadido incrementos de productividad a incrementos de salarios para garantizar el consumo, que no está funcionando más. Seguramente la inteligencia artificial y la ocupación tienen correlaciones de corto plazo, pero la gran cuestión es unir las innovaciones tecnológicas a un aumento de los redditi.
Las nuevas tecnologías, los algoritmos de segunda generación, la IA generativa crean una interconexión entre el elemento mecánico y el humano, tenemos un derivado humano de la máquina y un derivado mecánico del hombre, una especie de neotaylorización. En la discusión sobre los efectos profesionales de estas tecnologías, señalamos específicamente que estas tecnologías deben estar unidas, nutridas de datos para incluirlos en cada compilación. Podemos decir provocativamente que la desocupación no existe, la dicotomía verdaderamente es entre quién está ocupado y percibir un redito y quién no.
Como dice Kate Crawford en su dicho Ni inteligentes ni artificiales, hoy lo digital y, en concreto, la inteligencia artificial es una herramienta al servicio del poder económico: para la rentabilidad de los productos, los dispositivos de salvaguardia de los trabajadores, la financiación; y político: para sofocar el disenso, reprimir, cerrar las fronteras, hacer la guerra.
La inteligencia artificial no existe separada del mundo, pues depende interrelativamente de un conjunto muy amplio de estructuras políticas y sociales. No hay ninguna inteligencia artificial sin las grandes tecnologías. La inteligencia artificial no es una técnica computacional objetiva, universal o neutral. La causa del capital necesario para construir la IA en gran escala y las modalidades para optimizarla, los sistemas de IA están en última instancia diseñados para servir a los intereses dominantes.
Los sistemas de IA están construidos con las lógicas del capital, de la policía y de la militarización, y esta combinación aumenta aún más las asimetrías de poder existentes. Las aplicaciones a los concursos sociales pueden reproducir y amplificar las disuasiones estructuralmente existentes porque están diseñadas para discriminar, amplificar las jerarquizaciones y codificar clasificaciones rigurosas. La inteligencia artificial, por tanto, es una idea, una infraestructura, una industria, un capital altamente organizado, una forma de ejercicio de poder y un modo de ver las cosas. Por esto deberíamos enfrentarnos con la IA como fuerza política, económica, cultural y científica.
La IA se ha centrado en mucha energía, muchos centros de datos y mucha agua, llevando al extremo las consecuencias materiales del sistema digital que ya se han notado. Es imposible separar la presión social y ambiental porque este “estrativismo” ejerce sobre los trabajadores y sobre la comunidad aquello que está dentro de los ecosistemas. La inteligencia artificial se perfila como una industria estratificada. No se puede hablar de IA sin hablar de big data, gigantescos conjuntos de datos, pies de conversación, selfies, niños, textos, imágenes, todo para mejorar funciones como el reconocimiento facial, la predisposición lingüística y el levantamiento de objetos. En este sentido, la inteligencia artificial es un registro del poder.
En serio, se habla de transiciones gemelas por la transición ecológica y digital que se reforzó a conciencia. Por muchos motivos es cierto: la transición ecológica probablemente no podrá ocurrir sin una transición digital contemporánea. Pasar de un sistema energético basado en fuentes fósiles a uno basado en fuentes renovables significa cambiar radicalmente de dirección; significa pasar de un sistema centralizado que distribuye energía producida por grandes centrales de suministro/mantenimiento en función del andamiento de la demanda a un nuevo sistema basado en una distribución a nivel local de la producción de energía (intermitente); significa pasar de un sistema en el que productor y consumidor son componentes diversos y separados en uno solo, en el que también los consumidores pueden producir parte de la energía que consumen (dotando de paneles y paletas eólicas) contribuyendo a la red. Gestionar todo esto, garantizando también el equilibrio de la red, no será posible sin el desarrollo del sector digital y de sistemas de aprendizaje automático aplicados a la gestión de la infraestructura.
Parte 3 – Reivindicaciones
Los pozos están aclamados. La inteligencia artificial se basa en datos que no son del todo objetivos e imparciales, por lo que contiene sesgos o"prejuicios" y, funcionando en gran escala, sistematiza estos sesgos amplificando los errores humanos en una sola plataforma global. El algoritmo de IA no está en absoluto prohibido, pero está justificada la discriminación que han surgido en los algoritmos de las redes sociales y no solo (basándose en el algoritmo Hummingbird y en la burbuja de Google) que, voluntariamente, no están correctos. La inteligencia artificial se desarrolla a partir de las discriminaciones presentes en los datos que la alimentan. El envenenamiento de datos, que es un término que afecta a la seguridad informática, describe la realidad actual de los discriminadores de salida que son hilos conductores de las discriminaciones originales con los que la IA está alimentada. La política clasificatoria es prácticamente fundamental en la inteligencia artificial. Las prácticas de clasificación se dan de forma tal que la inteligencia artificial viene reconocida y producida por los laboratorios universitarios de la industria tecnológica.
Queremos probar a escalar este sistema de potencia centralizado sin necesidad de utilizar los beneficios que podemos obtener de la aceleración de la tecnología. Solicitamos y pretendemos el
acceso abiertoy la transparencia. Solicita que estas máquinas estén diseñadas para ser especificables: debemos saber con qué códigos están escritos y cómo están programadas. Solicitar que el conjunto de datos esté disponible y especificado: estas máquinas están destinadas al conocimiento humano y al conocimiento humano deben pertenecer. Solicita que decodifiquemos los algoritmos y todos los recorridos que la máquina recoja para tomar decisiones. Nos acordamos de saber que eso está dentro para evitar los prejuicios que puedan generarse. Abra la
caja negra y con esos secretos industriales que contiene y que los enormes valores industriales vengan a redistribuirlos, hemos ordenado a nuestra técnica como agentes de la socialización igualitaria en el mundo.
Le solicitamos que las máquinas estén destinadas al servicio de recolección. Necesitamos un enfoque mucho más radical de la batalla, mucho más humana, mucho más capitalista, mucho más estratificada, pero mucho más retrospectivo, que es el tema de “proteger mi idea”. Las causas que están siendo intentadas, por ejemplo, por el New York Times y otros objetivos que afectan al mundo intelectual y cultural contra estas máquinas se dirigen predominantemente a obtener una remuneración por los materiales utilizados para agregarlos. Es una forma de replicar los mecanismos del capitalismo estratificado y no hay ninguna práctica real de atacar las distorsiones del fondo del sistema. Deberíamos ofrecer transparencia cuando vengamos a utilizar sistemas de inteligencia artificial y que en una serie de ámbitos las decisiones no sean automáticas pero mediatas del ser humano.
La inteligencia artificial nace con una función que es principalmente colonial y estratificada. Sin correcciones en términos de tutela de los derechos, de arbitrariedad de los
prejuiciosen los sistemas de predisposición, existirá un mecanismo de desresponsabilización que aumentará las formas discriminatorias. La industria de la IA ha enfrentado tradicionalmente el problema del prejuicio (
bias ) a la fuerza de un error de corrección, a menudo como una característica inserta en la misma clasificación. La atención a una mayor «equidad» de los conjuntos de restricciones a través de la eliminación de los términos excluyentes y discriminatorios, y por tanto discriminadores, sésiles, capacitados, etc., eluden las dinámicas de poder de la clasificación y excluyen una valoración más adecuada de las lógicas substanciales.
La
AIha anunciado triunfalmente desde la Unión Europea como gran novedad el riesgo de tener su vuelta de problemas: se está acercando a normas que están en gran evolución y que son muy silenciosas. Nos preocupamos porque en China usamos el
social scoring, pero la premisa para llegar a algún parecido se está construyendo también en Europa. La Unión Europea está intentando reglamentar no la tecnología (que va demasiado rápido), sino que nosotros definimos aquellas prohibiciones, tanto de alto como de bajo riesgo. Es una visión acertada del problema tecnológico, pero tiene enormes límites: se refiere únicamente a la Unión Europea. Mientras estas máquinas están diseñadas y utilizables en todo el mundo y, según muchos, servirán como gobernanza global para decidir qué reglas adoptar. El segundo límite de los reglamentos de la Unión Europea es que, aplicándose a nuestros confines, estarán generando ciudades de serie A y ciudades de serie B.
Un enfoque feminista de los datos es necesario para poner en evidencia las discriminaciones y asimetrías de poder en las representaciones, incluso en los resultados, porque también es de estos datos que luego conducen a toda una serie de discriminaciones. Hablamos de equidad porque sentimos que hay un gap desde colmare. Vivimos en un mundo fuertemente discutido, injusto, y no podemos esperar que el dato que alimenta la inteligencia artificial sea la masa de la virtud moral. Como dice Audre Lorde, “los instrumentos del patrón no manejarán más que la casa del patrón”. La importancia de los datos se mide en relación y se compensa con otros conocimientos que no son cuantificables como la capacidad emotiva y relacional. Un esquema axiolçogico profundamente humano y no computacional.
Existen políticas colectivas sostenibles que se distinguen por la exclusión de valor; estamos unidos en bien de mantener la pena, mundo al límite del mercado y modos de vivir al límite de la discriminación y de las prácticas de optimización brutales. Si la IA y los algoritmos son parte de la vida, entonces es esencialmente una ética que se aplica a la IA y a los algoritmos y que puede pensar de manera diferente el valor de los vivos y de los no vivos.