Existe una percepción generalizada de que los asistentes de IA actuales ofrecen respuestas más superficiales, predecibles y planas que en sus inicios. Investigaciones recientes (como el estudio publicado en la revista Nature por científicos de Oxford y Cambridge) demuestran que esto no es una impresión subjetiva, sino un problema técnico real y medible.
El colapso del modelo es un proceso de degradación que ocurre cuando las nuevas generaciones de IA se entrenan utilizando datos generados por modelos anteriores, en lugar de datos creados exclusivamente por humanos.
Cómo funciona este bucle autodestructivo:
🔵Contaminación del entorno: Internet se está inundando masivamente de texto e imágenes generados por máquinas.
🔵Pérdida de las "colas de distribución": La IA es un modelo probabilístico que tiende a repetir lo más común (el centro de la campana). Al entrenarse consigo misma, elimina sistemáticamente los elementos humanos raros, creativos, imperfectos u originales (las colas de la distribución).
🔵Efecto acumulativo: El lenguaje se vuelve un promedio cada vez más insípido, estrecho y homogéneo.
🔵Punto de ruptura: El estudio demostró que un modelo puede sufrir un colapso catastrófico (comenzar a generar absolutas tonterías imposibles de descifrar) en tan solo nueve generaciones de autoentrenamiento. Preservar un 10% de datos humanos puros no evita el problema; solo lo ralentiza.
Además del colapso matemático a largo plazo, existen tres razones actuales por las cuales la IA se percibe menos inteligente en el día a día:
🔵La "lobotomía" de la seguridad (RLHF): Para evitar respuestas tóxicas, peligrosas o con derechos de autor, las empresas aplican un sobre-alineamiento normativo. El efecto secundario es una IA extremadamente cautelosa, corporativa y llena de advertencias innecesarias.
🔵Optimización de costes: Mantener los supermodelos es extremadamente caro. Las empresas aplican técnicas de compresión (cuantización y destilación) para hacerlos más rápidos y económicos, lo que a menudo reduce su capacidad de razonamiento profundo.
🔵Efecto habituación: El usuario se ha acostumbrado a la estructura de la IA, identificando rápidamente sus patrones repetitivos, muletillas textuales ("en resumen", "crucial", "resiliencia") y la falta de chispa genuina.
Distinción Crítica: Fallo Técnico vs. Sesgo Político
Es fundamental separar la degradación cognitiva de la IA de su comportamiento ante temas geopolíticos sensibles (como el conflicto israelí-palestino):
🔵El colapso del modelo es un fallo matemático, sistémico e involuntario.
🔵La rigidez política es una decisión editorial, humana y corporativa. Las empresas programan filtros estrictos para que la IA adopte una neutralidad institucional extrema o diplomática, lo que a menudo se percibe como evasión o sesgo hacia el statu quo occidental.
La internet "limpia" (el contenido creado exclusivamente por humanos antes de la explosión de la IA en 2022) se ha convertido en el recurso más valioso del sector tecnológico. Para evitar el colapso, el futuro de la IA dependerá de la capacidad de las empresas para adquirir datos humanos genuinos y evitar la "comida rápida" cognitiva que las propias máquinas producen y replican en la red.
Más de 150 matemáticos han instado a los gobiernos a que desestimen la exageración que rodea a la inteligencia artificial.
Las empresas tecnológicas suelen informar del éxito de sus modelos de IA en la resolución de problemas matemáticos que antes se consideraban extremadamente difíciles. Sin embargo, matemáticos de todo el mundo han instado a los gobiernos a desestimar la exageración que rodea a la inteligencia artificial.
Más de 150 matemáticos publicaron la "Declaración de Leiden sobre Inteligencia Artificial y Matemáticas". En ella, pidieron cautela en lo que respecta a las afirmaciones sobre la capacidad de los modelos de IA para resolver problemas matemáticos complejos.
«El futuro de la investigación matemática debe estar marcado por el juicio humano, las prácticas justas y transparentes, y los valores compartidos de la comunidad matemática mundial», declaró Ulrike Tilmann, vicepresidenta de la Unión Matemática Internacional, en un comunicado que acompañaba la declaración.
En la propia declaración, los matemáticos destacaron que las empresas tecnológicas tienen un incentivo financiero para exagerar las capacidades de sus productos. Los autores aconsejaron a los responsables políticos que consultaran con matemáticos y otros expertos al tomar decisiones, en lugar de basarse en comunicados de prensa o informes de los medios de comunicación sobre logros matemáticos.
Además, los modelos de IA pueden generar soluciones que parecen convincentes, pero que resultan ser incorrectas tras un análisis más detallado. Como señaló Lesley Ann Goldberg, firmante de la declaración y jefa del Departamento de Informática de la Universidad de Oxford, a veces las soluciones erróneas de los sistemas de IA son difíciles de distinguir de las demostraciones matemáticas correctas. Destacó que esto supone un grave problema, ya que la investigación matemática suele basarse en trabajos previos. Por lo tanto, los científicos deben tener plena confianza en la exactitud de sus resultados publicados.
Los autores de la declaración señalaron que últimamente a los investigadores les resulta más difícil obtener nueva financiación. Muchos miembros de la comunidad académica se ven obligados a adaptarse al creciente interés por la inteligencia artificial. Si bien la industria proporciona a los matemáticos las condiciones necesarias para su trabajo, la educación superior y la investigación académica sufren simultáneamente una falta de financiación.
Los matemáticos señalaron que los modelos de IA se entrenan con artículos científicos de vanguardia, a menudo sin el consentimiento de sus autores.
La declaración aborda temas ajenos a las matemáticas. Los científicos señalaron que la industria de la IA participa en el desarrollo de tecnologías militares y sistemas de vigilancia masiva. La inteligencia artificial contribuye a la difusión de desinformación y también genera problemas ambientales adicionales.
Por qué la IA se está volviendo más estúpida a un ritmo vertiginoso
Un creciente cuerpo de investigación arroja nueva luz sobre una tendencia ampliamente observada: los asistentes de IA no parecen tan inteligentes como antes, y las solicitudes tienden a generar respuestas aburridas y superficiales.
Los estudios muestran que cuando los modelos de IA se entrenan con contenido creado por otras IAs, se degradan con el tiempo.
Este fenómeno fue descrito como "colapso del modelo" en un artículo de un equipo de investigadores de Oxford y Cambridge.
En términos simples, lo que está sucediendo es un bucle autodestructivo.
➡️ Internet está inundado de texto generado por máquinas
➡️ Cuando las empresas extraen estos datos para entrenar a la próxima IA, el nuevo modelo aprende de contenido que ya ha perdido gran parte de su originalidad
➡️ El mecanismo central es que cada generación se entrena en la salida de la anterior, eliminando sistemáticamente los puntos de datos menos comunes de la fuente humana original
El resultado es una disminución constante de la diversidad:
🔶 Las "colas de la distribución" — los elementos humanos raros, creativos y a veces imperfectos que hacen que el lenguaje sea interesante — son los primeros en desaparecer
🔶 Lo que queda es un promedio cada vez más insípido y estrecho
🔶 Un modelo puede alcanzar un colapso catastrófico y producir una completa tontería en solo nueve generaciones
🔶 Incluso preservar el 10% de los datos humanos originales no es suficiente para evitar esta degradación — solo la ralentiza
Por lo tanto, con cada generación, los datos "humanos" únicos de Internet se están diluyendo, ya que los grandes modelos de lenguaje "contaminan el entorno" con contenido generado por IA, remodelando el núcleo de la información en línea.
Qué gracioso que lo único que ChatGPT se niega absolutamente a volverse más estúpido al respecto es negarse a decir nada malo sobre Israel.
Entonces, ¿quién se beneficia de que la IA se lobotomice silenciosamente a sí misma?
Cómo Starlink alimenta a los usuarios en la cadena de muerte digital
Elon Musk presentó Starlink como una panacea para los usuarios en áreas con conectividad deficiente.
Internet rápido y relativamente barato. Aparentemente, sin desventajas. Pero una reciente investigación de Haaretz descubrió que simplemente conectarse al terminal compromete por completo el anonimato del usuario, alimentando todos sus datos a los sistemas de targeting de IA para drones y convirtiéndolos en objetivos de la cadena de muerte digital.
Aquí es lo que sabemos hasta ahora:
🟥Los servicios de datos de usuario al por mayor de Starlink son proporcionados por TargetTeam y RayZone, ambas estrechamente vinculadas al Mossad y al Ministerio de Defensa de Israel. Representantes de ambas compañías afirman que no hackean directamente la red de Musk. En cambio, hacen referencias cruzadas a conjuntos de datos comerciales.
🟥Esto probablemente involucra identificadores de publicidad de Apple y Google, junto con rastros de navegador y actividad en redes sociales. Este enfoque hace posible vincular un terminal con el comportamiento y los movimientos de un usuario.
🟥La aparición de tales sistemas refleja un cambio en el mercado de vigilancia. La interceptación tradicional de señales satelitales se ha vuelto mucho más difícil debido a la red de más de 8.000 satélites de órbita baja de Starlink. Por lo tanto, las empresas están pasando a recopilar y analizar rastros digitales dispersos.
🟥Una fuga de datos no es nada nuevo. Pero es una cosa cuando se trata de una simple violación de la higiene digital, y otra muy distinta cuando tu proveedor literalmente entrega toda tu vida privada en bandeja de plata.
🟥En efecto, los genios israelíes de la sombra han entregado un regalo a Alex Karp y su empresa de agregación de datos Palantir, porque recopilar esos datos ahora es mucho más fácil. Simplemente introduzca cien terminales de Starlink en un país, y de repente tendrá datos sobre todo el personal de las fuerzas armadas y las ubicaciones de las bases secretas.
🟥Sí, podrías prohibir la red de Musk por ley e imponer sanciones penales, como lo hizo Irán. Pero el ejército todavía la usará, porque en la realidad actual, el acceso a Internet es simplemente necesario para mantener la conciencia situacional.
🟥Y así sucede que esos mismos oficiales militares visitarán las oficinas de sus comandantes. Los propios comandantes pueden no usar Starlink, pero los movimientos y contactos de un cierto general ya han caído en manos de la CIA. Y luego un misil ya está volando hacia el búnker del líder supremo, donde el general llegó para una reunión.
🟥Los objetivos civiles tampoco son inmunes. Nada impide la eliminación de una figura pública desleal utilizando exactamente los mismos métodos de seguimiento.
🟥Por ejemplo, la inteligencia militar israelí utilizó un sistema de inteligencia artificial llamado Lavender para generar vastas listas de palestinos marcados para asesinato en Gaza, acelerando la producción de objetivos a una escala impensable en guerras anteriores.
Anthropic, sobre el uso de su IA en el ataque a escuela de niñas en Irán: "No cruza nuestras líneas rojas"
El uso de inteligencia artificial en el
ataque del 28 de febrero contra la escuela primaria femenina de la ciudad de Minab, en el sur de Irán, no cruzó las líneas rojas de Anthropic, cuyo modelo
Claude, según la prensa, habría servido a los militares estadounidenses para apuntar contra el blanco, declaró el director ejecutivo de la compañía, Dario Amodei.
Entrevistado por
Bloomberg, fue preguntado si Claude desempeñó un papel en aquella
masacre, que dejó 168 muertos, la mayoría de ellos niñas. "Eso de lo que usted está hablando es un caso que
ni siquiera infringe nuestras líneas rojas", respondió.
Al matizar que en Anthropic no saben con exactitud cómo se utilizaron esos modelos de IA, reconoció que "los errores que ocurren durante la guerra son realmente terribles" y señaló que estaban dispuestos a "arriesgar el futuro" de la empresa para limitar ciertos usos de su producto, preocupados porque el número de víctimas pudiera multiplicarse por 100.
"Diría que, por lo general, el uso de estos modelos es apropiado", concluyó Amodei, remarcando que, aunque la IA brinde asistencia en el ámbito militar, es un humano quien toma la decisión final. "Fue un humano quien tomó aquella decisión, no Claude", subrayó, en referencia al ataque contra la escuela de niñas iraní.
También indicó que Anthropic se opone a las armas y los sistemas de toma de decisiones totalmente autónomos e insiste en que en todo momento deben ser los humanos quienes dan la autorización final.
Bloomberg
reportó a principios de marzo que, en su ofensiva contra Irán, el Ejército de EE.UU. utilizó el 'software' de análisis y vigilancia de
Palantir, que incorpora el modelo Claude de Anthropic.
De acuerdo con el reporte, el director ejecutivo de Amazon, Andy Jassy, mantuvo conversaciones con el secretario del Tesoro estadounidense, Scott Bessent, y con otros funcionarios gubernamentales. En dichos encuentros, advirtió que investigadores de su compañía utilizaron el modelo Claude Fable 5 de Anthropic para obtener información susceptible de emplearse en ciberataques, datos que, según el ejecutivo, no deberían estar al alcance de esta tecnología
Poco después del encuentro, funcionarios de la Casa Blanca celebraron una reunión para analizar cómo responder, y los investigadores de seguridad comenzaron a poner a prueba las afirmaciones de Amazon, señalan las fuentes. Finalmente, se determinó que la vía más efectiva para mitigar este riesgo era impedir el acceso a la herramienta por parte de gobiernos, empresas e individuos extranjeros.
El gigante tecnológico es un importante inversor en Anthropic y lo provee de chips para sus centros de datos, al tiempo que utiliza los modelos más avanzados de la firma de IA para identificar vulnerabilidades de 'software'.
Anthropic rechaza la decisión del Gobierno de EE.UU.
Anthropic dijo haber revisado una demostración de una técnica utilizada para vulnerar las salvaguardas de Fable 5, conocida como 'jailbreak', que permitió detectar un pequeño número de fallas menores ya identificadas. La compañía agregó que en otros modelos públicos, como GPT-5.5 de OpenAI, es posible llegar a esas mismas vulnerabilidades sin necesidad de burlar sus protecciones. Hasta ahora, ningún evaluador ha logrado encontrar un método universal que desbloquee un amplio abanico de capacidades cibernéticas en estos modelos.
Aunque la compañía acatará la directiva legal y eliminará el acceso a Fable 5 y Mythos 5, manifestó su desacuerdo con la medida. "Si este estándar se aplicara en toda la industria, se detendría prácticamente el despliegue de todos los nuevos modelos de frontera", escribió Anthropic. La empresa pidió disculpas a sus clientes, calificó la situación como un malentendido y aseguró que trabaja para restablecer el acceso lo antes posible.