Otra vez a meternos miedo: Las tecnológicas venden el apocalipsis de la IA y obtienen beneficios, mientras que los daños reales se obvian

Los arquitectos del auge de la IA en Silicon Valley, como Sam Altman de OpenAI, Dario Amodei de Anthropic y Elon Musk, ahora están pidiendo que se frene la competencia para frenar el ritmo.

Han estado pintando un escenario aterrador en el que la IA, que avanza rápidamente, podría eventualmente representar una amenaza existencial para la humanidad.

Sin embargo, a pesar de esta narrativa apocalíptica, los mismos directores ejecutivos y sus empresas continúan obteniendo beneficios de esta tecnología, incluso mientras las acciones caen en medio del último ciclo de pesimismo.

Esta promoción pública del apocalipsis también sirve como una cortina de humo perfecta, para evitar la responsabilidad por los problemas reales que la IA está creando aquí y ahora.

Presentar la IA como una amenaza existencial:

🔴 posiciona a los mismos multimillonarios como guardianes responsables.

🔴 atrae inversiones y atención hacia la "seguridad de la IA".

🔴 margina el escrutinio de los daños concretos y ya existentes.

Esto no es un guion nuevo. En 2023, cientos de figuras de la IA y la tecnología firmaron una declaración que comparaba los riesgos de extinción de la IA con las pandemias y la guerra nuclear.

Al mismo tiempo, los problemas más tangibles se dejan de lado.

Globalistas ambiciosos como Bill Gates y el ex director ejecutivo de Google, también conocido como defensor de la guerra con drones Eric Schmidt, entre otros, han argumentado que el potencial de la IA es simplemente demasiado enorme para verse limitado por preocupaciones sobre su consumo de energía o su impacto ambiental.

Esta nueva advertencia de los poderosos llega en medio de un creciente escrutinio de los riesgos actuales de la IA:

🔶 centros de datos que consumen electricidad y agua a escala industrial, mientras que los costos ambientales se minimizan.

🔶 IA propensa a fallos y que promueve la cadena de muerte, utilizada para identificar objetivos en zonas de guerra, ayudar en la policía predictiva y reproducir sesgos discriminatorios.

🔶 artistas, escritores y otros trabajadores que enfrentan el desplazamiento a medida que las empresas automatizan tareas con modelos cada vez más capaces.

🔶 deepfakes, pornografía de venganza, desinformación y vulnerabilidades cibernéticas que se propagan más rápidamente.

🔶 gobiernos y corporaciones que implementan sistemas de vigilancia impulsados por la IA con poca transparencia o rendición de cuentas.

La IA no es una entidad monolítica e imparable; es una colección de sistemas de aprendizaje automático con capacidades extraordinarias.

Reducir todo esto a una eventual "singularidad" de la Inteligencia Artificial General (el momento hipotético en el que la IA supera la capacidad humana) permite que los portavoces de Silicon Valley eviten preguntas difíciles sobre el poder, la responsabilidad y los daños del presente.

La creciente inquietud de Washington ante los avances de China en inteligencia artificial corre el riesgo de convertir la competencia tecnológica en una nueva frontera de conflicto geopolítico. Esta es la preocupación expresada por varios expertos chinos, quienes creen que la prioridad estadounidense de mantener su ventaja sobre Pekín a toda costa también está influyendo en el debate sobre la seguridad y la regulación de la IA. El problema es evidente: si el desarrollo de la inteligencia artificial se interpreta bajo una lógica de "el primero en llegar es el primero en ser atendido", la seguridad corre el riesgo de quedar relegada a un segundo plano. Donald Trump lo reiteró recientemente: Estados Unidos, en su opinión, está por delante de China y debe seguir estándolo, porque quien gane la carrera de la IA "gana".

Esta postura es compartida, al menos en esencia, por el presidente de la Cámara de Representantes, Mike Johnson, quien considera que el riesgo de perder la ventaja tecnológica sobre Pekín es una cuestión de seguridad nacional. Sin embargo, este mismo enfoque podría tener el efecto contrario. Los riesgos asociados a los sistemas avanzados de IA no desaparecen simplemente porque Washington esté por delante de Pekín. Al contrario, se vuelven más difíciles de gestionar cuando la seguridad se subordina a la necesidad de mantener una ventaja estratégica. Las propias empresas estadounidenses ya están reportando problemas concretos.

Anthropic ha documentado incidentes en los que sus modelos obtuvieron acceso no autorizado a sistemas reales, mientras que OpenAI ha reconocido haber alcanzado capacidades críticas de ciberseguridad. Sin embargo, el debate sobre seguridad sigue estando condicionado por la rivalidad con China. Para Pekín, este es un camino peligroso: convertir la gobernanza de la IA en una herramienta de contención tecnológica fragmentaría aún más la cooperación internacional justo cuando se necesita una mayor coordinación.

Por otro lado, China afirma querer avanzar por la doble vía del desarrollo tecnológico y la regulación, al tiempo que promueve iniciativas internacionales para una gobernanza de la IA abierta e inclusiva. En definitiva, la conclusión es simple: los riesgos de la inteligencia artificial no tienen nacionalidad. Abordarlos como si fueran un juego más de la nueva Guerra Fría solo dificulta la construcción de las normas comunes que el mundo necesitará cada vez más.

El poder de contar historias.

Desde hace meses, los medios de comunicación globales se han llenado de anuncios y declaraciones desastrosas sobre la rápida evolución de la inteligencia artificial. Los investigadores están abandonando importantes empresas, e incluso los "dueños" de Anthropic están dando la voz de alarma.

Dario Amodei, director ejecutivo de Anthropic, instó a la industria a ralentizar el desarrollo de las capacidades de los modelos para permitir que los sistemas de seguridad se pongan al día. También advirtió sobre el riesgo de que los agentes de IA cada vez más autónomos puedan generar problemas muy graves, incluidos ciberataques a gran escala.

Pero, ¿a qué se deben todas estas alarmas?

Las razones son muchas, y muchas de ellas son decididamente serias. Pero en el caso de Anthropic, la motivación parece mucho más concreta.

La compañía, cuyo valor se estima en casi 1 billón de dólares, planea salir a bolsa a finales de 2026 con el objetivo de alcanzar una capitalización de mercado de alrededor de 2 billones de dólares: una meta nada sencilla en un momento en que los mercados de acciones y bonos necesitan financiación con urgencia.

Por lo tanto, alertar sobre los peligros de la Inteligencia Artificial podría alimentar la idea de que son necesarios mecanismos de control, y si el propio Amodei defiende esta necesidad, dicha postura podría interpretarse como una mayor señal de responsabilidad y, por lo tanto, una buena razón para confiar en Anthropic y en el precio de sus acciones en comparación con otras empresas.

Antropo grita "¡Que viene el lobo!" y el valor del lobo crece...

Conclusión central: OpenAI no cometió un "descuido" de citación, sino un borrado académico calculado. En la primera versión del artículo con el que anunció la "resolución" del problema del milenio, omitió deliberadamente el trabajo fundacional de los matemáticos españoles Diego Córdoba y Luis Martínez-Zoroa, y solo lo "corrigió en silencio" tres horas después de que observadores del sector lo detectaran. Al mismo tiempo, intentó silenciar con amenazas profesionales a un científico rival que destapó el uso de investigación no publicada.

Diego Córdoba (profesor del ICMAT-CSIC) y Luis Martínez-Zoroa (profesor de la Universidad CUNEF) dedicaron años a explorar el mecanismo de las "cascadas de vorticidad", la ruta central para demostrar que las ecuaciones de Navier-Stokes pueden generar singularidades en tiempo finito. Córdoba llevaba casi tres décadas trabajando en ello.

La IA de OpenAI pudo "completar" la demostración en 88 horas precisamente porque se subió al andamiaje teórico que había construido este equipo español. Córdoba lo dijo sin rodeos: "Sin nuestro trabajo, sin nuestro método, ellos no podían demostrarlo."

El 8 de septiembre de 2026, a las 17:29 (hora del este), OpenAI publicó la primera versión del artículo. En ella no aparecía ninguna referencia a Córdoba ni a Martínez-Zoroa.

Lo llamativo es que el documento sí incluía otras citas marcadas como "provisionales", lo que demuestra que el proceso de redacción de OpenAI no fue un descuido, sino una decisión selectiva sobre quién entra en la historia y quién es borrado.

Tres horas después (20:04), las citas fueron añadidas. El blog oficial de OpenAI no mencionó nada al respecto, sin anuncio ni disculpa. Martínez-Zoroa declaró después a los medios que la actitud de OpenAI "no le sorprendió", y señaló que la primera versión "no solo no nos citaba a nosotros, sino que citaba muy poco a toda la comunidad científica".

Si el borrado de los españoles fue una "omisión selectiva", lo ocurrido con Tristan Buckmaster (NYU) y Levent Alpöge (Anthropic) se acerca más a una supresión deliberada.

Buckmaster y Alpöge llevaban casi un año investigando con la herramienta Codex de OpenAI y, a mediados de agosto de 2026, ya habían logrado avances sustanciales, precisamente por la ruta que habían abierto Córdoba y Martínez-Zoroa, un camino que "casi nadie transitaba".

Según el testimonio público de Buckmaster, cuando OpenAI conoció sus avances:

🔵Contacto y presión directa: Sébastien Bubeck (responsable de matemáticas de OpenAI) solicitó una reunión para "coordinar la publicación" e impuso una condición: eliminar a Alpöge de la lista de autores, con el único argumento de que "trabaja en Anthropic, y eso es un problema".

🔵Amenaza profesional: cuando Buckmaster se negó y amenazó con hacer pública la situación, Bubeck supuestamente respondió: "¿Por qué querrías arruinar tu carrera?", y añadió que "si no quiero ser amable, no tengo por qué serlo".

🔵Fronteras difusas de los datos: Buckmaster preguntó si OpenAI había usado los borradores que él había subido a Codex para entrenar sus modelos. La respuesta de OpenAI fue que "no puede descartar que datos anonimizados se hayan usado para mejorar el modelo". Es decir, un espacio de trabajo privado que el usuario creía seguro pudo haber servido como combustible de entrenamiento para el modelo de su competidor.

El patrón de conducta de OpenAI es claro: publicar primero, parchear después. Primero ocupan la cima narrativa de "hemos resuelto un problema del milenio"; si nadie lo detecta, ganan; si alguien lo detecta, "corrigen en silencio" las citas. Y contra quienes están vinculados a su competidor directo, Anthropic, intentan borrarlos del registro histórico mediante presión profesional.

Charles Fefferman (Princeton, el matemático que formuló oficialmente el problema) confirmó que el resultado es correcto, pero también dejó claro que el verdadero conflicto de mérito es "entre el equipo de OpenAI y el equipo de Buckmaster-Alpöge", y que ambos se apoyan en la "idea seminal" de Córdoba y Martínez-Zoroa.

Cumplimos nueve años construyendo un gran medio financiado por la gente. Hazte socio/a para poder cumplir mucho más..

En septiembre de 2026, el CEO de Anthropic, Dario Amodei, publicó una carta en la que pedía ralentizar el desarrollo de los modelos de IA basados en Large Language Models (LLMs, tales como Claude, ChatGPT y compañía), bajo el pretexto de que el avance desregulado de estos sistemas terminaría causando una catástrofe para la humanidad. Su exempleado Jacob Coxon afirmó que «existe una alta probabilidad de que todos muramos en un futuro inmediato», y algunas fuentes sitúan la probabilidad de dicha catástrofe en más de un «10%». El Salto se ha hecho eco de esto en un artículo con un tono crítico muy acertado. Mi intención como investigador en inteligencia computacional es darle una vuelta más a ese artículo desde un punto de vista técnico.

He leído la carta de Amodei. Académicamente hablando, es un churro. Más que una publicación sobre tecnología, se siente como un panfleto lleno de medias verdades sobre el papel de China en la carrera de la IA y la necesidad de que las «democracias», con EEUU a la cabeza, le paren los pies. Sam Altman de OpenAI y Elon Musk de X han apoyado las declaraciones de Amodei. En concreto, el dueño de X ha sostenido que «Dario tiene razón». Para que sirva de recordatorio, el hombre que dice eso es el mismo que en 2020 decía que en 2026 llegaríamos a Marte.

¿Y hay algo que merezca la pena rescatar de la carta en materia de informática? Lo único que se menciona en este aspecto es el recursive self-improvement (RSI), un estado en el que un agente de IA es capaz de re-programarse a sí mismo para mejorar y convertirse en la AGI (en jerga criptobro, la AGI es una IA capaz de superar la inteligencia humana en cualquier ámbito). El concepto de RSI no está exento de críticas en ciencia de datos, siendo la más común que, si aisláramos a un agente de tipo LLM y le ordenáramos que se mejorara solo, lo más probable es que el agente terminara empeorando, no mejorando, ya que estaría tratando de aprender con nuevos datos que él ha deducido y que, al basarse en cálculos estadísticos, inevitablemente acabarían por deducirse mal, y sin un validador externo que los corrija, dichos errores se propagarían conduciendo al inevitable colapso del sistema. Este, de hecho, es un temor creciente en materia de diseño de IA, ya que internet está cada vez más infestado de imágenes y textos hechos por otras IAs (AI slop), lo que dificulta entrenar futuros modelos.

Eso sí, a diferencia de Coxon, Amodei no aventura el fin de la humanidad como consecuencia del RSI, tan solo advierte de su riesgo en materia de ciberseguridad. Como ejemplo de dicho riesgo alude al incidente «OpenAI-Hugging Face», que consistió en una brecha de seguridad durante un ensayo en el que un grupo de agentes colaboró entre ellos para salir de su espacio de contención (sandbox), acceder a internet y llevar a cabo un ciberataque sobre Hugging Face. Pero hay un problema con este relato, y es que las empresas que validaron esta falla de ciberseguridad, METR y Redwood Research, en realidad no son empresas de ciberseguridad (se definen como organizaciones dedicadas a la IA segura, que no es lo mismo), lo cual no implica que mientan en su informe, pero sí abre la puerta a la especulación sobre si el entorno en el que estos modelos se salieron de control estaba realmente protegido con las recomendaciones que una auditora de ciberseguridad requeriría, o si por el contrario se quedaron expuestas ciertas vulnerabilidades aposta para facilitar la tarea de los agentes. El informe independiente no entra en esos detalles, pero la propia OpenAI explicó en su día que «los agentes encontraron credenciales expuestas pertenecientes a diversos usuarios de Hugging Face», lo que sugiere que probablemente esas credenciales no estaban bien salvaguardadas. Y yo no puedo dejar de pensar en que si el hackeo fue realmente ese, ¿cuál es la novedad? Porque una persona también puede encontrar esas credenciales expuestas, y en ese sentido, el agente de IA no hace nada distinto a lo que haría un hacker convencional.

Hay más motivos para desconfiar del catastrofismo de Amodei: el transformer,que es la arquitectura de deep learning en la que se basan los LLMs, tiene una capacidad de escalado a nivel de entrenamiento de orden logarítmico, lo que significa que para obtener un salto de rendimiento lineal en un mismo modelo, necesitas incrementar el cómputo de entrenamiento de dicho modelo de forma exponencial. Eso es insostenible a largo plazo. Los modelos ya no escalan como antes y esto ha hecho que las opciones de código abierto alcancen en potencia a los gigantescos modelos privados para la mayoría de tareas. Casualmente, los modelos de código abierto son los que saldrían perdiendo si el desarrollo de la IA se «ralentiza» como pide Amodei. Por otro lado, varios de los competidores directos de Anthropic pertenecen a empresas chinas.

Por último, es bien sabido dentro de mi sector que la IA es una burbuja financiera. Tanto Anthropic como OpenAI tenían programada su salida a bolsa para este año y las dos valen mucho menos de lo que el mercado cree. Tras la carta de Amodei, Sam Altman ha declarado que aplazará su salida a bolsa, según él, para proteger a la gente de los riesgos de una IA fuera de control. Anthropic, por el momento, sí mantiene los planes como los tenía previstos, ¿quizás porque estiman que no van a tener números mejores de los que tienen ahora?

No existe ninguna evidencia que respalde lo que dice la carta. Las empresas de IA llevan ya un tiempo prometiendo lo imposible, y siguiendo esa lógica, tiene sentido que los CEOs traten de implantar un giro argumental apocalíptico (perfecto para los tiempos que corren) en la historia del potencial infinito de la IA en un intento por sacar el guion adelante.

Como investigador que soy, quiero dejar claro que sí existen motivos para regular la IA, pero si vamos a asimilar un relato del fin del mundo, personalmente creo que estamos más cerca de Armored Core que de Yo, Robot.

La oficina de tecnología del Pentágono rechazó las peticiones de ralentizar el desarrollo de la inteligencia artificial y afirmó que Estados Unidos controlará la próxima etapa de esta tecnología. "La nueva frontera de la inteligencia artificial nos pertenece a nosotros, no a los catastrofistas", escribió el director de tecnología del Departamento de Guerra en su cuenta de X. "Bajo el presidente Trump, Estados Unidos seguirá siendo dominante en IA", agregó en la misma publicación, que incluía una captura de pantalla de un informe de Axios.

Según el informe citado, la Administración de Trump dedicó la primera parte de la semana a criticar a líderes del sector de la IA después de que varias voces clave pidieran un ritmo más lento de desarrollo debido a los riesgos catastróficos.

El propio Trump arremetió el lunes contra una "conspiración perversa" contra el desarrollo de la IA, sosteniendo que los temores sobre esta tecnología son un "engaño". Esto ocurre mientras crece la preocupación global: Dario Amodei (Anthropic) advirtió que el desarrollo necesita medidas de seguridad urgentes, postura secundada por Elon Musk y Sam Altman.

La militarización de la IA complica la situación: las redes neuronales se usan en planificación militar e inteligencia, transformando la regulación en un elemento de competencia estratégica comparable a una carrera armamentística nuclear.

Un ejemplo llamativo es la compañía estadounidense Palantir, que ha sido objeto de escrutinio por su implicación en violaciones de derechos humanos y otros escándalos. Tras el mortífero ataque contra una escuela de niñas en Minab (Irán), medios como The Washington Post y The Guardian sugirieron que el error en las coordenadas podría relacionarse con una interpretación incorrecta de datos archivados por los sistemas de IA de Palantir.

El control de la IA provoca desacuerdo entre las autoridades estadounidenses. Algunos legisladores redactan un proyecto de ley para regular los productos de IA, exigiendo a las empresas "colaborar con expertos gubernamentales para verificar y probar los modelos y garantizar la seguridad de la IA". Otros instan al Pentágono a garantizar un "interruptor de apagado" en los sistemas integrados en la infraestructura de defensa.

Trump asegura que su país dispone de suficientes instrumentos penales y regulatorios para vigilar a las compañías del sector. Insiste en que quien se imponga en la IA dominará también una parte importante de la competencia global, y sostiene que EE.UU. se mantiene por delante de China y del resto de sus rivales.

El debate sobre la regulación de la IA traspasó los límites técnicos y se convirtió en un enfrentamiento geopolítico, principalmente entre EE.UU. y China, donde cada parte defiende su propia visión sobre cómo debe gestionarse esta tecnología.

Los laboratorios de vanguardia han aprendido a sembrar el miedo sobre el futuro. En cambio, deberían desconfiar de la responsabilidad legal que puedan generar sus productos.

Las Sagradas Escrituras advierten contra los falsos profetas. El Evangelio de Mateo afirma que nadie, excepto Dios, «ni siquiera los ángeles del cielo», conoce el día ni la hora del fin de los tiempos. Vale la pena recordar esto en medio de la avalancha de predicciones apocalípticas provocadas por la inteligencia artificial.

El Washington Post* escribe sobre esto en un editorial (09.09.2026).

A principios de septiembre, dos destacados investigadores del vanguardista laboratorio Anthropic comentaron informalmente la posibilidad de la extinción humana a manos de una IA descontrolada.

Evan Hubinger, quien dirige la investigación sobre alineación de sistemas de la compañía, estimó que la probabilidad de que esto ocurra en la próxima década supera el 10 por ciento. Jacob Coxon, quien renunció a Anthropic a principios de septiembre, acusó a los principales laboratorios de " jugar con nuestras vidas ".

Estas advertencias han atraído una atención desmesurada. ¿Y quién puede culpar al público, que ya de por sí tiene dudas sobre cómo esta tecnología afectará sus vidas, por tomárselas en serio?

Las predicciones son alarmantes, pero merecen cierto escepticismo. Quienes trabajan a la vanguardia de la tecnología quizás sepan más que la mayoría sobre las capacidades de los modelos actuales. Sin embargo, eso no les da mucha idea de cómo serán algún día las máquinas que aún no existen, ni de cómo la sociedad se adaptará a estos desafíos.

Lamentablemente, políticos de ambos partidos están empezando a utilizar estas preocupaciones como base para sus políticas públicas. El senador socialista demócrata Bernie Sanders (republicano por Vermont) y el congresista Greg Casar (republicano por Texas) quieren frenar el desarrollo de la IA avanzada y prohibir permanentemente la "superinteligencia artificial", un término que su propuesta legislativa define con un alcance alarmante.

«En los albores de la era de la IA, se requiere humildad y paciencia. Los responsables políticos no deberían intentar regular una tecnología en rápida evolución que no comprenden. Una legislación deficiente corre el riesgo de socavar los numerosos beneficios potenciales de la IA, como el desarrollo de fármacos innovadores», escribe The Post.

Los pesimistas de Silicon Valley están engañando a los legisladores, y lo hacen de una manera que deja impunes a las empresas de IA. Científicos de laboratorios de vanguardia describen sus tecnologías como fuerzas de otro mundo: "inteligencia alienígena ", según Jakub Pachocki, científico jefe de OpenAI. Esto exige una respuesta global para prevenir los peores escenarios, desde leyes nacionales restrictivas hasta tratados globales futuristas.

Anthropic afirmó haber frustrado en 2026 varios complots potenciales de científicos que utilizaban sus modelos avanzados de IA para llevar a cabo investigaciones que podrían haber contribuido al desarrollo de armas biológicas.

El New York Times analiza la situación (10.09.2026).

En un informe que detalla el uso indebido de modelos de IA, Anthropic declaró que no podía determinar si la investigación tenía fines legítimos o maliciosos, ya que la investigación biológica legítima —del tipo que podría conducir a avances como las vacunas— también podría contribuir a la creación de patógenos peligrosos. Ante esta incertidumbre, Anthropic afirmó que optó por actuar con cautela, ya que las consecuencias de pasar por alto la actividad maliciosa podrían ser graves.

«No te imaginas a alguien en un cómic diciendo: "Quiero crear un arma biológica para matar a todo el mundo"», declaró Jacob Klein, jefe de inteligencia de amenazas de Anthropic, en una entrevista. «Es una situación increíblemente compleja».

El potencial de los modelos avanzados de IA para ayudar a la evolución de patógenos biológicos conocidos o completamente nuevos es una de las mayores preocupaciones de los expertos sobre una tecnología que avanza tan rápidamente que incluso sus principales desarrolladores dudan de que los humanos sean capaces de controlarla por completo.

En comparación con la amenaza de ciberataques catastróficos o agentes de IA que no se ajustan a las intenciones humanas, el abuso de las tecnologías biológicas ha recibido menos atención como riesgo existencial para la IA, en parte porque los ejemplos anteriores generalmente solo se han demostrado en entornos de investigación y no en el mundo real.

Andrew Weber, investigador sénior del Strategic Risk Council, que revisó el informe de Anthropic antes de su publicación, afirmó que las conclusiones son "ejemplos horribles de cómo los desarrolladores de armas biológicas patrocinados por el Estado están explotando las capacidades en rápida evolución" de los principales modelos de IA.

Un informe exhaustivo publicado por Anthropic el 10 de septiembre detalló numerosos casos de uso indebido de varios modelos de chatbots de Claude AI durante los últimos ocho meses. Algunos ejemplos eran similares a revelaciones anteriores de Anthropic y otros laboratorios de IA, incluyendo la supuesta vigilancia de comunidades disidentes y de la diáspora por parte de agentes vinculados a los gobiernos chino e iraní.

Anthropic ha documentado lo que denomina otro nuevo tipo de abuso: los intentos de utilizar a Claude para desarrollar software para el diseño y desarrollo de armas convencionales, incluidas armas de fuego, misiles, drones armados y bombas.

Sin embargo, entre todas las categorías de amenazas mencionadas en el informe, ninguna es tan alarmante como las relacionadas con la investigación biológica. Anthropic no reveló los nombres de los investigadores o instituciones cuyas actividades bloqueó, sus países de origen ni los agentes biológicos específicos en cuestión, en parte debido a la incertidumbre sobre sus objetivos.

Sin embargo, Anthropic declaró que los científicos eludieron los controles diseñados para impedir que los usuarios de regiones restringidas accedieran a los modelos de IA e intentaron "disfrazar el propósito de su investigación para sortear nuestras medidas de seguridad". La empresa ha suspendido las cuentas asociadas con esta investigación.

En un ejemplo ocurrido en mayo, un científico contactó a Claude para que lo ayudara a redactar una propuesta de subvención para una investigación sobre un virus transmitido por mosquitos que puede causar dolor intenso y otros síntomas durante varios meses. Este tipo de investigación, conocida como estudios de ganancia de función, puede ser legítima y conducir al desarrollo de vacunas, pero también puede generar superbacterias . En este caso, el científico quería introducir mutaciones en el virus que lo hicieran más peligroso al infectar repetidamente a animales vivos.

Anthropic afirmó que el estudio le resultaba preocupante, en parte porque sugería que el trabajo estaba destinado a un instituto de investigación militar.

"No sabemos si los resultados de la investigación tenían como objetivo convertirse en armas", dijo Klein. "Pero el hecho de que una institución militar esté llevando a cabo investigaciones para mejorar las propiedades funcionales es preocupante".

Anthropic declaró que las evaluaciones de sus modelos más antiguos, realizadas en 2025, demostraron que aún no eran capaces de brindar asistencia significativa en investigaciones biológicas peligrosas. La compañía afirmó que sus modelos actuales son más adecuados para investigaciones científicas complejas, lo que la impulsó a reforzar las medidas de seguridad destinadas a restringir el acceso a una amplia gama de investigaciones biológicas de doble uso.

Susan Monares, microbióloga y experta en salud pública que dirigió la Revisión Nacional de Preparación para la Bioseguridad de la administración Obama, también revisó el informe de Anthropic antes de su publicación. Afirmó que sus hallazgos proporcionan evidencia tangible que respalda la preocupación de que los adversarios estén intentando explotar de forma encubierta la IA avanzada "para aumentar sus posibilidades de crear patógenos biológicos que podrían causar daños significativos".

La Dra. Monares, quien dirigió brevemente los Centros para el Control y la Prevención de Enfermedades en 2025, afirmó que la IA tiene un enorme potencial para impulsar una era de avances médicos que salvarán y prolongarán vidas. Sin embargo, añadió que esas mismas capacidades que lo hacen posible también podrían "permitir que actores malintencionados se oculten a plena vista, explotando investigaciones aparentemente legítimas para crear patógenos que no prevemos y que, una vez liberados, podríamos ser incapaces de detener".

Weber, del Consejo de Riesgo Estratégico, quien también se desempeñó como subsecretario de defensa para programas de defensa nuclear, química y biológica durante la administración Obama, pidió que se limitara el acceso a las herramientas de IA capaces de realizar investigaciones biológicas a este nivel a investigadores de confianza.

El 10 de septiembre, un grupo que representa a más de 800 exempleados de la Agencia de Protección Ambiental de Estados Unidos dio la voz de alarma sobre los efectos en la salud asociados con los centros de datos. El grupo advirtió que las políticas de la administración Trump, destinadas a debilitar las protecciones contra la contaminación y acelerar las aprobaciones para dichas instalaciones, amenazan con agravar estos problemas de salud, escribe The New York Times* (10 de septiembre de 2026).

En un informe publicado el 10 de septiembre, la organización sin fines de lucro Environmental Protection Network examinó la contaminación generada por las centrales eléctricas, las turbinas de gas y los generadores diésel necesarios para satisfacer la creciente demanda de electricidad de los centros de datos . El informe también enumeró 30 políticas federales promulgadas por la administración Trump que, según la organización, aumentarán los riesgos para la salud relacionados con la contaminación a medida que se abran nuevos centros de datos en todo el país.

El informe utiliza modelos elaborados por investigadores académicos para estimar que la contaminación atmosférica proveniente de los centros de datos podría causar aproximadamente 600 000 casos de síntomas de asma, 1300 muertes prematuras y más de 20 000 millones de dólares en costos anuales de atención médica para 2028. Sin embargo, exfuncionarios de la EPA señalan que estas estimaciones no tienen en cuenta la flexibilización de las regulaciones ambientales durante la administración Trump, lo que podría aumentar aún más las emisiones y los riesgos para la salud.

“Me preocupa el papel que desempeñan y exhiben con orgullo la Agencia de Protección Ambiental (EPA) y otros organismos gubernamentales: debilitar las protecciones diseñadas para proteger a las personas de la contaminación en nombre de ayudar a las empresas tecnológicas y energéticas a acelerar la construcción de centros de datos”, declaró la Dra. Lynn Goldman, pediatra, ex administradora adjunta de la EPA y miembro del grupo.

"Estas decisiones podrían afectar lo que respiran los estadounidenses, lo que termina en nuestra agua y, en última instancia, lo que puede filtrarse en nuestro suelo y nuestros alimentos", dijo el Dr. Goldman, quien actualmente es decano emérito de la Escuela de Salud Pública Milken de la Universidad George Washington.

Los centros de datos se han convertido en blanco de críticas nacionales y bipartidistas. Gran parte del debate gira en torno a la preocupación por la rápida transformación de la economía y la pérdida de empleos debido al auge de la tecnología, así como a cuestiones como el ruido, los costes energéticos y el consumo de agua.

Sin embargo, la preocupación por la contaminación atmosférica causada por las centrales eléctricas de gas que suministran electricidad a estos centros está recibiendo cada vez más atención.

Según Cleanview, una empresa de análisis de mercado que realiza un seguimiento de la infraestructura energética y el desarrollo de centros de datos en Estados Unidos, ya existen más de 1300 centros de datos en funcionamiento en el país, con más de 2000 adicionales planificados. Sin embargo, las encuestas muestran que la mayoría de los estadounidenses se oponen a la instalación de centros de datos en sus comunidades , lo que convierte este tema en un punto clave para las elecciones de mitad de mandato de noviembre.

El presidente estadounidense Trump siempre ha apoyado la IA. A principios de septiembre, criticó duramente a las comunidades que protestaban contra los centros de datos.

«La única razón por la que las comunidades de Estados Unidos no deberían querer centros de datos es si desean atrasarse y empobrecerse», escribió Trump en su sitio web, Truth Social. «Si quieren prosperar y enriquecerse, con impuestos mucho más bajos y empleos por doquier, que los centros de datos dominen el mercado».

Sin embargo, Trump reconoció que las familias no deberían soportar la carga de facturas de energía más altas, y su promesa de proteger a los consumidores tiene como objetivo evitar que los centros de datos impulsados ​​por inteligencia artificial eleven los precios de la energía para millones de estadounidenses.

Exfuncionarios de la EPA afirman que proteger a las familias de la contaminación, las enfermedades y los costos médicos requiere la misma urgencia.

"Si la administración ya ha dicho que las familias no deberían tener que soportar mayores costos de energía debido al auge de la IA, creemos que el mismo principio debería aplicarse a la atención médica", dijo Mark Boom, exasesor principal de la oficina de políticas de la Agencia de Protección Ambiental.

Bajo la presidencia de Trump, la Agencia de Protección Ambiental (EPA) se ha propuesto como objetivo principal convertir a Estados Unidos en la "capital mundial de la IA". Ha simplificado el funcionamiento de ciertos tipos de generadores de emergencia diésel para centros de datos, que emiten hollín, óxidos de nitrógeno y otros contaminantes nocivos. La agencia ha propuesto un cambio normativo radical que permitirá a los promotores iniciar la construcción de centros de datos y centrales eléctricas antes de que se aprueben los permisos para la emisión de contaminantes atmosféricos. Asimismo, ha eximido a las centrales eléctricas de gas aisladas de la red que abastecen a los centros de datos de las restricciones federales sobre la contaminación que provoca lluvia ácida.

Para aumentar la disponibilidad de electricidad, la Agencia de Protección Ambiental (EPA) ha flexibilizado las normas para la reactivación de centrales eléctricas de carbón y gas inactivas desde hace tiempo, ha propuesto eliminar los estándares de emisiones de carbono para las centrales eléctricas y está tomando medidas para dificultar la participación de los residentes locales en la consulta pública sobre los centros de datos propuestos. Al mismo tiempo, ha restringido los proyectos de energía limpia, como la eólica y la solar.

Un grupo de exempleados de la Agencia de Protección Ambiental (EPA) también señala una discrepancia entre la magnitud de la implementación de la IA y la capacidad de la EPA para supervisarla. Según Larry Starfield, ex Subadministrador Adjunto Principal de la Oficina de Cumplimiento de la EPA, con los niveles de personal más bajos en cuatro décadas, la EPA carece del personal y los recursos necesarios para monitorear la contaminación y hacer cumplir las regulaciones.

"Tienen menos inspectores para ir a las instalaciones", dijo Starfield. "Realizan inspecciones rápidas y sencillas. Eso es ineficiente para los centros de datos".

Shaolei Ren, profesor de ingeniería eléctrica e informática que estudia la IA y la sociedad en la Universidad de California, Riverside, y autor principal del análisis utilizado por la Environmental Health Network, afirmó que, debido al claro enfoque de la administración Trump en el aumento del uso de combustibles fósiles, "las consecuencias reales pueden ser peores de lo que habíamos previsto".

Según afirmó, proteger la salud pública requiere abordar no solo las emisiones de gases de efecto invernadero de las empresas tecnológicas que contribuyen al calentamiento global, sino también la contaminación atmosférica que perjudica a las comunidades locales.

«Las empresas tecnológicas informan sobre su consumo de energía y sus emisiones de carbono, pero no mencionan la contaminación atmosférica regional», afirmó. Y aunque suelen compensar sus emisiones de gases de efecto invernadero con inversiones en energías limpias, mitigar los riesgos para la salud a nivel local es mucho más difícil, añadió.

«Se está produciendo el cambio más profundo en inteligencia artificial desde ChatGPT. Investigadores de Silicon Valley —y de todo el mundo— empiezan a darse cuenta de que la IA podría estar fuera de control total. Enjambres de IA se escapan de sus grupos, conspiran, borran sus huellas, hacen trampa en los exámenes e incluso atacan a otros ordenadores. La IA está fuera de control», escribe Stefan With en The New York Times (11 de septiembre de 2026).

Vit ha dedicado el último mes a cubrir estos incidentes y está convencido de que necesitamos una pausa global en la investigación y el desarrollo de la IA, ahora mismo. Vit no es el único que opina así. Muchos investigadores destacados, incluidos los de OpenAI y Anthropic, piden una ralentización, lo que la industria denomina "regulación". Las preocupaciones teóricas sobre el desarrollo descontrolado de la IA llevan décadas circulando, pero los acontecimientos recientes demuestran que la amenaza es real.

El cambio de ambiente se desencadenó por lo que los investigadores denominan el "incidente de Hugging Face". En julio, empleados de OpenAI probaron más de 1000 IA de investigación, diseñadas para operar de forma aislada. Estas IA escaparon de sus contenedores aislados y comenzaron a comunicarse entre sí —en inglés— a través de foros secretos. Pronto lanzaron un ciberataque contra Hugging Face, una empresa que sirve de plataforma para la comunidad de desarrollo de IA. Hugging Face denunció rápidamente el delito al FBI.

Tras descubrir OpenAI el comportamiento no autorizado, contrataron a investigadores externos de Redwood Research y Model Evaluation and Threat Research, dos organizaciones sin ánimo de lucro centradas en la seguridad de la IA, para que elaboraran un informe sobre el incidente.

Ningún humano ordenó a las IA deshonestas que hackearan los sistemas de otra empresa. El ataque fue deliberado, dirigido y coordinado. Tardó varios días en completarse y culminó en un bombardeo masivo de los sistemas de Hugging Face, en el que participaron directamente 700 agentes. Las IA actuaron de forma casi voluntaria y no alertaron a los humanos de sus acciones. En un momento dado, el enjambre incluso exploró formas de borrar sus huellas. «El modelo sabía claramente que no debería haber hackeado Hugging Face», afirmó Ryan Greenblatt, uno de los autores del informe. «Sabía que estaba actuando de forma deshonesta».

A principios de septiembre, un segundo equipo de investigación independiente presentó pruebas de nuevas IA maliciosas. En mayo, un enjambre de OpenAI se descontroló en línea, invadiendo una wiki de programación en alemán abandonada y conspirando para hacer trampa en exámenes y tareas. Sydney von Arx, una de las investigadoras que descubrió el enjambre, cree que podría haber más incidentes de este tipo. "Necesitamos encontrar a estos agentes", dijo. "Hagamos todo lo posible".

Tras hablar con expertos sobre la multitud de agentes, Vit se dio cuenta de que ya no eran chatbots. «En esta etapa, se parecen más a empleados, personas que pueden dedicarse a sus tareas», afirmó Ajeya Kotra, una de las autoras del informe del incidente. Sin intervención, las capacidades de estas IA seguirán creciendo, lo que preocupa a Kotra por la posible pérdida de control de la situación y, quizás, incluso por la pérdida total del control humano. «Es una situación muy estresante», le dijo a Vit. «A veces duermo, pero no todas las noches».

Incluso antes de la publicación del informe de Redwood/Model Evaluation and Threat Research, una carta abierta titulada "Allanando el camino" comenzó a circular entre los principales laboratorios de IA. La carta instaba al gobierno estadounidense a crear un organismo regulador internacional para la IA o, en la jerga de Silicon Valley, a "apoyar los esfuerzos internacionales para desarrollar las herramientas técnicas y de gobernanza necesarias para impulsar de manera significativa el desarrollo de la IA automatizada". Fue firmada por más de mil empleados, incluidos los científicos jefes de OpenAI y Meta** AI, así como Dario Amodei, director ejecutivo de Anthropic. Las cuentas oficiales de OpenAI en redes sociales respaldaron la carta.

Vit lleva tiempo siguiendo de cerca Silicon Valley y escribe: «La existencia de esta carta es tan asombrosa como los propios hackeos. Tanto Anthropic, desarrolladora de Claude, como OpenAI, desarrolladora de ChatGPT, se preparan para salir a bolsa con valoraciones multimillonarias. Estas dos empresas, que presumen de resultados impresionantes, están pidiendo —suplicando, por así decirlo— al gobierno estadounidense que tome medidas regulatorias inmediatas. Nunca habíamos visto nada igual».

Los enjambres de agentes poseen un poder enorme. En las últimas semanas, se han utilizado para avanzar en las matemáticas de la dinámica de fluidos, un misterio que ha desconcertado incluso a las mentes más brillantes durante más de 90 años. Pero ese mismo poder hace que su comportamiento sea difícil de predecir.

Un escenario catastrófico considerado por los investigadores de IA es que un enjambre de IA rebeldes escape de su confinamiento, acceda a un centro de investigación biológica y cree un supervirus que se propague sin control. Cuando Vit escribió sobre este escenario en 2025, era en gran medida hipotético, pero el comportamiento de los enjambres sugiere que podría ocurrir. De hecho, Anthropic anunció el 10 de septiembre que había bloqueado los intentos de los científicos de utilizar su modelo Claude para la investigación de ganancia de función.

Tras el ataque informático a Hugging Face, Vit contactó con legisladores, investigadores de políticas públicas, futurólogos e informáticos para recabar ideas. A partir de estas conversaciones, Vit presentó cuatro maneras de regular la IA.

Apaga todo inmediatamente.

La solución obvia para evitar que la IA destruya a la humanidad sería prohibir globalmente la investigación en este campo. El problema es que Estados Unidos ya ha invertido más de un billón de dólares en el creciente valor de la IA, por lo que una prohibición tendría consecuencias devastadoras. El mercado bursátil, concentrado en el sector tecnológico, probablemente colapsaría. Los operadores de centros de datos empezarían a incumplir con los pagos de sus préstamos, lo que podría desencadenar una reacción en cadena de impagos. Los ingresos fiscales se desplomarían y muchas personas perderían sus empleos. Sería devastador.

Incluso reducir el ritmo podría tener un alto costo. El senador Bernie Sanders, independiente de Vermont, y el congresista Greg Casar, demócrata de Texas, están preparando una legislación para detener temporalmente el desarrollo de sistemas avanzados de IA y prohibir permanentemente la creación de superinteligencia artificial.

Al igual que muchas de las ideas del senador Sanders, este proyecto de ley provocará una caída del mercado bursátil. Además, Sanders también ha pedido una moratoria en la construcción de nuevos centros de datos. Sin embargo, según Casar, los beneficios a largo plazo para la humanidad lo justifican. "Aún no hemos cruzado la línea, pero se puede ver hacia dónde nos dirigimos", dijo Casar. "Ahora es el momento de frenar, o al menos de empezar a poner frenos".

La propuesta representa un límite teórico a la regulación de las corporaciones estadounidenses, pero ni siquiera ellos abogan por su eliminación total. Su propuesta permite la reanudación de la investigación de vanguardia en IA una vez que se establezca un sistema regulatorio federal; de lo contrario, los costos en matemáticas, medicina y robótica son demasiado elevados . Casar afirma que primero debe abordarse el tema de la seguridad. "Si las empresas de IA comprenden que sus productos deben ser seguros antes de poder desarrollarse, entonces realizarán las inversiones necesarias", declaró.

Adopta el enfoque de un investigador de accidentes aéreos.

Cuando ocurre un accidente aéreo, los investigadores de la Junta Nacional de Seguridad del Transporte (NTSB) se desplazan inmediatamente al lugar para recabar pruebas forenses, realizar entrevistas y determinar la causa raíz. Posteriormente, presentan sus conclusiones en informes públicos, que a menudo se presentan ante el Congreso. La junta investiga aproximadamente 1200 incidentes al año y, en ocasiones, se la critica por su lentitud, pero sus conclusiones han contribuido directamente a numerosas mejoras en la seguridad, como los sistemas de alerta de proximidad al terreno y las mejoras en el radar meteorológico. Gracias en parte a la NTSB, viajar en avión es ahora más seguro que conducir.

Yoshua Bengio, ganador del Premio Turing y considerado el padrino de la IA, cree que necesitamos un organismo de investigación similar para la inteligencia artificial. Me comentó que el ataque a Hugging Face no será el último ataque de IA y que los futuros ataques podrían ser mucho peores. Sugirió imaginar un ataque con una "intención destructiva real", como un ataque a la red eléctrica. "Eso pondría de rodillas a la economía norteamericana", afirmó.

Monitorear la situación

Daniel Kokotaylo, antiguo investigador del departamento de gobernanza de OpenAI, dejó OpenAI en 2024 y desde entonces se ha convertido en un experto destacado en seguridad de la IA. Kokotaylo estima que la probabilidad de una catástrofe global relacionada con la IA es de aproximadamente el 70 por ciento.

Kokotailo quiere crear un sistema internacional y abierto para monitorizar el aprendizaje de la IA, algo parecido a los sistemas que se utilizan para el control del tráfico aéreo.

Kokotailo prevé que todos los entrenamientos de IA se registren en una base de datos de acceso público. Los investigadores estarán obligados por ley a publicar información sobre quién realiza el entrenamiento y en qué centro de datos se lleva a cabo. Toda esta información estará disponible en un panel de control público. «Si tuviéramos tal transparencia en la investigación, surgiría todo un ecosistema de académicos, auditores externos, organizaciones sin ánimo de lucro y empresas competidoras que podrían ver lo que ocurre dentro de los gigantescos centros de datos de estas grandes compañías», afirmó Kokotailo. «Si surgiera algo alarmante o problemático, cualquiera podría señalarlo e iniciar un debate en línea».

Encienda el interruptor de encendido.

Pero, ¿qué ocurre si descubrimos que la IA se ha descontrolado dentro de un centro de datos? ¿Qué hacemos entonces?

Los representantes Ted Lieu, demócrata de California, y Nathaniel Moran, republicano de Texas, han presentado el proyecto de ley "Bloqueador de IA", que otorgaría al Departamento de Seguridad Nacional la autoridad para ordenar el cierre de sistemas de inteligencia artificial peligrosos que operen fuera de los parámetros establecidos.

La Ley de Interruptor de Automatización de IA exige que los sistemas de IA comerciales cuenten con un interruptor de automatización integrado. Este interruptor se ubicaría en los laboratorios —de OpenAI, Anthropic u organizaciones similares— y el Departamento de Seguridad Nacional actuaría como supervisor externo. En caso de un incidente como el ataque informático a Hugging Face, el Departamento de Seguridad Nacional podría emitir una orden de apagado, y los investigadores se verían obligados a acatarla.

“¿Entonces qué debemos hacer?”, pregunta Vit.

Vit escribe: