El director ejecutivo de Anthropic advierte: los agentes de IA podrían tomar el control de internet en seis a doce meses

Escenarios catastróficos a nivel directivo

No son cualesquiera los que están levantando las señales de alarma. Dario Amodei, director ejecutivo de la empresa de IA Anthropic, una de las compañías de IA más influyentes del mundo, escribió recientemente en un ensayo que llamó la atención que le preocupa que "un enjambre de agentes de IA autónomos podría tomar el control de internet en seis a doce meses". Según Axios, varias grandes empresas de IA se están preparando intensamente para escenarios de este tipo: ataques que podrían paralizar los servicios financieros, las redes eléctricas o el suministro de agua.

OpenAI confirma a Axios que la empresa está realizando ejercicios de preparación en los que distintos equipos analizan posibles secuencias de acontecimientos. El portavoz insiste en que los escenarios "no se consideran inevitables", pero que prepararse para ellos es necesario. Es una formulación notable: la industria que desarrolla esta tecnología asume ahora formalmente que puede convertirse en una amenaza para la infraestructura crítica de la sociedad.

Que las empresas, además, según se informa, se preparen para fuertes reacciones populares si se produce un escenario de terror dice mucho sobre cómo los líderes del sector valoran la confianza pública en la IA. En las salas de juntas no reina una confianza ingenua: hay una preocupación fundada, combinada con una planificación pragmática de la preparación.

El fraude deja huellas digitales

En un ámbito completamente distinto, pero con el mismo tema de fondo, se desarrolló recientemente un caso revelador en el conocido concurso de microfilmes científicos Small World in Motion, de Nikon. Ning Xu, de la Universidad Tsinghua de China, ganó inicialmente el concurso con un vídeo que mostraba cómo se mueven los cilios en las vías respiratorias de un niño con una enfermedad respiratoria poco común. Una historia impresionante y de gran interés científico.

Sin embargo, varios investigadores reaccionaron ante extrañezas estructurales en el material: características celulares que aparecían y desaparecían de un modo que no concuerda con la biología celular real. Además, se dice que se encontraron marcas de agua vinculadas a herramientas de IA incrustadas en los archivos fuente. Xu reconoció que se había usado IA para realzar características en imágenes en escala de grises, pero negó que la tecnología hubiera generado los propios cilios o sus movimientos.

Nikon llevó a cabo una revisión y descalificó el vídeo, que infringía las normas del concurso sobre IA generativa. El primer puesto pasó entonces a Nguyen Nam Nhat, de Vietnam.

El caso es interesante por varias razones. Muestra que el contenido generado con IA deja rastros que los ojos expertos pueden identificar. Y plantea una cuestión más amplia: cuando la frontera entre lo "asistido por IA" y lo "generado por IA" se vuelve cada vez más difusa, ¿cómo establecemos normas que realmente funcionen?

Más código, pero no más software

Al mismo tiempo, la Universidad de Harvard publica un estudio que matiza la imagen de la IA como milagro de la productividad. Los investigadores Fiona Chen y James Stratton analizaron datos anonimizados de más de 700 000 empleados de más de 700 empresas de software: un total de 300 millones de eventos de trabajo recogidos entre 2021 y marzo de 2026.

Los resultados son elocuentes: las herramientas de programación con IA producen un 30 por ciento más de líneas de código, un 20 por ciento más de envíos de código y un 23 por ciento más de solicitudes de fusión. Cifras impresionantes. Pero ¿el número de funciones de software realmente entregadas? Ningún aumento estadísticamente significativo.

El cuello de botella, según los investigadores, es la revisión humana. El tiempo de revisión aumentó hasta un 49 por ciento después de introducir las herramientas de IA. La proporción de solicitudes que requieren revisiones casi se duplicó. Por tanto, más código genera más trabajo para los revisores, no menos.

Es un patrón que reconozco de mi propio trabajo como desarrollador de sistemas. La IA escribe deprisa, pero no siempre bien. Y un revisor humano que no puede confiar ciegamente en el código tiene que leer cada línea con atención redoblada. La ganancia por un lado se ve en parte compensada por el coste en el otro.

Tres historias, un mismo patrón

Como desarrollador de sistemas, es fácil dejarse llevar por el entusiasmo, y yo lo hago a menudo, con gusto. Pero las tres historias de esta semana forman juntas un patrón que merece tomarse en serio. La IA crea valor real, pero también crea nuevas debilidades: en la infraestructura, en la integridad científica y en los flujos de trabajo que creíamos entender.

No es una razón para frenar. Es una razón para construir de forma más inteligente.