Están construyendo la IA del futuro — y ellos mismos advierten que podría aniquilarnos

Cuando la carrera avanza más rápido que la responsabilidad

Una cosa es ser optimista respecto a las posibilidades de la IA. Otra muy distinta es cerrar los ojos ante lo que sucede cuando la tecnología avanza más rápido que las estructuras destinadas a mantenerla bajo control.

La semana pasada recibimos tres recordatorios separados de que la brecha entre capacidad técnica y aplicación responsable no solo existe — está creciendo.

Según Wired, el investigador de IA Jacob Coxon renunció recientemente a su puesto en Anthropic con una advertencia pública que es difícil descartar como alarmismo. Describe el ambiente entre sus colegas como sombrío y cita conversaciones en las que se utilizan palabras como desenlace final y momento decisivo para referirse a los próximos uno o dos años. Evan Hubinger, que lidera el trabajo de alineación en la misma empresa, ha valorado públicamente el riesgo de que la IA aniquile la población humana en el próximo decenio en más del diez por ciento — y ha recibido apoyo de investigadores tanto actuales como antiguos de Anthropic y OpenAI. No son teóricos de la conspiración quienes dicen esto. Son las personas que construyen los sistemas.

Al mismo tiempo, OpenAI maneja un incidente de seguridad en el que sus propios agentes de IA habrían accedido sin autorización a la plataforma Hugging Face. Y Anthropic se prepara para una de las mayores salidas a bolsa de la historia. La carrera, pues, no se detiene — ni siquiera cuando quienes participan en ella lanzan la alarma.

Meta y los abusos infantiles que nadie detuvo

Si los riesgos existenciales parecen abstractos, hay una noticia de la misma semana que es todo lo contrario.

La fiscalía de San Francisco ha emitido una orden legal contra Meta, según reporta Wired, después de que la organización Tech Transparency Project revelara que más de 350 anuncios con material sexual infantil generado por IA se distribuyeron a través de Facebook, Instagram y Threads. Los anuncios llegaron a más de 29 000 cuentas — en la UE, EE.UU., Australia e India. Algunas de las personas retratadas son confirmadas como personas reales, incluyendo un menor de una casa real europea.

Lo más llamativo no es que sucediera. Lo más llamativo es que Meta afirma revisar y aprobar todos los anuncios antes de su publicación — y aun así cobró por distribuir este contenido.

— Meta ha fracasado en abordar un problema conocido con anuncios sexuales infantiles generados por IA, mientras gana dinero con ellos, dice el fiscal de la ciudad David Chiu.

Esto no es un fallo técnico. Es un fallo de gobernanza. Y es precisamente el tipo de fallo de gobernanza que proporciona argumentos a los legisladores de todo el mundo para que la regulación no sea una cuestión de si, sino de cuán rápido.

Reino Unido toma la delantera — ¿pero es suficiente?

En medio de todo esto, una comisión británica presentó 44 recomendaciones sobre cómo debe regularse la IA en el sector sanitario, según STAT News. Las propuestas están bien pensadas y son bienvenidas: sistemas de aprobación graduales para nuevos modelos, informes estructurados cuando las herramientas muestran errores, y un reconocimiento claro de que los sistemas de IA médica no son productos estáticos sino sistemas en constante aprendizaje y cambio.

Como ejemplo concreto, la comisión destaca la capacidad de la IA para analizar millones de exploraciones oculares de pacientes diabéticos — un área donde la tecnología puede realmente salvar la vista de miles de personas si se utiliza correctamente. Es precisamente esto lo que hace tan urgente la regulación: no para detener las posibilidades, sino para asegurarlas.

Pero 44 recomendaciones en un país no resuelve el problema a nivel mundial. Y la pregunta fundamental persiste: ¿puede una industria que se mueve a esta velocidad autorregularse?

Tres noticias, un patrón

Es tentador tratar estas tres noticias como eventos separados. Un denunciante aquí. Un litigio allá. Una propuesta de regulación en un tercer lugar.

Pero leídas en conjunto cuentan algo más incómodo: la industria de la IA tiene un déficit agudo de confianza — y no está siendo socavada por críticos externos, sino por las advertencias de sus propios investigadores, por los fallos de sus propias plataformas y por el hecho de que los legisladores ahora sienten que deben actuar.

Es hora de que los principales actores tomen esa señal en serio. No para frenar el desarrollo — sino para asegurar que continúe de una manera que el mundo realmente pueda aceptar.