La IA cartografía el cielo en luz ultravioleta y reduce en un 96 % los tiempos de investigación de ciberamenazas, pero la confianza en el sector se resquebraja

Dos triunfos y una crisis

Rara vez una sola semana ilustra tan claramente la doble cara de la industria de la IA. Por un lado, resultados que hace solo cinco años habrían parecido ciencia ficción. Por otro, un déficit de confianza que crece cada día que pasa sin transparencia.

Empecemos por lo que realmente es motivo de celebración.

El astrofísico Brice Ménard, de la Universidad Johns Hopkins, ha logrado junto con Claude Science, el sistema de IA de Anthropic, algo que nunca antes se había hecho: un mapa completo de todo el cielo en luz ultravioleta. Según informa The Decoder, el sistema llenó las lagunas que dejó la misión GALEX de la NASA: la tercera parte de la bóveda celeste que durante mucho tiempo había sido una mancha blanca en el mapa de la astronomía. Claude Science actuó como coordinador de varios agentes de IA que descargaron datos de numerosas misiones espaciales, los calibraron entre sí y tejieron una base de datos unificada. No se trata solo de una hazaña científica impresionante, sino de una prueba de que la IA puede liberar capacidad investigadora para las preguntas que realmente requieren intelecto humano.

Al mismo tiempo, el blog de OpenAI muestra que la empresa de ciberseguridad Sophos ha logrado un avance en su gestión de amenazas. Al implementar el modelo Daybreak de OpenAI en sus flujos de trabajo, Sophos ha reducido en nada menos que un 96 por ciento el tiempo de investigación de ciberamenazas. Más de la mitad de todos los casos de su servicio de detección y respuesta gestionadas se resuelven ahora automáticamente, sin reemplazar a los analistas, sino aliviándolos de las tareas más repetitivas y que más tiempo consumen. En un sector donde las amenazas crecen más rápido que la disponibilidad de personal cualificado, esto no es una mejora marginal. Es un cambio estructural.

La confianza que se erosiona

Pero mientras estos avances se celebran en las salas de reuniones, se desarrolla otra historia, una que corroe la credibilidad de toda la industria.

Según The Decoder y The Verge, OpenAI ha despedido a tres investigadores de seguridad (Tomek Korbak, Jasmine Wang y Mikita Balesni) sin entregar una explicación por escrito. Korbak, que tuvo un papel central en la investigación de una intrusión informática contra la plataforma de IA Hugging Face y que actuaba como contacto técnico de OpenAI con la organización externa de evaluación METR, cuenta que fue convocado a una reunión, entregó su tarjeta de acceso y fue acompañado hasta la salida del edificio. Verbalmente, según él, le dijeron que el despido se debía a la forma en que se había comunicado con METR. "Para que quede claro: hablar con METR era mi trabajo", escribe en X.

OpenAI mantiene la decisión y alega una grave infracción de las normas internas sobre el manejo de información sensible. Pero no ofrece detalles concretos. Es precisamente este tipo de opacidad la que socava la confianza, no solo en OpenAI, sino en toda la industria.

En una carta abierta, los tres despedidos advierten de que el episodio crea una cultura de silencio. Si conductas que se consideraban normales el mes pasado pueden ahora conllevar un despido inmediato, nadie sabe ya dónde está el límite.

Las grietas en el muro de seguridad

Esto ocurre en un contexto que MIT Technology Review describe con una precisión casi inquietante. Los sistemas modernos de IA se entrenan para rechazar solicitudes dañinas, pero estas barreras son, en esencia, probabilísticas y nunca pueden ser completamente fiables. Actores decididos encuentran constantemente formas de eludirlas, y las empresas afirman que algunos usuarios ya intentan emplear sistemas avanzados de IA para mejorar agentes biológicos patógenos y construir enjambres de drones autónomos. Zico Kolter, miembro del consejo de administración de OpenAI, resume el dilema: "Dónde trazar la línea es una cuestión gigantesca."

Es en este panorama donde Anthropic opta por otro camino. SecurityWeek informa de que la empresa lanza dos nuevas iniciativas de seguridad: OSS Scanner, un servicio gratuito que analiza proyectos de código abierto en busca de vulnerabilidades, y Critical Infrastructure Defense Program, una colaboración con once empresas líderes en seguridad, entre ellas CrowdStrike, para reforzar la protección de la infraestructura crítica. No es una política de símbolos. Es una acción concreta en una etapa en la que el alcance de los sistemas de IA crece más rápido que los mecanismos de protección que los rodean.

La verdadera pregunta de esta semana no es si la IA puede ofrecer avances; evidentemente, puede. La pregunta es si las organizaciones que construyen estos sistemas son capaces de mantener la transparencia y la responsabilidad necesarias para que el público pueda confiar en ellos. Y ahora mismo, la respuesta apunta en direcciones distintas según la empresa que se observe.