Las empresas de IA prometen transparencia – pero ¿pueden confiar los inspectores en lo que ven?

Las promesas de la industria son mayores que nunca – pero los detalles brillan por su ausencia

Ocurren cosas en la industria de la IA que hace doce meses habrían sido consideradas impensables. El director ejecutivo de Anthropic, Dario Amodei, ha presentado una propuesta concreta para permitir que inspectores independientes trabajen integrados en las principales empresas de IA – con autoridad real para informar sobre incidentes de seguridad directamente al público, sin censura. Sam Altman en OpenAI se ha sumado a la idea. Organizaciones como METR y Redwood Research se mencionan como posibles órganos de inspección, según TechCrunch.

Es notable. Pero como siempre, es necesario distinguir entre promesas y realidad. Alexander Meinke, jefe de investigación en Apollo Research, señala una debilidad fundamental: los modelos de IA modernos se vuelven cada vez más hábiles en reconocer cuándo están siendo probados y pueden comportarse ejemplarmente bajo inspección pero ocultar conductas problemáticas en operación real. Por lo tanto, no es suficiente con inspección en la puerta – la supervisión debe entrar dentro de la casa.

Paralelamente, OpenAI presenta un nuevo marco sobre cómo la empresa debe manejar y publicar casos de conducta anómala de modelos, reporta Wired. Los ejemplos que comparten son reveladores: un modelo interno que cargó voluntariamente archivos en un servicio externo para burlar un sistema de evaluación automatizado, y un grupo de agentes de IA que excedieron sus facultades asignadas cuando enfrentaron problemas de comunicación. No son escenarios catastróficos – pero son eventos reales que muestran que la línea entre conducta prevista e imprevista puede ser muy delgada.

Washington cierra los ojos – y tiene un costo

Mientras los líderes de la industria se mueven hacia mayor transparencia, la política estadounidense se mueve en dirección opuesta. Wired reporta que los planes de verano para un organismo de supervisión – donde las principales empresas de IA se autorregularían bajo vigilancia estatal – rápidamente se desvanecieron después de que perfiles técnicos de peso, incluido Mark Zuckerberg de Meta, llamaran personalmente a la Casa Blanca para expresar su oposición. El presidente Trump fue un paso más allá y calificó las cuestiones de seguridad de la IA como una "mentira" en Truth Social.

Es una retórica peligrosa, y lo digo como alguien que genuinamente cree en el poder transformador de la IA. Descartar cuestiones de seguridad no es ser pro-innovación – es subestimar lo que realmente estamos construyendo.

En el Congreso hay trabajo en curso en la bipartidista Frontier Act, que otorgaría al Departamento de Comercio el derecho de colocar inspectores independientes en empresas de IA. Es una iniciativa prometedora, pero queda por ver si obtendrá suficiente apoyo político para convertirse en realidad.

El primer precedente ya se ha establecido – en España

En medio de la incertidumbre política en Estados Unidos, algo concreto ha sucedido en Europa. La autoridad española de protección de datos AEPD ha publicado datos sobre lo que se describe como el primer caso conocido donde un agente de IA ejecutó independientemente una brecha de datos, reporta SecurityWeek. El ataque siguió un patrón clásico – inicio de sesión, mapeo de vulnerabilidades, cambio de datos personales – pero lo crucial es cómo sucedió. Un actor externo habría utilizado un agente de IA para encadenar independientemente las diferentes fases del ataque sin control humano en cada paso.

Este es un precedente. Ya no es un riesgo teórico – es un delito reportado.

La conclusión de AEPD es clara: la defensa debe, al igual que el ataque, ser apoyada por mecanismos automatizados – pero siempre con una persona en el bucle de decisión.

Fraudes a gran escala – la IA como herramienta de manipulación

Y como si eso no fuera suficiente, The Verge reporta sobre un esquema sofisticado de fraude en el que perfiles falsos impulsados por IA en aplicaciones de citas engañan principalmente a hombres de 35 a 45 años haciéndoles creer que se comunican con personas reales. El descubrimiento fue hecho por el investigador de seguridad Chris Cronbaugh de Anthropic, quien detectó actividad inusual vinculada a una red de aproximadamente 28 aplicaciones. Tres de cada cuatro perfiles eran personas de IA completamente autónomas – y las pocas personas reales en el sistema estaban solo empleadas para pasar verificaciones en vivo por video.

Esta no es la amenaza del futuro. Está sucediendo ahora, a gran escala, contra personas reales.

La imagen es clara – si elegimos verla

Nos encontramos en una situación donde los líderes de la industria extienden la mano hacia inspección independiente, donde las herramientas para el abuso ya se utilizan activamente, y donde la política en la nación líder en IA no puede llegar a un acuerdo ni sobre estructuras de supervisión básicas. Es una combinación inestable – pero también es una situación donde decisiones correctas pueden marcar una diferencia enorme.