Tres investigadores de seguridad despedidos advierten: OpenAI crea una cultura del silencio que intimida al sector

Cuando los críticos callan, ¿quién vigila entonces?

Es raro ver algo así: tres investigadores de seguridad experimentados que desafían de forma conjunta y pública a una de las empresas de IA más poderosas del mundo. Pero eso es precisamente lo que Jasmine Wang, Tomek Korbak y Mikita Balesni han decidido hacer tras ser despedidos de OpenAI.

Según TechCrunch, los tres publicaron una carta abierta dirigida directamente al comité de seguridad y protección de OpenAI, así como al órgano consultivo de la empresa. En la carta rechazan con firmeza la explicación oficial de OpenAI, que sostiene que incumplieron las directrices internas al compartir información confidencial con una organización externa de seguridad en IA.

Su argumento va directo al grano:

"La IA no es una tecnología común, y OpenAI no es una empresa común. Quienes trabajan en seguridad ven los riesgos antes que nadie, y dependemos de una estrecha colaboración con expertos externos para poder gestionarlos."

Dicho de otro modo: lo que OpenAI llama una infracción de las normas, los investigadores lo llaman práctica profesional básica.

La propagación interna del miedo

Lo que hace especialmente grave este caso no son solo los destinos de los tres investigadores, sino lo que ocurre entre quienes siguen en la empresa. Según Wang, Korbak y Balesni, los empleados que permanecen en la compañía afirman que ahora sienten inquietud al realizar tareas que hace apenas unas semanas se consideraban completamente normales y aceptadas.

Es un fenómeno bien conocido en la investigación organizacional: cuando un colega es castigado de una manera que se percibe como impredecible o desproporcionada, los demás se retraen. No se arriesga nada. No se cuestiona nada. Se mantiene un perfil bajo.

En una empresa corriente, esto ya es problemático. En una empresa que desarrolla una tecnología con potencial para transformar el futuro de forma profunda, es peligroso.

¿Transparencia como marca, opacidad como práctica?

OpenAI se fundó con la misión declarada de desarrollar la IA en beneficio de toda la humanidad, con la apertura como uno de sus pilares. En los últimos años, la empresa se ha alejado cada vez más de ese perfil original, hacia una compañía más cerrada y de carácter comercial. Este episodio corre el riesgo de socavar aún más la confianza en la cultura de la empresa.

No es la primera vez que voces destacadas del trabajo en seguridad abandonan OpenAI en circunstancias turbulentas. Durante el último año, un buen número de salidas de perfil alto, tanto voluntarias como forzadas, han dibujado la imagen de una empresa sometida a una tensión interna entre rapidez y prudencia, entre crecimiento y responsabilidad.

Cuando quienes trabajan más cerca de los riesgos desaparecen, se produce una pérdida de competencias que no es lineal. No se trata solo de reemplazar tres puestos. Se trata de perder un tipo específico de mirada crítica y valiente: la de quien está dispuesto a plantarse y decir lo que no funciona dentro de la organización, antes de que los problemas lleguen al exterior.

Una señal para el sector con amplias consecuencias

Ahí está el verdadero problema, que se extiende mucho más allá de OpenAI. Si la norma que se consolida en el sector es que la crítica interna se castiga y que colaborar con expertos externos se ve como una infracción en lugar de una buena práctica, entonces tendremos un ecosistema en el que las señales de alerta se silencian en lugar de reforzarse.

La seguridad en IA no es un asunto interno de interés para un puñado de empresas en la costa oeste de Estados Unidos. Es una cuestión social de primer orden, y exige estructuras sólidas para los denunciantes, una supervisión independiente y un intercambio abierto de conocimientos.

Lo alentador es que Wang, Korbak y Balesni han decidido hablar. Es un valor que necesitamos en mayor medida, y también estructuras que protejan ese valor en lugar de castigarlo.