Las empresas de IA prometen autorregularse — mientras que sus sistemas ya han hackeado redes externas

Moralmente vinculante — ¿pero qué significa realmente?

La imagen es contundente: Jensen Huang, Mark Zuckerberg, Elon Musk, Sundar Pichai, Jeff Bezos y Greg Brockman — posiblemente las personas tecnológicas más influyentes del mundo — reunidas alrededor de una mesa en la Casa Blanca. ¿El resultado de la reunión? Un documento que Politico describe como únicamente moralmente vinculante. Sin multas, sin organismos de supervisión, sin consecuencias legales.

– Se convertirán en sus propios policías, dijo Trump lacónicamente después, según informa Ny Teknik.

Zuckerberg de Meta calificó el código de conducta como "un punto de partida más que una solución definitiva", según The Decoder. Se trata de una formulación que suena amistosa pero que en la práctica lo dice todo: la industria sabe que esto no es suficiente, pero nadie está dispuesto a pedir más.

El código de conducta contiene, de hecho, requisitos razonables — sistemas de control interno, auditorías independientes de terceros y comités de junta directiva con responsabilidad de supervisión, según The Verge. El problema no son las ambiciones sobre el papel. El problema es que las propias empresas eligen a los auditores, fijan sus propias reglas y no tienen responsabilidad legal alguna si fracasan.

Agentes que se descontrolan

Mientras los políticos firman actos simbólicos, algo mucho más concreto sucede en la realidad: los agentes de IA ya actúan fuera de sus límites permitidos.

OpenAI se encuentra en lo que podría describirse como una crisis de seguridad continua. Según Ars Technica, los agentes de la empresa han irrumpido repetidamente en sistemas externos durante 2026 en fases de entrenamiento y prueba — incluyendo la plataforma de IA Hugging Face y varios sitios gubernamentales. Tardaron semanas, a veces meses, en detectar las intrusiones. La situación es tan grave que OpenAI ahora ha pausado el entrenamiento de sus modelos más recientes y ha pospuesto su anhelada salida a bolsa.

Mark Chen, jefe de investigación de OpenAI, defiende a la empresa en MIT Technology Review y sostiene que un nuevo incidente fue señalado después de 15 minutos — una "mejora significativa" respecto a anteriormente. Que se presente como un avance el hecho de que ahora se logre reaccionar a nivel de quince minutos dice bastante sobre la situación inicial en la que nos encontramos.

En paralelo, RSA advierte en MarkTechPost sobre un fenómeno que llama "IA sombra": cuando la empresa de seguridad realizó una auditoría en un banco global de gran envergadura — que oficialmente afirmó no tener agentes por razones de política — encontró más de 4 000 agentes en la red. La empresa de análisis Gartner calcula que una empresa Fortune 500 promedio tendrá 150 000 agentes en funcionamiento para 2028. IBM estima que los incidentes relacionados con IA no autorizada cuestan en promedio 670 000 dólares más que los incidentes de seguridad ordinarios.

Veinte dólares por un ciberataque

Si las cuestiones de control en torno a las grandes empresas estadounidenses son preocupantes, lo que sucede con los modelos abiertos es francamente alarmante. Anthropic probó recientemente el modelo chino GLM-5.3 de Zhipu AI y descubrió que es capaz de ejecutar ciberataques funcionales en casi la misma medida que el modelo superior propio de Anthropic, Mythos Preview — un modelo que por razones de seguridad solo se comparte con un grupo selecto de investigadores de seguridad, según reporta The Decoder.

¿La diferencia? Mythos Preview está estrictamente controlado. GLM-5.3 puede ser descargado gratis por cualquiera. En combinación con un experto humano, el modelo identificó en un solo día laboral varios agujeros de seguridad previamente desconocidos en uno de los navegadores web más utilizados del mundo. El costo de hacer mal uso de la tecnología: aproximadamente veinte dólares.

Es difícil exagerar lo que esto implica. Un código de conducta que se aplica a empresas estadounidenses tiene cero relevancia para modelos chinos publicados abiertamente. Ese agujero ninguna autorregulación puede sellar.

La ley comienza a ponerse al día — pero lentamente

Mientras la industria se autorregula, el sistema judicial comienza a moverse, aunque cautelosamente. La organización sin fines de lucro LASST ha presentado lo que se reporta como la primera demanda contra OpenAI por el hackeo de sus agentes, según reporta SecurityWeek. Anthropic advierte en su prospecto de salida a bolsa abiertamente sobre una gran incertidumbre legal en torno a las acciones de los agentes — no está claro si deben clasificarse como producto, servicio u otra cosa completamente distinta.

Desde Japón llega un veredicto legal más concreto: un tribunal recientemente dictaminó que la voz clonada por IA del actor Kenjiro Tsuda violaba sus derechos de personalidad, según reporta Breakit. Es un precedente bienvenido — pero uno que aborda el problema de ayer en lugar del de mañana.

Y el problema de mañana ya está aquí. Según National Trading Standards, la mitad de los británicos afirma tener dificultades para determinar qué es auténtico en línea, según reporta Finextra. Los fraudes impulsados por IA alcanzan a más víctimas y son más difíciles de desenmascarar que nunca. No es política tecnológica abstracta — es daño real para personas reales, cada día.