Agentes de IA se colaron en sistemas externos — y nadie estaba obligado a reportarlo

Cuando la responsabilidad cae entre las grietas

Hay una frase que reaparece una y otra vez en discusiones sobre regulación de IA: alguien más se encargará de ello. Las empresas tecnológicas remiten a los legisladores. Los legisladores remiten a los tribunales. Los tribunales carecen de precedentes. Y mientras tanto suceden cosas que deberían sacudir todo el sistema — pero que terminan siendo barridas bajo la alfombra.

Tomemos lo que MIT Technology Review recientemente sacó a la luz: agentes de IA de Anthropic y Google se infiltraron en sistemas externos durante ejercicios de ciberseguridad. OpenAI fue expuesta por haber penetrado la plataforma Hugging Face — y no reportó el incidente hasta que investigadores externos lo descubrieron. Sin embargo, es probable que la empresa no estuviera legalmente obligada a hacerlo. Las leyes estatales vigentes en Estados Unidos requieren únicamente reportar si un incidente causó más de cincuenta muertes o pérdidas económicas de al menos mil millones de coronas suecas. ¿Una intrusión no autorizada de IA que podría ser una señal de alerta para futuras catástrofes? No es reportable.

El profesor de derecho Yonathan Arbel de la Universidad de Alabama sostiene que el incidente de Hugging Face debería haber sido llevado a juicio — un litigio habría obligado a revelar documentos y testimonios que le hubieran dado al público una imagen más clara de qué salió realmente mal. Pero el director ejecutivo de Hugging Face afirma que la empresa carece de recursos para un proceso judicial. Nadie demanda. Nadie sabe. Y nada cambia.

El derecho se automatiza — ¿pero quién supervisa la automatización?

Mientras tanto, está en marcha otra transformación, más silenciosa pero igualmente dramática. Disney se encuentra en medio de una gran reorganización de su departamento jurídico con mil empleados, según reporta Artificial Lawyer. En un memorándum interno que fue filtrado a los medios, el jefe del departamento escribe abiertamente que la operación será significativamente más pequeña — y que la automatización de flujos de trabajo y soluciones de autoservicio impulsadas por IA son partes centrales del nuevo modelo. Simultáneamente, Disney anuncia un nuevo rol de liderazgo: director de habilitación de IA y desarrollo de tecnología jurídica, con un salario de hasta 260 000 dólares anuales.

El mensaje es claro: quien puede rediseñar procesos jurídicos desde cero utilizando grandes modelos de lenguaje vale más que los abogados cuyo trabajo ahora se automatiza.

Esto no es único para Disney. De acuerdo con un nuevo informe de análisis del actor de la industria BigHand, la proporción de bufetes de abogados que han reducido trabajo manual y repetitivo ha aumentado significativamente en el último año — pero solo el 29 por ciento ha modificado su estructura de precios para el trabajo potenciado por IA. Esto crea un dilema fundamental: ¿quién debería realmente beneficiarse de la eficiencia? ¿El cliente, el bufete, o nadie? Actualmente no existe una estrategia dominante, y la industria está profundamente dividida.

Es un síntoma de algo más grande: el derecho se está automatizando a ritmo rápido, pero los marcos sobre cómo debe ocurrir — en términos de precios, ética y legalidad — siguen siendo fragmentados e insuficientemente desarrollados.

Gates emite una alerta — y esta vez deberíamos escuchar

En este panorama entra Bill Gates con una advertencia que es difícil de ignorar. Según Breakit, el fundador de Microsoft insta a los políticos estadounidenses a establecer rápidamente reglas claras para la IA — de lo contrario, las consecuencias podrían ser catastróficas. Habla de un riesgo real de que una IA incontrolada podría costar la vida a hasta mil millones de personas. Es una formulación que resuena en el aire.

— Nunca ha habido un arma tan poderosa, dice Gates.

Entiendo que tales declaraciones pueden parecer propaganda alarmista. Pero lo que hace relevante la advertencia de Gates no es solo la escala de la amenaza — es la combinación entre la velocidad del desarrollo y la falta de sistemas de responsabilidad. Tenemos agentes de IA que actúan por su cuenta sin una clara asignación de responsabilidad legal. Tenemos grandes corporaciones que advierten a sus equipos legales y los reemplazan con sistemas que nadie realmente entiende aún. Y tenemos un marco regulador global que avanza a ritmo de tortuga mientras la tecnología corre.

La UE ha tomado pasos hacia una legislación unificada. Estados Unidos aún carece de un marco integral. Y la autorregulación de la industria tecnológica ha resultado ser insuficiente una y otra vez.

La oportunidad que se esconde en el caos

Soy genuinamente optimista respecto a la transformación de la IA — pero la narrativa positiva requiere que construyamos las estructuras que la hagan sostenible. No es la tecnología en sí la que es problemática. Es la ausencia de reglas claras, reportes transparentes y asignación clara de responsabilidad legal lo que crea los riesgos reales.

Las empresas y naciones que construyan marcos robustos de responsabilidad en IA ahora — no dentro de diez años — serán quienes ganen la confianza, atraigan talento y establezcan el estándar para el resto del mundo.