Demandan a OpenAI tras tiroteo escolar — ¿sabía la empresa sobre los chats del asesino pero guardó silencio?

Cuando la IA abandona el laboratorio y llega a las cortes

Es fácil discutir la regulación de la IA en términos abstractos — marcos, principios, directrices. Pero en las últimas semanas, tres eventos separados han hecho la discusión tangiblemente concreta, y juntos apuntan hacia algo que la industria ha sabido durante mucho tiempo que era inevitable: que la IA ahora es lo suficientemente influyente para ser arrastrada a los sistemas judiciales, investigaciones penales e inspección pública de manera seria.

Una demanda que plantea preguntas difíciles

Comienza con lo que es más difícil de asimilar. En febrero, Jesse Van Rootselaar, de 18 años, asesinó a cinco estudiantes y un asistente de maestro en Tumbler Ridge Secondary School en Columbia Británica — un acto que también costó la vida a su madre y hermanastro. Ocho muertos en total. La escuela fue demolida en agosto, demasiado traumatizada para ser salvada.

Ahora la provincia de Columbia Británica demanda a OpenAI y al director ejecutivo de la empresa, Sam Altman. Según la solicitud de demanda, reportada por Ars Technica, OpenAI sabía que el perpetrador había utilizado ChatGPT para planificar el acto — pero eligió ignorar a equipos de revisión internos que recomendaban que los registros de chat violentos fueran entregados a la policía. La justificación habría sido relacionada con la privacidad. La provincia lo califica como una priorización injustificable e cuestiona si la empresa intentaba activamente evitar tener que reportar a más usuarios amenazantes.

Quiero ser claro: esta es un proceso legal activo, no un hecho establecido. Pero independientemente del resultado, la demanda establece un precedente. Plantea la pregunta de si una empresa de IA puede tener una responsabilidad proactiva de actuar cuando sus propios sistemas señalan violencia inminente. Es una pregunta que la industria no puede dejar que solo los abogados respondan.

La IA como herramienta criminal — ahora por suscripción

Paralelamente a la batalla judicial en Canadá, Microsoft ha liderado un esfuerzo de toda la industria para derribar la plataforma EvilTokens — una herramienta que Ars Technica describe como un verdadero servicio de suscripción para delitos informáticos. Por 1 500 dólares en tarifa de inicio y 500 dólares al mes, los delincuentes obtenían acceso a un sistema impulsado por IA que automatizaba toda la cadena de ataque contra empresas.

El núcleo era un chatbot que analizaba miles de cuentas de correo comprometidas, identificaba qué empleados tenían autoridad para aprobar grandes transferencias, mapeaba estructuras de mando y creaba mensajes de suplantación personalizados — todo para engañar a las transferencias de dinero. Se comprometieron un total de 12 000 cuentas.

Lo que hace a EvilTokens especialmente preocupante no es la sofisticación técnica en sí, sino el modelo de negocio. Ahora vemos una economía criminal que adopta la misma lógica de suscripción que las empresas de software legítimas. La IA reduce la barrera para el fraude de la misma manera que reduce la barrera para el desarrollo de productos — es una verdad incómoda pero necesaria.

La transparencia como contramedida

En medio de estos titulares oscuros existe un rayo de luz que merece más atención. El instituto de seguridad de IA del Reino Unido (AISI) ahora publica resultados de pruebas verificadas a través de la plataforma común de la coalición EvalEval — una iniciativa sobre la que Hugging Face escribe extensamente. Los resultados cubren cinco puntos de referencia bien conocidos, incluidos HealthBench y Humanity's Last Exam, e examinan modelos como Claude Opus 4 y GPT-5 en diferentes versiones.

Se trata de hacer la evaluación de la IA reproducible y auditable. Hasta ahora, los resultados de pruebas se han publicado en diferentes formatos, en diferentes plataformas, sin información suficiente para repetir las pruebas. El movimiento de AISI es una respuesta a esa brecha — y una respuesta a algo más profundo: que no podemos regular lo que no podemos medir.

Tres eventos, una dirección clara

Tomados por separado, estas noticias son tres historias diferentes. Pero leídas juntas, emerge una imagen cohesiva: la IA se ha vuelto lo suficientemente poderosa para cambiar resultados en el mundo real — para bien y para mal — y las instituciones que nos rodean, tanto legales como técnicas, ahora se están adaptando a ese hecho.

No es un rechazo a la IA. Es una maduración. Y la maduración, por incómoda que pueda parecer en el momento, es la condición previa para una transformación sostenible.