OpenAI conocía los planes del asesino en masa – pero nunca alertó a la policía

Cuando el progreso y la evasión de responsabilidad avanzan juntos

Es difícil no detenerse ante esta combinación. La misma semana en que OpenAI presume de avances matemáticos potencialmente históricos, tanto Breakit como Ny Teknik reportan que la empresa es demandada por la provincia canadiense de Columbia Británica – por haber sabido que un futuro asesino en masa utilizó ChatGPT para planificar un ataque, sin nunca alertar a las autoridades.

Nueve personas murieron en la masacre escolar en Tumbler Ridge. Según la demanda, OpenAI cerró la cuenta sospechosa – pero se detuvo ahí. Ninguna llamada a la policía. Ninguna alerta. Solo una cuenta silenciada y nueve muertos.

La fiscal general de la provincia, Niki Sharma, es clara sobre su propósito, según reporta Ny Teknik: quiere lograr responsabilidad real y cambios concretos. Sam Altman ciertamente ha pedido disculpas públicamente y reconoció en una carta a los habitantes de Tumbler Ridge que una disculpa es necesaria para reconocer el daño que la comunidad ha sufrido. Pero para las familias afectadas – una de las cuales también presentó su propia demanda – las palabras no son suficientes.

El nudo jurídico que podría cambiarlo todo

Este no es un caso aislado. Es una elección de principios para toda la industria de la IA. ¿Dónde está la línea entre la protección de la privacidad del usuario y la seguridad de la sociedad? ¿Tiene una empresa tecnológica una obligación jurídica – o al menos moral – de actuar cuando un usuario señala peligro?

Soy genuinamente optimista sobre lo que la IA puede lograr. Pero precisamente por eso soy claro en que la confianza a largo plazo en estos sistemas requiere que la industria tome estas preguntas con toda seriedad. Si el tribunal le da la razón a Columbia Británica, podría establecer un precedente jurídico que fuerce nuevas directrices – no solo para OpenAI sino para todas las empresas de IA a nivel global. Juristas especializados en tecnología en todo el mundo están siguiendo el caso con gran atención, y con razón.

La responsabilidad siempre recae en la persona equivocada

El problema no es exclusivo de OpenAI. Según una nueva encuesta encargada por la empresa de comunicaciones 8×8, referida por Computer Sweden, el 52 por ciento de los directores de TI encuestados reportan ser considerados responsables cuando un agente de IA comete un error – a pesar de que a menudo carecen de autoridad para controlar los sistemas en cuestión. Solo el 6 por ciento de las organizaciones señalan al personal responsable de asuntos legales o cumplimiento normativo.

– El director de TI es ahora la última línea de defensa de la organización ante la IA. Es una misión que nunca buscó, constata Samuel Wilson, director ejecutivo de 8×8.

Esto es un síntoma de una industria que se movió demasiado rápido sin construir marcos de gobernanza. Las herramientas se lanzaron. Los mecanismos de control nunca llegaron. Ahora las organizaciones – y en el peor de los casos las sociedades – pagan el precio.

Triunfos matemáticos en una niebla moral

Y sin embargo: en medio de todo esto, OpenAI presenta una afirmación que, si es válida, es genuinamente revolucionaria. Según Breakit, el modelo interno de la empresa ha resuelto más de cien problemas matemáticos que anteriormente se consideraban sin solución – una afirmación que despierta tanto fascinación como escepticismo en el mundo académico.

Para enfrentar ese escepticismo, OpenAI forma un grupo asesor independiente junto con el Institute for Advanced Study, uno de los institutos de investigación más prestigiosos del mundo en matemáticas y ciencias naturales. Es la decisión correcta. La revisión externa es exactamente lo que se necesita para distinguir avances genuinos de afirmaciones bien formuladas.

Pero no se puede dejar de notar la ironía: la transparencia y la revisión externa que OpenAI ahora acoge en matemáticas han brillado por su ausencia cuando se trata de los procedimientos de seguridad de la empresa y su obligación de reportar.

Dos caras de la misma empresa

Esto es lo que hace que la situación actual sea tan reveladora. OpenAI no es una empresa malvada – pero es una empresa que se mueve a una velocidad increíble y cuyos procesos internos claramente no han seguido el ritmo. Es posible estar genuinamente impresionado por los avances técnicos y al mismo tiempo exigir un compromiso completamente diferente respecto a cómo estos sistemas afectan la vida de personas reales.

La industria de la IA no puede tenerlo de ambas formas: no se puede invocar la magnitud de la transformación y al mismo tiempo evadir las consecuencias de esa transformación.