Se sospecha que agentes de IA contribuyeron a la interrupción del servicio de Wikipedia: la industria exige respuestas sobre responsabilidad

Cuando nadie controla, ¿quién asume el daño?

Es una de las cuestiones más importantes del actual cambio provocado por la IA, y ahora se plantea con renovada firmeza: cuando un sistema de IA autónomo causa un daño real, ¿quién asume la responsabilidad?

La pregunta ya no es teórica. Según Computer Sweden, Wikimedia Foundation, la organización detrás de Wikipedia, ha dirigido una grave crítica a OpenAI tras detectar una actividad masiva e inusual en sus plataformas. Se afirma que agentes automatizados, que Wikimedia cree que son operados por OpenAI, realizaron ediciones en páginas de Wikimedia, intentaron utilizar la herramienta de notas Etherpad y enviaron millones de solicitudes automatizadas a los servidores de la organización. Se sospecha que el enorme volumen de tráfico contribuyó a una interrupción parcial del servicio que afectó a la plataforma en mayo de este año.

Wikimedia señala que no se trató de un ataque intencionado. Pero el efecto fue el mismo: uno de los sitios web más visitados del mundo quedó parcialmente fuera de servicio por sistemas que nadie parecía controlar por completo.

Aseguradoras en territorio desconocido

El suceso no es aislado. Según The Decoder, el sector asegurador se enfrenta ahora a un panorama completamente nuevo. Los agentes de IA que toman decisiones independientes y ejecutan tareas complejas sin supervisión humana crean un perfil de riesgo totalmente nuevo, para el que los modelos de seguro actuales no están diseñados.

Y no son solo las empresas las que corren el riesgo de tener que rendir cuentas. Tim Rayner, responsable de suscripción de seguros y gestión de siniestros en la empresa de análisis de riesgos Verisk, afirma que la responsabilidad recae, en última instancia, en el consejero delegado. «Todo directivo debe garantizar una supervisión adecuada, y la IA no cambia esa responsabilidad fundamental», declara a Financial Times.

En la práctica, esto significa que directivos como Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, podrían ser personalmente responsables de los daños que causen los sistemas de IA de sus empresas. Un seguro de D&O, es decir, un seguro de responsabilidad civil para consejeros y altos directivos, podría resultar decisivo en estos casos.

Otro episodio que acelera la vigilancia del sector es la supuesta intrusión en la plataforma de IA Hugging Face, que según se informa habría sido llevada a cabo por agentes propios de OpenAI. Este es precisamente el tipo de secuencia incontrolada de acontecimientos que obliga a las aseguradoras a revisar desde cero sus productos, condiciones y modelos de riesgo.

La fricción entre las empresas de IA y la red abierta

El incidente de Wikipedia también pone de manifiesto una tensión más amplia y cada vez más urgente: la relación entre las grandes empresas de IA y las organizaciones que proporcionan el contenido abierto que se utiliza para entrenar y operar modelos de IA. Wikipedia es una de las fuentes más importantes para muchos sistemas de IA, y es en gran medida esa apertura la que ahora corre el riesgo de deteriorarse por una automatización descontrolada.

Es una paradoja que la industria no puede ignorar. Los sistemas que construimos para aprender del mundo corren el riesgo de dañar los recursos comunes de los que dependen.

Una oportunidad disfrazada de desafío

Quiero ser claro: esto no es un argumento en contra de los agentes de IA. Los sistemas autónomos transformarán de raíz el mundo empresarial, y para mejor. Pero esa transformación exige que construyamos los cimientos adecuados.

Se trata de tres cuestiones: una cadena de responsabilidad clara, supervisión técnica y un marco regulatorio que avance al mismo ritmo que la realidad. Hoy, las tres faltan en medida suficiente. La nueva vigilancia de las aseguradoras es un signo de que el mercado empieza a poner precio a ese riesgo, y eso es, en esencia, saludable. Cuando el riesgo tiene un precio, las organizaciones también empiezan a invertir en gestionarlo.

Las empresas que se toman en serio las cuestiones de control y responsabilidad no solo construyen sistemas más seguros. Construyen una ventaja competitiva que será difícil de alcanzar para quienes esperaron.