¿Quién vigila a los vigilantes? La IA elimina millones de abusos sexuales infantiles sin que nadie fiscalice el poder

La IA como guardiana de la sociedad: un papel que nadie eligió, pero que todos necesitan

Empecemos por lo que es, en efecto, una gran noticia: Meta ha adoptado medidas contra 33,2 millones de piezas de contenido con explotación sexual infantil en Facebook e Instagram durante los primeros seis meses de 2026. Más del 97 por ciento de ellas fueron detectadas por los propios sistemas de Meta, antes de que un solo usuario tuviera tiempo de denunciarlas. En la India, la tasa de identificación proactiva fue aún más alta, de algo más del 98 por ciento, según TechCrunch.

Son cifras difíciles de asimilar. Pero también son cifras que subrayan lo profundamente que han cambiado las plataformas: de mensajeras pasivas a guardianes activos con un conocimiento profundo de lo que circula por sus sistemas.

El anuncio como un mapa oculto

Lo que hace especialmente interesante, y preocupante, el último esfuerzo de Meta no es solo el volumen, sino la forma de la amenaza que ahora se combate. Según información tanto de Meta Newsroom como de TechCrunch, los autores de estos delitos han empezado a usar anuncios completamente inofensivos como indicaciones ocultas hacia material ilegal en sitios web externos. Un anuncio de lo que parece ser una tienda de aficiones puede, en realidad, conducir a abusos graves.

Este es un cambio de método que exige un cambio de método en la respuesta. La respuesta de Meta es un sistema basado en modelos de lenguaje de gran tamaño que no solo examina el contenido del anuncio, sino que también analiza el destino, es decir, adónde llega realmente el usuario si hace clic. Si se combina esto con un llamado agente de equipo rojo, un sistema de IA cuyo único cometido es encontrar debilidades en las propias defensas de Meta antes de que lo hagan los verdaderos autores de los delitos, empezamos a vislumbrar los contornos de una arquitectura de IA defensiva de un tipo que no habíamos visto antes.

Es una ingeniería impresionante. También es una enorme concentración de poder.

Anthropic traza los límites, pero ¿quién dibujó el mapa?

Paralelamente a la ofensiva de Meta, Anthropic presenta un Cyber Verification Program rediseñado que crea tres niveles distintos de acceso a sus modelos más avanzados, según informa SecurityWeek. La idea es elegante: las capacidades de IA que ayudan a los investigadores de seguridad a encontrar vulnerabilidades también podrían, en manos equivocadas, usarse para explotarlas. La solución es un sistema jerárquico en el que la credibilidad y la autorización determinan hasta dónde se puede profundizar.

El nivel básico, Acceso de defensa, va dirigido a equipos de seguridad e investigadores independientes con informes documentados y puede concederse en pocos días. A partir de ahí se escala al Acceso de equipo rojo para pruebas de intrusión autorizadas y, finalmente, al Acceso especializado para un reducido número de organizaciones con autorización para probar infraestructuras críticas para la sociedad, como las redes eléctricas y los sistemas aeronáuticos.

El sistema está bien diseñado y tiene buenas intenciones. Pero plantea una cuestión de principio que no podemos ignorar: es Anthropic quien decide quién es lo bastante fiable para llegar al círculo más interno. Se trata de una empresa privada que ejerce una función que históricamente ha correspondido a los Estados, a las autoridades de supervisión y al sistema judicial.

El precio de la transformación es la transparencia

Me entusiasma sinceramente lo que está ocurriendo aquí. La capacidad técnica de identificar y detener de forma proactiva los abusos sexuales infantiles en un tiempo casi real no es solo desarrollo empresarial: es desarrollo de la civilización. Y el sistema de acceso graduado de Anthropic es una respuesta más meditada al problema del doble uso que la que el sector había dado hasta ahora.

Pero las transformaciones de este calibre requieren algo más que buena voluntad. Exigen órganos de revisión externos, transparencia pública sobre cómo se trazan los límites de las decisiones y marcos jurídicos claros para cuándo una empresa privada actúa como autoridad pública.

La cuestión no es si la IA debe proteger a los niños. La respuesta a esa pregunta es obvia y unánime. La cuestión es en qué condiciones y quién las fija.