El sistema judicial ataca el abuso fabricado con IA – doce sitios incautados en Nueva York

La justicia da un paso histórico

Durante mucho tiempo ha existido una brecha peligrosa entre lo que la inteligencia artificial puede lograr y lo que la ley realmente puede combatir. Esa brecha se redujo significativamente cuando el fiscal de distrito de Manhattan, Alvin Bragg, según reportó Wired, anunció que el tribunal superior de Nueva York había ordenado la incautación de doce sitios web que distribuían material de video sexual fabricado – creado con ayuda de IA – a costa de personas reales.

No se trata de un debate abstracto sobre privacidad. Se trata de actrices, músicas, deportistas, activistas, políticos y personajes de redes sociales cuyos rostros han sido insertados en material pornográfico sin su conocimiento o consentimiento. En total se identificaron alrededor de 1 200 víctimas.

«Estas violaciones de la privacidad acompañan a las víctimas en su vida profesional y personal y cobran un enorme precio psicológico», dijo Bragg en el anuncio.

Una industria clandestina que creció en silencio

La tecnología detrás de los llamados deepfakes – falsificaciones de video convincentes creadas con ayuda de aprendizaje automático – existe desde finales de 2017. Por lo tanto, no es un fenómeno nuevo. Pero durante estos años ha crecido toda una industria clandestina en las sombras: sitios web, aplicaciones móviles y bots que ofrecen a los usuarios la posibilidad de fabricar material sexual explícito en cuestión de segundos, con un rostro real insertado en películas pornográficas existentes.

Algunos de los sitios web ahora incautados afirmaban haber existido desde 2018. Las versiones archivadas mostraban que películas individuales habían sido vistas decenas de miles de veces. No se trata de rincones oscuros marginales – son sitios con alcance masivo y distribución sistemática.

Esto es importante entenderlo: el problema no es solo la tecnología en sí, sino el modelo de negocio que se ha construido alrededor de ella. Estos sitios web han operado como empresas, con tráfico, ingresos publicitarios y usuarios recurrentes. La incautación en Nueva York es, por lo tanto, no solo una marcación legal – es un ataque a una estructura económica.

Por qué esto es un punto de inflexión

He seguido el avance de la tecnología de IA con gran entusiasmo, y creo genuinamente en su potencial transformador. Pero es precisamente por eso que considero que esta incautación es tan importante – y francamente esperanzadora.

Cuando una tecnología poderosa carece de contrapeso en forma de regulaciones y aplicación de la ley, corre el riesgo de socavar la confianza en todo el campo. La industria de deepfakes para material sexual fabricado es un ejemplo extremadamente claro de lo que sucede cuando las herramientas de IA caen en las manos equivocadas sin rendición de cuentas real. Daña directamente y concretamente a las víctimas. No es un riesgo hipotético – es daño documentado en miles de personas reales.

Lo que Nueva York está haciendo ahora es establecer un precedente: que el material sexual fabricado, creado con IA sin consentimiento, no es una zona gris legal sino un delito digno de acción judicial. Es un paso importante, y probablemente inspirará medidas similares en otros estados y países.

Qué se requiere a continuación

La incautación es loable, pero no es suficiente. Algunos desafíos centrales permanecen:

La cuestión de jurisdicción es compleja – muchos de estos sitios operan desde países fuera del alcance de Estados Unidos, lo que requiere cooperación internacional para que la incautación tenga un efecto duradero.

La responsabilidad de las plataformas debe fortalecerse. Los motores de búsqueda, los alojamientos web y las soluciones de pago han podido afirmar ignorancia durante mucho tiempo. Ese argumento ya no se sostiene.

Las empresas de tecnología tienen su propia responsabilidad de incorporar mecanismos de protección en sus herramientas de IA que dificulten este tipo de abuso desde la fuente.

La buena noticia es que el movimiento ahora es claro: las autoridades se toman el problema en serio, los legisladores están comenzando a actuar y el kit de herramientas legales se está llenando. No es ingenuo ser optimista aquí – es realista. La justicia llega tarde a la fiesta, pero finalmente ha llegado.