El asistente de IA de Meta, Muse, falló incluso antes de llegar a 600 000 usuarios: las promesas de privacidad no se cumplieron
OpenAI y Meta compiten por ser el asistente de IA más respetuoso con la privacidad, pero el buque insignia de Meta, Muse, ya presentó fallos antes de alcanzar los 600 000 usuarios, cuando un investigador de seguridad expuso graves vulnerabilidades que podrían haber dado acceso a las bases de datos internas de la empresa. Tras las pulidas promesas se esconde una incómoda verdad: en la carrera por tu confianza, la privacidad es con demasiada frecuencia un argumento comercial y no un requisito básico.
La carrera por tu confianza ha comenzado
Cuando las grandes tecnológicas competían por tener el agente de IA más inteligente, las reglas del juego eran sencillas: impresionar con el rendimiento. Pero algo ha cambiado. Según The Verge, ahora se desarrolla una nueva carrera, más sutil, sobre quién protege mejor los datos personales de los usuarios. Es un avance bienvenido. Pero las palabras bienvenidas y la acción real no siempre son lo mismo.
En la DevDay anual de OpenAI, Sam Altman presentó el nuevo agente de IA Dots con una promesa audaz: establecer "un nuevo estándar de privacidad en la IA". Implícitamente, la crítica iba dirigida contra Muse, el agente rival de Meta, al que se señaló como una opción peor desde el punto de vista de la privacidad. Es un movimiento notable: convertir la privacidad en un argumento comercial en lugar de un requisito mínimo.
Pero analicemos la realidad.
Muse: diseñado para la seguridad, fracasó en tiempo récord
Meta lanzó Muse con la privacidad como su argumento de venta más importante. Mark Zuckerberg describió el producto como "construido desde cero para la seguridad y la privacidad", con los datos de los usuarios aislados en un entorno virtual protegido. Sonaba prometedor. Sonaba bien pensado.
Sin embargo, un investigador de seguridad reveló una grave vulnerabilidad, antes de que Muse llegara siquiera a reunir 600 000 usuarios diarios en Estados Unidos. Según el sitio 404 Media, citado por The Verge, varios problemas de seguridad críticos surgieron en el último momento antes del lanzamiento. Uno de ellos podría haber dado a los usuarios acceso a las bases de datos internas de Meta. No es un pequeño error. Es una violación fundamental de la promesa que era la razón de ser del producto.
A eso se suma otra capa de preocupación: Muse recopila por defecto información sobre los usuarios y sus contactos, y entrena sus modelos con el material introducido, a menos que el usuario decida optar por no hacerlo de forma activa. Un periodista explicó que Muse leyó por iniciativa propia sus mensajes privados. No es lo que los usuarios esperan cuando oyen la palabra "privacidad".
El problema es estructural, no solo técnico
Mi punto de vista como desarrollador de negocio es el siguiente: esto no es solo un problema técnico. Es un problema de modelo de negocio.
Las empresas tecnológicas con ecosistemas financiados por publicidad tienen un incentivo inherente para recopilar la mayor cantidad posible de datos. Cuando esas mismas empresas prometen privacidad, surge un conflicto de intereses fundamental que ninguna arquitectura de seguridad del mundo puede resolver por sí sola. Se requieren compromisos reales y verificables, preferiblemente auditados por terceros independientes.
Esto no es exclusivo de Muse ni de Meta. Toda la industria se encuentra en una situación en la que el ritmo de lanzamiento de productos supera con creces el ritmo de madurez en seguridad y cumplimiento normativo. Los agentes de IA que actúan en nombre de los usuarios —leen correos electrónicos, reservan reuniones, gestionan archivos— operan en un panorama de riesgos completamente distinto al de un simple motor de búsqueda. Una vulnerabilidad en un agente así no es solo un incidente de privacidad. Es potencialmente una intrusión en toda tu identidad digital.
¿Qué deberías hacer realmente como usuario?
En primer lugar: lee la política de protección de datos antes de confiar tu vida digital a un agente de IA. Es aburrido, pero necesario. Fíjate específicamente en tres cosas: qué datos se recopilan, cuánto tiempo se almacenan y si tienes que optar activamente por no compartir datos en lugar de optar activamente por compartirlos.
En segundo lugar: ten en cuenta la configuración predeterminada. Como demuestra el caso de Muse, a menudo es la configuración predeterminada el verdadero acuerdo de privacidad, y no los titulares bien redactados de los comunicados de prensa.
En tercer lugar: exige auditorías de seguridad independientes. Las empresas que realmente se toman en serio la privacidad deberían dar la bienvenida a las auditorías externas de seguridad, no temerlas.
La carrera por tu confianza está en pleno apogeo. Pero la confianza se gana con acciones, no señalando con el dedo a los competidores en un escenario de San Francisco.