Brechas de seguridad y deficiencias de privacidad: las empresas de IA priorizan la velocidad sobre la seguridad

Cuando la velocidad precede a la seguridad

Mucho está sucediendo en el mundo de la IA en estos momentos. A veces demasiado, demasiado rápido.

Toma el agente de IA Muse de Meta como ejemplo concreto. The Verge informa que Meta cerró recientemente una brecha de seguridad crítica en el sistema — una falla que permitía a personas no autorizadas tomar control directo sobre las acciones del agente. Cuánto tiempo estuvo abierta la brecha y si fue explotada en la práctica aún no está claro, pero no es el punto central. El punto central es que la falla existía en absoluto.

Cuando un agente de IA es comprometido, las consecuencias son más difíciles de limitar que cuando el software tradicional resulta afectado. Un agente secuestrado puede actuar, tomar decisiones e interactuar con otros sistemas en tiempo real — de formas que son prácticamente imposibles de prever o detener después. Los expertos en seguridad han advertido sobre este escenario precisamente durante mucho tiempo. Ahora ya no es teórico.

La crítica de la industria es contundente: las empresas tecnológicas construyen sistemas poderosos sin integrar el pensamiento básico de seguridad desde el inicio. Es una acusación justa. Y Muse probablemente no es una excepción — es un síntoma.

Tus secretos se almacenan en algún lugar

Paralelamente a los problemas de seguridad, ocurre una crisis más silenciosa: la privacidad. Wired destaca cómo millones de personas cada día confían a chatbots de IA como ChatGPT, Claude y Gemini sus pensamientos más profundos — sobre salud, finanzas, relaciones y temores — sin entender realmente qué sucede con esa información.

Como estándar, las conversaciones se recopilan y se almacenan. Pueden compartirse con subcontratistas, anunciantes o ser entregadas a petición de las autoridades. Matt Green, profesor de privacidad en la Universidad Johns Hopkins, señala lo absurdo de la situación: pregunta tras pregunta, el usuario construye un autorretrato completo — y lo regala gratis.

Moxie Marlinspike, el criptógrafo detrás del servicio de mensajería cifrada Signal, ve un patrón familiar. Era la misma ceguera de privacidad con los mensajes de texto desprotegidos lo que lo impulsó a crear Signal en 2014. Ahora la historia se repite, pero a una escala mucho mayor. Su respuesta es el chatbot Confer, donde técnicas criptográficas impiden incluso a los servidores del servicio registrar las conversaciones.

Es una iniciativa prometedora. Pero el problema es estructural: la mayoría de los usuarios eligen comodidad sobre privacidad, y las grandes plataformas rara vez les dan razones para reconsiderar.

Avances que se desmoronan bajo el escrutinio de los revisores

Si las brechas de seguridad y los riesgos de privacidad son problemas concretos, la tercera señal de alerta es más sutil — pero igualmente grave en su propia manera. MIT Technology Review ha analizado la ola de noticias espectaculares de IA del verano y encuentra que muchas afirmaciones sobre avances se disuelven cuando expertos independientes les echan un vistazo.

Anthropric afirmó que Claude Mythos supera a los expertos en seguridad en la búsqueda de vulnerabilidades de software. OpenAI aseguró que el chatbot Astra resolvió problemas matemáticos que han permanecido sin resolver durante al menos una década. Los titulares fueron grandiosos. La realidad más modesta.

Matemáticos que inicialmente quedaron impresionados por el comunicado de prensa de OpenAI pronto constataron que los resultados no eran tan nuevos como se presentaban. El profesor Tristan Buckmaster del Courant Institute de NYU incluso sugiere que OpenAI se apropió del trabajo de otros sin reconocimiento adecuado. Estas son acusaciones graves.

El patrón es claro: las empresas eligen sus propias redacciones, los medios las aceptan, y cuando la revisión independiente finalmente ocurre, el siguiente ciclo de noticias ya ha comenzado.

Y código autónomo dañino vota sobre sus próximos movimientos

Como si se necesitara otra capa más: investigadores de seguridad de Cisco Talos han identificado con su marco de análisis CAIRN un programa malicioso al que llamaron CLOSEDQUORUM. Planifica sus ataques consultando hasta cuatro grandes modelos de lenguaje — DeepSeek, Qwen, Mistral y Gemini — y actúa según la respuesta combinada. Completamente sin control humano.

No es ciencia ficción. Es código malicioso basado en Windows, vinculado a foros criminales con enfoque en fraude de tarjetas, que ya existe en la naturaleza. La democratización de la IA desafortunadamente también aplica a los atacantes.