La IA se abusa a gran escala — y la defensa de la sociedad se rezaga

Cuando las herramientas cotidianas se convierten en armas

Hay algo profundamente inquietante en que las plataformas que utilizamos diariamente para comunicarnos con colegas y clientes — Microsoft Teams y Cisco Webex — ahora se hayan convertido en instrumentos de fraudes organizados. Según Wired, redes criminales aprovechan estos sistemas empresariales legítimos para engañar especialmente a usuarios chinos y hacerlos transferir grandes sumas de dinero. Es un enfoque clásico de ataque disfrazado de nuevo: abusar de la confianza, vestirlo de familiaridad, y dejar que la víctima baje la guardia.

Lo que hace esto particularmente grave desde una perspectiva empresarial es que socava la confianza en las herramientas digitales de trabajo de las que las organizaciones modernas dependen completamente. Cuando los correos electrónicos ya son el blanco de los escépticos y las llamadas telefónicas cada vez se perciben más como sospechosas, las herramientas de chat y videoconferencia han cerrado una brecha de confianza importante. Esa confianza ahora está comenzando a erosionarse.

La IA como arma de doble filo

Aún más preocupante es la información sobre cómo los modelos avanzados de IA se abusan a escala industrial. Wired informa que el modelo Claude de Anthropic ahora se utiliza ampliamente — desde apoyar ataques de hackers hasta buscar información sobre armas biológicas. Es un recordatorio de que toda herramienta poderosa tiene un lado oscuro, y que las empresas que construyen la IA del futuro cargan con una responsabilidad pesada sobre cómo se utiliza realmente su tecnología.

Simultáneamente, se revela que Meta ha fracasado en detener material de abuso infantil generado por IA en sus plataformas. No es un detalle técnico — es un fallo sistémico con consecuencias humanas del peor tipo.

Soy genuinamente entusiasta sobre lo que la IA puede lograr. Pero el entusiasmo sin responsabilidad es imprudencia. Esta semana nos recuerda que la bendición de la escalabilidad — que la IA pueda hacer cosas increíbles rápido y barato — también aplica a quienes tienen intenciones malvadas.

El alcance oculto de la vigilancia

Otra noticia que merece más atención de la que quizá ha recibido es la revelación sobre la empresa de vigilancia Flock. Un grupo de activistas e investigadores de seguridad desmantelaron una de las cámaras de la empresa y descargaron sus datos. Lo que encontraron fue revelador: en apenas 21 días, la cámara había fotografiado 1,6 millones de imágenes de 50 000 vehículos.

Además, Wired revela que la herramienta de búsqueda basada en IA de Flock — que la policía utiliza activamente — puede buscar personas basándose en descripciones escritas y vigilar múltiples cámaras simultáneamente. Es tecnología con usos claramente legítimos en la aplicación de la ley, pero plantea preguntas igualmente claras sobre dónde está el límite entre seguridad y vigilancia masiva. ¿Quién tiene acceso? ¿Quién establece los límites? ¿Y quién supervisa a los supervisores?

La defensa debe mantenerse al ritmo

Lo positivo en todo esto — y sí, hay algo positivo — es que las amenazas ahora son visibles. Sabemos que las plataformas de chat se abusan. Sabemos que los modelos de IA pueden usarse destructivamente. Sabemos que la tecnología de vigilancia recopila más datos de los que la mayoría entiende. El conocimiento de un problema siempre es el primer paso hacia su solución.

Además, Estados Unidos y México anuncian una iniciativa conjunta sobre seguridad de drones, lo que señala que los estados están comenzando a entender que el panorama de amenazas digitales y físicas se están entrelazando cada vez más. Es la dirección correcta.

Las empresas, los organismos públicos y los propietarios de plataformas necesitan ahora acelerar su trabajo de seguridad al mismo ritmo en que evolucionan las amenazas. No se trata de frenar el desarrollo de la IA — se trata de construir protecciones robustas en paralelo con la innovación. Los dos pueden combinarse, y deben combinarse.