Desarrollan un virus tipo gusano con inteligencia artificial capaz de robar datos en ChatGPT y Gemini
Introducción
La inteligencia artificial (IA) ha revolucionado el mundo de la tecnología y los datos, pero también ha generado nuevos riesgos en ciberseguridad. Recientemente, tres expertos en la materia han desarrollado un gusano informático capaz de replicarse y extenderse en modelos de inteligencia artificial generativa, poniendo en peligro la seguridad de estos sistemas.
Morris II: un gusano que ataca aplicaciones basadas en IA generativa
Los ciberseguridad Stav Cohen, Ron Bitton y Ben Nassi han presentado en su estudio un gusano informático llamado Morris II. Este gusano, que toma su nombre del primer gusano digital conocido como «Morris Worm», tiene la capacidad de infiltrarse y propagarse a través de aplicaciones basadas en modelos de IA generativa.
¿Qué diferencia a Morris II de otros tipos de virus?
La principal diferencia entre un virus convencional y un gusano como Morris II es que este último no requiere de un programa anfitrión. En lugar de ello, explota las vulnerabilidades de sistemas operativos, redes o aplicaciones y se copia y desplaza entre dispositivos de forma autónoma. Morris II es particularmente peligroso porque puede extenderse por aplicaciones que utilizan modelos de IA generativa, como ChatGPT o Gemini, lo que podría llevar a la sustracción de información, la propagación de información falsa o el envío de mensajes de spam.
¿A qué aplicaciones afecta Morris II?
Según los creadores del estudio, Morris II tiene la capacidad de afectar a dos tipos de aplicaciones: las que emplean la técnica de generación aumentada de recuperación para mejorar la calidad de la IA generativa y las que dependen de los resultados producidos por la IA generativa para funcionar correctamente. Los investigadores advierten en su artículo sobre los peligros de este malware:
Mientras esperamos que los hallazgos de este artículo prevengan la aparición de gusanos GenAI, creemos que los gusanos GenAI aparecerán en los próximos años en productos reales y desencadenarán resultados indeseados y significativos.
