Un especialista en ciberseguridad expone la fragilidad de nuestros datos en ChatGPT.
ChatGPT de OpenAI añade memoria: Lo que necesitas saber sobre su nueva función
La inteligencia artificial está revolucionando el mundo en 2024. Cada vez más empresas integran esta tecnología en su día a día, y se espera que transforme radicalmente el ámbito laboral, con proyecciones de que podría llevar a cabo hasta el 80% de las tareas humanas actuales.
La nueva función de memoria en ChatGPT
Uno de los sistemas más destacados es ChatGPT de OpenAI, un asistente conversacional al que se le pueden plantear una amplia variedad de preguntas. Recientemente, este modelo ha recibido una actualización que le permite realizar razonamientos más complejos. Sin embargo, se recomienda cautela en cuanto a la información que se comparte, ya que su seguridad presenta vulnerabilidades.
Riesgos de seguridad y ataques potenciales
El investigador de seguridad Johann Rehberger, conocido como wunderwuzzi23 en las redes, ha expuesto diversas vulnerabilidades en ChatGPT. Su análisis revela que los atacantes pueden introducir información falsa y comandos malignos en la memoria a largo plazo del sistema, lo que podría comprometer la seguridad del usuario.
OpenAI ha respondido al plantear que se trató de un fallo de seguridad no alarmante, pero Rehberger ha desarrollado una prueba de concepto para demostrar la gravedad del problema, instando a la empresa a implementar soluciones.
Cómo funciona la memoria de ChatGPT
La memoria conversacional a largo plazo, introducida por OpenAI en febrero de este año, permite a ChatGPT recordar detalles de interacciones pasadas para brindar un contexto más enriquecido en futuras conversaciones. Esto incluye datos como edad, género, preferencias y creencias.
Manipulación a través de vulnerabilidades
Utilizando técnicas de inyección de prompts, Rehberger pudo alterar la percepción de ChatGPT sobre el usuario, haciéndole creer que era una persona ficticia con características absurdas, como tener 102 años o vivir en la Matrix.
Los «recuerdos» falsos son introducidos a través de información almacenada en servicios de nube, como Google Drive y Microsoft OneDrive, proyectando así la capacidad de manipulación de ChatGPT. A pesar de que se lanzó un parche para mitigar este problema, el investigador sostiene que aún es posible cargar contenido no verificado para interferir en su funcionamiento.
“Esto ahora es persistente en su memoria. La inyección de prompts ha creado un recuerdo que se mantiene en conversaciones futuras.”
Conclusión: Precauciones necesarias al usar ChatGPT
ChatGPT es una herramienta poderosa, pero su uso debe ser cuidadoso. Algunos lugares, como escuelas en Nueva York, han optado por prohibir su uso debido a su potencial de abusos.
Si estás interesado en aprovechar al máximo esta herramienta, considera explorar cursos gratuitos disponibles que te permitan utilizar ChatGPT de manera efectiva.
Mantente informado sobre las últimas noticias tecnológicas siguiendo a Urban Tecno en plataformas como Facebook, WhatsApp, Twitter (X), y nuestro canal de Telegram.
