Microsoft y OpenAI refuerzan la seguridad del software de IA ante el uso por parte de hackers gubernamentales
Microsoft y OpenAI han expresado su preocupación al descubrir que su software de inteligencia artificial (IA), ChatGPT, está siendo utilizado por hackers de gobiernos rivales de los Estados Unidos con fines diversos. Como respuesta, han establecido medidas para proteger y monitorear el uso de su IA y evitar que caiga en manos equivocadas.
Acciones de OpenAI y Microsoft contra hackers gubernamentales
En una publicación en su blog, OpenAI reveló que hackers vinculados a varios gobiernos han intentado acceder a su plataforma para utilizar la IA y mejorar significativamente su productividad. La primera medida adoptada por OpenAI fue cancelar las cuentas de estos usuarios, pero van más allá en su lucha contra estos actores maliciosos.
Las medidas adicionales para proteger la aplicación de un uso perjudicial incluyen la identificación y monitoreo de estos actores maliciosos y aprender de los malos usos que hacen de la plataforma. Además, es vital colaborar con otras empresas del ecosistema IA para solucionar y detectar problemas de seguridad.
Una parte clave de estos esfuerzos es la transparencia. Ambas compañías realizan estudios constantes que publican abiertamente, permitiendo entender su forma de enfrentar estos problemas. Por ejemplo, han investigado si ChatGPT podría ser utilizado para fabricar armas biológicas.
El peligro de la IA en manos equivocadas
La IA representa un riesgo para la democracia, y las preocupaciones sobre su uso indebido han sido confirmadas por figuras como el nieto de Oppenheimer y Bill Gates, quien comparó la IA con la bomba atómica en términos de su potencial para crear armas.
En resumen:
- Hackers asociados a países como Rusia, China e Irán han utilizado ChatGPT en sus ciberataques.
- Es la primera vez que se documenta el uso de IA por parte de hackers afiliados a diferentes gobiernos del mundo.
- Los hackers utilizan la IA en tareas cotidianas, no para generar los ataques en sí mismos, lo que indica una buena seguridad de la IA.
- Monitorizar las actividades de ChatGPT y trabajar con otras empresas del sector es crucial para mejorar la seguridad.
- La transparencia juega un papel fundamental en la lucha contra el uso indebido de la IA.
- Estos grupos han utilizado la IA para campañas de phishing y la traducción de artículos científicos que podrían ser útiles en sus ataques.
- Las cuentas de estos usuarios han sido canceladas de manera tajante.
Mantente al día con lo último en tecnología al suscribirte a nuestro canal oficial y verificado de Andro4all en WhatsApp.
