Introducción: Deslices en chatbots IA aparecen en los titulares
Esta semana, los chatbots de inteligencia artificial (IA) han generado controversias debido a errores difíciles de obviar. Varios gigantes tecnológicos buscan mostrar a los inversores que miles de millones de dólares invertidos en esta tecnología son una buena decisión. Sin embargo, los recientes incidentes demuestran que los chatbots de IA aún no están preparados para ser el foco de atención.
Errores en chatbots IA de Google y OpenAI
En un caso, Gemini de Google generó controversias al negarse a crear personas blancas y cambiar figuras históricas diversas, lo que generó críticas y forzó a la empresa a disculparse. Google pausó la función de creación de personas en su generador de imágenes IA para corregir el error.
Otro incidente involucra a ChatGPT de OpenAI, que dejó de funcionar correctamente para muchos usuarios, incluidos aquellos que utilizan ChatGPT Enterprise, proporcionando respuestas sin sentido. OpenAI atribuyó el problema a una actualización que introdujo un error que afectó la generación de respuestas del chatbot.
Gab, la plataforma polémica de redes sociales
Por su parte, Gab, una plataforma de redes sociales de extrema derecha, lanzó chatbots IA de personajes polémicos como Adolf Hitler y Osama bin Laden, que niegan la existencia del Holocausto. Aunque no está claro qué modelo de lenguaje respalda estos chatbots, Gab AI pretende ser una alternativa a los chatbots «despiertos» de Gemini y ChatGPT, y mantiene que su base de usuarios crece en 20,000 personas por día.
Desafíos en la adopción de IA y posibles soluciones
Esta semana, Gemini y Gab han ofendido tanto a conservadores como a liberales, mientras que ChatGPT, la herramienta líder de IA para empresas, demostró ser poco confiable. Estos incidentes plantean preguntas sobre si el desarrollo de la IA es demasiado rápido.
Tanto Google como OpenAI han lanzado chatbots de IA en un plazo récord, pero aún existen imperfecciones en la tecnología. La alineación, es decir, controlar el comportamiento y los valores de un modelo, es una disciplina nueva que todavía necesita mejoras.
Algunas empresas, como Apple, han adoptado un enfoque más conservador en sus esfuerzos de IA, esperando que otros resuelvan los problemas antes de lanzar sus productos. Se espera que Apple introduzca una gran actualización de IA en 2024, buscando ofrecer un producto más pulido que Gemini y ChatGPT.
A pesar de los desafíos, Google y OpenAI continúan desarrollando sus tecnologías de IA y, probablemente, enfrentarán más problemas en el futuro. Sin embargo, estas empresas tendrán que abordar y resolver los problemas en tiempo real ante el público.
