Servirá para filtrar datos maliciosos generados por Inteligencia Artificial
Microsoft implementará nuevas medidas de seguridad en sus sistemas de inteligencia artificial
Microsoft, uno de los líderes en el desarrollo de sistemas de inteligencia artificial (IA), sigue trabajando en mejoras para evitar que sus asistentes basados en IA proporcionen respuestas engañosas o polémicas. Entre sus productos más destacados se encuentra ChatGPT, desarrollado en colaboración con OpenAI, en el cual se incorporará un innovador sistema de seguridad con el objetivo de hacer más eficientes y seguros estos servicios.
Creación de barreras para prevenir el uso indebido de datos maliciosos en IA
Varias compañías como Microsoft, Meta Holdings y Alphabet han enfrentado críticas debido a los resultados inapropiados obtenidos a través de chatbots y otros sistemas basados en IA. Respuestas sexistas, xenófobas o aquellas que puedan generar problemas sociales y de reputación no son bienvenidas. Por ello, Microsoft ha decidido integrar medidas de seguridad adicionales para garantizar que sus herramientas de IA sean más eficaces y seguras.
Copilot AI: mejorando el rendimiento y la seguridad en servicios de Microsoft
El asistente Copilot AI, diseñado para optimizar el rendimiento de la mayoría de los servicios ofrecidos por Microsoft, incorporará soluciones específicas para evitar que sus sistemas basados en IA muestren resultados vulnerables o polémicos. Las empresas tecnológicas que han invertido en IA han sufrido pérdidas significativas debido a fallos y errores en las respuestas proporcionadas por estas herramientas, lo que ha provocado pérdidas millonarias en el mercado de valores.
Con estas nuevas medidas de seguridad, la IA será capaz de evitar responder preguntas maliciosas de los usuarios que busquen dañar la reputación de los servicios basados en IA. Según Extreme Tech, estas mejoras se implementarán en los próximos meses y estarán disponibles en GPT-4 y futuras versiones. Será necesario esperar un tiempo para evaluar cómo se integran estas nuevas medidas de seguridad y cuán efectivas resultan en términos de rendimiento.
