Slack analiza mensajes de usuarios para capacitar modelos de inteligencia artificial
Introducción
Cada vez es más común que aplicaciones de mensajería instantánea como Slack utilicen los comentarios y datos de sus usuarios con el objetivo de perfeccionar sus modelos de Inteligencia Artificial (IA) sin solicitar explícitamente el consentimiento de los mismos. Slack es una herramienta de comunicación diseñada para el entorno laboral y profesional, que compite con otras aplicaciones similares como Skype, Microsoft Teams o Flock.
El entrenamiento de IA de Slack a partir de los datos de sus usuarios
Se ha descubierto recientemente que Slack está utilizando sin permiso explícito todos los mensajes y archivos compartidos por sus usuarios para entrenar modelos de aprendizaje automático. Además, el análisis de estos datos es obligatorio para la aplicación.
¿Cómo evitar el monitoreo de tus datos en Slack?
Lo sorprendente es que, por defecto, Slack analiza toda la información de sus usuarios con fines de entrenamiento de IA. Para evitar este proceso, es necesario que el administrador de la cuenta de Slack de la organización envíe un correo electrónico a la empresa solicitando la suspensión del análisis de datos. Esta opción no está disponible para los usuarios individuales, solamente para los administradores, como los responsables de Recursos Humanos o soporte técnico de una empresa.
Corey Quinn, ejecutivo de DuckBill Group, fue quien descubrió que Slack estaba utilizando los datos de sus usuarios para entrenar modelos de IA, tras revisar cuidadosamente la política de privacidad de la plataforma.
«Para desarrollar modelos de IA/ML, nuestros sistemas analizan los datos de los clientes (por ejemplo, mensajes, contenido y archivos) enviados a Slack, así como otra información (incluida la información de uso), tal y como se define en nuestra Política de privacidad y en su contrato de cliente.»
La postura de Slack ante las acusaciones
Debido a la repercusión de la noticia, Slack publicó recientemente una entrada en su blog en la que intentó aclarar cómo se utilizan los datos de sus clientes. La empresa asegura que no utiliza los datos de los clientes para entrenar productos de IA generativa, sino que confía en modelos de lenguaje de terceros para esto. La información recopilada se utiliza únicamente para entrenar sus modelos de aprendizaje automático en aspectos como las recomendaciones de canales y emojis, así como los resultados de búsqueda.
Slack se defiende afirmando que «los modelos ML tradicionales de Slack utilizan datos agregados desidentificados y no acceden al contenido de los mensajes en DMs, canales privados o canales públicos«.
Un portavoz de Salesforce, propietaria de Slack Technologies, reiteró esto en una declaración a Engadget. También dijo que «no construimos ni entrenamos estos modelos de tal manera que puedan aprender, memorizar o ser capaces de reproducir datos de clientes«. Sin embargo, la información relacionada con este proceso ha sido ocultada a los usuarios y no se les permite elegir si desean ser monitoreados o no. Además, el hecho de que sea necesario enviar un correo electrónico para evitar la recopilación de datos de los usuarios sigue siendo polémico.
«Para aclararlo, Slack tiene modelos de aprendizaje automático a nivel de plataforma para cosas como recomendaciones de canales y emojis y resultados de búsqueda. Y sí, los clientes pueden excluir sus datos para ayudar a entrenar esos modelos de aprendizaje automático (no generativos).»
