Vanesa Guerrero, matemática: «Desconocer lo que hay detrás de la Inteligencia Artificial nos vuelve vulnerables» | Tecnología
Introducción
En «Alicia en el País de las Maravillas,» el Sombrerero Loco lanza una interesante pregunta: “¿Es mejor un reloj parado que no funciona en absoluto u otro que se atrasa un minuto cada día?”. Vanesa Guerrero, matemática y profesora de Estadística, utilizó esta pregunta para ilustrar cómo la inteligencia artificial (IA) puede generar resultados inconsistentes en función de cómo se formule una pregunta. Guerrero ha sido galardonada con uno de los premios L’Oréal-Unesco For Women in Science por su trabajo en equidad algorítmica en datos funcionales.
Desarrollando algoritmos justos
Guerrero trabaja en crear algoritmos que tomen decisiones informadas, interpretables, coherentes y no discriminatorias. Estos algoritmos lidian con datos funcionales como salarios y presiones arteriales, y buscan lograr la equidad algorítmica. La clave en este proceso es definir qué significa equidad en un contexto específico y luego desarrollar la formulación matemática correspondiente.
Ecuaciones justas
El objetivo es crear algoritmos completamente justos, pero Guerrero reconoce que los sesgos son inherentes a los datos. A medida que evoluciona la sociedad y se adopta un lenguaje más inclusivo, es probable que los modelos de IA también evolucionen para reducir estos sesgos. Guerrero enfatiza que la selección de datos representativos es crucial para un desarrollo justo del algoritmo.
Igualdad en los equipos tecnológicos
A fin de corregir los errores y sesgos en el desarrollo de algoritmos, Guerrero aboga por la igualdad de género en los equipos tecnológicos y la diversidad en términos de religión y experiencias para lograr una mayor equidad algorítmica.
Educación y responsabilidad en IA
La educación es fundamental para enfrentar los desafíos de la IA y la equidad algorítmica. Guerrero señala que las nuevas generaciones se educarán utilizando herramientas de IA y, por lo tanto, es imprescindible que los alumnos aprendan a hacer preguntas adecuadas y a utilizar estas herramientas de forma responsable. También es necesario seguir investigando y desarrollando modelos y métodos que corrijan sesgos en la inteligencia artificial.
Regulación de las «cajas negras» de IA
Además del trabajo en equidad algorítmica, es esencial abordar los desafíos éticos de la IA mediante la gobernanza y regulación. La Unión Europea ha aprobado recientemente la ley de inteligencia artificial, que establece obligaciones específicas para las aplicaciones de IA según los riesgos de su uso. Guerrero describe los modelos de IA desarrollados por grandes empresas como «cajas negras» y aboga por una ciencia y código abierto en la investigación y desarrollo, permitiendo así un mayor control y transparencia en la IA.
Conclusión
Arrojando luz sobre el enigma del Sombrerero Loco, Guerrero concluye que aunque un reloj parado puede parecer menos útil que uno que se atrasa un minuto al día, en realidad, el reloj parado da la hora exacta dos veces al día, mientras que el otro sólo lo hace una vez cada dos años. Esta observación ilustra la importancia de la perspectiva y la formulación correcta al hacer preguntas y desarrollar algoritmos justos y equitativos en el campo de la inteligencia artificial.
