Carissa Véliz, filósofa en Oxford: «Los humanos que desarrollan la IA herramienta son responsables de su uso»
La Ética de la Inteligencia Artificial: Perspectivas de Carissa Véliz Desde Oxford
Conversar con Carissa Véliz, profesora asociada en el Instituto de Ética de la Inteligencia Artificial de la Universidad de Oxford, es una experiencia enriquecedora y tranquilizadora. Véliz, autora de importantes obras sobre vigilancia y privacidad, se especializa en instruir tanto a empresas como a gobiernos sobre la necesidad de reflexionar sobre el propósito detrás del uso de la inteligencia artificial y los peligros que surgen al subestimar sus riesgos, incluso para el sistema democrático.
Desinformación y Democracia
En una entrevista reciente con Público, Véliz enfatiza que la democracia se sustenta en una información fiable. «Si contamos con máquinas capaces de crear narrativas verosímiles pero no veraces, facilitando la propagación de desinformación a gran escala, estamos ante un problema serio», sostiene.
Abordando la Ética de la IA
Carissa Véliz, quien fue figura destacada en el Foro Líderes con Propósito en Madrid, aboga por una approach serio a los desafíos éticos relacionados con la inteligencia artificial. «Existen diversas inteligencias artificiales y distintos usos, y es crucial que todos se tomen en serio estas tecnologías», afirma. De hecho, imparte un curso sobre ética de la IA para el entorno empresarial, reflejando su compromiso con este tema.
Regulación y Protección de Derechos
Sobre la regulación de la inteligencia artificial, Véliz señala que Europa está en la vanguardia. Sin embargo, opina que las leyes deben ser minimalistas y centrarse en la protección de los derechos ciudadanos, evitando un enfoque estrictamente de coste-beneficio.
Desafíos en la Evaluación de Riesgos
A pesar de tener un marco legal básico claro, algunos aspectos, como la evaluación de riesgos, son difíciles de implementar. Esto se debe a la naturaleza opaca de las IA fundacionales, lo que complica la comprensión de su funcionamiento real.
Importancia de Estimar Riesgos
Véliz destaca la dificultad de valorar los riesgos asociados a tecnologías innovadoras sin datos previos. Aun así, sugiere que una buena práctica consiste en analizar el propósito de la tecnología desde el inicio, ya que la IA, aunque compleja, sigue siendo una herramienta cuya responsabilidad recae sobre los humanos que la utilizan.
Desafíos Legales de las Tecnológicas
«Las tecnológicas han ignorado la ley y han desarrollado sistemas ilícitamente.»
La experta enfatiza que muchas empresas han utilizado datos protegidos y personales sin cumplir con las normativas de derechos de autor y protección de datos, generando una situación contradicional donde recurrimos a estas herramientas a pesar de su legalidad cuestionable.
Reflexiones sobre el Futuro de la IA
Véliz relata una conversación con George Hinton, un pionero en el campo de la inteligencia artificial, quien refirió que los riesgos actuales de la IA son preocupantes, pero afirmó que no cambiaría nada de su trayectoria.
Optimismo en el Diseño Responsable
A pesar de las preocupaciones, Véliz mantiene una postura optimista, indicando que es posible diseñar tecnologías más comprensibles y responsables. Sin embargo, señala que muchas empresas aún no han logrado optimizar su productividad a través de estas herramientas como esperaban originalmente.
Uso de IA en la Vida Cotidiana
A medida que se extiende el uso de IA generativa en diversas áreas, Véliz advierte que existe el riesgo de que las personas no verifiquen la información, generando un creciente desapego en la búsqueda de la verdad.
Los Costos de la Desconexión de Habilidades
En su próximo libro Privacidad es poder (Debate, 2024), Véliz comenta sobre cómo la dependencia de la tecnología puede hacer que perdamos habilidades críticas. Un ejemplo que menciona es el de las plantas de energía, donde el personal nuevo podría carecer de la experiencia necesaria para operar manualmente en caso de fallos tecnológicos.
Ética en el Diseño de Inteligencias Artificiales
Durante su intervención en el evento Líderes con Futuro, Véliz subrayó que las IA no están diseñadas para comprender sus limitaciones. «Generan respuestas basadas en estadísticas, buscando plausibilidad en lugar de verdad», resaltó, reafirmando la importancia de la ética en el diseño de estas herramientas potentes.
La Relación entre Privacidad y Democracia
No hay democracia sin privacidad, concluyó Véliz, planteando la inquietante pregunta: ¿cuánta vigilancia puede soportar una democracia?
