La IA se escapa de sus dueños: ahora la sociedad pisa el freno
McDonald's comparece ante un tribunal federal por presunta colusión en precios a través de software, los bancos corren el riesgo de perder 5 000 mil millones de coronas suecas cuando las herramientas de IA hacen que la pasividad de los clientes resulte no rentable, y Amazon elabora en silencio perfiles de tus hábitos de compra. Los acontecimientos de esta semana no son noticias tecnológicas aisladas, sino partes de un mismo patrón: las herramientas de IA se despliegan a gran velocidad, pero el derecho, la ética y el equilibrio de poder se quedan rezagados. Ahora, diversos actores, desde tribunales hasta autoridades reguladoras, empiezan a trazar los límites que nunca se establecieron desde el principio.
Cuando las herramientas se escapan de sus dueños
La transición hacia la IA nunca ha tratado solo de tecnología por la tecnología. Siempre ha tratado de poder, dinero y de quién fija las reglas del juego. Esta semana recibimos varios recordatorios contundentes de ello, todos a la vez.
Tomemos el caso de McDonald's. Según Breakit, la cadena de comida rápida se encuentra ahora en un tribunal federal estadounidense, acusada de que una herramienta de IA habría posibilitado el intercambio de información sobre precios y ventas entre franquiciados independientes, información que la legislación de competencia normalmente prohíbe compartir. El resultado, si las acusaciones se confirman, es que los precios de los menús se han mantenido artificialmente altos a costa de los consumidores. Es una situación de cártel clásica, pero con un giro nuevo e importante: no fueron personas sentadas en una sala conspirando. Fue una herramienta de software la que facilitó el intercambio, probablemente sin que ningún individuo entendiera lo que estaba ocurriendo. Precisamente eso hace que el caso sea jurídicamente explosivo, y potencialmente sentará precedente para todo el sector comercial.
Se amenaza la caja registradora silenciosa de los bancos
Al mismo tiempo, Breakit informa de un análisis que debería quitar el sueño a los directores financieros. El surgimiento de los agentes de IA, programas independientes que actúan por encargo del usuario, podría costar a los bancos estadounidenses hasta 5 000 mil millones de coronas suecas en ingresos perdidos. La lógica es sencilla y brutal: durante décadas, los bancos han ganado dinero con la pasividad de sus clientes. Nadie se molesta en comparar cuentas de ahorro. Nadie negocia el tipo de interés. Los agentes de IA hacen exactamente eso, de forma automática y continua. Esa ventaja de la inercia desaparece.
Esto no es en sí mismo un problema ético; al contrario, beneficia a los consumidores. Pero ilustra cómo la IA redistribuye sistemáticamente el poder y el capital, a menudo más rápido de lo que los marcos regulatorios y los modelos de negocio consiguen adaptarse.
Tus curvas, la base de datos de Amazon
Ahora bien, lo que más indignación popular ha despertado: Amazon elabora perfiles de sus clientes con un nivel de detalle que ha dejado boquiabiertos a millones de usuarios frente a sus pantallas. Una pestaña oculta en la configuración de la cuenta revela, según Breakit, que el gigante del comercio electrónico ha extraído conclusiones, entre otras cosas, sobre la complexión física de los clientes a partir de su historial de compras. Según se informa, en los perfiles han aparecido descripciones como "culo plano".
Que las grandes empresas recopilen datos no es nuevo. Pero presentar las conclusiones de forma tan abierta y con una precisión tan personal es otra cosa. Esto pone de manifiesto lo sofisticadas que se han vuelto las herramientas automatizadas de análisis y lo poco que los consumidores saben realmente sobre lo que ocurre con sus datos de comportamiento. La transparencia puede, evidentemente, volverse en contra: cuando la gente ve lo que se ha recopilado, no lo quiere.
El software libre toma posición
En la comunidad técnica se libra una lucha de poder paralela. El entorno de escritorio COSMIC, sobre el que informa The Register, ha introducido una prohibición explícita del código, la documentación e incluso las descripciones generados por IA en las contribuciones enviadas. Quienes contribuyen deben certificar activamente que ningún modelo de IA ha participado en el material presentado. GNOME Calendar tiene restricciones similares, mientras que la comunidad de GNOME en general está dividida sobre cómo gestionar los informes de errores generados por IA.
Es una declaración ideológica tanto como práctica. El software libre se basa en la confianza, la revisión y la responsabilidad humana. El código generado por IA puede ser difícil de rastrear, difícil de revisar y carece de la obligación de rendir cuentas que el software libre presupone.
El mismo impulso existe en el mundo editorial. La startup británica Books by People ha desarrollado, según Wired, un sistema de certificación, una marca de huella dactilar, que garantiza que un libro ha sido escrito por una persona. Cinco editoriales se han adherido. El sistema exige declaraciones escritas, análisis de manuscritos y revisión de borradores tempranos para encontrar lo que denominan "huellas humanas" en el proceso de creación. Es una respuesta a un mercado que empieza a demandar garantías de origen, igual que la agricultura ecológica fue en su día una respuesta a la producción alimentaria industrial.
Ahora se escriben las reglas del juego
Lo que une todos estos acontecimientos es una sola palabra: responsabilidad. ¿Quién es responsable cuando una herramienta de IA facilita la fijación de precios de forma coordinada? ¿Quién es dueño de tu perfil de comportamiento? ¿Quién garantiza que una base de código sea auditable? Las respuestas a esas preguntas se están formando ahora mismo, en los tribunales, en los menús de configuración de las plataformas y en las directrices del software libre.