Tres de cada cuatro estadounidenses desconfían de los líderes de las empresas de IA: nuevo estudio revela exigencias de supervisión independiente

La crisis de confianza que la industria no puede ignorar

Hay una brecha que se ensancha cada vez más: entre el entusiasmo que reina en los pasillos de la industria de la IA y la preocupación que se extiende entre la gente corriente. Según una nueva encuesta de opinión de Quinnipiac University, informada por The Decoder, el 47 por ciento de los estadounidenses quiere que el desarrollo de la IA se ralentice, mientras que el 30 por ciento considera que debería detenerse por completo hasta que se pueda garantizar la seguridad. Solo el cinco por ciento quiere un ritmo más acelerado.

Son cifras que deberían dar a toda la industria —incluidos nosotros, que informamos sobre ella— motivos para detenerse y reflexionar.

Pero lo que realmente destaca en la encuesta no es la cuestión del ritmo en sí. Es la confianza, o más bien la falta de ella. Nada menos que el 74 por ciento afirma que tiene poca o ninguna confianza en las personas que dirigen las grandes empresas de IA. Es un desaprobación notable hacia un sector que, en buena medida, está gobernado por un puñado de individuos muy influyentes.

Chetan Jaiswal, director de la encuesta en Quinnipiac University, lo resume acertadamente:

"En conjunto, estos resultados indican que el público quiere medidas de protección que no se basen únicamente en aceptar la palabra de los líderes de las empresas de IA."

Esto no es un pronunciamiento contra la IA. Es un pronunciamiento a favor de la rendición de cuentas.

Muse: cuando el asistente conoce a tus seres más cercanos

En medio de este clima de escepticismo generalizado, el nuevo asistente de IA de Meta, Muse, entra en escena, y el momento no podría ser más delicado. Según Computer Sweden, investigadores de seguridad han examinado las instrucciones internas de Muse, que la propia Meta puso a disposición para aumentar la transparencia del servicio. Lo que encontraron es a la vez fascinante e inquietante.

Muse no se limita a crear un perfil de ti como usuario. El asistente crea páginas de perfil propias para las personas más importantes en tu vida: familiares, parejas, amigos, colegas. Los perfiles se van completando con datos sobre lugar de residencia, profesión, intereses comunes y fechas importantes. Los viajes anteriores, los conflictos y los temas de conversación recurrentes pueden guardarse y relacionarse entre sí. Además, el servicio puede integrarse con fuentes externas como aplicaciones de mensajería, cuentas bancarias y datos de salud.

Meta subraya que el objetivo es que el asistente sea más personalizado y útil, y que Muse debe pedir autorización antes de llevar a cabo acciones sensibles. Existe un registro de actividad y la posibilidad de eliminar la información almacenada. Es el paso correcto en la dirección correcta.

Pero la pregunta que queda flotando en el aire es importante: tus allegados nunca han consentido ser catalogados. El amigo que mencionas en una conversación, el compañero al que pides consejo, el familiar cuyo estado de salud compartes con el asistente: ellos no han hecho clic en ningún formulario de consentimiento.

La preocupación no es irracionalidad: es una respuesta razonable

Desde la perspectiva de la industria, es fácil desestimar las cifras de la encuesta como miedo a lo desconocido, o como una reacción natural ante la cobertura mediática, a menudo negativa. Pero creo que sería un error.

Cuando el 73 por ciento de los estadounidenses considera que la IA podría representar a largo plazo una amenaza para la supervivencia de la humanidad, y el 53 por ciento cree que la IA causará más daño que beneficio en la vida cotidiana, entonces no se trata de ignorancia. Se trata de que el público percibe un ritmo y una dirección que se viven como descontrolados.

Al mismo tiempo, vale la pena destacar lo que de verdad aporta esperanza en la encuesta: el 86 por ciento respalda estándares de seguridad independientes, aunque ello ralentice el ritmo de desarrollo. Y el 91 por ciento considera importantes las limitaciones claras para los sistemas de IA. No es una población que quiera un moratorio contra el futuro. Es una población que quiere un futuro con reglas de juego claras.

La diferencia es decisiva. Y abre la puerta a un diálogo productivo, si la industria está dispuesta a escuchar.

La oportunidad que hay en la preocupación

Estoy genuinamente convencido de que la IA creará un enorme valor para la sociedad. Pero ese valor no se materializa automáticamente, y desde luego no se materializará si la confianza sigue erosionándose. El caso de Muse y la encuesta de Quinnipiac están relacionados, no porque traten de la misma tecnología, sino porque apuntan a la misma cuestión fundamental: ¿quién fija los límites y quién ha dado realmente su consentimiento?

Las empresas que se tomen esa cuestión en serio —y que incorporen transparencia, rendición de cuentas y una verdadera libertad de elección como cimientos básicos, en lugar de construcciones a posteriori— serán las que a largo plazo ganen la confianza del público. Y en esa confianza reside la verdadera oportunidad de negocio.