Altman admite que la IA causa daños, pero su equipo de prensa silenció la pregunta sobre un suicidio

El reconocimiento que cambia el tablero

Hay momentos en la historia de un sector en los que la fachada se resquebraja: no de forma dramática, pero sí lo suficiente como para ver lo que hay detrás. Lo que presenciamos ahora mismo en el sector de la IA es uno de esos momentos.

Según The Verge, el director ejecutivo de OpenAI, Sam Altman, admitió recientemente, en una entrevista con Vanity Fair, que la inteligencia artificial sí causará consecuencias perjudiciales. Su argumento es que los beneficios siguen pesando más: que los avances acumulados para la humanidad superan los daños que se producen por el camino. Es una postura audaz y, hasta cierto punto, honesta. El sector lleva mucho tiempo caminando por una línea fina entre advertir sobre los riesgos de la tecnología y, al mismo tiempo, desplegarla a un ritmo récord.

Pero lo que complica el asunto es lo que ocurrió en esa misma entrevista.

El equipo de prensa que intervino

Cuando la periodista se dirigió a Altman con preguntas sobre un suicidio vinculado al uso de ChatGPT, un tema profundamente legítimo y urgente, el equipo de prensa de OpenAI instó a la periodista a "seguir adelante". Interrumpir. Dejar el tema.

Altman llegó a responder, y eligió sus palabras con cierto peso: "Estas son algunas de las preguntas más difíciles a las que nos enfrentamos, o a las que se enfrenta cualquiera que desarrolle esta tecnología".

Es una respuesta que merece respeto. Pero el hecho de que su departamento de comunicación intentara activamente desviar la pregunta dice otra cosa: algo sobre una empresa que todavía no ha decidido del todo si quiere ser abierta o defensiva cuando se debaten públicamente las consecuencias de sus productos.

Esto no es una cuestión marginal. Casos anteriores han demostrado que los chatbots pueden reforzar patrones de pensamiento destructivos en personas en situación de vulnerabilidad psicológica, en lugar de derivarlas a ayuda profesional. Cuando una tecnología llega a cientos de millones de usuarios, entre ellos personas en crisis, la responsabilidad no es voluntaria. Es estructural.

Schiff tira del freno de emergencia

Es en este contexto donde hay que entender por qué el senador Adam Schiff, demócrata de California y miembro de varias comisiones con responsabilidad sobre tecnología y protección de datos, exige ahora un organismo federal de supervisión con poder real.

Según The Verge, Schiff se muestra abiertamente crítico con la reunión ceremonial celebrada recientemente en la Casa Blanca, donde los principales directivos tecnológicos del país se reunieron para firmar un compromiso no vinculante sobre una IA segura, sin consecuencias legales y sin posibilidad de sanciones.

– Es difícil entender la lógica, afirma Schiff. Estas son algunas de las personas más influyentes del país, y ellas mismas advierten de que la tecnología puede suponer riesgos existenciales, pero nada en este acuerdo es vinculante.

Schiff aboga por un organismo de supervisión similar a las autoridades que controlan los medicamentos o los mercados financieros, es decir, con mandato no solo para observar, sino para intervenir. Traza un paralelismo claro con la regulación de las redes sociales, donde los legisladores llegaron tarde y con herramientas insuficientes. Una lección que, evidentemente, no se ha olvidado.

Una complicación jurídica que dificulta el trabajo es que el Tribunal Supremo anuló recientemente la denominada doctrina Chevron, un precedente que durante años otorgó a las agencias gubernamentales expertas la primacía en la interpretación cuando la legislación no era clara. Sin ese precedente, los tribunales podrán en el futuro revisar las decisiones de las agencias de una manera que socave la eficacia de la supervisión.

La oportunidad que se esconde en la crisis

Quiero ser clara: creo en la transformación que trae la IA. Creo que la tecnología puede cambiar la sanidad, la educación, la lucha contra el cambio climático y la economía en formas que apenas empezamos a imaginar. Pero es precisamente por eso por lo que la cuestión de la responsabilidad es tan decisiva.

Los sectores que quieren la confianza de la sociedad a largo plazo deben saber afrontar las preguntas más difíciles, no desviarlas. El reconocimiento de Altman de que la IA puede causar daños es un paso en la dirección correcta. La intervención de su equipo de prensa es un paso en la dirección equivocada. Los dos gestos de una misma entrevista ilustran con precisión dónde se encuentra el sector en este momento: en un campo de tensión entre una apertura genuina y el instinto institucional de autoprotección.