El asesor de IA del Vaticano: Los gigantes tecnológicos han secuestrado el debate ético — es comportamiento de cártel

Cuando la ética se convierte en monopolio empresarial

Rara vez un sacerdote católico termina en el centro del debate más candente sobre inteligencia artificial. Pero el Padre Paolo Benanti no es un sacerdote cualquiera — es el asesor tecnológico del Vaticano y una de las voces más influyentes en el debate global sobre ética de la IA. Y según una entrevista con Wired, está genuinamente preocupado — no principalmente por la superinteligencia, sino por algo considerablemente más práctico e inmediato.

Su mensaje es claro: el debate ético sobre IA está siendo privatizado.

"La ética no puede ser algo que pertenezca a la junta directiva de una empresa", dice Benanti. "Es algo que debe ser sopesado y debatido en la plaza pública. Necesitamos regulación democrática".

Son palabras contundentes — y aciertan en medio de una batalla de poder en curso que la mayoría de nosotros quizá ni siquiera notamos. Mientras los titulares sobre AGI y riesgos existenciales dominan el flujo de noticias, una lucha más silenciosa pero igualmente importante está en marcha: ¿quién tiene realmente el derecho de fijar las reglas del juego sobre cómo se debe desarrollar, usar y regular la IA?

El cártel que nadie quiere llamar cártel

La crítica de Benanti se dirige a un patrón que debería resultarle familiar a cualquiera que haya seguido la industria tecnológica durante las últimas décadas. Al presentar la problemática de la IA como tan técnicamente compleja que solo sus propios ingenieros pueden comprenderla, las grandes empresas crean una ventaja de información que en la práctica excluye a externos — políticos, sociedad civil, académicos y ciudadanos comunes — de la conversación que debería pertenecer a todos.

"Se llama cártel", constata Benanti lacónicamente.

Es una palabra que debería despertar reflexión en más salas de juntas y parlamentos. Un cártel no necesita ser un acuerdo formal para funcionar como tal. Es suficiente que unos pocos actores dominantes, a través de su poder de mercado combinado y su ventaja de conocimiento, de facto establezcan las normas para toda una industria — incluyendo las normas sobre lo que se considera "ético".

El lenguaje religioso de la superinteligencia

Benanti, que aparentemente reconoce el lenguaje religioso cuando lo escucha, también es crítico con el tono casi reverencial con el que se discute la superinteligencia en ciertos círculos de IA. El director ejecutivo de OpenAI, Sam Altman, y otras figuras destacadas a veces utilizan un vocabulario que roza lo mesiánico — tecnología que "liberará a la humanidad", modelos que son "prácticamente divinos" en su capacidad.

Para un sacerdote profundamente arraigado en la tradición teológica, esto no es solo problemático en sentido metafórico. Es una confusión de categorías con consecuencias reales: cuando la tecnología se le atribuyen propiedades trascendentales, se erosiona el escrutinio crítico que de otro modo debería rodear cada transformación social poderosa.

A esto se suma un claro conflicto de intereses. Benanti señala que empresas como OpenAI y Anthropic — cuyos investigadores ocasionalmente emiten advertencias casi apocalípticas sobre riesgos de la IA — simultáneamente se preparan para salidas a bolsa con miles de millones en juego. Es difícil mantener separadas la preocupación altruista por el destino de la humanidad del posicionamiento racional ante el capital de los inversores.

El papel de la democracia en una era tecnológica

Lo que Benanti realmente reclama no es frenar el desarrollo de la IA — sería ni realista ni deseable. Lo que reclama en cambio es una redemocratización del debate ético: que las conversaciones que determinan cómo se forma y regula la IA se desarrollen en espacios donde todos los ciudadanos tienen voz, no solo quienes casualmente se sientan en los conglomerados de computadores más avanzados.

Esta es una recordatorio que la industria necesita escuchar, y que los políticos alrededor del mundo — especialmente dentro de la UE, que ahora está implementando su regulación de IA — deberían tomar con la máxima seriedad. El desarrollo tecnológico en sí rara vez es lo decisivo. Lo decisivo es siempre: ¿quién decide, bajo qué términos, y con qué mandato?

La voz del Padre Benanti es inusual en esta conversación. Por eso es tanto más bienvenida.