Nadie cede: El mercado, los ciudadanos y el ejército luchan por el poder sobre la IA

Tres actores, tres respuestas a la misma pregunta

No hay escasez de opiniones sobre cómo debe regularse la IA. Sin embargo, hay una carencia significativa de consenso. Esta semana han llegado tres noticias casi simultáneamente, y en conjunto pintan un cuadro de un vacío de gobernanza que solo crece conforme la tecnología se desarrolla más rápido.

Comencemos con la voz más ruidosa.

Jensen Huang: Confía en los ingenieros

Durante la conferencia Dreamforce de Salesforce, el director ejecutivo de Nvidia, Jensen Huang, tomó una posición clara, según TechCrunch. Su mensaje fue directo y típico: la seguridad de la IA es un problema de ingeniería, no jurídico. El mercado castiga a las empresas que entregan productos inseguros, y ese incentivo es suficiente.

– Si no estás seguro de que un producto es seguro, no lo lances. Es obvio, habría dicho.

Entiendo el argumento. Como desarrollador de sistemas, sé que las mejores soluciones de seguridad suelen nacer de la competencia técnica más que de textos legales. Pero Huang no es alguien cualquiera en esta conversación: lidera una empresa cuyo precio de las acciones está directamente vinculado a cuán rápida y desregulada avance la expansión de la IA. No hay nada malo en tener intereses comerciales, pero eso lo convierte en una voz parcial en una cuestión que requiere respuestas imparciales.

Además, el argumento de mercado cojea en un punto decisivo: las correcciones del mercado ocurren después de que el daño se ha hecho. Eso no funciona cuando se trata de sistemas que toman decisiones sobre créditos, investigaciones criminales u operaciones militares.

Los votantes votan con sus pies – y las encuestas de opinión

Mientras la élite tecnológica debate principios de regulación, el público en general ha comenzado a votar en las encuestas de opinión. The Verge informa sobre una nueva medición realizada por The New York Times y Siena University, donde el 61 por ciento de los votantes probables dicen oponerse a la expansión de centros de datos para satisfacer las necesidades energéticas de la tecnología de IA.

Esta es una cifra que debe tomarse en serio. No se trata de miedo abstracto a los robots: se trata de oposición concreta a la expropiación de tierras, el consumo de energía y el uso de agua en las áreas cercanas a los hogares de las personas. Políticos a nivel estatal y federal ya han comenzado a ajustar sus posiciones, e iniciativas legislativas para limitar dónde se pueden construir centros de datos han sido presentadas.

Esto es la democracia en funcionamiento. Y es en realidad un correctivo razonable frente a una industria que ha asumido durante mucho tiempo que la falta de interés del público era un consentimiento silencioso.

El ejército lo toma muy en serio

Mientras tanto, en un flujo de noticias considerablemente más silencioso, el Cibercomando de Estados Unidos designó su nuevo jefe de IA: la contralmirante Ronzelle Green, según reporta Defense One. Sucede al brigadier general Reid Novotny, el primero en ocupar el cargo, designado tan recientemente como en noviembre del año pasado.

El enfoque del ejército es en muchos sentidos el más matizado de los tres. Novotny destacó durante su tiempo en el cargo una idea que debería resonar en todas las organizaciones que implementan IA: no es la tecnología sino la cultura lo que es el verdadero obstáculo. Tener un jefe de IA dedicado dentro del Cibercomando es un reconocimiento de que la IA requiere liderazgo propio, procesos propios y cadenas de responsabilidad propias, no solo una nueva función en un sistema antiguo.

Green trae consigo más de 30 años de experiencia en tecnología de la información y trabajo de inteligencia. Es un perfil que sugiere que el ejército busca a alguien que entienda tanto las posibilidades de la tecnología como sus vulnerabilidades en entornos operativos reales.

La brecha de gobernanza es el verdadero problema

Cuando se colocan estas tres historias una al lado de la otra, emerge un patrón. La industria quiere gobernarse a sí misma. El público quiere frenar. El estado – al menos la parte militar de este – está construyendo lentamente capacidad de gobernanza.

Pero ninguna de estas fuerzas habla con las otras. No hay un foro común, no hay un marco compartido, no hay un lugar donde la perspectiva de ingeniería de Huang se encuentre con la preocupación concreta de los votantes y la experiencia operativa del ejército.

Ahí es donde reside el verdadero problema. No en que la IA sea ingobernable, sino en que quienes necesitarían gobernarla aún no se han encontrado los unos a los otros.