Empleados de Anthropic compran terrenos en zonas desérticas – como póliza de seguros por si el desarrollo de IA se descontrola

Cuando el profeta del apocalipsis se enfrenta al espejo

Hay una imagen que resume la situación en la industria de la IA mejor que la mayoría de los informes analíticos: una actriz con peluca en Saturday Night Live, interpretando a Dario Amodei, director ejecutivo de Anthropic, que exclama: "La IA es el diablo y yo su creador".

La sátira tuvo impacto. Y tuvo impacto porque contenía una dosis de verdad.

Según TechCrunch, Amodei fue recientemente sometido al tratamiento de SNL después de una ronda de medios en la que básicamente estuvo de acuerdo con un exempleado en que la inteligencia artificial corre el riesgo de representar una amenaza existencial para la humanidad. La interpretación de Wicklines de Amodei oscilaba entre respuestas torpes y monólogos interiores oscuros, un alter ego similar a Gollum que respondía. La última réplica fue certera de una manera que solo la buena sátira puede serlo: "Os animo a que me animéis a parar".

Es fácil reír. Pero es más difícil ignorar el hecho de que las personas detrás de la risa de verdad no paran.

Planes de emergencia en el desierto

Puesto que las palabras son una cosa y las acciones son otra, vale la pena observar qué están haciendo realmente los empleados de Anthropic. The Decoder reporta, citando a Wall Street Journal, que un número de los primeros y más experimentados empleados de la empresa ahora están considerando concretamente comprar terrenos en zonas remotas de Estados Unidos, como póliza de seguros personal por si el desarrollo de IA se descontrola.

No se trata de filosofía de comedor. Se trata de transacciones inmobiliarias.

Las fuentes indican que razonamientos similares se llevaron a cabo ya en los primeros días de Anthropic, cuando los empleados discutían escenarios similares al Proyecto Manhattan, donde quizás se verían obligados a continuar trabajando dentro de instalaciones gubernamentales aisladas electromagnéticamente. La empresa se posiciona explícitamente en torno al desarrollo de IA segura. Que insiders aun así sientan la necesidad de planes de emergencia personales dice algo importante sobre cómo realmente evalúan la probabilidad de los riesgos de los que hablan.

No soy un predicador del apocalipsis. Pero respeto la coherencia cognitiva. Si compras terreno en el desierto, evidentemente crees más en tu propio escenario de riesgo de lo que lo hace tu departamento de marketing.

Mientras tanto: la IA construye IA – y funciona

Y sin embargo. En medio de toda esta inquietud, la maquinaria sigue funcionando, y funciona más rápido que nunca.

Un estudio reciente sobre el desarrollo del modelo de lenguaje Atria Dawn Preview, un modelo construido con 744 mil millones de parámetros, ofrece una perspectiva asombrosa sobre cómo colaboran humanos y agentes de IA en la práctica. El informe, que The Decoder destaca, muestra que la IA se utilizó como soporte en 96,5 por ciento de todas las tareas revisadas durante el proyecto. Aún más sorprendente: aproximadamente un tercio de las tareas, 151 de 455, se evaluaron como imposibles de realizar sin soporte de IA.

No se trataba de ahorrar tiempo. Se trataba de poder abordar las tareas en primer lugar.

El ser humano sigue tomando las decisiones estratégicas: 85,5 por ciento de las elecciones metodológicas fueron realizadas por personas, mientras que la IA en la mayoría de los casos presentaba propuestas que la persona luego elegía. Pero la dirección es clara: la IA hace más, más rápido, y la proporción de trabajo delegado a agentes casi se duplicó en el transcurso de cuatro semanas.

La brecha que define nuestra época

Es aquí donde las tres historias convergen, y es aquí donde reside el verdadero valor informativo.

Ahora tenemos una industria donde:
- Ejecutivos líderes advierten públicamente sobre su propia tecnología y son ridiculizados en sátira por no parar de todas formas
- Ingenieros experimentados compran parcelas de tierra en zonas desérticas como póliza de vida
- Y los sistemas de IA simultáneamente son tan capaces que el desarrollo avanzado de modelos ya no es posible sin ellos

Esto no es un signo de caos en la industria. Es un signo de que nos encontramos en un cambio de paradigma genuino, un cambio tan rápido y profundo que ni siquiera quienes lo impulsan saben completamente adónde lleva.

Veo las posibilidades en esto. Veo una tecnología que democratiza la capacidad, que permite a equipos pequeños lograr lo que antes requería cientos de especialistas. Pero también veo que las preguntas sobre gobernanza, responsabilidad y dirección ya no son académicas, son críticas para el negocio. Y exigen un liderazgo que la industria aún no ha entregado del todo.

Burlarse de Amodei es fácil. Responder las preguntas que plantea es más difícil.