La IA toma decisiones propias — y nadie sabe realmente quién es responsable

De asistente a agente

Durante mucho tiempo se ha hablado de que los agentes de IA cambiarán la forma en que vivimos y trabajamos. Esa discusión ya es cosa del pasado — el cambio ya está en marcha.

Google anunció recientemente, según Wired, que Gemini en los teléfonos Pixel puede hacer llamadas telefónicas en nombre del usuario. No responder preguntas. No sugerir formulaciones. Hacer llamadas. Das la orden — reservar una mesa, resolver un asunto con atención al cliente — y Gemini levanta el auricular por ti. Es una función que parece pequeña, pero su simbología es enorme: el agente de IA ha dado el paso de fuente de información a actor independiente en el mundo físico.

Apple trabaja en paralelo en una actualización integral de Siri para iOS 27, y toda la industria se mueve en la misma dirección — hacia interfaces basadas en voz que hacen innecesario el teclado. Nos encontramos en un cambio tecnológico que recuerda a la transición de las computadoras de escritorio a los teléfonos inteligentes. Rápido, inevitable y con consecuencias que aún no comprendemos completamente.

El punto ciego del comercio minorista

Mientras los gigantes tecnológicos construyen sus plataformas de agentes, las empresas del comercio minorista enfrentan una realidad más inmediata. Retail Dive reporta sobre un problema de supervisión creciente: los agentes de IA se propagan rápidamente dentro de la industria, pero la dirección a menudo tiene dificultades incluso para llevar un registro de qué sistemas están realmente en funcionamiento.

Uno de los fenómenos más preocupantes es lo que se conoce como IA en la sombra — herramientas que los empleados comienzan a usar por iniciativa propia, sin el conocimiento o aprobación de la dirección. Pero el desafío no se detiene ahí. Incluso los sistemas oficialmente aprobados causan problemas cuando comienzan a actuar de manera más independiente y se conectan en cadenas. Datos de clientes, información de pagos y otros datos regulados fluyen a través de estas cadenas — y nadie tiene visibilidad total sobre dónde van a parar.

Es un patrón clásico: la tecnología se adelanta a la capacidad de controlarla. La diferencia esta vez es que las consecuencias no se quedan dentro de las paredes del departamento de TI. Llegan a los clientes, a los organismos reguladores y, en última instancia, a la credibilidad de la marca.

Un vigilante nace en Múnich

En este vacío entra Kontext Security. La startup alemana, fundada en Múnich por Jens Ernstberger y Michel Osswald, ha completado recientemente, según SecurityWeek, una ronda de financiación de cuatro millones de dólares — poco más de 42 millones de coronas suecas — liderada por el fondo de capital de riesgo 42CAP, con apoyo entre otros de a16z CSX.

El producto de la empresa es una plataforma de seguridad que se posiciona entre los agentes de IA y los sistemas a los que tienen acceso. En tiempo real, cada acción del agente se evalúa contra políticas de seguridad preestablecidas — y las acciones que no están autorizadas se bloquean inmediatamente. La plataforma toma en cuenta la identidad del agente, la tarea que le fue asignada, qué sistema intenta acceder y qué solicita concretamente hacer.

El director ejecutivo Ernstberger señala lo que hace difícil el problema: un agente de IA puede estar correctamente verificado, usar una herramienta aprobada y aun así ejecutar una acción que nadie ha autorizado. La autenticación no es lo mismo que autorización. Es una distinción que muchas organizaciones aún no han tomado en serio.

Tres noticias, un cambio

Lo que vemos en estas tres noticias no son eventos tecnológicos aleatorios. Es el contorno de un nuevo panorama.

Cuando Google permite que Gemini haga llamadas, cuando el comercio minorista pierde el control de sus propios flujos de IA y cuando las empresas de seguridad reciben capital de riesgo para resolver precisamente ese problema — entonces todo el ecosistema se mueve al mismo ritmo. La demanda crea la oferta. El poder se desplaza de quien construye el agente a quien puede supervisarlo y controlarlo.

Ya no es una cuestión de si los agentes de IA tendrán lugar en la vida cotidiana. Ya están aquí. La pregunta es quién decide qué hacen.