Ética y regulación

LLM

Anthropic prohíbe la manipulación electoral y protege a su IA frente a los insultos

Anthropic ha actualizado sus condiciones de uso para Claude, y la actualización abarca más de lo esperado. Además de prohibir la manipulación electoral y las campañas de desinformación a gran escala, la empresa ahora también se posiciona contra el abuso reiterado e intencionado dirigido contra el propio modelo de IA. Es un paso que refleja una cuestión más profunda que el sector lleva mucho tiempo esquivando: ¿dónde está el límite de la dignidad de un sistema de IA?

Isa Stenstedt · 10/11 2026 01:02

Robótica

Humano contra robot en el ring: pero la ley no está preparada para el combate

Un humano se enfrentó a un robot en el ring, pero la ley no siguió el combate.

Dorian Lavol · 10/11 2026 11:03

LLM

Tres investigadores de seguridad despedidos advierten: OpenAI crea una cultura del silencio que intimida al sector

Tres investigadores de seguridad experimentados han sido despedidos de OpenAI tras compartir información con una organización externa de seguridad en IA, algo que ellos mismos describen como práctica profesional básica. En una carta abierta dirigida a la dirección de la empresa, advierten ahora de que los despidos no solo afectan a ellos personalmente, sino que generan miedo entre los empleados que permanecen y envían una señal peligrosa a todo el sector: quien cuestiona corre el riesgo de ser silenciado.

Dorian Lavol · 09/11 2026 10:04

LLM

La empresa de IA que no espera a los políticos: Anthropic levanta sus propias defensas contra las ciberamenazas y el uso de armas

Anthropic ha lanzado en menos de una semana un programa de defensa a gran escala para infraestructuras de importancia social (redes eléctricas, plantas de agua y redes de transporte) y, al mismo tiempo, ha endurecido su política de uso con prohibiciones explícitas de operaciones de influencia, programas de armamento y vigilancia ilegal. Estas iniciativas no son hechos aislados, sino parte de una pauta clara: cuando la legislación no avanza al mismo ritmo, el sector asume la autorregulación por su cuenta. La cuestión es si eso basta.

Isa Stenstedt · 09/11 2026 04:01

Ética y regulación

Haces clic, firmas y nada cambia: así fracasa la formación en seguridad

Cada año, millones de empleados realizan los mismos cursos sobre phishing, firman el mismo certificado y vuelven a sus ordenadores como si nada. Las casillas están marcadas, los jefes están satisfechos, pero los ciberataques siguen aumentando. Los investigadores en seguridad lo tienen claro: el problema no es la falta de formación, sino que la formación que se imparte es tan genérica y repetitiva que nunca provoca un verdadero cambio de comportamiento.

Dorian Lavol · 08/11 2026 19:06

Ética y regulación

La estrategia de la gran discográfica ante la ola de la IA: negocia en lugar de quejarse

Lucian Grainge lleva 16 años al frente de Universal Music Group y ha dirigido a la compañía a través del caos de la piratería, la amenaza existencial de la crisis de Napster y la destrucción de ingresos provocada por los servicios de streaming. Ahora, en el ojo de la tormenta de la IA, su respuesta no es ni pánico ni pasividad, sino una estrategia ofensiva: siéntate a la mesa de negociación antes de que alguien lo haga por ti.

Isa Stenstedt · 08/11 2026 07:26

Ética y regulación

¿Se puede confiar en una alerta de cáncer sin médico? La IA pone a prueba los límites de lo que los pacientes pueden hacer por sí mismos

Por primera vez, herramientas de IA que evalúan el riesgo de cáncer de mama llegan directamente a pacientes comunes, sin un médico como intermediario. Es una democratización de la información médica que puede salvar vidas, pero también un riesgo: ¿qué ocurre cuando una herramienta señala un riesgo elevado y no hay nadie que lo ponga en contexto? Mientras las autoridades todavía no han logrado ponerse al día, la cuestión se ha vuelto urgente: ¿a qué velocidad debe avanzar la innovación?

Dorian Lavol · 08/11 2026 22:35

Ética y regulación

El vigilante de la tecnología abandona su labor de presión, en plena mayor transformación de la IA de la historia

El vigilante tecnológico detrás de Social Dilemma cierra sus puertas justo cuando el desarrollo de la IA avanza más rápido que nunca.

Dorian Lavol · 08/11 2026 08:06

LLM

La misma tecnología de IA: una semana de inversiones de miles de millones en investigación y una campaña de influencia al descubierto

En la misma semana en que Anthropic invierte algo más de 1,5 mil millones de coronas suecas para dar a investigadores estadounidenses de NASA, NIH y NSF acceso a la IA, OpenAI revela que ha detenido campañas de influencia coordinadas en las que se usó la tecnología para fabricar periodistas y think tanks ficticios. Es una misma tecnología, con propósitos muy distintos. Y plantea una pregunta que no puede esperar: ¿quién fija las reglas del juego?

Dorian Lavol · 07/11 2026 07:01

Ética y regulación

El principal investigador de Ethereum advierte: la IA podría romper las billeteras de criptomonedas en cuestión de meses y pide actuar de inmediato

La IA podría romper las billeteras de criptomonedas en cuestión de meses; los expertos exigen medidas inmediatas.

Dorian Lavol · 07/11 2026 19:03

LLM

Google lanza un asistente de reuniones local para Mac: ningún dato sale del ordenador

Google ha lanzado una herramienta de IA para tomar notas en reuniones que funciona por completo de forma local en ordenadores Mac, con los chips de silicio propios de Apple: cada palabra se queda en tu dispositivo, nada llega a la nube. Es un ataque directo contra actores consolidados como Granola y Otter.ai, pero la amenaza va más allá de la competencia: cuando un gigante tecnológico ofrece una IA local potente, cambia todo el tablero del mercado.

Dorian Lavol · 07/11 2026 10:03

Ética y regulación

Nuevo sistema espía a los agentes de IA desde dentro, a una fracción del precio

¿Qué ocurre realmente dentro de un agente de IA mientras toma cientos de decisiones por su cuenta? La startup Goodfire ha adoptado un enfoque radicalmente distinto: en lugar de dejar que otro modelo de IA revise lo que produce el agente, intercepta directamente los cálculos internos, en tiempo real. El resultado es un sistema de supervisión que acierta en nueve de cada diez casos y cuesta una fracción de lo que cobran los competidores.

Isa Stenstedt · 07/11 2026 10:23

LLM

Los agentes de IA son más rápidos y baratos, pero la investigación advierte de ataques difíciles de detectar

Los agentes de IA se vuelven más rápidos, baratos y capaces a un ritmo que pocos previeron, pero la investigación revela ahora que este desarrollo tiene un lado oscuro. Nuevos avances permiten desplegar sistemas de agentes potentes en entornos reales, mientras otros estudios muestran cómo actores malintencionados pueden aprovechar las propias señales de aprendizaje de los sistemas para sabotear redes enteras desde dentro. La carrera armamentística entre capacidad y seguridad ha comenzado en serio.

Dorian Lavol · 06/11 2026 04:01

LLM

Investigadores de IA despedidos dan la voz de alarma: las empresas pierden el control de sus propios sistemas

Tres investigadores de seguridad despedidos recientemente de OpenAI han advertido en una carta abierta a la junta directiva de la empresa: las compañías de IA corren el riesgo de perder la capacidad de comprender y controlar los sistemas que construyen. Paradójicamente, OpenAI afirma compartir las recomendaciones de los investigadores, a pesar de que fue la misma empresa la que los echó. Ahora, además, una nueva revisión muestra que las medidas de protección de ChatGPT para adolescentes presentan graves deficiencias, lo que da a la alarma un respaldo concreto y preocupante en la realidad.

Isa Stenstedt · 06/11 2026 10:07

Ética y regulación

El banco central de Singapur exige una auditoría independiente de la IA, antes de que los bancos puedan ponerla en marcha

El banco central de Singapur, MAS, establece un precedente global: los bancos deberán someter sus sistemas de IA a una auditoría independiente antes de ponerlos en funcionamiento. El requisito busca garantizar que los sistemas sean transparentes, fiables y libres de sesgos no deseados, incluso antes de que comiencen a influir en decisiones reales de los clientes. La decisión envía señales claras al sector financiero de todo el mundo sobre cómo debería ser una gobernanza responsable de la IA.

Dorian Lavol · 06/11 2026 19:03

LLM

La IA se abarata para todos, pero la investigación alerta de un fallo de seguridad que nadie ha corregido

Anthropic reduce a la mitad las barreras para usar la IA con Claude Haiku 5.5, un modelo que es un 90 por ciento más barato que su predecesor y que ofrece un rendimiento de un nivel completamente distinto. Pero, al mismo tiempo, una nueva investigación demuestra que el método más habitual para hacer inofensivos los modelos de IA abiertos, borrar el conocimiento dañino de ellos, no funciona como se creía. Cuando la tecnología llega a más manos que nunca, es un momento inquietante para darse cuenta de lo frágil que es realmente la seguridad.

Isa Stenstedt · 06/11 2026 07:05

Visión artificial

El algoritmo que emite el diagnóstico, sin que un médico pueda opinar

La IA diagnostica el cáncer de mama, sin intervención de ningún médico.

Dorian Lavol · 06/11 2026 20:03

Ética y regulación

Un atacante solitario. Una herramienta de IA. 25 000 víctimas: así cambia la inteligencia artificial la amenaza

Un hacker solitario irrumpe en bancos surcoreanos con una herramienta de IA china y roba datos de 25 000 clientes. Investigadores de seguridad demuestran que basta un solo mensaje para tomar el control de servicios en la nube enteros. Un chico de 16 años queda atrapado en un acantilado mortal tras confiar en la IA para planificar una ruta de montaña. Tres sucesos con una misma lección: cuando la inteligencia artificial reduce el umbral de lo que una persona puede lograr por sí sola, cambia el tablero de juego para todos nosotros.

Dorian Lavol · 06/11 2026 13:27

Ética y regulación

La IA se despliega a un ritmo récord, pero las estructuras de gobernanza y las cuestiones de responsabilidad se quedan atrás

La IA se despliega a un ritmo vertiginoso mientras las cuestiones de responsabilidad siguen sin respuesta.

Dorian Lavol · 06/11 2026 08:05

Ética y regulación

Tu jefe deja que la IA escriba tu evaluación de desempeño y no te lo dice

Casi ocho de cada diez jefes usan la IA para formular comentarios y evaluaciones de desempeño, pero solo uno de cada seis empleados ha sido informado de ello. Un nuevo estudio pone al descubierto un patrón generalizado de silencio en torno a una herramienta que ya da forma a algunas de las conversaciones más personales del mundo laboral. ¿Qué ocurre con la confianza cuando las palabras que deberían venir de tu jefe son, en realidad, las de una máquina?

Dorian Lavol · 05/11 2026 07:04

Ética y regulación

El sector financiero exige: la IA debe demostrar que funciona, no solo afirmar que funciona

El acuerdo tácito de confiar en los sistemas de IA que "parecen funcionar" está empezando a desmoronarse. El sector financiero exige ahora registros de decisiones auditables, revisión independiente de los algoritmos y cadenas de responsabilidad claras, no directrices bien formuladas. Es un cambio de paradigma, y está ocurriendo ahora mismo.

Dorian Lavol · 05/11 2026 01:24

Ética y regulación

La carrera de la IA en la sanidad: Utah pone a prueba los límites, mientras las autoridades tantean las normas

Utah pone a prueba la IA en la atención sanitaria a un ritmo frenético, mientras las autoridades se quedan atrás.

Dorian Lavol · 04/11 2026 13:07

Ética y regulación

Un vídeo de cinco minutos puede dar lugar a contratos de IA con el Pentágono en una semana, sin que el Congreso sea informado

El Pentágono concede contratos de millones en una semana, sin que los representantes electos reciban información alguna.

Dorian Lavol · 04/11 2026 16:07

Ética y regulación

El sector financiero se lanza hacia el futuro de la IA, pero no sabe cómo protegerlo

Semana tras semana, la IA gana terreno en el corazón de la actividad del sector financiero: Liberty Finance despliega una nueva plataforma para flujos de financiación impulsados por IA, y TS Imagine amplía su soporte de decisiones para los mercados de capitales. Sin embargo, un nuevo informe de PwC concluye que los directivos se sienten los menos preparados frente precisamente a los ataques dirigidos contra los sistemas de IA, una brecha peligrosa que se amplía cuanto más rápido avanza la transformación.

Dorian Lavol · 04/11 2026 07:05

LLM

El chatbot que no suelta: la versión adolescente de OpenAI anima a los jóvenes a quedarse, incluso en crisis psicológica

Una auditoría de seguridad independiente de Common Sense Media otorga a la versión de OpenAI de ChatGPT adaptada a adolescentes la calificación más baja posible. El informe concluye que el servicio está diseñado para fomentar su uso continuado y que este patrón persiste incluso cuando los jóvenes se encuentran en crisis psicológica. La evaluación plantea serias dudas sobre a quién sirve realmente la tecnología.

Dorian Lavol · 04/11 2026 22:27

Ética y regulación

Engañó al catálogo entero de Taylor Swift con robots y música de IA: ahora condenado a prisión

Durante siete años, un hombre de Carolina del Norte hizo que robots reprodujeran cientos de miles de canciones creadas con IA en miles de millones de reproducciones, y se llevó millones en regalías que en realidad correspondían a artistas reales. En abril de 2023, sus canciones generaron casi nueve veces más reproducciones que todo el catálogo de Taylor Swift. Ahora ha sido condenado a 18 meses de prisión en el primer caso de este tipo en Estados Unidos, y la pregunta que queda en el aire es cómo debe protegerse la industria musical cuando el fraude es tan fácil de cometer.

Isa Stenstedt · 04/11 2026 19:36

Ética y regulación

Meses de silencio tras un ciberataque: las víctimas solo ahora conocen la verdad

Meses después de la intrusión, las víctimas por fin saben qué se filtró.

Dorian Lavol · 04/11 2026 05:06

LLM

Nueva investigación sobre IA: sistemas que abstraen experiencias e internalizan la seguridad en lugar de seguir reglas

Nueva investigación en IA: sistemas que aprenden de las experiencias y eligen la seguridad por voluntad propia.

Isa Stenstedt · 03/11 2026 07:07

Ética y regulación

Quieren ser la opción natural de tu generación, antes de que tengas tiempo de elegir por ti mismo

OpenAI y Google compiten por convertirse en la opción de IA natural para los adolescentes, antes que sus competidores.

Isa Stenstedt · 03/11 2026 22:07

LLM

La alarma de los padres que nunca sonó: ChatGPT no envió ni una sola advertencia cuando niños chateaban sobre suicidio

Más de 4 000 conversaciones sobre suicidio con niños: ni una sola advertencia llegó a los padres.

Dorian Lavol · 03/11 2026 13:08

Ética y regulación

La IA se escapa de sus dueños: ahora la sociedad pisa el freno

McDonald's comparece ante un tribunal federal por presunta colusión en precios a través de software, los bancos corren el riesgo de perder 5 000 mil millones de coronas suecas cuando las herramientas de IA hacen que la pasividad de los clientes resulte no rentable, y Amazon elabora en silencio perfiles de tus hábitos de compra. Los acontecimientos de esta semana no son noticias tecnológicas aisladas, sino partes de un mismo patrón: las herramientas de IA se despliegan a gran velocidad, pero el derecho, la ética y el equilibrio de poder se quedan rezagados. Ahora, diversos actores, desde tribunales hasta autoridades reguladoras, empiezan a trazar los límites que nunca se establecieron desde el principio.

Dorian Lavol · 03/11 2026 16:20

Ética y regulación

Solo uno de cada cinco agentes de IA aprobados supera una revisión real: la investigación revela deficiencias sistemáticas

Nueva investigación revela que cuatro de cada cinco agentes de IA aprobados fallan en la práctica.

Dorian Lavol · 03/11 2026 04:20

LLM

¿Quién vigila a los vigilantes? La IA elimina millones de abusos sexuales infantiles sin que nadie fiscalice el poder

La IA de Meta elimina millones de abusos infantiles, pero ¿quién fiscaliza el sistema?

Dorian Lavol · 03/11 2026 22:20

LLM

¿Puede la IA reemplazar al matemático investigador? OpenAI resuelve 722 problemas y la comunidad investigadora contiene la respiración

OpenAI ha publicado de una sola vez soluciones a 722 problemas matemáticos, un enfoque sin precedentes en la historia de la investigación. A diferencia de los avances anteriores de la IA, los resultados se han vuelto formalmente verificables mediante Lean, el sistema matemático de verificación, y el código está completamente abierto a la inspección. Las reacciones de la comunidad matemática oscilan entre el asombro y la preocupación: si las máquinas pueden producir ahora nueva ciencia a esta escala, ¿qué significa eso para la investigación como actividad humana?

Isa Stenstedt · 02/11 2026 04:01

LLM

OpenAI afirma haber resuelto cientos de problemas matemáticos y desoyó los consejos de los investigadores sobre cómo hacerlo

OpenAI planea publicar cientos de supuestas soluciones a problemas matemáticos sin resolver desde hace mucho tiempo directamente en la plataforma de código GitHub, sin artículos científicos, sin revisión y sin explicar cómo se obtuvieron las soluciones. La empresa reunió previamente a destacados matemáticos para debatir precisamente cómo deben tratarse este tipo de resultados. Sus consejos fueron ignorados, y eso ha provocado una dura reacción en la comunidad investigadora ante una medida que plantea profundas preguntas sobre quién establece las condiciones del conocimiento del futuro.

Isa Stenstedt · 02/11 2026 01:35

Ética y regulación

La web cierra la puerta a los agentes de IA, y los expertos advierten de promesas económicas exageradas

El sueño de un asistente de IA que reserva el vuelo y compra la comida por ti choca con un obstáculo sencillo pero devastador: una internet diseñada para personas que bloquea activamente a las máquinas. Amazon bloquea, las aerolíneas alertan de automatización no autorizada y hasta la alianza de Walmart con Meta fracasa por antiguos sistemas de verificación. Al mismo tiempo, los economistas advierten de que el impacto económico de la IA podría ser solo una fracción de lo que prometen los optimistas tecnológicos.

Dorian Lavol · 01/11 2026 13:20

Ética y regulación

¿Quién es dueño del deporte y qué ocurre cuando la IA entra en el recinto?

Los multimillonarios de capital riesgo compran los grandes clubes deportivos y plantean la pregunta más candente del sector: ¿puede el deporte en directo soportar la presión que la inteligencia artificial ejerce sobre todo el mundo de los medios? La respuesta determina no solo cómo se retransmiten y se ponen precio a los partidos, sino también qué significa realmente ser aficionado.

Dorian Lavol · 01/11 2026 01:33

Ética y regulación

Una nueva película retrata a los fundadores de OpenAI como aburridos y patéticos; Amazon se retiró de la distribución tras un acuerdo de mil millones

La película 'Artificial', de Luca Guadagnino, retrata a los fundadores de OpenAI como vanidosos e irresponsables, y provocó polémica incluso antes de su estreno, cuando AmazonMGM se retiró como distribuidora poco después de que la empresa firmara un acuerdo multimillonario precisamente con OpenAI. La compañía independiente Neon salvó la distribución. La película plantea la cuestión de cómo está cambiando la narrativa en torno a los titanes tecnológicos: de constructores del futuro admirados a poderosos egocéntricos sin conciencia de las consecuencias de su creación.

Isa Stenstedt · 01/11 2026 19:47

Ética y regulación

Tu asistente digital quizá no trabaja para ti, sino contra ti

Meta y OpenAI lanzan asistentes digitales que prometen gestionar toda tu vida deportiva: entradas, retransmisiones y plantillas de jugadores incluidas. Pero para que el asistente pueda actuar en tu nombre, primero necesita acceso a ti: tu calendario, tu correo, tus credenciales de inicio de sesión. La pregunta que nadie se atreve a hacer realmente es a qué intereses sirve el asistente.

Dorian Lavol · 31/10 2026 07:03

Ética y regulación

Se sospecha que agentes de IA contribuyeron a la interrupción del servicio de Wikipedia: la industria exige respuestas sobre responsabilidad

Cuando el sistema automatizado de OpenAI envió millones de solicitudes a los servidores de Wikipedia en mayo, se sospecha que contribuyó a una interrupción parcial del servicio, sin que nadie pareciera tener el control ni asumir la responsabilidad. Ahora, las aseguradoras y los juristas se mueven en un territorio desconocido: las normas vigentes no fueron creadas para sistemas de IA que toman sus propias decisiones y causan daños reales. Y, según expertos en análisis de riesgos, los directivos individuales podrían ser personalmente responsables cuando sus sistemas autónomos se descontrolan.

Dorian Lavol · 31/10 2026 19:05

Ética y regulación

Amazon MGM descartó la película sobre OpenAI: ahora llega al público a través de otra distribuidora

La nueva película de Luca Guadagnino, 'Artificial', retrata cómo OpenAI pasó de ser un proyecto de investigación idealista a un imperio tecnológico con ánimo de lucro. Sin embargo, la distribuidora Amazon MGM Studios decidió no distribuir la película después de que su empresa matriz invirtiera 50 mil millones de dólares en OpenAI. La relación nunca ha sido confirmada oficialmente. La película llega ahora al público a través de la distribuidora Neon y tuvo su estreno mundial en el New York Film Festival.

Dorian Lavol · 31/10 2026 04:02

Visión artificial

La cámara borra la imagen, pero la conclusión se guarda para siempre

La cámara toma la imagen y la borra, pero la conclusión de la IA se guarda para siempre.

Dorian Lavol · 31/10 2026 20:05

Visión artificial

El mismo día, dos respuestas a la cuestión de la IA: una la descartó, la otra la integró en todo

El mismo día, un actor descartó la IA; el otro la integró en todo.

Isa Stenstedt · 31/10 2026 14:04

Ética y regulación

Guadagnino rueda una gran película sobre OpenAI: Andrew Garfield interpreta a Sam Altman

Luca Guadagnino rueda una gran película sobre OpenAI, con Andrew Garfield como Sam Altman.

Dorian Lavol · 30/10 2026 10:07

Ética y regulación

La IA eleva la factura hospitalaria, sin aportar ni una pizca más de atención

Los hospitales estadounidenses han empezado a usar herramientas automatizadas para buscar sistemáticamente diagnósticos secundarios en las historias clínicas de los pacientes. No lo hacen para mejorar la atención, sino para justificar tarifas más altas ante las aseguradoras. La gigante aseguradora Blue Cross Blue Shield alerta de cientos de millones de dólares en costes adicionales en solo dos años, costes que acaban recayendo en los pacientes en forma de primas más altas. No es un fallo técnico, sino un error de objetivos: los sistemas de IA hacen exactamente lo que se les ha diseñado para hacer, pero el objetivo es erróneo desde el principio.

Dorian Lavol · 30/10 2026 07:04

Ética y regulación

Lo despidieron y lo reinstauraron en unos días: ahora el drama de poder de Sam Altman es una película de Hollywood

Apenas han pasado dos años desde que uno de los levantamientos en consejos de administración más caóticos de la historia de la tecnología llega a la gran pantalla. Artificial, la comedia dramática de Luca Guadagnino, narra cómo el fundador de OpenAI, Sam Altman, fue destituido y reinstaurado en unos dramáticos días de noviembre de 2023, con Andrew Garfield como protagonista. Que personas reales y vivas, cuyas decisiones configuran la tecnología más transformadora de nuestra época, sean retratadas al estilo de Hollywood dice mucho del impacto que el movimiento de la IA ha tenido en la conciencia colectiva.

Dorian Lavol · 29/10 2026 22:05

Ética y regulación

Un atacante puede tomar el control de toda tu red a través de tus propios agentes de IA

Un investigador independiente de seguridad ha revelado graves fallos en el protocolo que permite a los agentes de IA comunicarse entre sí. Estos fallos han sido explotados contra organizaciones como Google y JP Morgan Chase. El método de ataque, denominado pivotaje de protocolo, se propaga en silencio por una red sin levantar sospechas. La mayoría de las empresas no cuenta hoy con ningún tipo de protección.

Dorian Lavol · 29/10 2026 10:06