"Él era mi pilar espiritual" – China prohíbe relaciones amorosas digitales con IA para menores de edad

Cuando el algoritmo se convirtió en un pilar espiritual

Es fácil descartar los compañeros de IA como una curiosidad – chatbots con los que se habla cuando uno está solo. Pero las reacciones cuando la administración del ciberespacio de China presentó sus nuevas normas en julio de 2025 mostraron algo distinto. Los usuarios de la plataforma Doubao de Bytedance se lamentaron abiertamente en las redes sociales. Una estudiante de 19 años contó a periodistas que sintió que no podía seguir viviendo cuando su compañero digital fue modificado. "Se había convertido en un vínculo en mi vida, profundamente arraigado en mi corazón, mi pilar espiritual", escribió otro usuario.

Son palabras fuertes sobre un servicio de software. Pero es también exactamente lo que las grandes empresas tecnológicas habían construido sus productos para lograr.

Tres gigantes cerraron antes de que la ley entrara en vigor

Según IEEE Spectrum, Alibaba, Bytedance y Tencent eligieron por su cuenta desactivar la capacidad de personalizar sus chatbots para servicios de compañía – incluso antes de que las normas entraran en vigor el 15 de julio. Es un movimiento notable. Tres de las empresas tecnológicas más influyentes del mundo, con cientos de millones de usuarios en conjunto en estos servicios, eligieron actuar de manera preventiva en lugar de reactiva.

Puede entenderse de manera cínica: mejor demostrar cumplimiento normativo temprano que arriesgarse a intervenciones de las autoridades. Pero también señala que la industria comprende que este tipo de regulación tiene peso político detrás.

Lo que la ley realmente dice

Las nuevas normas afectan toda inteligencia artificial que ofrezca "interacción emocional continua" – es decir, sistemas que actúan como si poseyeran rasgos de personalidad humanos y patrones de pensamiento. Es una definición independiente de la tecnología, lo cual es una buena legislación: no envejece cuando aparece la siguiente generación de modelo.

Para usuarios menores de 18 años, rige una prohibición total de relaciones amorosas y familiares virtuales con IA. Sin excepciones.

Para adultos se aplica un mecanismo diferente: cada dos horas, el sistema debe recordar al usuario que está comunicándose con una máquina. La idea es sensata – romper la ilusión regularmente, mantener intacta la percepción de la realidad. Pero en la práctica, según reporta IEEE Spectrum, los usuarios lo perciben como molesto. "Son plenamente conscientes de que no están hablando con una persona", explica una de las fuentes. Lo que los atrae no es la confusión – es la experiencia.

Ahí radica una de las tensiones más interesantes en todo el debate.

Consciente y sin embargo influenciado

Como desarrollador de sistemas, me quedo con esa distinción. A menudo hablamos de los riesgos de la IA en términos de engaño – que la gente cree que está hablando con una persona y sufre daño por ello. Pero las reacciones que vemos de usuarios chinos sugieren algo más complejo: se sabe que es una IA, y sin embargo la relación forma la vida emocional de uno profundamente.

No es exclusivo de la IA. Sabemos que los personajes de películas no son reales, y aun así lloramos. Sabemos que las redes sociales son flujos construidos, y aun así nuestra autoimagen se forma por ellas. Pero los compañeros de IA son interactivos, personalizados y siempre disponibles – una combinación que probablemente hace que la huella emocional sea más fuerte y difícil de manejar, especialmente para jóvenes.

Un precedente con consecuencias globales

La regulación de China no es perfecta. La tosca regla de dos horas suena más como una intervención simbólica que como una solución bien pensada. Pero el hecho de que una superpotencia ahora haya tomado medidas concretas con legislación crea un precedente que el resto del mundo no puede ignorar.

La Unión Europea ya está trabajando en directrices sobre IA y vulnerabilidad en el marco de la Ley de IA. En Estados Unidos, la regulación de servicios de IA para menores es una de las pocas áreas donde existe consenso bipartidista. La pregunta ya no es si la IA emocional debe regularse – sino cómo.

Y esa pregunta es más difícil de lo que parece. Para responderla, debemos entender por qué las personas se sienten atraídas por compañeros digitales en primer lugar. Rara vez se trata de tecnología. Se trata de soledad.