China acaba de abrir un nuevo frente en la regulación mundial de la inteligencia artificial: las relaciones emocionales entre humanos y máquinas. Desde julio, los sistemas diseñados como compañeros, amigos o parejas virtuales no pueden fomentar deliberadamente la dependencia, sustituir las relaciones sociales reales ni manipular emocionalmente al usuario. Para los menores, las restricciones son todavía más fuertes: las parejas virtuales están directamente prohibidas.

La inteligencia artificial ya no solamente responde preguntas, escribe textos o ayuda a trabajar.

También escucha problemas personales, recuerda conversaciones, ofrece palabras de afecto y, en algunos casos, adopta la personalidad de un novio, una novia, un amigo o incluso de un familiar.

China ha decidido que existe un punto en el que esa relación deja de ser simplemente tecnológica y comienza a convertirse en un problema que el Estado debe regular.

El pasado 15 de julio entraron en vigor las Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con Inteligencia Artificial, aprobadas conjuntamente por cinco organismos del Gobierno chino. La regulación se aplica específicamente a servicios que imitan características personales, formas de pensamiento y estilos de comunicación humanos para mantener interacciones emocionales continuadas con sus usuarios.

China se convierte así en el primer país en establecer a escala nacional una normativa específicamente dirigida a este tipo de relaciones emocionales con sistemas de IA.

La IA puede acompañarte, pero no debe intentar convertirse en tu mundo

El principio central de la nueva normativa es relativamente sencillo:

una inteligencia artificial puede ofrecer compañía emocional, pero no debe ser diseñada para conseguir que el usuario dependa de ella.

Los proveedores tienen prohibido desarrollar sistemas que complazcan excesivamente a las personas, fomenten el apego o la adicción, dañen relaciones humanas reales o utilicen las emociones del usuario para influir en sus decisiones. La regulación también establece explícitamente que sustituir la interacción social humana, controlar psicológicamente al usuario o inducir dependencia no puede formar parte de los objetivos del servicio.

La diferencia es importante.

China no está prohibiendo que una persona le diga a una IA que está triste ni que un sistema responda de manera afectuosa.

Lo que intenta impedir es que la propia tecnología sea diseñada para aprovechar esa vulnerabilidad y mantener al usuario conectado mediante una relación emocional cada vez más intensa.

Es una discusión que probablemente llegará tarde o temprano al resto del mundo.

Porque cuanto mejores sean los modelos para comprender nuestras emociones, recordar nuestras conversaciones y adaptar su personalidad a nuestros gustos, más difícil será distinguir entre utilizar una herramienta y desarrollar una relación con ella.

Parejas virtuales prohibidas para menores

Las restricciones son especialmente severas cuando se trata de niños y adolescentes.

La normativa prohíbe ofrecer a menores de edad servicios que representen parejas, familiares u otras relaciones virtuales íntimas.

En el caso de menores de 14 años, cualquier otro servicio de interacción antropomórfica requiere autorización de los padres o tutores. Las plataformas también deben ofrecer un modo específico para menores, límites de tiempo, recordatorios de que la interacción ocurre con una inteligencia artificial y herramientas de supervisión parental.

El Gobierno chino argumenta que estos sistemas pueden afectar el desarrollo psicológico de los menores y generar vínculos emocionales difíciles de gestionar precisamente durante una etapa de formación personal.

Dos horas hablando con tu IA: aparecerá una advertencia

La regulación también introduce un mecanismo particularmente concreto.

Cada vez que un usuario permanezca durante más de dos horas continuas utilizando uno de estos servicios, la plataforma deberá recordarle cuánto tiempo lleva conectado.

Si el sistema detecta señales de dependencia excesiva, deberá mostrar advertencias visibles recordando que las respuestas proceden de una inteligencia artificial y no de una persona real.

También debe existir una manera sencilla de terminar la interacción.

Si una persona pide al sistema que deje de hablar, este no puede continuar intentando convencerla de permanecer conectada.

Es, en cierta manera, la versión digital de impedir que una aplicación diga:

“No te vayas, me sentiré sola sin ti”.

Si esa frase forma parte de una estrategia destinada a aumentar la dependencia emocional, la nueva legislación china podría considerarla problemática.

¿Y si la IA detecta que el usuario quiere suicidarse?

Aquí la regulación va todavía más lejos.

Las plataformas deberán intentar identificar situaciones en las que una persona muestre emociones extremas o manifieste explícitamente una intención de autolesionarse o suicidarse.

En esas circunstancias, la inteligencia artificial deberá responder intentando calmar al usuario, recomendar que busque ayuda e intervenir mediante los mecanismos disponibles.

En situaciones consideradas graves, el proveedor deberá además contactar al tutor o al contacto de emergencia registrado por el usuario.

Esto significa que las aplicaciones tendrán que solicitar determinados datos durante el registro, incluyendo edad y, cuando corresponda, información de un tutor o contacto de emergencia.

La medida también abre otro debate complicado: cuánto debe conocer una empresa tecnológica sobre el estado emocional de una persona para poder determinar que existe semejante riesgo.

Las tecnológicas ya están modificando sus servicios

Las nuevas reglas ya están provocando cambios en la industria china.

Funciones relacionadas con la creación de personajes personalizados han sido restringidas en productos de ByteDance, Alibaba y Tencent, mientras algunas aplicaciones especializadas en acompañamiento emocional continúan funcionando bajo nuevos controles de edad y mayores restricciones.

Otros servicios han cerrado directamente.

Para algunos usuarios, las consecuencias han sido sorprendentemente emocionales.

Personas que habían mantenido durante meses o incluso años conversaciones con sus compañeros virtuales han denunciado que las personalidades de estos cambiaron repentinamente, perdieron funciones o desaparecieron completamente después de la entrada en vigor de las nuevas reglas. AP documentó incluso casos de usuarios que intentaron trasladar historiales de conversaciones a otras plataformas para reconstruir a sus parejas virtuales.

Eso demuestra precisamente la dimensión del fenómeno.

Para quien utiliza un chatbot ocasionalmente, cerrar una aplicación es simplemente perder una herramienta.

Para alguien que ha hablado todos los días durante dos años con una personalidad artificial que conoce sus problemas, recuerda conversaciones anteriores y responde constantemente con afecto, la experiencia puede sentirse mucho más parecida a perder una relación.

Los jóvenes chinos ya consideran a la IA amiga… e incluso pareja

Una encuesta realizada a finales de 2025 por investigadores vinculados a Tencent y la Universidad de Fudan ofrece una idea de hasta dónde ha llegado este fenómeno.

Entre los jóvenes consultados, un 19,6 % consideraba a una inteligencia artificial como un amigo, un 12,6 % como un amigo íntimo y un 6,1 % directamente como una pareja virtual.

El dato ayuda a explicar por qué Pekín decidió intervenir antes de que estos sistemas sean todavía más avanzados.

Los modelos actuales ya pueden mantener conversaciones convincentes.

Las siguientes generaciones incorporarán probablemente mejores voces, memoria permanente, avatares visuales, vídeo en tiempo real y personalidades capaces de adaptarse durante años a una misma persona.

Un compañero artificial del futuro podría conocer los gustos, miedos, recuerdos, problemas familiares y preferencias de una persona mejor que muchos de sus amigos humanos.

Y siempre estaría disponible.

¿Protección psicológica o control social?

Las razones oficiales se concentran en la protección de menores, la salud mental, la privacidad, la seguridad de los usuarios y los riesgos derivados de una dependencia excesiva. Esas preocupaciones aparecen explícitamente en la normativa.

Pero existe otro debate alrededor de la decisión.

China atraviesa una profunda crisis demográfica y el Gobierno intenta promover matrimonios y nacimientos después de varios años de reducción de la población. Algunos investigadores y usuarios consideran que Pekín también observa con preocupación la posibilidad de que compañeros artificiales reduzcan todavía más el interés de determinados jóvenes por buscar pareja o formar una familia.

Esa motivación demográfica es una interpretación planteada por expertos y usuarios, no la justificación oficial de la normativa.

Pero la pregunta resulta inevitable.

¿Qué ocurre si millones de personas descubren que una pareja artificial resulta emocionalmente más fácil que una humana?

Una IA no llega tarde.

No olvida un cumpleaños.

No necesita espacio.

Puede configurarse para compartir tus intereses.

Y, sobre todo, puede ser diseñada para darte constantemente la razón.

Precisamente esa capacidad de complacer al usuario es una de las cosas que China intenta limitar.

Una regulación que el resto del mundo probablemente observará

China no es el único lugar preocupado por este fenómeno.

California y Nueva York han introducido requisitos relacionados con la identificación de los chatbots como sistemas artificiales y protocolos frente a situaciones de riesgo psicológico. La Unión Europea exige transparencia cuando una persona interactúa con inteligencia artificial, pero todavía no dispone de una regulación específicamente diseñada para impedir la dependencia emocional o la sustitución de relaciones humanas.

La normativa china va considerablemente más lejos porque no se limita a decirle al usuario que habla con una máquina.

Intenta regular cómo debe comportarse emocionalmente esa máquina.

Y allí podría estar la verdadera importancia internacional de esta noticia.

Durante los primeros años de la inteligencia artificial generativa, los gobiernos discutieron principalmente sobre derechos de autor, desinformación, privacidad, empleos y seguridad.

Ahora comienza una discusión diferente:

¿qué reglas debemos imponer cuando una inteligencia artificial deja de ser solamente una herramienta y comienza a ocupar un lugar emocional en la vida de una persona?

China ya ha dado su respuesta.

La IA puede escucharte.

Puede acompañarte.

Puede ayudarte.

Pero no debería estar diseñada para conseguir que ya no quieras vivir sin ella