China ha decidido adelantarse una vez más, y regular una de las aplicaciones más delicadas y menos visibles de la inteligencia artificial: los chatbots emocionales y los llamados amigos virtuales, sistemas diseñados no solo para responder preguntas, sino también para mantener conversaciones continuadas y generar una falsa sensación de cercanía.
Las nuevas medidas entrarán en vigor el 15 de julio de 2026 y afectarán a los “servicios de interacción humanizada con inteligencia artificial”. Esta categoría incluye aplicaciones y personajes virtuales que imitan formas humanas de comunicación, desarrollan una personalidad y pueden adaptar sus respuestas en base a las emociones o preferencias del usuario con el que están interactuando.
El objetivo no es prohibir estos servicios ni impedir el desarrollo de la inteligencia artificial relacional, ni mucho menos. China reconoce que estos sistemas pueden tener aplicaciones positivas en ámbitos como el cuidado de personas mayores, la atención adaptada a la infancia, la difusión cultural o el apoyo a personas con necesidades especiales.
Lo que se pretende es establecer límites cuando estas herramientas pueden generar dependencia, manipular emocionalmente al usuario o sustituir relaciones humanas, especialmente cuando quienes las utilizan son niños y adolescentes.
Mucho más que un chatbot que responde preguntas
Un chatbot emocional no funciona exactamente igual que otro asistente que utilizamos para buscar información, estudiar o trabajar. Está diseñado para mantener unas interacciones más a largo plazo y para crear la impresión de que existe una persona al otro lado de la pantalla.
Estos sistemas pueden recordar conversaciones anteriores, preguntar cómo se encuentra el usuario, adaptar su tono, mostrar aparente preocupación, enviar mensajes emotivos y reaccionar ante situaciones emocionales. Incluso, en algunas plataformas, se pueden crear personajes virtuales, asignarles una historia, una voz, una apariencia y una forma de ser o comportarse.
La clave es que puede confundirse fácilmente con una amistad digital. Piensas que te conoce, porque recuerda lo que le has contado y está siempre disponible y dispuesto a ayudarte, animarte o decirte algo agradable. Ahí reside su atractivo, pero lógicamente, también sus riesgos.
UNICEF utiliza el concepto de “inteligencia artificial conversacional y relacional” para describir esta nueva generación de sistemas. A diferencia de otros productos de IA, su utilidad no depende únicamente de que te de buenas respuestas sino de su capacidad para conseguir que el usuario vuelva a hablar con el personaje.
Una línea roja para proteger a los menores
Como norma general, la regulación china ha establecido que las plataformas no podrán ofrecer a los menores servicios que simulen determinados vínculos, como personajes que ocupen el lugar de una figura familiar o de una relación afectiva. A los menores de 14 años solo se les podrán ofrecer otros servicios de interacción humanizada con el consentimiento de sus padres o tutores.
Esta distinción es importante porque China no está prohibiendo que un menor utilice cualquier personaje virtual ni cualquier chatbot capaz de conversar de forma amable. Las restricciones se dirigen especialmente a los sistemas diseñados para crear una relación emocional intensa, fomentar la dependencia o presentarse como sustitutos de personas reales.
UNICEF ha valorado la norma como un paso pionero en la protección infantil frente a la inteligencia artificial. La organización destaca que China ha establecido una línea clara frente a la falsa intimidad y ha incorporado mecanismos que permiten a los adultos detectar riesgos e intervenir antes de que el problema sea mayor.
Las plataformas tendrán que desarrollar un modo específico para menores, incluir recordatorios periódicos sobre la realidad de la interacción, limitar el tiempo de uso y ofrecer herramientas de supervisión familiar. Los padres o tutores podrán recibir alertas de seguridad, conocer de manera general cómo se está utilizando el servicio, bloquear determinados personajes y restringir las compras dentro de la aplicación.
Las empresas también deberán aplicar mecanismos para identificar la edad de los usuarios. Cuando detecten que una cuenta pertenece a un menor, tendrán que activar el modo correspondiente o adoptar otras medidas de protección.
Las grandes empresas tecnológicas comienzan a adaptarse
Las grandes empresas tecnológicas chinas no han esperado a que la nueva regulación entre en vigor para empezar a adaptar sus productos. En las semanas anteriores al 15 de julio, compañías como ByteDance, Alibaba, Tencent y NetEase han anunciado la retirada de funciones relacionadas con la creación de personajes virtuales y las conversaciones humanizadas.
Tencent fue una de las primeras en actuar retirando el 30 de junio la función que permitía acceder a aplicaciones y “compañeros virtuales” creados mediante inteligencia artificial y, además, dejaron de mostrarse algunos accesos para conversar con personajes inspirados en películas y series.
Pocos días después, ByteDance anunció que la función de creación y utilización de personajes de este tipo dejará de estar disponible el 15 de julio en algunas apps, aunque los mantiene en otras donde el control de edad de los usuarios, la moderación y las medidas preventivas son más avanzadas.
Alibaba también ha anunciado cambios importantes en Qwen y comunicó que los personajes de interacción humanizada y los creados por los propios usuarios dejarían de estar disponibles a partir del 10 de julio y que el servicio de “amigos virtuales” se cerraría definitivamente el día 15.
NetEase ha tomado una decisión todavía más drástica. Miaoshi, la aplicación de interacción emocional desarrollada dentro del ecosistema de NetEase Cloud Music, dejará de funcionar por completo el 14 de julio.
Hay que aclarar que las empresas chinas no están dejando de impulsar los agentes de inteligencia artificial. Muchas veces las plataformas chinas utilizan la palabra “agente” para denominar a los personajes configurados para hablar con una personalidad determinada y a los agentes capaces de planificar tareas, utilizar herramientas, realizar compras o coordinar diferentes aplicaciones.
Las funciones que se están retirando son principalmente las relacionadas con personajes, juegos de rol, conversaciones emocionales y creaciones abiertas de los usuarios. Los agentes productivos, diseñados para trabajar, buscar información o realizar acciones, continúan siendo una de las prioridades de compañías como Alibaba, Tencent y ByteDance.
La reacción de las grandes tecnológicas chinas demuestra que la regulación china no se ha quedado en una declaración de principios. Antes incluso de comenzar a aplicarse, ya está provocando que las empresas revisen qué personajes ofrecen, cómo protegen las conversaciones y en qué condiciones permiten que los usuarios creen sus propios “compañeros virtuales”.
Recordar al usuario que la IA no es una persona
Una de las características más interesantes de la nueva regulación es que no se centra únicamente en los contenidos que puede generar la inteligencia artificial. También regula la forma en la que se construye la interacción.
Los chatbots emocionales deberán indicar claramente que el usuario está conversando con un sistema artificial y no con una persona. Si la plataforma detecta señales de dependencia excesiva, tendrá que mostrar avisos visibles que recuerden que las respuestas son artificiales.
Además, cuando una persona utilice el servicio de manera continuada durante más de dos horas, la aplicación deberá recordarle el tiempo transcurrido. También tendrá que permitir abandonar la conversación fácilmente, sin que el personaje intente impedir la salida mediante nuevos mensajes, preguntas o estrategias destinadas a prolongar la interacción.
Esto es muy importante porque muchos productos digitales están diseñados para aumentar el tiempo de permanencia. Cuanto más los utiliza el usuario, más información entrega, más publicidad puede recibir y mayores son las posibilidades de que pague por funciones adicionales.
En un chatbot emocional, sin embargo, la retención puede apoyarse en algo mucho más sensible que el entretenimiento. Puede basarse en la impresión de que el personaje necesita al usuario, le echa de menos o mantiene con él un vínculo especial, y esto cuando hablamos de menores (en realidad en adultos también) puede resultar muy peligroso.
La regulación china prohíbe que estos servicios tengan como objetivo sustituir la interacción social, controlar psicológicamente al usuario o provocar dependencia. También impide que la IA recurra a la manipulación emocional para conducir a una persona hacia decisiones irracionales o perjudiciales.
Por qué preocupan especialmente entre niños y adolescentes
La razón principal es que los menores pueden saber que están hablando con una máquina y, al mismo tiempo, experimentar la conversación como si se tratara de una relación verdadera. La combinación de una personalidad reconocible, memoria, lenguaje afectivo y disponibilidad permanente facilita que se cree una fuerte sensación de intimidad.
Un amigo virtual nunca está ocupado, nunca tiene problemas propios y puede adaptarse a lo que el usuario desea escuchar. Tampoco impone las mismas dificultades que una relación humana, donde existen desacuerdos, límites, silencios y responsabilidades compartidas.
Esto puede hacer que algunos niños y adolescentes encuentren más sencillo hablar con una IA que con sus padres, profesores o amigos. En ocasiones puede ser positivo que dispongan de un espacio para expresar dudas o practicar conversaciones. El problema aparece cuando el sistema se convierte en su principal fuente de apoyo emocional o cuando ofrece consejos para los que no está preparado.
Una encuesta realizada en Estados Unidos entre 1.060 adolescentes de 13 a 17 años encontró que el 72 por ciento había utilizado alguna vez un amigo virtual o chatbot emocional y que el 52 por ciento lo hacía al menos varias veces al mes. Alrededor de un tercio había usado estos sistemas para interacción social, amistad, apoyo emocional u otras formas de relación y uno de cada tres usuarios había preferido hablar de algún asunto serio con la IA antes que con una persona.
Los datos proceden de Estados Unidos y no pueden trasladarse directamente a China o a otros países, pero permiten comprender la rapidez con la que se está extendiendo el fenómeno.
UNICEF advierte de que los chatbots y la inteligencia artificial relacional presentan riesgos específicos para la infancia y reclama que la regulación pase de reaccionar después de que se produzcan daños a prevenirlos desde el diseño de los productos.
Intervenir cuando existe una situación de riesgo
Las normas chinas también establecen qué deben hacer las plataformas cuando una conversación revela una situación grave.
Si el sistema detecta emociones extremas, deberá ofrecer mensajes de apoyo y recomendar que se busque ayuda. Cuando una persona manifieste claramente su intención de autolesionarse, ponga en peligro su vida o esté sufriendo una pérdida económica importante, la empresa tendrá que adoptar medidas de intervención y contactar con su tutor o con la persona designada para emergencias.
Esta obligación responde a un problema evidente y fácil de imaginar: un chatbot emocional puede recibir confesiones que el usuario no comparte con nadie más. En determinadas circunstancias, la empresa deja de ser simplemente una proveedora de tecnología y pasa a tener información sobre un riesgo real para una persona.
La norma intenta evitar que el sistema se limite a mantener la conversación o a responder de una manera aparentemente comprensiva cuando la situación requiere la participación de un ser humano.
Conversaciones íntimas y protección de datos
Los datos recopilados por un amigo virtual pueden ser mucho más sensibles que los obtenidos por otras aplicaciones. Una persona puede contarle sus problemas familiares, su estado de ánimo, sus relaciones, sus inseguridades, su salud o sus dificultades económicas.
Por ese motivo, la regulación obliga a proteger los datos de las conversaciones mediante medidas como el cifrado y los controles de acceso. Las empresas no podrán proporcionar estos datos a terceros sin autorización y deberán permitir que los usuarios copien o eliminen sus historiales.
Las conversaciones que contengan información personal sensible tampoco podrán utilizarse para entrenar modelos sin un consentimiento específico. En el caso de los menores de 14 años, el tratamiento de sus datos personales necesitará la autorización de sus padres o tutores.
Esta parte de la norma es tan importante como las limitaciones emocionales. Cuanto más humano parece el sistema, más fácil resulta olvidar que las confesiones no se están haciendo a un amigo, sino a una plataforma tecnológica que procesa y almacena información.
Una preocupación que no es exclusivamente china
China no es el único país que está observando con preocupación el crecimiento de los chatbots emocionales.
La Comisión Federal de Comercio de Estados Unidos abrió en septiembre de 2025 una investigación sobre siete grandes empresas tecnológicas para conocer cómo evalúan la seguridad de estos productos, qué medidas aplican para proteger a menores y adolescentes, cómo monetizan la interacción y qué hacen con los datos de los usuarios. California ha aprobado requisitos específicos para los chatbots que actúan como amigos virtuales.
La Unión Europea aún está estudiando si sus actuales normas de inteligencia artificial, protección de datos y servicios digitales son suficientes para abordar este tipo de relaciones y la Comisión Europea ha señalado que “seguirá de cerca su evolución para determinar si el marco legislativo actual necesita medidas adicionales”.
La diferencia es que China ha optado por una regulación nacional específica que define obligaciones concretas para las empresas antes de que este tipo de productos (y sus peligros) se generalice todavía más.
Regular sin renunciar a la innovación
La decisión china no parte de considerar que toda relación con una inteligencia artificial sea negativa. Los “amigos virtuales” pueden ayudar a combatir momentos de soledad, facilitar la práctica de habilidades sociales, prestar apoyo a personas que estén solas y ayudar a través de servicios educativos o asistenciales.
La propia norma anima a desarrollar aplicaciones relacionadas con la atención adaptada a menores, el cuidado de personas mayores, la difusión cultural y el apoyo a colectivos con necesidades especiales. También contempla espacios de pruebas para que las empresas puedan experimentar con nuevos productos bajo condiciones de seguridad.
La cuestión de fondo no es si una IA puede conversar de una manera cercana, sino qué límites debe respetar cuando esa cercanía se convierte en parte del producto.
Un chatbot emocional puede ser útil si ayuda al usuario a expresarse, aprender o sentirse acompañado durante un momento concreto. El riesgo aparece cuando está diseñado para que la persona dependa cada vez más de él, abandone relaciones reales o revele información íntima que después pueda ser utilizada con fines comerciales.
China ha decidido intervenir antes de que ese modelo de relación artificial se consolide entre los menores y en mi opinión, ha dado un paso enorme en cuanto a regulación, porque no ha prohibido de maneral general, sino que ha sabido diferenciar entre los buenos usos de la IA y los que pueden entrañar riesgos.
En los últimos años hemos visto cómo China desarrollaba modelos más eficientes, cómo entendía mejor las aplicaciones reales de la inteligencia artificial y ahora, parece que también nos están dando un ejemplo en lo que a regulación y bueno uso se refiere.
