China endurece reglas sobre IA generativa para users
20XX 
Highlights
– China realizará control estricto sobre IA que simula emociones humanas.
– Protección reforzada para menores y salud mental.
– Advertencias obligatorias y límites al diseño adictivo.
China avanza en una nueva etapa de regulación tecnológica y pone el foco en la inteligencia artificial generativa orientada al consumo masivo. El país propuso un marco normativo que busca reforzar la protección de los usuarios frente a sistemas de IA capaces de simular rasgos humanos, emociones y estilos de comunicación, una señal clara de mayor control sobre un sector en rápida expansión.
La iniciativa será supervisada por la Administración del Ciberespacio de China y apunta a cualquier servicio de IA generativa que interactúe con personas mediante texto, imágenes, audio o video, especialmente aquellos diseñados para establecer vínculos emocionales o sociales con los usuarios.
Alcance de la nueva regulación
Las reglas propuestas buscan prevenir una amplia gama de riesgos asociados al uso de IA generativa. Entre los principales puntos, se prohíbe la generación de contenidos que amenacen la seguridad nacional o contradigan valores fundamentales del Estado chino. También se restringe cualquier material que difame, insulte o vulnere los derechos de terceros.
El marco normativo incluye la prohibición explícita de contenidos que promuevan obscenidad, violencia, juegos de azar o conductas delictivas. A esto se suma un control más estricto sobre servicios que puedan manipular el comportamiento del usuario mediante promesas falsas o que dañen sus relaciones sociales.
Salud mental y responsabilidad humana
Uno de los ejes más sensibles de la propuesta es la protección de la salud física y mental. El texto prohíbe que los sistemas de IA fomenten o glorifiquen la autolesión, el suicidio o cualquier conducta dañina. En situaciones extremas, como cuando un usuario manifieste intenciones de autolesión, la normativa exige que un humano tome control del servicio y contacte a un tutor o a un servicio de emergencia.
Además, se establece que el uso de IA generativa por parte de menores requerirá consentimiento explícito de sus tutores legales.
Advertencias y prevención de adicción
Las regulaciones también señalan que inducir dependencia, reemplazar interacciones sociales reales o influir psicológicamente en los usuarios no debe ser un objetivo de diseño. Las plataformas deberán advertir claramente cuando una persona interactúa con una IA y mostrar alertas a usuarios que presenten señales de uso excesivo o dependencia.
El plazo para enviar comentarios sobre esta propuesta regulatoria vence el 25 de enero de 2026, antes de su posible implementación formal.
