China propõe regras mais apertadas para serviços de IA com interação emocional

Segunda-feira 29 Dezembro 2025 - 15:30

A entidade reguladora da cibersegurança da China divulgou no sábado um projeto de regras para a consulta pública que visa reforçar a supervisão dos serviços de inteligência artificial concebidos para simular personalidades humanas e envolver os utilizadores em interações emocionais.

A medida sublinha o esforço de Pequim para moldar a rápida implementação da IA orientada para o consumidor, reforçando os requisitos de segurança e ética.

As regras propostas aplicar-se-iam a produtos e serviços de IA oferecidos ao público na China que apresentem traços de personalidade humana simulados, padrões de pensamento e estilos de comunicação, e que interajam com os utilizadores emocionalmente através de texto, imagens, áudio, vídeo ou outros meios.

O projeto estabelece uma abordagem regulamentar que exigiria que os fornecedores alertassem os utilizadores para o uso excessivo e interviessem quando os utilizadores apresentassem sinais de dependência.

De acordo com a proposta, os prestadores de serviços seriam obrigados a assumir responsabilidades de segurança ao longo de todo o ciclo de vida do produto e a estabelecer sistemas para a revisão de algoritmos, segurança de dados e proteção de informações pessoais.

A minuta visa também potenciais riscos psicológicos. Espera-se que os prestadores identifiquem os estados dos utilizadores e avaliem as suas emoções e o seu nível de dependência do serviço. Caso os utilizadores apresentem emoções extremas ou comportamentos aditivos, os prestadores deverão tomar as medidas necessárias para intervir, refere o documento.

As medidas estabelecem limites de conteúdo e de conduta, determinando que os serviços não devem gerar conteúdos que ponham em risco a segurança nacional, divulguem boatos ou promovam a violência ou a obscenidade.