China propõe regras mais apertadas para serviços de IA com interação emocional
A entidade reguladora da cibersegurança da China divulgou no sábado um projeto de regras para a consulta pública que visa reforçar a supervisão dos serviços de inteligência artificial concebidos para simular personalidades humanas e envolver os utilizadores em interações emocionais.
A medida sublinha o esforço de Pequim para moldar a rápida implementação da IA orientada para o consumidor, reforçando os requisitos de segurança e ética.
As regras propostas aplicar-se-iam a produtos e serviços de IA oferecidos ao público na China que apresentem traços de personalidade humana simulados, padrões de pensamento e estilos de comunicação, e que interajam com os utilizadores emocionalmente através de texto, imagens, áudio, vídeo ou outros meios.
O projeto estabelece uma abordagem regulamentar que exigiria que os fornecedores alertassem os utilizadores para o uso excessivo e interviessem quando os utilizadores apresentassem sinais de dependência.
De acordo com a proposta, os prestadores de serviços seriam obrigados a assumir responsabilidades de segurança ao longo de todo o ciclo de vida do produto e a estabelecer sistemas para a revisão de algoritmos, segurança de dados e proteção de informações pessoais.
A minuta visa também potenciais riscos psicológicos. Espera-se que os prestadores identifiquem os estados dos utilizadores e avaliem as suas emoções e o seu nível de dependência do serviço. Caso os utilizadores apresentem emoções extremas ou comportamentos aditivos, os prestadores deverão tomar as medidas necessárias para intervir, refere o documento.
As medidas estabelecem limites de conteúdo e de conduta, determinando que os serviços não devem gerar conteúdos que ponham em risco a segurança nacional, divulguem boatos ou promovam a violência ou a obscenidade.
-
22:33
-
21:42
-
21:03
-
16:19
-
15:43
-
14:55
-
13:59
-
12:30
-
11:45
-
11:00
-
10:15
-
09:30
