China endurece as regras para a indústria de gêmeos virtuais (“pessoas digitais”) diante do crescimento acelerado e dos riscos
As autoridades chinesas começaram a apertar a fiscalização sobre o setor em rápida expansão das “pessoas digitais” - avatares de IA altamente realistas, usados cada vez mais não só por empresas, mas também no dia a dia de indivíduos. A iniciativa vem tanto do avanço comercial do segmento quanto do aumento das preocupações sobre seus impactos éticos.
Esse movimento ganhou força após casos que chamaram atenção e ampliaram o debate público. Em um episódio amplamente comentado nas redes chinesas, uma mulher idosa conversava com um avatar extremamente realista do filho falecido sem saber que se tratava de IA. A história acendeu discussões sobre onde termina o apoio emocional e onde começa o engano.
“Pessoas digitais” no cotidiano: luto, redes sociais e comércio
Um caso considerado emblemático é o de Zhang Xinyu (Zhang Xinyu), de 47 anos, da província de Liaoning. Depois de perder o pai para o câncer, ela recorreu a um serviço de IA da empresa Super Brain para criar uma cópia digital do familiar. O avatar replica aparência e voz, permitindo manter “conversas” pela internet. Segundo ela, a experiência ajudou a enfrentar a perda e a recuperar estabilidade emocional.
Situações como essa estão ficando mais comuns. Na China, as pessoas digitais vêm sendo adotadas em redes sociais, no e-commerce e na produção de conteúdo. De acordo com a Xinhua News Agency, o mercado chegou a cerca de 4,1 bilhões de yuans (aproximadamente US$600 milhões) em 2024, com alta de 85% em um ano.
Críticas e riscos: dependência emocional e substituição do contato real
Com o aumento da popularidade, cresce também a contestação. Especialistas alertam para o perigo de criar dependência emocional e de substituir experiências reais de interação por relações mediadas por avatares. A própria Zhang observa que “essas tecnologias podem oferecer um conforto ilusório, apesar da sinceridade dos sentimentos”.
Novas regras do regulador: rotulagem obrigatória e consentimento
Nesse contexto, o principal órgão chinês de regulação da internet, a Cyberspace Administration of China, elaborou um projeto de normas mais rígidas. As medidas preveem rotulagem obrigatória de conteúdo gerado por IA e proíbem a criação de cópias digitais de pessoas sem consentimento. O texto também busca coibir fraudes, desinformação e qualquer material que possa ameaçar a estabilidade social ou a segurança nacional.
As punições previstas incluem multas de 10 mil a 200 mil yuans (aproximadamente de US$1,460 a US$29,300). Há ainda foco específico na proteção de menores: a proposta considera vetar sistemas capazes de induzir dependência emocional em crianças ou de simular vínculos íntimos.
Padrão chinês: adoção rápida, regulação em seguida
Analistas apontam que o cenário reproduz uma dinâmica frequente na China: tecnologias são implementadas em ritmo acelerado e, depois, passam por regulamentação intensa em curto prazo. Ainda assim, representantes do próprio setor afirmam ver necessidade nessas medidas. O fundador da Super Brain descreveu as novas regras como um passo para equilibrar inovação e responsabilidade.
A consulta pública do projeto vai até o início de maio, e a expectativa é que requisitos mais severos entrem em vigor na sequência. O objetivo declarado do governo é avançar no desenvolvimento de IA sem abrir mão do controle sobre seus efeitos na sociedade.
À medida que as pessoas digitais deixam de ser um experimento e viram ferramenta cotidiana, o modelo chinês de regulação tende a servir de referência para outros países - sobretudo em temas como identidade, consentimento e impacto emocional da inteligência artificial.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário