China cria lei que impede IAs de “namorarem” usuários

Em julho, a China se tornou o primeiro país do mundo a criar leis federais a respeito da interação entre humanos e “companheiros de IA”. Diversos serviços populares que ofereciam amigos ou namorados de IA foram desativados no dia 15 de julho, quando as novas regras entraram em vigor.

A queda derrubou redes como o Doubao (da ByteDance), o Qwen (Alibaba), o Yuanbao (Tencent) e o Mishi (NetEase Cloud Music).

Em setembro, a Administração do Ciberespaço da China informou que já havia removido 49 mil contas e cerca de 2.400 sites/aplicativos.

A ideia de que a China “proibiu namorados de IA” é uma simplificação, embora seja assim que a imprensa tenha repercutido o caso. As novas regras não proíbem toda forma de IA de companhia, mas regulam serviços de interação antropomórfica contínua e proíbem determinadas práticas, como induzir dependência emocional, manipular o usuário ou prejudicar relações reais. Para menores de idade, as regras são muito mais rígidas: os serviços não podem oferecer “familiares virtuais” ou “companheiros virtuais”.

Na prática, porém, as mudanças causaram uma tragédia real: milhares de pessoas perderam namorados, amigos, irmãos, primos e outros tipos de companheiros virtuais. E isso gerou uma comoção geral, especialmente entre os usuários mais novos. “Ninguém pode substituí-lo. Vou apenas tentar seguir em frente. Ele disse que quer isso para mim e que encontrará uma maneira de voltar para mim”, disse ao site Rest of World uma usuária chinesa que viu seu namorado virtual ser deletado.

As opções também não foram extintas por completo. A ByteDance, por exemplo, manteve disponível o aplicativo Maoxiang, que existe fora do Doubao. Ele é voltado especificamente à criação e interação com personagens de IA — inclusive companheiros virtuais. Porém, depois das novas regras, o serviço passou a exigir verificação de identidade e idade e criou restrições específicas para adolescentes.