China impõe limites a "namorados virtuais" de IA

A China implementou um conjunto rigoroso de regulamentações destinado a frear a crescente dependência emocional de usuários em relação a chatbots de companhia, popularmente conhecidos como "namorados virtuais". As novas diretrizes, anunciadas por cinco órgãos governamentais, incluindo a Administração do Ciberespaço da China (ACC), exigem que as plataformas de inteligência artificial que simulam interações humanas suspendam ferramentas que possam induzir dependência excessiva.

## Limitações e Proteção de Dados

As plataformas deverão monitorar sinais de sofrimento emocional entre seus usuários e implementar medidas para limitar o uso considerado abusivo. Entre as exigências estão a intervenção em crises, a prevenção do uso indevido de informações pessoais e a garantia de que os usuários tenham controle sobre seus próprios dados. As normas proíbem explicitamente que esses serviços "agradem excessivamente aos usuários, induzam dependência emocional ou vício nem prejudiquem as relações interpessoais reais do usuário". Estas regras aplicam-se especificamente a serviços que oferecem "interação emocional sustentada" por meio de texto, imagens, áudio ou vídeo, excluindo ferramentas de atendimento ao cliente ou de estudo.

## Mercado em Expansão e Preocupações Sociais

O mercado chinês de "namorados" de IA tem experimentado um crescimento expressivo. Relatos indicam que o setor de "humanos digitais" movimentou cerca de R$ 3 bilhões em 2024, com projeções de crescimento anual de 85%. Empresas como ByteDance, Alibaba e Tencent, que operam plataformas populares, já vinham suspendendo serviços semelhantes antes mesmo da oficialização das novas regras. A popularidade dessas IAs levantou preocupações sobre o impacto na saúde mental e nas interações sociais. Pesquisas apontam que uma parcela significativa de jovens chineses já experimentou alguma forma de dependência tecnológica, com mais de 70% dos entrevistados relatando uso e 23% desenvolvendo dependência habitual.

## Pioneirismo Regulatório e Riscos Identificados

A China se posiciona como pioneira na regulamentação de IAs que replicam interações humanas. Especialistas alertam que a exposição prolongada a esses algoritmos pode levar ao isolamento social e à deterioração de habilidades humanas essenciais, como empatia e a capacidade de gerenciar conflitos. A ACC destacou que, embora ofereçam conforto, esses serviços de companhia podem introduzir riscos sérios ao explorar vulnerabilidades emocionais e sociais dos usuários, potencialmente afastando-os de suas conexões no mundo real.