Apple e Google são pressionadas a remover apps de nudez falsa gerada por IA

A Apple e o Google foram notificadas pelo gabinete do procurador municipal de São Francisco para removerem de suas lojas de aplicativos 13 ferramentas que utilizam inteligência artificial para gerar imagens de nudez falsa sem o consentimento das pessoas retratadas. A prefeitura da cidade argumenta que as plataformas digitais lucram com esses serviços, que são frequentemente usados para criar deepfakes de teor sexual, afetando principalmente mulheres e meninas.

## Cobrança por Falhas de Controle

O procurador David Chiu assinou as cartas enviadas às empresas, destacando que a criação de imagens íntimas não autorizadas é uma prática ilegal e prejudicial. Ele enfatiza que a Apple e o Google devem impedir que seus ambientes digitais facilitem tais abusos e que interrompam relações comerciais com os desenvolvedores responsáveis por esses aplicativos. A cobrança se estende aos sistemas de pagamento das lojas virtuais, dos quais as empresas obtêm parte das receitas.

As gigantes de tecnologia responderam às acusações. A Apple informou que já removeu três dos aplicativos apontados pela prefeitura e está em processo de encerramento das contas dos desenvolvedores envolvidos, com a possibilidade de excluir outros criadores caso não corrijam as violações. O Google declarou que retirou centenas de aplicativos com recursos de “nudificação” por descumprirem suas políticas, além de ter suspendido ferramentas similares e restringido termos de busca relacionados.

## Expansão e Avanço da IA

Investigações municipais citadas nas notificações apontam que o problema não se limita a aplicativos explicitamente divulgados como ferramentas de nudez artificial. Estudos revelaram que programas de troca de rostos, apresentados como recursos de edição comuns, também permitiam a criação de imagens sexualizadas sem mecanismos de proteção eficazes. Um levantamento indicou que uma parcela significativa dos aplicativos de troca facial disponíveis nas lojas da Apple e do Google possuía essa capacidade.

O avanço da inteligência artificial generativa tem reduzido a dificuldade técnica para produzir imagens falsas realistas. Especialistas citados na reportagem indicam que uma fotografia de referência e poucos comandos são suficientes para gerar esse tipo de conteúdo. A prefeitura de São Francisco declarou que continuará avaliando medidas legais para pressionar as plataformas a reforçarem seus mecanismos de análise antes da publicação de novos aplicativos.