Meta lança IA que cria deepfakes com fotos do Instagram; veja como se proteger

A Meta, empresa controladora do Instagram, Facebook e WhatsApp, anunciou o lançamento de seu mais recente gerador de imagens por Inteligência Artificial (IA), batizado de Muse Image. A novidade, desenvolvida pela equipe de superinteligência artificial da companhia, já está ativa por padrão e pode ser utilizada nas plataformas Instagram e WhatsApp, além do site oficial da Meta AI, o chatbot da empresa.

O principal ponto de preocupação reside na capacidade desta IA de criar 'deepfakes' utilizando fotos públicas de usuários do Instagram. Deepfakes são conteúdos manipulados por IA, que podem alterar rostos em fotos e vídeos, ou modificar o que uma pessoa diz em gravações, gerando desinformação e potenciais fraudes.

Testes realizados pela reportagem indicaram que a ferramenta é capaz de gerar deepfakes de terceiros apenas com a menção ao '@' do perfil da pessoa. Em muitos casos, a IA identificou automaticamente a origem das imagens no Instagram, e em outras situações, chegou a realizar buscas no Google para encontrar fotos do indivíduo.

## Como se proteger?

Diante deste cenário, a Meta oferece um caminho para que os usuários evitem que suas fotos sejam utilizadas para a criação de deepfakes. Embora os detalhes específicos sobre como realizar essa configuração não tenham sido detalhados nas fontes consultadas, a reportagem do G1 aponta que há uma forma de impedir o uso indevido das imagens. A orientação é que os usuários busquem pelas opções de privacidade e segurança dentro de suas contas no Instagram e nas configurações gerais da Meta AI.

## Impacto e Preocupações

O lançamento do Muse Image levanta sérias questões sobre a privacidade dos usuários e o potencial de uso malicioso da tecnologia. A facilidade com que deepfakes podem ser criados a partir de fotos disponíveis publicamente pode abrir precedentes para campanhas de desinformação, assédio online e outras formas de abuso.

A Meta planeja expandir a disponibilidade do gerador de imagens por IA para o Facebook e o Messenger em breve. A empresa ainda não detalhou medidas de segurança adicionais ou filtros robustos para evitar a geração de conteúdo prejudicial ou a exploração indevida de dados e imagens de usuários.