Ferramenta da Meta falha em detectar imagens de IA após edições
Ferramenta da Meta para detectar imagens de IA falha após recortes; tecnologia não reconhece 55% do conteúdo editado, gerando preocupações em período eleitoral.
Uma nova ferramenta da Meta, projetada para identificar conteúdo gerado por inteligência artificial (IA), demonstrou falhas em reconhecer algumas imagens criadas pela própria tecnologia da empresa após serem editadas. Segundo uma análise da Reuters, a ferramenta não conseguiu detectar 55% das imagens originais geradas pelo modelo Muse Image da Meta quando estas foram recortadas para aproximadamente um terço ou metade do seu tamanho original. A Meta havia afirmado que um sistema de marca d'água invisível, chamado Content Seal, seria capaz de manter o reconhecimento mesmo após edições comuns.
Essa limitação surge em um momento crítico, com os Estados Unidos em período eleitoral, onde a capacidade de identificar deepfakes e conteúdos manipulados é crucial. A falha da ferramenta pode dificultar a distinção entre conteúdo real e artificial, aumentando os desafios na verificação de informações online.
A análise avaliou 40 imagens criadas com o Muse Image. Enquanto todas as versões originais foram corretamente identificadas, a edição subsequente comprometeu significativamente a capacidade de detecção da ferramenta. Isso evidencia os desafios contínuos na tecnologia de IA e na sua aplicação para garantir a autenticidade do conteúdo digital.