Google diz que planeja implementar mudanças na Pesquisa Google para deixar mais claro quais imagens nos resultados foram geradas por IA — ou editadas por ferramentas de IA.
Nos próximos meses, o Google começará a sinalizar imagens geradas e editadas por IA na janela “Sobre esta imagem” na Pesquisa, Lente do Google e o Círculo para pesquisar recurso no Android. Divulgações semelhantes podem chegar a outras propriedades do Google, como o YouTube, no futuro; o Google diz que terá mais a compartilhar sobre isso ainda este ano.
Crucialmente, apenas imagens contendo “metadados C2PA” serão sinalizadas como manipuladas por IA na Pesquisa. C2PA, abreviação de Coalition for Content Provenance and Authenticity, é um grupo que desenvolve padrões técnicos para rastrear o histórico de uma imagem, incluindo o equipamento e o software usados para capturá-la e/ou criá-la.
Empresas como Google, Amazon, Microsoft, OpenAI e Adobe apoiam o C2PA. Mas os padrões da coalizão não tiveram adoção generalizada. Como The Verge observado em um artigo recente, o C2PA enfrenta muitos desafios de adoção e interoperabilidade; apenas algumas ferramentas de IA generativa e câmeras da Leica e da Sony dão suporte às especificações do grupo.
Além disso, os metadados C2PA — como quaisquer metadados — podem ser removidos ou apagados, ou corrompidos a ponto de ficarem ilegíveis. E imagens de algumas das ferramentas de IA generativas mais populares, como Fluxoquais xAI's Grok usos do chatbot para geração de imagem, não têm metadados C2PA anexados a eles em parte porque seus criadores não concordaram em apoiar o padrão.
Algumas medidas são melhores do que nenhuma, é verdade, já que os deepfakes continuam a se espalhar rapidamente. De acordo com um estimativahouve um aumento de 245% em golpes envolvendo conteúdo gerado por IA de 2023 a 2024. Deloitte projetos que as perdas relacionadas ao deepfake aumentarão de US$ 12,3 bilhões em 2023 para US$ 40 bilhões em 2027.
Pesquisas mostrar que a maioria das pessoas está preocupada em ser enganada por um deepfake e sobre o potencial da IA de promover a disseminação de propaganda.
