Na terça-feira, o Google planos anunciados para implementar tecnologia de autenticação de conteúdo em seus produtos para ajudar os usuários a distinguir entre imagens criadas por humanos e geradas por IA. Ao longo dos próximos meses, a gigante da tecnologia integrará a Coalition for Content Provenance and Authenticity (C2PA) padrão, um sistema projetado para rastrear a origem e o histórico de edição de conteúdo digital, em sua pesquisa, anúncios e potencialmente serviços do YouTube. No entanto, é uma questão em aberto se uma solução tecnológica pode abordar o questão social antiga de confiança em mídia gravada produzida por estranhos.
UM grupo de empresas de tecnologia criaram o sistema C2PA a partir de 2019 em uma tentativa de combater mídia sintética enganosa e realista online. À medida que o conteúdo gerado por IA se torna mais prevalente e realista, os especialistas se preocupam que pode ser difícil para os usuários determinarem a autenticidade das imagens que encontram. O padrão C2PA cria uma trilha digital para o conteúdo, apoiada por uma autoridade de assinatura online, que inclui informações de metadados sobre a origem das imagens e como elas foram modificadas.
O Google incorporará esse padrão C2PA em seus resultados de pesquisa, permitindo que os usuários vejam se uma imagem foi criada ou editada usando ferramentas de IA. O recurso “Sobre esta imagem” da gigante da tecnologia no Google Search, Lens e Circle to Search exibirá essas informações quando disponíveis.
Em uma postagem de blog, Laurie Richardson, vice-presidente de confiança e segurança do Google, reconheceu as complexidades de estabelecer a procedência do conteúdo em todas as plataformas. Ela declarou: “Estabelecer e sinalizar a procedência do conteúdo continua sendo um desafio complexo, com uma série de considerações baseadas no produto ou serviço. E embora saibamos que não há uma solução mágica para todo o conteúdo on-line, trabalhar com outros no setor é essencial para criar soluções sustentáveis e interoperáveis.”
A empresa planeja usar o mais recente padrão técnico do C2PA, versão 2.1que supostamente oferece segurança aprimorada contra ataques de adulteração. Seu uso se estenderá além da pesquisa, já que o Google pretende incorporar metadados C2PA em seus sistemas de anúncios como uma forma de “impor políticas-chave”. O YouTube também pode ver a integração de informações C2PA para conteúdo capturado por câmera no futuro.
O Google afirma que a nova iniciativa está alinhada com seus outros esforços em direção à transparência da IA, incluindo o desenvolvimento de ID sintéticouma tecnologia de marca d'água incorporada criada pelo Google DeepMind.
A eficácia generalizada do C2PA continua sendo um sonho
Apesar de ter uma história que remonta a pelo menos cinco anos, o caminho para uma tecnologia de proveniência de conteúdo útil como a C2PA é íngreme. A tecnologia é inteiramente voluntária, e metadados de autenticação importantes podem ser facilmente retirados de imagens depois de adicionadas.
Os geradores de imagens de IA precisariam oferecer suporte ao padrão para que as informações C2PA fossem incluídas em cada arquivo gerado, o que provavelmente impediria modelos de síntese de imagens de código aberto como Fluxo. Então, talvez, na prática, mídias mais “autênticas”, criadas por câmeras, sejam rotuladas com C2PA do que imagens geradas por IA.
Além disso, manter os metadados requer uma cadeia de ferramentas completa que suporte C2PA em cada etapa do caminho, incluindo na fonte e em qualquer software usado para editar ou retocar as imagens. Atualmente, apenas um punhado de fabricantes de câmeras, como Leicasuportam o padrão C2PA. A Nikon e a Canon prometeram adotá-lo, mas The Verge relatórios que ainda há incerteza sobre se a Apple e o Google implementarão o suporte C2PA em seus smartphones.
O Photoshop e o Lightroom da Adobe podem adicionar e manter dados C2PA, mas muitas outras ferramentas de edição populares ainda não oferecem essa capacidade. É preciso apenas um editor de imagem não compatível na cadeia para quebrar a utilidade total do C2PA. E a falta geral de métodos de visualização padronizados para dados C2PA em plataformas on-line apresenta outro obstáculo para tornar o padrão útil para usuários comuns.
Atualmente, o C2PA pode ser visto como uma solução tecnológica para um problema que se estende além da tecnologia. Como historiadores e jornalistas encontrei durante séculos, a veracidade das informações não inerentemente vêm do mecanismo usado para registrar a informação em um meio fixo. Vem da credibilidade da fonte.
Nesse sentido, o C2PA pode se tornar uma das muitas ferramentas usadas para autenticar conteúdo ao determinar se a informação veio de uma fonte confiável — se os metadados do C2PA forem preservados — mas é improvável que seja uma solução completa para a desinformação gerada por IA por si só.
