está tentando ser mais transparente sobre se um pedaço de conteúdo foi criado ou modificado usando ferramentas de IA generativa (GAI). Depois de se juntar à Coalition for Content Provenance and Authenticity (C2PA) como membro do comitê de direção no início deste ano, o Google revelou como começará a implementar o padrão de marca d’água digital do grupo.
Ao lado incluindo Amazon, Meta e OpenAI, o Google passou os últimos meses descobrindo como melhorar a tecnologia usada para marca d’água em conteúdo criado ou modificado pelo GAI. A empresa diz que ajudou a desenvolver a versão mais recente do , um padrão técnico usado para proteger metadados detalhando como um ativo foi criado, bem como informações sobre o que foi modificado e como. O Google diz que a versão atual do Content Credentials é mais segura e à prova de violação devido a métodos de validação mais rigorosos.
Nos próximos meses, o Google começará a incorporar a versão atual do Content Credentials em alguns de seus principais produtos. Em outras palavras, em breve será mais fácil dizer se uma imagem foi criada ou modificada usando GAI nos resultados da Pesquisa Google. Se uma imagem que aparecer tiver metadados C2PA, você poderá descobrir qual impacto o GAI teve sobre ela por meio do ferramenta. Isso também está disponível no Google Imagens, Lens e Círculo para Pesquisar.
A empresa está pesquisando como usar o C2PA para informar aos espectadores do YouTube quando a filmagem foi capturada com uma câmera. Espere saber mais sobre isso ainda este ano.
O Google também planeja usar metadados C2PA em seus sistemas de anúncios. Ele não revelou muitos detalhes sobre seus planos, além de dizer que usará “sinais C2PA para informar como aplicamos políticas-chave” e fará isso gradualmente.
Claro, a eficácia de tudo isso depende se empresas como fabricantes de câmeras e desenvolvedores de ferramentas GAI realmente usam o sistema de marca d’água C2PA. A abordagem também não vai impedir que alguém retire os metadados de uma imagem. Isso pode dificultar que sistemas como o do Google detectem qualquer uso de GAI.
Enquanto isso, ao longo deste ano, vimos a Meta sobre como divulgar se as imagens foram criadas com GAI no Facebook, Instagram e Threads. A empresa apenas para tornar os rótulos menos visíveis em imagens que foram editadas com ferramentas de IA. A partir desta semana, se os metadados do C2PA indicarem que alguém (por exemplo) usou as ferramentas GAI do Photoshop para ajustar uma foto genuína, o rótulo “Informações de IA” não aparecerá mais na frente e no centro. Em vez disso, ele estará enterrado no menu da postagem.
