C2PA será usado pelo Google para marcar imagens criadas por IA

O Google anunciou um novo esforço para marcar as fotos criadas, editadas ou manipuladas por inteligência artificial (IA) nos resultados de pesquisa, como parte de uma iniciativa mais ampla para combater a desinformação. A empresa integrará o padrão C2PA (Coalition for Content Provenance and Authenticity) em seus serviços, incluindo Google Ads e YouTube, nos próximos meses.

Padrão C2PA usado pelo Google para combater à desinformação

O padrão C2PA foi desenvolvido por empresas de tecnologia para garantir a autenticidade de imagens, vídeos e áudio, combatendo fraudes e desinformação online. Através da incorporação de metadados e assinaturas criptográficas, é possível verificar a origem e autenticidade do conteúdo digital.

Como o padrão C2PA funciona na prática para detectar imagens criadas por IA?

O padrão C2PA (Coalition for Content Provenance and Authenticity) é uma iniciativa desenvolvida por um consórcio de empresas de tecnologia, incluindo Google, Microsoft, Adobe e outras, com o objetivo de garantir a autenticidade e a proveniência de conteúdos digitais, como imagens e vídeos. Abaixo, explico como o C2PA funciona na prática para detectar imagens criadas por inteligência artificial (IA).

Como funciona o C2PA?

• Quando uma imagem ou vídeo é capturado, uma assinatura digital é gerada. Essa assinatura contém informações criptografadas sobre a origem do conteúdo, como quem o criou, quando foi feito e quaisquer modificações realizadas posteriormente. Esse processo é semelhante à criptografia utilizada em conexões seguras na web (HTTPS) e garante que os dados não possam ser alterados sem que isso seja detectado.
• A assinatura digital e os metadados associados são incorporados diretamente no arquivo da imagem ou vídeo. Isso significa que as informações sobre a criação e edição do conteúdo acompanham o arquivo sempre que ele é compartilhado ou publicado online.
• Quando um usuário visualiza uma imagem, ele pode usar um visualizador compatível com C2PA para verificar a assinatura digital. Se a assinatura for válida, o usuário terá acesso a detalhes sobre a origem da imagem, incluindo se ela foi editada ou se é uma criação original de IA.
• Os metadados são protegidos criptograficamente. Qualquer tentativa de modificar a imagem ou os metadados resultará em uma invalidação da assinatura digital, alertando assim os usuários sobre possíveis fraudes.
• O padrão C2PA é projetado para ser aberto e interoperável entre diferentes plataformas e dispositivos, permitindo que diversas ferramentas leiam e verifiquem as informações de proveniência. Isso facilita a adoção do padrão por fabricantes de câmeras e desenvolvedores de software.

Integração do C2PA nos produtos do Google

O Google planeja integrar o C2PA em diversos produtos:

• O recurso “Sobre esta imagem” será atualizado para exibir se uma imagem foi criada ou modificada por IA.
• Os anúncios informarão se o conteúdo foi gerado ou editado por IA (Google ADS).
• Vídeos para o Youtube também serão marcados para destacar se foram manipulados ou gerados por IA.

Embora o C2PA ofereça uma solução poderosa contra a desinformação, sua eficácia depende da adoção em larga escala. Atualmente, poucas câmeras, como Leica M11-P, Sony Alpha 1, Sony Alpha 9 III, Sony Alpha 7S III e Sony Alpha 7 IV.

Além dessas, fabricantes como Nikon e Canon também estão trabalhando para integrar o suporte ao C2PA em suas futuras câmeras. Poucos softwares de edição como Photoshop e Lightroom dando suporte.

E já começam algumas preocupações sobre a possibilidade de manipulação das tags C2PA.

Outro desafio é a baixa visibilidade dessa informação nos resultados de pesquisa. Será necessário avaliar se os usuários realmente utilizarão a funcionalidade "Sobre esta imagem".

O impacto do SynthID na marcação de conteúdo gerado por IA

Com o avanço da C2PA, o Google já trabalha com o SynthID, sua própria ferramenta de marca d'água para conteúdo gerado por IA. Esta solução tem como objetivo identificar automaticamente imagens criadas por inteligência artificial, diferenciando-as de fotos capturadas por humanos. No entanto, devido ao rápido avanço da tecnologia de IA, o Google optou por adotar múltiplos padrões, aumentando a precisão na identificação do conteúdo.

Comparação com outras tecnologias

1. Content Authenticity Initiative (CAI)
   A CAI é uma iniciativa similar focada na autenticidade digital, também apoiada por empresas como Adobe. Enquanto o C2PA foca na criação de um padrão aberto, a CAI concentra-se mais na implementação de ferramentas específicas para verificar a autenticidade durante o processo de criação e publicação de conteúdo. Ambas as iniciativas visam combater a desinformação, mas o C2PA tem uma abordagem mais abrangente ao incluir metadados detalhados sobre a origem do conteúdo.
2. Análise de Metadados
   Métodos tradicionais de verificação de autenticidade incluem a análise dos metadados das imagens (como EXIF) e técnicas como a Análise do Nível de Erro (ELA). Esses métodos podem detectar manipulações visuais, mas muitas vezes são limitados pela possibilidade de edição dos próprios metadados. Em contraste, o C2PA incorpora informações criptografadas que são mais difíceis de falsificar ou alterar.
3. Marcação d'água digital
   As marcas d'água digitais são outra técnica utilizada para verificar a autenticidade das imagens. Elas podem ser eficazes em proteger conteúdos contra cópias não autorizadas, mas não oferecem informações detalhadas sobre a origem ou as edições realizadas na imagem. O C2PA vai além ao fornecer um histórico completo e verificável da imagem.

Curiosidades:

• O padrão C2PA também pode ser usado em vídeos e áudios, não apenas em imagens.
• Mesmo que a marcação esteja em uso, é importante que os usuários verifiquem a veracidade das informações antes de compartilhá-las. Será mesmo que o usuário vai fazer isso?
• Apenas algumas câmeras e softwares de edição estão adaptados para o C2PA, mas isso deve crescer nos próximos anos.

Essa nova abordagem do Google marca um passo importante em direção à responsabilidade digital e à proteção dos usuários contra fraudes visuais na era da inteligência artificial. 

Espero que tenha curtido o conteúdo sobre:
C2PA será usado pelo Google para marcar imagens criadas por IA
Em NOTÍCIAS RÁPIDAS temos diversos artigos sobre este tema. Recomendo :)