Você já duvidou da veracidade de uma imagem ou vídeo que viu online? Em um mundo onde os deepfakes se tornam cada vez mais convincentes, detectar conteúdos gerados por inteligência artificial tornou-se um desafio diário. Descubra como o Google e outros atores da tecnologia tentam nos armar contra essa nova realidade.
As 3 informações que você não pode perder
- O Google usa o SynthID, uma tecnologia de marcação invisível, para identificar conteúdos gerados por seus próprios modelos de IA.
- A norma C2PA permite verificar a origem de imagens e vídeos, mesmo aqueles criados por concorrentes do Google como a OpenAI.
- Apesar desses avanços, nenhuma ferramenta substitui o espírito crítico, indispensável para distinguir o real do artificial.
Os limites dos antigos modelos de IA
Até recentemente, os modelos de IA produziam vídeos com incoerências evidentes, tornando sua detecção bastante simples para o olho humano. No entanto, os rápidos avanços tecnológicos permitiram criar renderizações muito mais realistas. Os deepfakes infiltraram-se nas redes sociais, tornando a distinção entre realidade e ilusão mais complexa do que nunca.
Google e a tecnologia SynthID
Diante desse desafio, o Google introduziu o SynthID, desenvolvido pelo Google DeepMind. Ao contrário das marcas d’água tradicionais, o SynthID atua na componente frequencial do sinal digital. O algoritmo ajusta as estatísticas de cor e luminosidade, criando uma impressão indetectável a olho nu, mas reconhecível pelo modelo Gemini do Google.
Com alguns cliques, os usuários podem submeter uma imagem ou vídeo ao Gemini e fazer a pergunta: “Esta imagem foi criada por uma IA?”. O chatbot então analisará os metadados para identificar a marcação SynthID.
A interoperabilidade com a norma C2PA
Para superar as limitações do SynthID, especialmente em relação a conteúdos criados por concorrentes, o Google aposta na norma C2PA. Este protocolo garante a rastreabilidade dos arquivos desde a sua criação. É adotado por gigantes como Adobe, Microsoft e OpenAI, permitindo assim verificar a origem dos conteúdos, mesmo na ausência da marcação SynthID.
Para usar o C2PA, basta acessar a plataforma Content Credentials onde uma imagem pode ser analisada rapidamente. No entanto, essa norma não é infalível. Por exemplo, uma simples captura de tela pode apagar as informações de rastreabilidade, tornando a detecção impossível.
Os desafios da autenticidade digital
Apesar das ferramentas sofisticadas desenvolvidas pelos gigantes da IA, o discernimento humano continua crucial. A tecnologia ainda não pode substituir nossa capacidade de avaliar a veracidade de um conteúdo. Como antecipou Blaise Pascal, a verdade e a mentira estão frequentemente entrelaçadas, e nosso papel é desvendar esses fios para distinguir o real do artificial.
Nesta corrida pela veracidade, empresas como Google, OpenAI e Adobe inovam constantemente para oferecer soluções de detecção mais eficazes. No entanto, seu sucesso também depende da nossa capacidade de permanecer vigilantes e críticos em relação à informação que consumimos diariamente.
Fonte:
