Início ESPECIAIS OpenAI adiciona metadados C2PA e marcas d’água SynthID às imagens de IA.

OpenAI adiciona metadados C2PA e marcas d’água SynthID às imagens de IA.

40
0

DR

OpenAI se junta ao padrão aberto C2PA e colabora com o Google para inserir uma marca d’água SynthID invisível em imagens geradas por IA. A empresa também está apresentando uma ferramenta de verificação pública, mas esta mudança se aplica apenas aos próprios produtos da OpenAI e não afeta a imagem de outras ferramentas de IA.

OpenAI anunciou duas novas ações: Ele foi projetado para ajudar o público a determinar se uma imagem foi criada por um modelo de IA. A empresa aderiu oficialmente ao padrão aberto Content Provenance and Authenticity Alliance (C2PA), ao mesmo tempo que trabalha com o Google para inserir uma marca d’água SynthID invisível na saída de imagem do OpenAI.

Embora esta mudança represente um passo significativo em direção à transparência nas imagens geradas por IA, o seu âmbito ainda está limitado ao conteúdo criado pelas próprias ferramentas da OpenAI.

Dois sistemas, um objetivo

Estabelecido em 2021 pela Adobe, Arm, BBC, Intel, Microsoft e Truepic, o padrão C2PA anexa metadados a arquivos que registram o original e quaisquer edições feitas ao longo do caminho. Desde então, foi ratificado como um padrão ISO e adotado em vários produtos do Google, mas a adoção não é consistente em todo o setor. Como os sinais C2PA estão nos metadados do arquivo, eles são claramente acessíveis, o que significa que também podem ser removidos ou manipulados. Este padrão é mais confiável entre usuários e plataformas confiáveis ​​que optam por preservá-lo.

Espaço de coworking da cidade de TNW – onde o melhor trabalho acontece

Um espaço de trabalho projetado para crescimento, colaboração e oportunidades infinitas de networking no centro da tecnologia.

SynthID, desenvolvido pelo Google DeepMind, adota uma abordagem diferente. Insira uma marca d’água invisível diretamente na imagem em vez de anexar metadados legíveis. Essa marca d’água foi projetada para persistir em capturas de tela, redimensionamento, compactação e outras formas de manipulação digital, tornando muito mais difícil a remoção por agentes mal-intencionados.

Fonte OpenAI Como funciona, Fonte: OpenAI

Os dois sistemas são projetados para se complementarem. Como explica a OpenAI, a marca d’água fornece durabilidade por meio de transformações como capturas de tela, enquanto os metadados fornecem informações contextuais mais ricas do que a marca d’água sozinha. A empresa afirma que juntas as duas camadas criam um sistema de proveniência mais resiliente do que se existissem independentemente.

Abra a ferramenta de verificação com advertências

Junto com o anúncio, a OpenAI está apresentando uma ferramenta de verificação pública que verifica as credenciais C2PA e as marcas d’água SynthID. Esta ferramenta permite que qualquer pessoa faça upload de uma imagem e verifique se essa imagem foi criada por um de nossos modelos OpenAI.

Atualmente, a ferramenta se aplica apenas a imagens geradas por produtos OpenAI, mas a empresa afirma que espera ampliar seu alcance ao longo do tempo. Esta é uma limitação significativa. A enxurrada de imagens geradas por IA que circulam online provém de um vasto ecossistema de ferramentas, muitas das quais têm pouco incentivo para adotar padrões de proveniência. As novas medidas da OpenAI podem ajudar a garantir que a empresa não contribui para o problema, mas não fazem nada para lidar com imagens de fontes menos escrupulosas.

parte de um impulso mais amplo

O anúncio surge no meio de preocupações crescentes dos governos e da sociedade civil sobre a desinformação e o papel do conteúdo gerado pela IA no discurso público. O C2PA atraiu mais de 6.000 membros e afiliados no início de 2026, e suas especificações atingiram a versão 2.1 no ano passado. A OpenAI agora se juntou ao Comitê Diretor da Aliança, ocupando seu lugar ao lado da Adobe, da Microsoft e de outros membros fundadores na definição da direção futura do padrão.

O Google tem expandido a adoção do SynthID em seus produtos. Nossa parceria com a OpenAI marca a primeira vez que esta tecnologia foi incorporada na produção de um grande concorrente e é um exemplo notável de colaboração intersetorial em segurança e transparência de IA.

Mas o impacto real destas medidas dependerá da amplitude da sua adopção, para além das empresas que já as discutem. A detecção de conteúdo gerado por IA continua sendo um desafio de gato e rato, e os sinais de proveniência são tão bons quanto a plataforma que tenta verificá-los. A abordagem de camada dupla da OpenAI é uma base tecnológica razoável, mas o problema mais difícil de fazer com que o resto da indústria siga o exemplo é aquele que nenhuma empresa pode resolver sozinha.

Source link

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui