“Isso parece IA.”
É uma frase que temo como escritor que se dedica à ilustração e à fotografia amadora. Num mundo onde a tecnologia generativa de IA é cada vez mais adepta da imitação do trabalho humano, as pessoas ficam naturalmente céticas quando as plataformas online se recusam a rotular conteúdos óbvios de IA.
Isto leva-me a uma conclusão: talvez devêssemos começar a rotular textos, imagens, áudio e vídeos produzidos pelo homem com algo semelhante ao logótipo do Comércio Justo universalmente reconhecido. As máquinas certamente não estão motivadas para rotular o seu trabalho, mas os fabricantes certamente correm o risco de serem deslocados.
Felizmente, não estou sozinho em meu pensamento.
O chefe do Instagram, Adam Mosseri, fez uma afirmação semelhante em dezembro, dizendo que seria “mais prático identificar mídia real versus mídia falsa”, à medida que a tecnologia de IA avança a ponto de tornar o conteúdo visualmente indistinguível do conteúdo criado por profissionais criativos.
Ninguém pode dizer com certeza quanto do que encontramos na Internet é gerado pela IA, mas há uma percepção generalizada de que os sites de notícias, as plataformas de redes sociais e os resultados dos motores de busca estão cheios de IA, de acordo com um estudo. pesquisa recente do Instituto Reuters.
Autenticar obras feitas pelo homem é algo que o padrão de credencial de conteúdo C2PA – que a plataforma Meta já usa – deveria fazer. Mas até agora, a implementação não tem sido eficaz, apesar do apoio generalizado da indústria. Acontece que muitas das pessoas que criam e constroem plataformas de conteúdo de IA são motivadas a esconder suas origens por causa dos cliques, do caos e do dinheiro que geram.
Num esforço para ajudar os seres humanos criativos a distinguir o seu trabalho daquele produzido pelos geradores de IA, surgiu um grande número de soluções nos últimos anos. E, tal como o C2PA, enfrentam uma série de desafios para uma adoção generalizada.
Atualmente, existem muitas alternativas de rotulagem sem IA para você escolher. No total, contei pelo menos 12, todos tentando resolver o mesmo problema com diferentes critérios de elegibilidade e abordagens de autenticação. Alguns são específicos do setor, como “certificação criada por humanos”para livros e outras obras escritas, e não pode ser aplicado de forma ampla a todas as formas de conteúdo criativo.
Outras soluções como Proudly Human e Not by AI pretendem ser mais amplas, abrangendo textos publicados, artes visuais, videografia e música, mas os processos de verificação utilizados por estes serviços são tão questionáveis como os utilizados pelas soluções de rotulagem de IA. Alguns, como Feito por Humanosopera exclusivamente com base na confiança, disponibilizando emblemas e rótulos publicamente para qualquer pessoa baixar e aplicar seu trabalho sem realmente estabelecer sua origem. Outros gostam Nenhum ícone de IA diz que inspecionam o trabalho visualmente e o executam por meio de um serviço de detecção de IA, que pode ser altamente não confiável.
A maioria dos serviços que examinei fizeram isso da maneira mais difícil: fazendo com que os criativos mostrassem seus processos de trabalho manualmente para auditores humanos, como esboços e rascunhos escritos. É muito trabalhoso, mas sem atalhos tecnológicos, é o método mais confiável que temos atualmente para determinar se algo foi feito por uma pessoa real.
Outra questão é concordar sobre o que significa “feito pelo homem”. Com a IA agora incorporada em muitas ferramentas criativas e a sua utilização incentivada por educadores criativos, que limites podemos traçar?
“O problema é de definição e verificação. Conversar com um LLM sobre a ideia antes de executá-la manualmente conta como uso de IA? E como o criador pode provar que não houve IA envolvida?” Jonathan Stray, cientista sênior do Centro de IA compatível com humanos da UC Berkeley, conta a história Borda. “Outros rótulos de consumo, como ‘Orgânico’, têm regulamentos e agências que os aplicam.”
A professora da Escola de Informação da UC Berkeley, Nina Beguš, diz que entramos em uma era de conteúdo misto que está em desacordo com a forma como definimos algo como criado autenticamente.
“Toda produção criativa hoje pode ser tocada pela IA de uma forma ou de outra, sem que possamos provar isso”, disse Beguš. Borda. “A autoridade está se fragmentando em novas direções, tornando-se mais avançada tecnologicamente e mais coletiva. Precisamos mudar nossos critérios de criatividade feita apenas para humanos.”
Uma solução oferecida por um dos concorrentes é chamada de etiquetas artificiais Não pela IA está tentando explicar essa ambiguidade. Oferece uma variedade de emblemas que os criadores de conteúdo podem aplicar a sites, blogs, obras de arte, filmes, ensaios, livros, podcasts e muito mais, desde que pelo menos 90% do trabalho seja criado por pessoas reais. No entanto, a abordagem voluntária carece de verificabilidade.
Outras soluções como Prova que eu fiz isso depende da tecnologia blockchain para fornecer um registro permanente que qualquer pessoa pode usar para fazer referência a criadores e obras que foram verificadas pelo serviço. Ao armazenar a verificação no blockchain, os criadores de conteúdo obtêm um certificado digital impossível de ser falsificado que prova que seu trabalho foi criado por humanos, o que é muito mais confiável do que tentar usar software para adivinhar se uma mídia foi gerada por IA.
Thomas Beyer, diretor executivo da Rady School of Management da Universidade da Califórnia, disse que a Web3 e a tecnologia blockchain podem fornecer uma solução poderosa, mudando a questão de “isso se parece com IA?” para “esta história pode provar a história humana?”
“Ao emitir tokens ‘Criados por Humanos’ para criadores verificados, o mercado cria arte de ‘nível premium’ onde a autenticidade é matematicamente garantida”, disse Beyer. Borda. Outros especialistas, como Beguš, também expressaram sentimentos semelhantes relativamente ao potencial para aumentar o valor da “criatividade humana e biológica” no meio da enxurrada de meios de comunicação sintéticos.
Apesar de suas falhas, padrões estabelecidos como o C2PA fornecem algo que as soluções de etiquetagem sem IA precisam desesperadamente: unificação. Grandes nomes da indústria tecnológica, como Adobe, Microsoft e Google, comprometeram-se com estes padrões, e os fornecedores de IA estão a implementá-los para apaziguar os reguladores globais. Portanto, quando peso os prós e os contras entre os esforços de rotulagem de IA e os esforços focados na verificação de conteúdo original gerado por humanos, sinto que o último esforço tem maior probabilidade de ser bem-sucedido.
Muitos profissionais criativos, mesmo aqueles que não são totalmente contra a utilização de ferramentas de IA, estão motivados para diferenciar o seu trabalho da concorrência gerada sinteticamente que está a saturar a indústria e a ameaçar os seus meios de subsistência. Embora existam muitos evangelistas da IA nas plataformas de redes sociais que estão felizes em mostrar o que esta tecnologia pode alcançar, há hesitação em revelar a sua utilidade quando dinheiro e influência podem ser perdidos.
Veja um caso, por exemplo atores pornôs criam clones digitais de si mesmos que permanecerão sexy e jovens para sempre, ou Influenciadores de IA vendendo uma vida de fantasia que não existe. Revelar que são IA pode destruir as ilusões das pessoas que pensam que estão a ter uma experiência humana genuína. Fraudadores que usam imagens geradas por IA vender produtos on-line Você definitivamente não quer ficar para trás, e plataformas como o Etsy acomodam isso não parece muito preocupado. Da mesma forma, qualquer pessoa que use IA generativa para semear discórdia ou causar danos nas redes sociais só terá sucesso se as pessoas acreditarem que é real. Não é surpreendente que a rotulagem da IA com C2PA não tenha sido implementada.
Sabemos que alguns criadores focados em IA evitarão ser transparentes porque isso já está acontecendo. Um exemplo notável disso é Coral Hart, uma escritora de romances narrativos New York Times que ele obteve uma renda de seis dígitos depois de produzir mais de 200 romances gerados por IA no ano passado. No entanto, ele não tinha um rótulo em seu livro revelando que ele foi escrito com ferramentas de IA, temendo que isso “prejudicasse seu negócio pelo trabalho” devido ao “forte estigma” contra a tecnologia.
Podemos ver esse desdém em ação com a frequência com que o conteúdo gerado sinteticamente é descrito como “grosseiro”, mesmo que o trabalho em si seja visualmente, audivelmente ou tecnologicamente impressionante. E isto levanta a questão de como estes fornecedores de rotulagem feita pelo homem ou sem IA impedirão que os seus logótipos sejam utilizados indevidamente por aqueles que lucram com a fraude. Trevor Woods, CEO Orgulhoso Humanoadmita que talvez não seja possível.
“Como outras marcas de certificação e logotipos de empresas, não podemos impedir que fraudadores exibam a marca de certificação Proudly Human. No entanto, facilitamos a verificação para os consumidores”, disse Woods. Borda. “Se os criminosos que identificamos se recusarem a parar de usar os rótulos, tomaremos medidas legais contra eles.”
Se o objetivo é alcançar uma solução universalmente reconhecida e aplicada, então é necessário acordar uma norma não só entre os criadores de conteúdos e as plataformas online, mas também entre os governos globais e as autoridades reguladoras. No meu entender, essas conversas são atualmente poucas e raras.
“A Proudly Human ocasionalmente informa governos e associações industriais, mas não está envolvida em negociações formais sobre a certificação unificada de origens humanas”, disse Woods. “A rápida evolução das capacidades de IA e do conteúdo gerado por IA ultrapassará a resposta dos governos e reguladores.”
É claro que existe uma procura para que as obras feitas pelo homem sejam mais facilmente identificadas pelos consumidores, pelo que os criativos, os reguladores e as agências de autenticação precisam de escolher a abordagem que irão utilizar. Se um padrão único pudesse estar a par de símbolos como o Comércio Justo e os Produtos Orgânicos – que têm as suas próprias preocupações, mas são reconhecidos globalmente como estando alinhados com um ethos específico – talvez pudéssemos regressar a uma época em que acreditávamos no que víamos com os nossos olhos.
