Faz menos de um mês desde que a OpenAI lançou seu mais recente modelo de geração de vídeo de IA, Sora 2, e os problemas decorrentes de suas representações hiper-realistas de personagens protegidos por direitos autorais e figuras públicas da vida real vieram à tona mais rápido do que podem ser erradicados.
Esta manhã, sexta-feira, 17 de outubro, OpenAI emitiram em conjunto uma declaração O espólio de Martin Luther King Jr. afirmou que a criação de Sora foi feita pelo Dr. King foi “interrompida” depois que os usuários “representações desrespeitosas do Dr.
A OpenAI insistiu em sua declaração que acredita que ainda existem “fortes interesses de liberdade de expressão” na representação de figuras históricas. Vimos um vídeo de Sora onde o Dr. King é retratado dizendo que sonhou que um dia poderia fazer com que “aquela maldita luz” acima de sua cama parasse de piscar, então ligue para os advogados da Primeira Emenda. A OpenAI também segue a ideia de que agentes ou proprietários podem “solicitar que sua imagem não seja usada em participações especiais de Sora”.
Este aspecto de fazer com que as pessoas optem pela exclusão, como já pedimos a vários advogados antes, não é o caminho a seguir qualquer Um tipo de lei legal funciona. A ideia de que qualquer figura pública que não queira que a sua imagem seja retratada – especialmente aqueles que já morreram – deve fazê-lo dizer Interromper a OpenAI antes que ela cumpra é incompreensível. E isso não significa que a OpenAI ainda não tenha treinado Sora à semelhança dessa persona pública, significa apenas que, em teoria, você não pode mais criar essa persona.
Mas os problemas de IA não irão desaparecer. Alguém acabou de fazer um vídeo do Sora no tempo que você levou para ler estes últimos parágrafos. É por isso que as propriedades e os detentores de direitos estão começando a combater fogo com fogo.
No início desta semana, a empresa de gestão de talentos CMG Worldwide fez parceria com uma empresa de inteligência artificial chamada Loti AI, que usa IA para vasculhar a Internet em busca de conteúdo reaproveitado e realizar remoções problemáticas. A empresa trabalha tanto com figuras públicas quanto com pessoas comuns. De acordo com a empresa, a empresa é 95% eficaz na localização e remoção de vídeos, imagens ou arquivos de áudio gerados por IA em um dia.
Até agora, apenas alguns clientes concordaram rapidamente em receber a proteção, embora esta esteja disponível para todos os outros clientes da CMG que a solicitem. A pequena lista de figuras públicas falecidas das quais administra os direitos e que agora recebem essa proteção inclui: Burt Reynolds, Christopher Reeve, Ginger Rogers, Harry Belafonte, Jimmy Stewart, John Wayne, Judy Garland, Mickey Rooney, Raquel Welch, Andre the Giant, Joe Louis, Macho Man Randy Savage, Rocky Marciano, Sugar Ray Robinson, David Ruffin, Albert Einstein, General George Patton, Mark Twain, Neil Armstrong e Rosa Parks.
Luke Arrigoni, CEO da Loti AI, disse ao IndieWire que não passou despercebido que eles estavam usando IA para combater a IA. Mas seus modelos são treinados sem a necessidade de construir modelos inteiros com base em todos os ativos pessoais de uma pessoa. A empresa usa ferramentas de reconhecimento de voz e facial para identificar conteúdo explícito, deepfakes, imitadores, recomendações falsas e até mesmo coisas não geradas por IA, automatizando o processo de detecção e remoção.
Arrigoni diz que, embora outras empresas especializadas em detecção de deepfake agora tenham mais dificuldade em considerar o quão realistas os vídeos de Sora se tornaram, as ferramentas de reconhecimento facial que Loti usa tornam mais fácil encontrar coisas, mesmo quando novos vídeos são lançados rapidamente.
“Na medida em que Sora está causando o problema, é difícil jogar um smackdown, a menos que você basicamente tenha construído um sistema que automatize as quedas e o processo de descoberta, como fizemos”, disse Arrigoni. “Pensamos que o mundo estava se movendo nessa direção e, há cerca de um ano, começamos a construir ferramentas que tornariam mais fácil para figuras públicas, propriedades falecidas e proprietários de propriedade intelectual navegarem neste momento. (É) realmente conveniente. O que fazemos é muito fácil de encontrar e muito fácil de remover.”
Isso pode ser do interesse de Zelda Williams, que recentemente pediu às pessoas que parassem de enviar vídeos de IA de seu falecido pai, Robin Williams, escrevendo: “Isso é estúpido, é uma perda de tempo e energia e, acredite, NÃO é isso que ele iria querer”.
“Ver os legados de pessoas reais reduzidos a ‘isso se parece e soa vagamente com eles, então isso é o suficiente’ apenas para que outras pessoas possam mostrar-lhes horríveis shows de marionetes do TikTok é uma loucura”, escreveu ela em um comunicado no Instagram. “Você não faz arte, você faz cachorros-quentes nojentos e superprocessados sobre a vida das pessoas, sobre a história da arte e da música, e depois os enfia goela abaixo de outra pessoa na esperança de que ela lhe faça um pequeno elogio e você goste. Nojento.”
Arrigoni diz que Hollywood apostou em serviços de proteção de IA como o dele e recebeu ligações de grandes agências e detentores de direitos. Ele abordou as coisas com cautela, mas com otimismo, para ver como eles podem continuar a trabalhar com gigantes da tecnologia como OpenAI e Google. E embora esteja optimista de que a indústria tecnológica estabelecerá as regras de que necessita, a OpenAI precisa de repensar a sua estratégia de opt-out se quiser seguir em frente.
“O opt-in deveria ter sido a única coisa. Nem deveria ter sido chamado assim. Se você quiser participar, existe um mecanismo seguro para garantir que todos possam participar e que na verdade é você e não alguém que também está trapaceando o sistema Sora”, disse Arrigoni. “O opt-out não é uma boa estratégia. O opt-out é algo que, sem culpa de Sora, levará as pessoas a abusar desses sistemas, a menos que as pessoas possam aderir e dizer: estas são as regras que tenho para a minha semelhança.”
