Finji, editora de títulos independentes populares como Night in the Woods e Tunic e desenvolvedora de Overland e Usual June, diz que a TikTok usou IA generativa para modificar seus anúncios na plataforma sem permissão e para veicular esses anúncios a seus usuários sem o conhecimento de Finji, incluindo um anúncio que foi modificado para conter um estereótipo racista e sexualizado de um dos personagens de Finji.
Isso foi mencionado pela primeira vez por Rebekah Saltsman, CEO e cofundadora da Finji no céu azulonde ela compartilhou uma captura de tela de uma postagem de mídia social de outra marca que parecia estar passando pela mesma coisa, dizendo o seguinte: “Se acontecer de você ver algum anúncio Finji que se pareça distintamente com o UN-Finji, envie-me uma captura de tela.”
Junho incomum
De acordo com Saltsman em conversa com o IGN, a conta oficial de Finji no TikTok anuncia seus jogos, mas “desligou completamente a IA”. A equipe inicialmente descobriu que anúncios generativos de IA estavam sendo criados sem o seu conhecimento, graças a comentários nas redes sociais sobre os anúncios reais e regulares de Finji, feitos por usuários que estavam preocupados com o que estavam vendo. Saltsman conseguiu obter capturas de tela dos espectadores mostrando os anúncios ofensivos, o que os levou a encaminhar o problema para o suporte do TikTok.
O Anúncios originais em questão Parecem ser vídeos promovendo os jogos de Finji, com um apresentando vários jogos e o outro focando em Usual June. As versões “aprimoradas” de IA, que aparecem no TikTok como se tivessem sido postadas diretamente da conta oficial de Finji, parecem consistir em apresentações de slides em vez de vídeos, de acordo com vários comentários em ambos os anúncios. Finji enviou ao IGN capturas de tela de espectadores alegando ter visto a versão AI desses anúncios. Embora algumas das imagens “aprimoradas” de IA pareçam relativamente não editadas em comparação com suas contrapartes oficiais, uma imagem vista pelo IGN está visivelmente alterada.
A imagem ofensiva mostra uma versão editada da capa oficial, cuja versão original está na foto acima. Na versão aparentemente editada por IA, a personagem principal June (no meio da imagem acima) é mostrada sozinha, mas a imagem se estende até os tornozelos. Ela é retratada usando calcinha de biquíni, quadris e coxas incrivelmente grandes e botas que vão além dos joelhos, aparentemente evocando um estereótipo prejudicial. Isso é muito diferente da representação real de June no jogo:
IGN analisou uma conversa entre a conta oficial de Finji e o suporte ao cliente do TikTok, incluindo uma parte da discussão em que o representante do atendimento ao cliente confirmou que Finji era de fato “do TikTok”.Criatividade inteligenteA opção Smart Creative é essencialmente um recurso do TikTok que usa IA generativa para criar várias versões de anúncios criados pelo usuário. Portanto, se uma empresa cria o anúncio A com imagem A e texto A e o anúncio B com imagem B e texto B, a IA generativa os mistura em diferentes combinações para testar quais versões dos anúncios funcionam melhor com os usuários e depois mostra as melhores com mais frequência. Há também um “Automatize o trabalho criativo“Recurso que usa IA para” otimizar automaticamente “ativos como” aprimorar “imagens, música, áudio e outras coisas para supostamente tornar um anúncio mais atraente para o público. Saltsman confirmou que Finji desativou ambas as opções e mostrou capturas de tela do back-end do TikTok para vários dos anúncios em questão para confirmar isso.
Finji também diz que não pode visualizar ou editar as versões geradas por IA de seus próprios anúncios e só tem conhecimento deles por meio de vários comentários nos anúncios, bem como de usuários em seu Discord oficial relatando o problema e compartilhando capturas de tela. Saltsman diz que suspeita que haja pelo menos um outro anúncio generativo de IA inadequado em circulação com base em comentários em alguns anúncios sobre outro personagem de Usual June, Frankie, mas não consegue ver as mudanças e, portanto, não pode confirmá-las.
Na mesma conversa de suporte, o representante de suporte do TikTok não conseguiu encontrar uma solução imediata para Finji. Em algum momento, o agente sugere um dos anúncios de Finji Era Ele acidentalmente usou o recurso “Criação automática”, ao que Finji respondeu: “Nunca habilitei isso antes” e pediu ao agente que confirmasse que a opção não estava habilitada para os anúncios descritos acima.
Mais tarde na conversa, o agente disse: “Estou verificando todas as possíveis causas (sic) pelas quais isso pode acontecer, mas de acordo com a revisão, toda a configuração está clara e não deve haver nenhum conteúdo gerado por IA”. O agente se ofereceu para “levantar uma multa para investigação adicional”, mas ignorou os repetidos pedidos de Finji para fornecer um cronograma para o processamento da multa.
Círculo de apoio do inferno
Desde que este incidente ocorreu, a equipe de Finji tem feito esforços para acompanhar o incidente e obter respostas, mas foi repetidamente rejeitada pelo suporte do TikTok. Finji enviou ao IGN capturas de tela de todas as mensagens a seguir e suas respostas ao TikTok.
A conversa acima ocorreu no dia 3 de fevereiro. Em 6 de fevereiro, o suporte do TikTok Ads respondeu a uma mensagem de acompanhamento de Finji solicitando uma atualização da seguinte forma:
Depois de revisar os criativos, vamos lá Não vejo nenhuma indicação de uso de recursos gerados por IA ou formatos de apresentação de slides. Ambos os anúncios estão confirmados Criativos de vídeo comprado diretamente de você Biblioteca Criativa/Postagens do TikTok, e pessoas criativas aparecem inalterado no nível do anúncio. Não há evidências de que o sistema tenha adicionado qualquer conteúdo gerado por IA ou recursos de apresentação de slides com curadoria automática. (Todo o foco está no TikTok.)
Um representante da Finji respondeu no mesmo dia com a captura de tela do anúncio ofensivo (que Finji já havia enviado durante a solicitação de suporte inicial) e pediu ao TikTok para escalar o problema, resultando na seguinte resposta do TikTok:
Acusamos o recebimento das evidências que você forneceu e entendemos a gravidade de suas preocupações. Com base nos materiais e no contexto que você compartilhou, reconhecemos que esta situação levanta questões significativas, incluindo o uso não autorizado de IA, a sexualização e deturpação de seus personagens e os danos comerciais e de reputação resultantes para seu estúdio.
Queremos deixar claro que não estamos mais discutindo se isso aconteceu. Presumimos que você forneceu documentação e que os comentários do público nos anúncios apoiam ainda mais suas afirmações. O assunto será imediatamente escalado para análise adicional ao mais alto nível.
Estamos iniciando um escalonamento interno para garantir que esse problema seja investigado minuciosamente e trabalharemos para colocar você em contato com um representante sênior que estará autorizado a resolver a situação e discutir os próximos passos para a resolução.
Em 10 de fevereiro, Finji entrou em contato novamente e perguntou onde estava o ticket, porque não havia recebido mais respostas nem havia sido colocado em contato com um “representante sênior”. Recebeu uma mensagem com o seguinte conteúdo:
Entendo como foi surpreendente ver conteúdo gerado por IA ou gerado automaticamente em seus anúncios, especialmente se você não esperava nenhuma alteração em seus criativos.
Aqui está o que aconteceu e por que você viu esses ativos:
Sua campanha apresentou recentemente um anúncio que usava um Formato de anúncio de catálogo Projetado para demonstrar os benefícios de desempenho da combinação de recursos de carrossel e vídeo em campanhas de vendas. Isso faz parte de uma iniciativa que visa apoiar anunciantes como você melhores resultados com menos esforço. As campanhas que usam esses recursos mistos normalmente veem um 1,4x ROAS (Retorno sobre gastos com publicidade) Elevador, e queríamos ter certeza de que você teria acesso a essa possível melhoria. (Todo o foco está no TikTok).
A mensagem de suporte descrevia as alegadas melhorias alcançadas por meio de um formato de anúncio de catálogo, seguido por uma oferta para solicitar inclusão em uma “lista negra de exclusão”, para a qual a aprovação “não é garantida”.
Finji respondeu, compreensivelmente bastante chateado neste momento, exigindo saber por que não havia sido colocado em contato com um representante sênior e por que esse não era o “assunto”.SEXUALIZADO, RACISTA, e SEXISTA “Representação do trabalho do estúdio” (ênfase fornecida por Finji), por que a empresa não pode rastrear versões dos anúncios geradas por IA, por que optou por fazê-lo sem o consentimento da empresa e por que a TikTok não pode garantir a exclusão.
O TikTok respondeu novamente, afirmando que a última resposta enviada foi na verdade de sua equipe de escalonamento e que Finji não seria contatado por um “representante de alto nível” porque a pessoa que acabou de falar era “a equipe interna mais alta disponível para este tipo de problema”. O representante disse ainda que a equipa de escalonamento já tinha analisado a situação e “as suas conclusões foram incorporadas na resposta anterior” e que o feedback “foi levado a sério”. Ele disse que Finji foi incluído em “uma iniciativa automatizada mais ampla” e concluiu que a equipe de escalonamento “já havia fornecido suas conclusões e ações finais sobre o assunto”.
Após outra resposta de Finji, os representantes do TikTok prometeram “reescalonar o problema internamente”, mas essa foi a última comunicação recebida no momento da publicação, mesmo após outro check-in de Finji em 17 de fevereiro. Quando contatado pelo IGN, o TikTok se recusou a comentar o registro.
“Tenho que admitir que estou um pouco chocado que o TikTok não tenha tido absolutamente nenhuma resposta adequada ao caos que criou”, disse Saltsman em comunicado ao IGN hoje. “Uma coisa é ter um algoritmo racista e sexista, outra coisa é usar IA para alterar o conteúdo de seus parceiros de negócios pagantes, e outra coisa é fazer isso contra o consentimento deles e também NÃO responder de forma coerente a nenhum desses erros?
“O que é realmente completamente desconcertante é o que parece ser uma lacuna profunda onde o bom senso e o senso comercial normalmente permanecem adormecidos. O TikTok quer que eu seja grato por seus maus-tratos à minha empresa e ao nosso jogo? Com base na forte reação que recebemos ao longo de semanas de correspondência de atendimento ao cliente, acredito que esta é a posição e interpretação deles de sua tecnologia e processos flagrantemente ofensivos e racistas e como eles os estão aplicando secretamente aos ativos de seus clientes pagantes sem consentimento ou conhecimento. “
“Isso é simplesmente constrangedor, mas não para mim como indivíduo. Quanto a mim, estou muito chateado. Este é o meu trabalho, o trabalho da minha equipe e a reputação minha e da minha empresa – que passei mais de uma década construindo. Minha expectativa era um pedido de desculpas adequado, mudanças sistêmicas na maneira como eles usam essa tecnologia para clientes pagantes e uma análise mais detalhada de por que sua tecnologia é tão abertamente racista e sexista. Obviamente, não estou prendendo a respiração sobre nenhum dos itens acima. “
Rebekah Valentine é repórter sênior do IGN. Você tem uma dica de história? Envie para rvalentine@ign.com.
