Esse dê um passo para trás, um boletim informativo semanal detalhando uma história importante do mundo da tecnologia. Para saber mais sobre ofuscação de IA, siga Robert Hart. Dê um passo para trás chegando nas caixas de entrada de nossos assinantes às 8h ET. Participar Dê um passo para trás Aqui.
No início, os influenciadores da IA eram relativamente fáceis de identificar e ignorar. Além da explosão ocasional de entusiasmo, a forma como as mídias sociais funcionam não parece ter mudado muito. Os primeiros influenciadores virtuais – Lil Miquela com suas bordas rombas e manchas, EU com seu bob rosa chiclete, e Shudu Gram com sua pele impecável – claramente uma produção digital. Colaboração é anunciado com fanfarra. Postar requer estúdio, dinheiro, coordenação e muito polimento.
Com o passar do tempo, percebi que as pessoas falsas na minha linha do tempo começaram a se parecer cada vez mais com outras pessoas na minha linha do tempo. Personagens como Emily Pellegrini E Pastor López aproxime-se um pouco mais da realidade – ou pelo menos da realidade de que amigos de faculdade ricos e viajados com quem você não mantém contato estão sempre enviando mensagens de texto para você de bons restaurantes e lugares bonitos, ou de Coachella e Wimbledon. Não é uma ótima opção, mas, novamente, a maioria dos influenciadores profissionais também não.
No entanto, muitas destas contas não são contas padrão. Lopez é produto de uma agência criativa espanhola chamada The Clueless, que gerencia vários influenciadores de IA. O criador Pellegrini, que atende pelo pseudônimo de Professor EP, me disse que já administrou o criador OnlyFans. Agora ele vende cursos que ensinam as pessoas a criar seus próprios influenciadores de IA.
É isso que as pessoas estão começando a fazer. Muitas pessoas.
A novidade passou. Os primeiros influenciadores da IA se destacaram porque eram muito poucos. Agora eles fazem parte de uma bagunça muito maior de conteúdo gerado por IA que inunda as mídias sociais: lixo de baixa qualidade copiado preguiçosamente de chatbots, fotos e vídeos sujos e simplesmente cenas interessantes. O Senhor dos Anéis música discoteca que tomou conta do meu TikTok por um mês.
Pessoas falsas estão por toda parte agora. Eles vendem lixo de entrega direta, vigaristas sem dinheiro com fotos falsasempurrar desinformação E racista pontos de discussão e atendendo a um nicho cada vez mais bizarro e muitas vezes sexual. Claro que existe Muitos de armadilha da sede. Também há muito conteúdo regular, apenas com avatares copiando tudo o que é popular entre os criadores humanos, muitas vezes é justo coloquem suas caras falsas nisso.
Isto torna difícil medir a escala da influência dos criadores de conteúdo de IA. A plataforma não publica números sobre quantos de seus usuários são pessoas falsas, e a maioria dos avatares de IA não se tornou popular ou influente o suficiente para justificar o tipo de atenção da mídia que as ondas anteriores receberam. Bancos de dados como Ciberman rastreia centenas de avatares populares, mas essas são apenas contas estranhas, estranhas ou grandes o suficiente para serem notadas. Abaixo deles há um mar de contas que passam despercebidas pelo radar.
Uma razão pela qual essas contas conseguem escapar da detecção é porque a tecnologia usada para criá-las melhorou muito. Imagens estáticas de pessoas falsas agora são boas o suficiente para serem consideradas genuínas à primeira vista, especialmente em feeds repletos de influenciadores reais que usam muitos cenários, filtros e efeitos de edição. O vídeo e o áudio surgiram rapidamente, fornecendo sons e movimentos às pessoas virtuais que poderiam enganar os usuários inexperientes. Essas ferramentas não são mais especializadas ou caras. Os produtos convencionais de empresas como Google e OpenAI acompanham serviços de nicho de empresas como Higgsfield, HeyGen e ElevenLabs. Com um pouco de esforço, quase qualquer pessoa pode se tornar um influenciador de IA – ou um grupo deles – sem precisar de um estúdio, equipamento especial ou (muito) dinheiro.
Tudo isso faz com que as plataformas de mídia social enfrentem problemas que não parecem muito interessadas em resolver diretamente. Após vários anos de luta com imagens, vídeos e áudio gerados por IA, a maioria das principais plataformas tem agora algum tipo de política que abrange os meios de comunicação sintéticos. Mas, além de exigir rótulos para conteúdo gerado por IA, as regras muitas vezes fazem pouco mais do que agrupar material em categorias existentes que incluem coisas como fraude, spam, falsificação de identidade e material gráfico. O pessoal da IA, especialmente aqueles concebidos para se comportarem como pessoas reais, não se enquadram nestes grupos. Eles não estão necessariamente cometendo fraudes, postando conteúdo vulgar ou se passando por alguém – quem eles estariam se passando por alguém? E se eles revelarem que suas postagens foram geradas por IA, não está claro quais regras estariam violando.
Por enquanto, a plataforma parece viver na ambiguidade, nem acolhendo nem evitando totalmente os criadores de IA. Desenvolveram posições contraditórias, promovendo a IA como uma ferramenta criativa, ao mesmo tempo que tentam conter a maré de água suja que inunda os seus serviços. YouTube, TikTokO Instagram e outras plataformas desenvolveram regras para rotular mídias sintéticas, especialmente mídias realistas, ao mesmo tempo em que promovem seu próprio conjunto de ferramentas de IA, incluindo algumas que podem clonar ou simular usuários. Mas essas regras tendem a se concentrar em postagens individuais, e não nas contas e personas por trás delas, deixando os influenciadores de IA em uma área cinzenta.
Em meio a essa incerteza, o ecossistema de influenciadores de IA continua a crescer. Várias empresas de pesquisa de mercado estimativa o mercado de influenciadores virtuais poderá valer mais de US$ 60 bilhões até 2030, acima dos cerca de US$ 12 bilhões este ano. A influência cultural também está aumentando. Existem prêmios para influenciadores de IA, concurso de belezadedicado agente de talentos representa criadores sintéticos e um mercado em rápido crescimento de criadores sintéticos que vendem cursos e ferramentas que prometem ajudar as pessoas a criar e administrar seus próprios criadores falsos, muitas vezes com a promessa de renda passiva sem rosto. Alguns têm o aroma piramidal de uma corrida do ouro online, algumas histórias de aparente sucesso e uma tonelada de pessoas vendendo aos montes.
Meu palpite é que os cálculos estão em andamento. A água suja da IA já é irritante, e há um limite de água que uma plataforma pode transportar até se tornar inutilizável, especialmente porque eles se recusam consistentemente a permitir que os usuários filtrem a água suja da IA. Pessoas falsas fingindo ser reais são uma versão mais íntima do mesmo problema. Mas, além de rotular e fazer cumprir as regras existentes, a maioria das plataformas parece contente em ver o que acontece. Para plataformas, engajamento é engajamento, seja de criadores falsos ou genuínos. Enquanto os criadores de conteúdos sintéticos continuarem a publicar e não se desviarem das regras existentes, parece haver pouco incentivo para reprimir.
Também há dúvidas sobre o quão sustentável a ideia de criar avatares de IA está circulando online. Se tanto é criado apenas para ganhar dinheiro com usuários humanos, o que acontecerá se o conjunto de usuários humanos secar? Por exemplo, poucas pessoas estão dispostas a adquirir cursos e ferramentas para construir seu próprio influenciador. Isto significa que as redes sociais podem sobreviver ao influxo de influenciadores de IA. Por definição, é necessário um grande número de seres humanos para manter as coisas sociais. Se não for controlada, a rede entrará em colapso sob o peso destas pessoas falsas, à medida que os utilizadores humanos serão inevitavelmente afastados.
Isto poderá mudar se a indignação pública continuar a aumentar. A reação contra deepfakes, personificações e spam sintético forçou legisladores e reguladores a prestarem mais atenção, especialmente após incidentes envolvendo deepfakes sexuais não consensuais gerados com ferramentas como o Grok. A legislação sobre IA na Europa poderia ser um impulso, pelo menos juntamente com a imposição de obrigações de transparência sobre conteúdos gerados por IA. Que regulamento exigiria que as partes que implantam sistemas generativos de IA divulgassem claramente o conteúdo criado ou manipulado pela IA, o que poderia pressionar as empresas a aumentar a sinalização de conteúdo de IA ou potencialmente incorrer em multas pesadas. Mas, mesmo assim, o foco ainda está principalmente no conteúdo, e não se a conta que o publica representa uma pessoa real.
Tal como acontece com muitas coisas nas redes sociais, o fardo é suportado pelo utilizador. Muitas plataformas delegam efetivamente a tarefa de moderação de conteúdo de IA aos usuários e contam com eles para reconhecer e denunciar perfis suspeitos. Mas a automoderação é uma resposta pobre e insustentável a algo concebido para evitar a atenção. Há agora um interesse crescente no espaço livre de IA. Se as plataformas se recusarem a traçar o limite entre o real e o irreal, espero que os usuários estabeleçam o limite.
- Muitos dos conhecidos influenciadores da IA que conheci recentemente têm inclinações políticas evidentes, o que penso que poderia acelerar o cálculo regulatório. Danny Bones, um um falso rapper nacionalista branco financiado por um partido político de extrema direita no Reino Unido, este é provavelmente o melhor exemplo que vi até agora.
- Assim como os influenciadores humanos, muitos avatares de IA são construídos em torno de identidades e comunidades específicas, como raça, deficiência, política e nacionalidade, como as garotas fantasia MAGA. Jéssica Fosterque se apoia fortemente na estética sexualizada do Exército e no Trumpismo. Nem todos os avatares se alinham com seus criadores: o modelo Black AI de Shudu Gram, por exemplo feito por brancos. Emily Pellegrini também é produto de um homem, o Professor EP, que me disse que o personagem foi criado usando conteúdo que ele licenciou de um criador anônimo do OnlyFans.
- As últimas manchetes de Jesse Weatherbed para Borda diz tudo: “Vamos filtrar a água suja da IA, covardes”.
- Borda relataram recentemente que golpistas estão usando avatares de IA de negros falsos para vender produtos produzidos em massa por meio de envio direto a preços inflacionados nas redes sociais.
- Cabo relatado sobre a crescente indústria de “AI Pimping”, onde o conteúdo de criadores humanos é roubado e monetizado por avatares de IA sem sua permissão.
- Podcasts de Charlie Warzel verificado os incentivos por trás da proliferação de influenciadores de IA e a exaustão que muitas pessoas sentem quando se trata de pensar se o que consumimos é real ou não.
