Episódio de hoje Decodificador é sobre X, Grok e Elon Musk. Já estamos há várias semanas em uma das piores, mais irritantes e mais irresponsáveis controvérsias sobre IA na curta história da IA generativa. Grok, um chatbot criado pela xAI de Elon Musk, é capaz de criar todos os tipos de imagens geradas por IA, incluindo imagens íntimas não consensuais de mulheres e menores.
Como Grok está conectado nas últimas semanas, agora fica claro que Elon quero Grok foi capaz de fazer isso e ficou muito irritado com qualquer um que quisesse que ele parasse, especialmente no vários governos ao redor do mundo que ameaçou tomar medidas legais contra X.
Esta é uma daquelas situações em que, se você simplesmente explicar o problema a alguém, essa pessoa sentirá intuitivamente que alguém deveria ser capaz de fazer algo a respeito. É verdade – alguém deveria ser capaz de fazer algo a respeito de máquinas de assédio com um clique como essa, que produzem imagens de mulheres e crianças sem o seu consentimento. Mas quem tem esse poder e o que podem fazer com esse poder é uma questão muito complicada e está ligada à complicada confusão histórica que é a moderação de conteúdo e os precedentes legais que lhe estão subjacentes. Então convidei Riana Pfefferkorn no programa para conversar comigo sobre tudo isso.
Riana juntou-se a mim anteriormente para explicar algumas das questões complicadas da moderação da Internet no passado. Atualmente, ele é pesquisador de política no Stanford Institute for Human-Centered Artificial Intelligence e tem um profundo conhecimento do que reguladores e legisladores nos EUA e em todo o mundo poderiam fazer para resolver problemas como Grok, se quisessem.
Então, Riana realmente me ajudou a navegar pela estrutura legal que existe aqui, pelos vários atores envolvidos que têm influência e podem exercer pressão para influenciar a situação, e podemos ver isso acontecer onde a xAI faz o controle de danos, mas em grande parte continua a enviar produtos que continuam a causar danos reais.
Isso é uma coisa em que pensei muito quando toda essa situação aconteceu. Nos últimos 20 anos, a ideia de moderação de conteúdo caiu em desuso à medida que vários tipos de plataformas sociais e comunidades aumentavam e diminuíam. A história de plataformas como o Reddit, por exemplo, é apenas um microcosmo da história geral da moderação de conteúdo.
Por volta de 2021, atingimos um patamar nessa ideia de moderação, confiança e segurança na plataforma como um todo. É aí que a desinformação flagrante, as mentiras eleitorais, as conspirações QAnon e o incitamento por uma multidão no Capitólio podem realmente fazer com que você seja banido da maioria das principais plataformas… mesmo se você for o presidente dos Estados Unidos.
Pode-se dizer que a era da moderação de conteúdo acabou e estamos agora numa situação muito mais caótica e laissez-faire. É possível que Elon e os seus pornógrafos encorajem o pêndulo a oscilar para trás, mas mesmo que isso aconteça, os resultados ainda podem ser mais complicados do que se deseja.
Se você quiser ler mais sobre o que abordamos neste episódio, confira os seguintes links:
- O sério problema de deepfake de IA de Grok | Borda
- Grok despe crianças – a lei pode impedi-lo? | Borda
- Tim Cook e Sundar Pichai são covardes | Borda
- Senado aprova projeto de lei que permite que vítimas de deepfakes não consensuais processem | Borda
- UE pretende proibir aplicações de nudificação após protestos de Grok | Político
- Grok inundou o X com milhões de imagens sexuais em poucos dias | New York Times
- A Suprema Corte acaba de mudar as leis da Internet e tenho uma pergunta | Borda
- Mãe do filho de Elon Musk processa xAI por imagens sexuais falsas | PA
Perguntas ou comentários sobre este episódio? Contate-nos em decoder@theverge.com. Na verdade, lemos todos os e-mails!
Decodificador com Nilay Patel
Podcasts de Borda sobre grandes ideias e outras questões.
