Por que ninguém para Grok

Episódio de hoje Decodificador é sobre X, Grok e Elon Musk. Já estamos há várias semanas em uma das piores, mais irritantes e mais irresponsáveis ​​controvérsias sobre IA na curta história da IA ​​generativa. Grok, um chatbot criado pela xAI de Elon Musk, é capaz de criar todos os tipos de imagens geradas por IA, incluindo imagens íntimas não consensuais de mulheres e menores.

Como Grok está conectado nas últimas semanas, agora fica claro que Elon quero Grok foi capaz de fazer isso e ficou muito irritado com qualquer um que quisesse que ele parasse, especialmente no vários governos ao redor do mundo que ameaçou tomar medidas legais contra X.

Esta é uma daquelas situações em que, se você simplesmente explicar o problema a alguém, essa pessoa sentirá intuitivamente que alguém deveria ser capaz de fazer algo a respeito. É verdade – alguém deveria ser capaz de fazer algo a respeito de máquinas de assédio com um clique como essa, que produzem imagens de mulheres e crianças sem o seu consentimento. Mas quem tem esse poder e o que podem fazer com esse poder é uma questão muito complicada e está ligada à complicada confusão histórica que é a moderação de conteúdo e os precedentes legais que lhe estão subjacentes. Então convidei Riana Pfefferkorn no programa para conversar comigo sobre tudo isso.

Riana juntou-se a mim anteriormente para explicar algumas das questões complicadas da moderação da Internet no passado. Atualmente, ele é pesquisador de política no Stanford Institute for Human-Centered Artificial Intelligence e tem um profundo conhecimento do que reguladores e legisladores nos EUA e em todo o mundo poderiam fazer para resolver problemas como Grok, se quisessem.

Então, Riana realmente me ajudou a navegar pela estrutura legal que existe aqui, pelos vários atores envolvidos que têm influência e podem exercer pressão para influenciar a situação, e podemos ver isso acontecer onde a xAI faz o controle de danos, mas em grande parte continua a enviar produtos que continuam a causar danos reais.

Isso é uma coisa em que pensei muito quando toda essa situação aconteceu. Nos últimos 20 anos, a ideia de moderação de conteúdo caiu em desuso à medida que vários tipos de plataformas sociais e comunidades aumentavam e diminuíam. A história de plataformas como o Reddit, por exemplo, é apenas um microcosmo da história geral da moderação de conteúdo.

Por volta de 2021, atingimos um patamar nessa ideia de moderação, confiança e segurança na plataforma como um todo. É aí que a desinformação flagrante, as mentiras eleitorais, as conspirações QAnon e o incitamento por uma multidão no Capitólio podem realmente fazer com que você seja banido da maioria das principais plataformas… mesmo se você for o presidente dos Estados Unidos.

Pode-se dizer que a era da moderação de conteúdo acabou e estamos agora numa situação muito mais caótica e laissez-faire. É possível que Elon e os seus pornógrafos encorajem o pêndulo a oscilar para trás, mas mesmo que isso aconteça, os resultados ainda podem ser mais complicados do que se deseja.

Se você quiser ler mais sobre o que abordamos neste episódio, confira os seguintes links:

_{Perguntas ou comentários sobre este episódio? Contate-nos em decoder@theverge.com. Na verdade, lemos todos os e-mails!}