Como muitas pessoas, a diretora Valerie Fitch ficou fascinada quando a OpenAI estreou seu modelo generativo de IA Sora para conversão de texto em vídeo para o público em 2024. Embora ela não entendesse completamente a tecnologia, ela estava interessada no que ela poderia fazer e viu que outros artistas estavam construindo comunidades online para compartilhar suas novas criações de IA. A esperança de se conectar com as pessoas atraiu Fitch para o campo da inteligência artificial, mas quando chegou lá, ficou chocada ao ver com que frequência a tecnologia produzia imagens misturadas com racismo e sexismo.
Fitch ficou muito perturbado com a forma como os seus novos colegas entusiastas da IA pareciam não se importar com o facto de a máquina em torno da qual se reuniam vomitar lixo preconceituoso e ódio sem ser explicitamente solicitado a fazê-lo. A estranha situação afastou Fitch de sua experiência inicial com inteligência artificial geral. Mas também a inspirou a fazer isso Fantasma na máquinaum novo documentário sobre as tecnologias e escolas de pensamento que lançaram as bases para a existência da inteligência artificial.
Em vez de se concentrar nos benefícios potenciais (embora altamente improváveis) para a sociedade que a geração de aceleradores de IA jura estar ao virar da esquina, Fantasma na máquina Explora a história da tecnologia para explicar por que ela funcionou da maneira que funciona agora. Quando conversei recentemente com Fitch sobre o filme, ela me disse que queria narrar a ascensão da inteligência artificial para dar às pessoas uma visão clara do ciclo extremamente intenso de entusiasmo industrial que vivemos atualmente. No entanto, primeiro teve que superar a ofuscação deliberada de todo o conceito por parte das empresas de IA.
“Para usar a frase ‘inteligência artificial’, precisamos saber o que essa frase significa”, disse-me Fitch durante uma videochamada. “A verdade é que não significa nada; é um termo de marketing e sempre foi. É uma frase completamente enganosa e estúpida que adquiriu seu próprio significado cultural, e acho que ser muito claro sobre as palavras que usamos e o significado dessas palavras é essencial.”
como Fantasma na máquina Ele afirma repetidamente que “inteligência artificial” foi originalmente cunhada em 1956 pelo cientista da computação John McCarthy quando ele tentava garantir mais financiamento para seus projetos. Mas o documentário apresenta a criação do termo como um dos muitos pontos importantes numa linha do tempo que na verdade começa na Inglaterra vitoriana com o nascimento da eugenia. Além de ser primo de Charles Darwin, Francis Galton foi o criador da eugenia – a desacreditada crença racista de que a humanidade poderia ser melhorada eliminando sistematicamente as raças “inferiores” (leia-se: não-brancas).
Embora Galton certamente tenha fornecido alguns As suas contribuições úteis para o meio académico Fitch explicou na nossa entrevista que é importante não subestimar o facto de que foram as suas crenças profundamente enraizadas na supremacia branca que influenciaram as ciências sociais daquela época. Galton e seu colega eugenista/estudante Karl Pearson não estiveram diretamente envolvidos no desenvolvimento das primeiras máquinas aritméticas. Mas o trabalho fundamental de Galton em modelação multidimensional – uma técnica que utilizou ao medir a atratividade das mulheres africanas e europeias – ajudou a moldar o pensamento de Pearson à medida que desenvolvia ferramentas estatísticas como a regressão logit, um componente central da aprendizagem automática moderna.
“Vou abraçar Sam Altman diante das câmeras? Este é um filme honesto sobre essa tecnologia? Isso é propaganda.”
Galton Pearson Ajude a normalizar a ideia Que pessoas de raças diferentes eram fundamentalmente diferentes em aspectos quantificáveis. Este tipo de pensamento racista foi o que levou Galton e os seus pares a acreditar que a inteligência humana pode ser medida e que as mentes humanas funcionam como máquinas. Fitch diz que esse salto desempenhou um papel importante para convencer o público da ideia fantástica da inteligência artificial.
“O que foi realmente surpreendente para mim durante a minha investigação inicial sobre tudo isto é que quando você olha para a questão da superinteligência como documentarista ou jornalista, não demora muito até que você esteja batendo a testa contra um batente de porta baixo para a ciência racial, porque ela está incorporada nesta tecnologia”, disse Fitch, explicando que estes conceitos estão “impregnados” no pensamento eugênico.
Em vez de tentar refutar a ideia de que os modelos gerais de IA produzem ideologia de ódio porque foram treinados nela (um conceito conhecido como “GIGO” – lixo que entra, lixo sai), Fantasma na máquina Ele utiliza a sua análise histórica para explicar porque é que as empresas que fabricam esta tecnologia não estão interessadas em resolver os seus problemas actuais. Esse contexto histórico ajudou Fitch a entender algumas de suas experiências preocupantes com a geração de IA, quando ela estava brincando com uma versão inicial de Sora no Slack para artistas. Fitch lembra que o grupo era um lugar amigável e acolhedor até que outro membro – uma mulher negra – começou a expressar preocupação sobre como a modelo a caiava toda vez que ela pedia que ela criasse imagens baseadas em fotos suas.
“Ela manteve as tranças e a moda, mas estava entrando em uma galeria de arte, que a mostra entendia como ‘espaço em branco’”, explicou Fitch. “Eu pensei, ‘Que diabos’, e tentei explicar ao grupo como isso era um problema com o show em si.” Ninguém mais no grupo reagiu à postagem dela. “Isso era como o Slack, onde sempre há dezenas de reações de emojis de coalas gritando em cada postagem. Mas desta vez não houve nada.”
Veatch decidiu entrar em contato diretamente com a OpenAI para alertar a empresa sobre “quanto racismo, sexismo e misoginia ela estava vendo – resultado em que as mulheres começam a desenvolver seios extras e a se exercitar depois de algumas rodadas de criação de uma cena”. Fitch acreditava que a OpenAI consideraria este um bug sério que vale a pena consertar antes de encorajar mais pessoas a adotarem Sora em suas vidas; Em vez disso, a empresa ignorou as suas preocupações.
“O feedback que recebi foi basicamente: ‘É muito chato trazer isso à tona; ‘Não há nada que possamos fazer para mudar isso’.
Esta situação despertou em Fitch uma paixão pela descoberta da razão pela qual tantas formas diferentes de inteligência generativa se comportavam continuamente de formas tão horríveis e perturbadoras. No início, ela realmente não achava que fazer ligações pelo Zoom com autores de artigos sobre a tecnologia pudesse se transformar em um documentário atraente, mas isso mudou quando ela começou a ver uma linha clara entre o trabalho de estatísticas eugênicas de Galton e as roupas da geração moderna de inteligência artificial.
Os sons que apareceram em Fantasma na máquina — uma mistura de investigadores, historiadores e teóricos críticos da IA — defendem de forma convincente que todos os aspectos do campo da IA foram profundamente influenciados pelas suas ligações históricas a áreas da ciência que foram concebidas para defender visões de mundo discriminatórias. Quando perguntei à Fitch se ela estaria interessada em falar diretamente com os presidentes da empresa Fantasma na máquina Eu ri. Obter esse tipo de acesso, disse ela, exigiria que ela passasse por todos os tipos de exercícios ideológicos e fizesse compromissos que tornariam seu filme cúmplice dos danos do general da IA.
“Existe a ideia de que essas pessoas não vão confiar em ninguém”, disse Fitch. “Sim, nada, e certamente espero que eles não confiem em mim. Não os quero no filme falando o suficiente com a mídia. Vou abraçar Sam Altman diante das câmeras? Este é um filme honesto sobre essa tecnologia? Isso é propaganda.”
Fantasma na máquina estará disponível para Transmitir via Kinemde 26 a 28 de março, antes de ir ao ar na PBS neste outono.
