Há algo fundamentalmente antidemocrático no fluxo constante de novos lançamentos de IA, à medida que a indústria luta para provar o seu valor face a uma bolha de mercado em rápida inflação.
Cada brinquedo novo e brilhante emerge da máquina de propaganda que torna o progresso tão inevitável e a resistência tão fútil, à medida que a indústria constrói fossos em torno das suas vantagens à custa das pessoas comuns.
Nas últimas semanas, surgiram três novas aplicações de IA, cada uma das quais poderá ter um impacto profundo na nossa realidade partilhada: a nova plataforma de vídeo da OpenAI, Sora; o dimensionamento de um companheiro virtual chamado “Amigo” e o esforço da Meta para importar seu modelo de publicidade para chatbots.
O lançamento do Sora para um grupo seleto de usuários foi uma paródia profunda do roubo em lojas do CEO da OpenAI, Sam Altman, que é totalmente de marca, dada a forma como ele treinou seu modelo na propriedade roubada dos criadores. Da pornografia à política e à propriedade intelectual de artistas, Sora não apresenta nenhum caso de uso positivo discernível. Simplesmente inundará a praça pública com lama, minando qualquer aparência de realidade partilhada na busca por cliques carregados de dopamina.
“Amigo” é um pingente vestível que coleta as conversas e movimentos espaciais do usuário para informar um amigo bajulador cujo trabalho é enviar mensagens de texto de apoio. Outro começo complementar, “Replika”, incorpora essa conexão com a voz e um final feliz. O que estas ferramentas farão com a ligação humana, especialmente entre os jovens que navegam em relações pessoais íntimas pela primeira vez, parece ter sido muito pouco pensado.
Enquanto isso, a Meta começou a usar interações de chatbot para direcionar anúncios, evidência de que o modelo de capital de vigilância que “não atingiu” as mídias sociais está prestes a cruzar a fronteira da IA. O cliente se torna o produto, suas solicitações moldam seus perfis de usuário que, por sua vez, moldam seu comportamento para mantê-los produzindo mais dados para reutilização e exploração.
Pensar nos efeitos de cada um destes produtos individuais é apenas uma pequena parte do exame minucioso que requerem; é quando olhamos para os cruzamentos que vêm com rápida proliferação que deveríamos ficar realmente preocupados.
Por exemplo, considere como estes três produtos podem ligar-se entre si no contexto de uma campanha eleitoral: um ator político compra anúncios num chatbot para levar os utilizadores à sua versão da verdade, pacotes direcionados a vídeos falsos, todos aumentados pelo seu pequeno amigo IA.
Isto não é ficção científica; este é apenas o próximo passo na atomização do nosso eu cívico, uma “política do eu” alimentada pela desinformação e pelo auto-reforço automatizado que irá corroer ainda mais a nossa capacidade de acção colectiva coordenada.
A Big Tech usa o duplo discurso orwelliano para mascarar a sua corrosão democrática; as lisonjas da “liberdade” anulam a responsabilização e a regulação é denunciada como “controlo governamental” em vez de uma expressão da nossa vontade colectiva.
“Tecnofascismo” foi um termo cunhado há mais de uma década por historiadores Janis Mimura para descrever a associação proativa da indústria e do poder governamental que se sobrepõe às normas liberais, onde os indivíduos renunciam aos seus interesses por um bem maior predeterminado.
Embora a “bomba F” seja lançada liberalmente pelos liberais, parece uma descrição precisa da relação actual entre a tecnologia, o Estado e nós, à medida que a tecnologia afirma o seu poder de moldar a evolução social.
Desde que a Big Tech assumiu a primeira fila na posse de Trump, o Doge de Elon Musk tem vasculhado os bancos de dados do governo dos EUA; Projeto Stargate da OpenAI para drenar a energia do mundo recebeu luz verdeenquanto as medidas para colocar barreiras de proteção e linhas vermelhas em torno da IA foram rejeitadas no país e no exterior.
Num nível mais profundo, os bilionários libertários do Vale do Silício, Peter Thiel e Marc Andreessen, empurraram JD Vance para perto da presidência, enquanto trabalho de Curtis Yarvin que defendem o “CEO como rei” está ganhando força em todos os lugares errados.
Mais perto de casa, o governo da Austrália parece congelado no centro das atenções, fazendo proselitismo da “oportunidade” da tecnologia e conduzindo uma “análise de lacunas” das leis existentes, ao mesmo tempo que tenta evitar uma guerra comercial com os EUA. Tudo isto faria todo o sentido se a indústria tecnológica não fosse uma lei por si só.
Se os produtos de IA fossem um carro ou um novo medicamento, o efeito seria testado e modelado antes de ser libertado na sociedade. Mas, simplesmente por ser nova, a Big Tech busca um passe livre com base em uma confiança que não conquistou.
Adiar estas decisões para representantes eleitos através do ciclo eleitoral de três anos não é suficiente para fazer face a uma evolução tão rápida. Não fazer nada é na verdade fazer alguma coisa, aumentando a concentração do poder tecnológico.
A boa notícia é que existem abordagens alternativas. Quando a Uber chegou a Taiwan, a então ministra digital, Audrey Tang, convocou um extenso programa de júri de cidadãos para estabelecer as regras básicas sobre como a empresa operaria, parte do modelo “sempre ativo” de democracia deliberativa daquele país.
O acadêmico britânico Dan McQuillan argumenta em seu livro Resistindo à IA – Uma abordagem antifascista à inteligência artificial para que os trabalhadores e os conselhos comunitários tenham uma influência real na integração da tecnologia nos locais de trabalho, escolas e comunidades.
A resistência à IA é também uma escolha colectiva: usar a IA deliberadamente, renunciar aos nossos dados com moderação, ignorar notícias e cultura sintéticas e exigir saber quando se apresentam como algo mais genuíno do que é, começar o nosso pensamento com uma página em branco.
A indústria da IA pretende nos fornecer aquilo que nós, como humanos, mais desejamos: inteligência, agência, companheirismo. Mas são precisamente estas qualidades que constituem a nossa única defesa contra as suas tendências tecnofascistas.
-
Peter Lewis é o diretor administrativo da Essential, uma empresa progressista de comunicação estratégica e pesquisa que conduziu pesquisas para o Partido Trabalhista nas últimas eleições e conduz pesquisas qualitativas para o Guardian Australia. Ele hospeda Per Capita’s Podcast da Burning Platform
-
A Digital Rights Watch mantém fóruns públicos gratuitos, Como a democracia pode sobreviver à IA? pela Austrália em outubro
