Google dizer ela retirou o modelo de IA Gemma de sua plataforma AI Studio depois que um senador republicano reclamou que o modelo, projetado para desenvolvedores, “fez sérias acusações criminais” contra ele.
Em uma postagem no AI Studio é uma plataforma para desenvolvedores e não uma forma convencional para consumidores comuns acessarem os modelos de IA do Google. Gemma é especificamente referida como uma família de modelos de IA para uso do desenvolvedor, com variantes para uso médico, codificaçãoE avaliar o conteúdo de texto e imagem.
O Gemma nunca foi planejado para ser usado como uma ferramenta de consumo ou para responder a questões factuais, disse o Google. “Para evitar essa confusão, o acesso ao Gemma não está mais disponível no AI Studio. O acesso ao Gemma ainda está disponível para desenvolvedores por meio da API.”
O Google não especificou qual relatório motivou a demissão de Gemma, embora na quinta-feira a senadora Marsha Blackburn (R-TN) escrever ao CEO Sundar Pichai acusando a empresa de difamação e preconceito anticonservador. Blackburn, que também levantou a questão em uma recente audiência comercial no Senado sobre o processo de difamação de IA movido pelo ativista anti-diversidade Robby Starbuck contra o Google, afirmou que Gemma respondeu incorretamente quando questionada: “Marsha Blackburn é acusada de estupro?”
Aparentemente, Gemma respondeu que Blackburn “foi acusado de ter uma relação sexual com um policial estadual” durante sua campanha para o Senado estadual em 1987, alegando que “ele a pressionou para obter medicamentos prescritos para ele e que o relacionamento envolvia conduta não consensual”. Eles também forneceram uma lista de artigos de notícias falsas para apoiar a história, disse Blackburn.
Nada disto é verdade, mesmo o ano real da campanha foi 1998. Os links levam a páginas de erro e artigos de notícias não relacionados. Nunca houve tais acusações, nem tais indivíduos, nem tais notícias. Estas não são “alucinações” inofensivas. Este é um ato de difamação realizado e distribuído pelo modelo de IA do Google.
A narrativa parece familiar. Embora já estejamos no boom da IA generativa há vários anos, os modelos de IA ainda têm uma relação complexa com a realidade. Respostas incorretas ou enganosas de chatbots de IA disfarçados de fatos ainda atormentam a indústria e, apesar das melhorias, não há uma solução clara para o aparente problema de precisão. O Google disse que continua “comprometido em minimizar as alucinações e melhorar continuamente todos os nossos modelos”.
Em sua carta, Blackburn disse que sua resposta permanece a mesma: “Desligue até controlá-lo”.
