A renomada violinista canadense Ashley MacIsaac disse que os organizadores do concerto cancelaram uma apresentação na semana passada depois que o recurso AI Overview do Google a rotulou incorretamente como uma criminosa sexual condenada.
Antes de continuarmos, assista ao videoclipe de ‘Sleepy Maggie’ de Ashley MacIsaac (com vocais em gaélico escocês de Mary Jane Lamond). Não sendo do Canadá, onde a música fez sucesso em 1995, nunca tinha sido exposto a este extravagante banquete de imagens e sons dos anos 90 antes de hoje, mas graças a esta notícia, esse descuido foi corrigido. Para melhores resultados, acenda um cigarro de cravo antes de começar a jogar.
De qualquer forma, de acordo com uma reportagem publicada no The Globe and Mail na terça-feira, Ashley MacIsaac, o homem no vídeo segurando um violino, estava se preparando para se apresentar na comunidade da Primeira Nação Sipekne’katik, no centro da Nova Escócia, quando os organizadores desistiram repentinamente. Aparentemente, li que MacIsaac tem algumas condenações contundentes em seu histórico por agressão sexual e “isca na Internet”.
MacIsaac disse que mais tarde descobriu-se que esses organizadores viram resultados do Google AI Overview que confundiram a biografia de MacIsaac com a de outro MacIsaac, muito mais horrível, do leste do Canadá.
Você deve se lembrar da polêmica que rapidamente se tornou uma piada quando o recurso Google AI Overview 2024 foi lançado pela primeira vez e pedia às pessoas que colocassem cola em coisas como pizza. Passei 6 meses melhorando esse recurso. Antes de revisarNo que pensávamos serem simulações plausíveis de casos de uso do mundo real, encontramos vários tipos bizarros de erros que ainda eram propensos a ocorrer. Na época, o Google me disse que “ainda havia trabalho a ser feito em termos de qualidade”.
Se a caracterização de MacIsaac estiver correta, ainda está. Não cometa os mesmos erros que estou discutindo aqui. O Globe and Mail tem uma citação de Clifton van der Linden, professor assistente da Universidade McMaster que estuda a desinformação sobre IA. “Estamos vendo a transição dos mecanismos de busca de buscadores de informações para narradores”, disse ele ao jornal.
Os contornos de IA são pedaços de texto originais, como respostas do chatbot, criados para serem ordenados novamente quando um termo é pesquisado no Google e são derivados de tudo o que o Google pode encontrar online que parece estar relacionado ao tópico que está sendo pesquisado. As possibilidades são infinitas, você nunca sabe como alguém pode formular uma consulta de pesquisa sobre você e nunca sabe como um esboço de IA pode dar errado.
MacIsaac se pergunta no artigo do Globe and Mail se outras pessoas o procuraram e viram resultados semelhantes sem avisar. Ele vê isso como um potencial motivo de preocupação porque acha que pode ter perdido o emprego ou ganhado um inimigo que acreditou no que leu e decidiu prejudicá-lo.
A porta-voz do Google, Wendy Manton, disse ao Globe and Mail: “A pesquisa, incluindo a visão geral da IA, é dinâmica e muda frequentemente para trazer à tona as informações mais úteis. Se um recurso encontrar um problema, como interpretação incorreta do conteúdo da web ou falta de algum contexto, podemos usar essas práticas para melhorar o sistema e tomar medidas com base na política.” O jornal também diz que o Google “modificou os resultados da pesquisa para músicos”.
Além disso, um representante da comunidade da Primeira Nação Sipekne’katik disse a MacIsaac “lamentamos profundamente o dano que este erro causou à sua reputação, sustento e segurança pessoal” e que estava tudo bem para ele atuar lá no futuro. O Globe and Mail não recebeu resposta da Primeira Nação Sipekne’katik quando solicitado a comentar.
Tudo isso parece um grande problema para muitas pessoas experimentarem aparentes alucinações de IA. Mas pelo menos aprendi sobre “Sleepy Maggie”.
