ChatGPT usa Grokipedia como fontee não é a única ferramenta de IA que pode fazer isso. Citações da enciclopédia criada por Elon Musk estão começando a aparecer nas respostas da Visão geral da IA, do Modo IA e do Gemini do Google. Os dados mostram que esse número está aumentando, levantando preocupações sobre a precisão e a desinformação, à medida que Musk busca remodelar a realidade à sua imagem.
Desde que o clone enganoso da Wikipédia foi lançado no final de outubro passado, a Grokipedia permaneceu tecnicamente uma fonte secundária de informações em geral. Glen Allsopp, chefe de estratégia de marketing e pesquisa da empresa de SEO Ahrefs, disse Borda Os testes da empresa descobriram que a Grokipedia foi referenciada em mais de 263.000 respostas do ChatGPT em 13,6 milhões de solicitações, citando cerca de 95.000 páginas individuais da Grokipedia. Em comparação, Allsopp disse que a Wikipédia em inglês apareceu em 2,9 milhões de respostas. “Eles ainda estão muito distantes, mas ainda é impressionante considerando o quão novos são”, disse ele.
“Eles ainda estão muito distantes, mas ainda é impressionante considerando o quão novos eles são.”
Com base em um conjunto de dados que rastreia bilhões de citações, a plataforma de marketing, pesquisador profundo Sartaj Rajpal, diz que a Grokipedia recebe cerca de 0,01 a 0,02 por cento de todas as citações do ChatGPT por dia – um número pequeno, mas que tem aumentado desde meados de novembro.
Semrush, que rastreia como as marcas aparecem nas respostas de IA da ferramenta Google com seu AI Visibility Toolkit, encontrou um aumento semelhante na visibilidade da Grokipedia nas respostas de IA a partir de dezembro, mas observou que ainda é uma fonte secundária em comparação com plataformas de referência estabelecidas como a Wikipedia.
As citações da Grokipedia aparecem mais no ChatGPT do que em qualquer outra plataforma de análise Borda com quem falei está rastreando. No entanto, Semrush encontrou um aumento semelhante nos produtos de IA do Google – Gemini, AI Overview e AI Mode – em dezembro. Allsopp do Ahrefs disse que a Grokipedia foi referenciada em cerca de 8.600 respostas do Gemini, 567 respostas do AI Overview, 7.700 respostas do Copilot e 2 respostas do Perplexity, de cerca de 9,5 milhões, 120 milhões, 14 milhões e 14 milhões de perguntas, respectivamente, com aparições em Gemini e Perplexity caindo significativamente em relação a testes semelhantes no mês anterior. Nenhuma dessas empresas Borda fale para rastrear cotações de Claude Anthropic uma série de anedótico relatório nas redes sociais sugeriram que o chatbot também citou a Grokipedia como fonte.
Em muitos casos, as ferramentas de IA parecem citar a Grokipedia para responder a questões factuais específicas, pouco claras ou muito específicas, como Guarda relatado último fim de semana. Os analistas concordam. Jim Yu, CEO da empresa de análise BrightEdge, disse Borda que ChatGPT e AI Overview usam Grokipedia para a maioria das “consultas não confidenciais”, como pesquisas e definições enciclopédicas, embora surjam diferenças na quantidade de autoridade que eles têm. Para a visão geral da IA, a Grokipedia tende a não ser isolada, disse Yu, e “geralmente aparece ao lado de várias outras fontes” como “uma referência adicional e não uma fonte primária”. No entanto, quando o ChatGPT usa a Grokipedia como fonte, isso lhe confere mais autoridade, disse Yu, “muitas vezes apresentando-o como uma das primeiras fontes citadas para uma consulta”.
Mesmo para usos relativamente casuais, os especialistas alertam que o uso da Grokipedia como recurso corre o risco de espalhar desinformação e promover pontos de discussão partidários. Ao contrário da Wikipedia, que é editada por humanos em um processo transparente, a Grokipedia é produzida pelo chatbot Grok da xAI. Grok é talvez mais conhecido por destruir nazistas, autodenominando-se MechaHitler, idolatrando Musk e, mais recentemente, desarmando digitalmente pessoas, incluindo menores. Quando foi lançada, a maioria dos artigos da Grokipedia eram clones diretos da Wikipédia, embora muitos outros refletissem visões racistas e transfóbicas. Por exemplo, o artigo sobre Musk minimiza convenientemente a riqueza de sua família e os elementos desagradáveis de seu passado (como pontos de vista neonazistas e pró-apartheid) e a entrada para “pornografia gay” está incorreta conectado material sobre o agravamento da epidemia de VIH/SIDA na década de 1980. Os artigos sobre a escravatura nos EUA ainda contêm longas secções sobre “justificativas ideológicas”, incluindo “A mudança de um mal necessário para um bem positivo”. A edição também foi supervisionada por Grok e apresenta pontos fracos semelhantes. A Grokipedia é mais suscetível ao que é conhecido como “preparação LLM” ou envenenamento de dados.
Em comentários para BordaO porta-voz da OpenAI, Shaokyi Amdo, disse: “Quando o ChatGPT pesquisa na web, seu objetivo é recuperar uma variedade de fontes e pontos de vista disponíveis publicamente que sejam relevantes para a pergunta do usuário”. Amdo também diz que os usuários podem visualizar as fontes e julgar por si próprios: “Aplicamos filtros de segurança para reduzir o risco de aparecerem links associados a danos particularmente graves, e o ChatGPT mostra claramente quais fontes fornecem respostas por meio de citações, permitindo que os usuários explorem e avaliem diretamente a confiabilidade das fontes”.
“O ChatGPT mostra claramente quais fontes forneceram respostas por meio de citações, permitindo que os usuários explorem e avaliem diretamente a confiabilidade das fontes.”
O porta-voz da Perplexity, Beejoli Shah, não quis comentar sobre os riscos do tratamento LLM nem citar materiais gerados por IA, como Grokipedia, mas disse que a “principal vantagem da empresa na pesquisa é a precisão”, na qual ela “se concentra incansavelmente”. A Antrópica se recusou a responder diretamente. xAI não vai voltar Bordapedido de comentário. O Google se recusou a comentar.
O resultado final é que a Grokipedia não é totalmente confiável como fonte, não importa quão raramente e apesar das ações de Musk. uma rodada vencedora sem fundo sobre o suposto enorme sucesso da enciclopédia nos resultados da Pesquisa Google. Estes são sistemas gerados por IA, carecem de supervisão humana e muitas vezes dependem de materiais opacos e difíceis de verificar, como sites pessoais e postagens de blogs, e questionável, fonte potencialmente circular. Há um risco real de reforçar vários preconceitos, erros ou questões de enquadramento ao citar algo como Grokipedia, disse Taha Yasseri, presidente de tecnologia e sociedade do Trinity College Dublin, acrescentando que “fluência pode ser facilmente confundida com confiabilidade”.
“Grokipedia parece um cosplay de credibilidade”, disse Leigh McKenzie, diretor de visibilidade online da Semrush. “Pode funcionar dentro de sua própria bolha, mas a ideia de que o Google ou a OpenAI tratariam algo como a Grokipedia como uma séria camada de referência padrão em escala é sombria.”
