É quase impossível exagerar a importância e a influência do arXiv como repositório científico há algum tempo. Justificou quase que sozinho a existência da Internet.. ArXiv (pronuncia-se “archive” ou “Arr-ex-eye-vee”, dependendo de quem você perguntar) é um repositório de pré-impressões onde, desde 1991, cientistas e pesquisadores anunciaram “Acabei de escrever isto” para o resto da comunidade científica. A revisão por pares é um processo lento, mas é essencial. O ArXiv requer apenas uma revisão rápida por um moderador em vez de uma revisão trabalhosa, adicionando uma etapa intermediária fácil entre a descoberta e a revisão por pares, dando a todas as descobertas e inovações mais recentes algum nível de urgência imediata.
Mas o uso da IA feriu o ArXiv e está causando uma hemorragia. E não está claro se o sangramento pode ser estancado.
como Artigos recentes no The Atlantic O criador do ArXiv e professor de ciência da informação da Cornell, Paul Ginsparg, tem se preocupado desde o surgimento do ChatGPT com o fato de a IA poder ser usada para violar uma barreira menor, mas necessária, para postar lixo no ArXiv. No ano passado, Ginsparg colaborou em uma análise que examina possíveis IA em envios de arXiv. De forma bastante horrível, os cientistas que usaram LLMs para gerar artigos de aparência plausível conseguiram mais do que aqueles que não usaram IA. Houve 33% mais artigos de pôsteres cujo trabalho foi escrito ou aumentado por IA.
A análise mostra que a IA pode ser legitimamente utilizada para fins como superar barreiras linguísticas. Continua:
“Mas à medida que o volume do trabalho científico aumenta, os sinais tradicionais de qualidade científica, como a complexidade linguística, estão a tornar-se indicadores de mérito não fiáveis. À medida que os sistemas de IA avançam, desafiarão os nossos pressupostos fundamentais sobre a qualidade da investigação, a comunicação académica e a natureza do trabalho intelectual.”
Não é apenas o ArXiv. Este é um momento em que a credibilidade acadêmica geral está em declínio. Um surpreendente artigo original publicado na semana passada na Nature descreveu o desastre de IA de Marcel Bucher, um cientista desajeitado que trabalhava na Alemanha e que usava o ChatGPT para gerar e-mails, informações sobre cursos, palestras e testes. Como se não bastasse, o ChatGPT também ajudou a analisar as respostas dos alunos e foi integrado na parte interativa do treinamento. Então, um dia, Bucher tentou desativar “temporariamente” a opção “consentimento de dados” e, quando o ChatGPT excluiu repentinamente todas as informações que estava armazenando apenas no aplicativo, ou seja, todas as informações armazenadas nos servidores OpenAI, ele reclamou na página da Nature: “Dois anos de trabalho acadêmico cuidadosamente estruturado acabaram”.
Precisamente nos domínios onde o rigor e a atenção aos detalhes são esperados e assumidos, a preguiça generalizada induzida pela IA é desesperadora. À medida que o número de publicações aumentava, era seguro presumir que havia um problema. O ChatGPT disparou em apenas alguns meses desde que foi lançado.Mas agora, como salienta o The Atlantic, começamos a obter detalhes sobre a verdadeira natureza e escala do problema. Não são apenas indivíduos infectados por IA, como Bucher, que enfrentam a ansiedade de publicar ou morrer e publicam apressadamente artigos falsos, é uma fraude em escala industrial.
Por exemplo, na investigação do cancro, um agente mal-intencionado poderia exigir um artigo enfadonho que afirma registar “a interacção entre uma célula tumoral e apenas uma proteína entre milhares presentes”, observa o Atlantic. Afirmar que um artigo é inovador é desaprovado, o que significa que é mais provável que o truque seja notado. Mas se as conclusões falsas de uma falsa experiência sobre o cancro fossem absurdas, seria muito mais provável que o absurdo fosse publicado, mesmo por uma publicação confiável. Melhor ainda se vier com imagens de blob de eletroforese em gel geradas por IA. Esta imagem é enfadonha, mas à primeira vista acrescenta plausibilidade.
Simplificando, a ciência foi inundada e todos, desde acadêmicos ocupados planejando aulas até revisores e moderadores do ArXiv, precisam ser menos preguiçosos. Caso contrário, o nosso repositório de conhecimento, outrora uma das nossas poucas fontes de informação fiáveis, será sobrecarregado pela doença que já nos infectou (talvez irreversivelmente). E será que 2026 parece um momento em que todos, em todos os lugares, ficarão menos preguiçosos?
