Como o erro humano se torna uma arma contra grandes modelos de linguagem

Recentemente, um amigo me contou durante um café sobre a resposta decepcionante que recebeu. “Dizem que é bom”, disse ele, “mas parece que foi escrito pela IA”. Conhecendo-o, entendi imediatamente o que havia acontecido. A sua credibilidade foi questionada não porque o seu trabalho fosse mau, mas porque era demasiado bom – demasiado claro, demasiado fluido, demasiado subtil.

A rápida aceleração das ferramentas de inteligência artificial está mudando a forma como pensamos sobre a boa escrita. Na era digital, é cada vez mais importante sinalizar que existem pessoas reais – e não modelos de linguagem gigantescos e sem rosto – por trás das palavras. Surpreendentemente, uma maneira paradoxal de fazer isso é minar a qualidade da sua própria escrita.

Alan Turing até fez essa sugestão na década de 1950: adicionar alguns erros de digitação deliberados para fazer com que parecesse mais humano. A ironia, claro, é que Turing deu esse conselho às máquinas.

A experiência do meu amigo não foi isolada. Escrever bem, outrora um sinal de habilidade, tornou-se, para um número crescente de leitores, revisores e gestores de contratação, uma fonte de suspeita moral. As habilidades que antes usávamos para demonstrar inteligência e esforço – clareza, precisão, boa estrutura de frases – estão começando a perder o significado.

O problema reside na nossa incapacidade de detectar facilmente conteúdo escrito por IA, portanto, falsos positivos (ou seja, acusar falsamente alguém de usar uma ferramenta de IA) são uma preocupação séria. Estudos mostrou que humanos e IA pode diferenciar com segurança entre escrita criada por humanos e máquinas. Quando a escrita gerada por humanos e por IA é combinada, o desempenho é pior. Como resultado, muitas universidades que usavam ferramentas de detecção de plágio para detectar IA pararam devido a preocupações com sua confiabilidade.

Neste clima de incerteza, alguns autores ficam com o único sinal que ainda têm à sua disposição: o erro humano. Uma palavra repetida, um ligeiro erro gramatical, uma frase ligeiramente desajeitada – estas começam a funcionar menos como sinais de descuido e mais como evidência de uma mão humana genuína. A deficiência tornou-se uma credencial.

O erro foi aplicado estrategicamente num contexto competitivo – Submissões universitáriaspedidos de emprego, correspondência profissional. Os recrutadores começaram a aconselhar os candidatos a deixarem um erro de digitação intencional na carta de apresentação, precisamente para sinalizar que alguém interessado a havia escrito.

É claro que tudo isso é volátil e a moeda dos sinais de erro está em tempo emprestado. Uma vez que a imperfeição se torna um sinal reconhecido de autenticidade, ela imediatamente se torna disponível para imitação. Os usuários pedirão ao sistema de IA que pareça mais áspero, menos suave e mais humano. O sistema obedecerá e logo se tornará adepto da execução de incompetência calibrada.

O caminho a seguir para recuperar a autenticidade permanece obscuro. Talvez algumas situações exijam prova de autoria mais direta sem a ajuda da IA: avaliação presencial sem intermediários, submissões manuscritas e explicações em tempo real. Ou, num mundo cada vez mais saturado de ferramentas de IA, talvez a habilidade definidora seja saber como usá-las bem. Algumas universidades já permitem que os alunos utilizem IA em exames, desde que enviem suas instruções como parte da avaliação.

O que parece certo, no entanto, é que vestígios de autenticidade e autoria de longa data são cada vez mais difíceis de definir e descobrir – e mesmo que existam, parecem obscurecidos pela suspeita.