Ars Technica, uma agência de tecnologia de propriedade da Condé Nast, demitiu o repórter sênior de IA Benj Edwards depois que a publicação retirou uma de suas histórias devido ao uso de uma citação falsa.
Ironicamente, a história em questão é sobre um agente de IA atacando o engenheiro Scott Shambaugh depois que ele rejeitou seu código.
Edwards e um porta-voz da Condé Nast não responderam imediatamente aos pedidos de comentários. O Futurismo relatou pela primeira vez a demissão, enquanto a 404 Media relatou pela primeira vez a remoção.
O relato de Edwards sobre o incidente de Shambaugh foi publicado em 13 de fevereiro; foi retirado dois dias depois e substituído pela nota do editor pelo editor-chefe Ken Fisher, que se desculpou pela história.
A história, escreveu Fisher em nota datada de 15 de fevereiro, usava “citações falsas geradas por ferramentas de IA e atribuídas a fontes que não o disseram”, contrariando a política do meio de comunicação de que o material gerado por IA deveria ser claramente rotulado.
“Essa coisa que aconteceu em Ars é muito triste”, escreveu Fisher. “Há anos que abordamos os riscos da dependência excessiva de ferramentas de IA e as nossas políticas escritas refletem essas preocupações. Neste caso, foram emitidas citações falsas de uma forma inconsistente com essas políticas. Revisámos o trabalho recente e não identificámos quaisquer problemas adicionais. Neste momento, este parece ser um incidente isolado.”
Edwards pediu desculpas pelo incidente em Postagem azuladmitiu que “cometeu inadvertidamente um grave erro jornalístico”. Ele se lembra de ter sido afastado do COVID e de terminar a história enquanto estava na cama com febre. Ele escreveu que decidiu usar “ferramentas experimentais de IA baseadas no Código Claude” para ajudá-lo a extrair “material fonte literal relevante” de uma postagem no blog que Shambaugh escreveu documentar peças de sucesso geradas por IA.
Quando a ferramenta não funcionou devido a uma violação de suas políticas de conteúdo, porque a postagem de Shambaugh fazia referência a assédio, Edwards disse que “colou o texto no ChatGPT para entender o porquê”.
“Eu deveria ter tirado licença médica porque, durante essa interação, acidentalmente recebi uma versão parafraseada das palavras de Shambaugh, em vez de suas palavras originais”, escreveu Edwards, admitindo que não conseguiu verificar a citação da postagem original do blog.
O texto da história foi escrito por ele e pelo repórter sênior de jogos Kyle Orland, que “não teve nenhum papel neste erro”, escreveu Edwards. Percebendo seu erro, Edwards pediu ao meio de comunicação que retirasse a reportagem.
“A ironia de um repórter tropeçar em uma alucinação de IA não passou despercebida para mim”, escreveu Edwards. “Priorizo a precisão no meu trabalho e isso é um fracasso doloroso para mim.”
Os leitores da Ars Technica comentaram sobre o erro no tópico de comentários da história, que foi encerrado em 27 de fevereiro pelo diretor criativo Aurich Lawson.
“A Ars Technica concluiu a revisão deste assunto. Foram tomadas medidas internas apropriadas”, escreveu Lawson. “Nas próximas semanas, publicaremos orientações que os leitores poderão ler explicando como usamos – e não usamos – IA em nosso trabalho. Não comentamos decisões de pessoal.”
A página do autor de Edwards agora lista seu papel no canal no passado, observando que ele “era” um repórter no canal cobrindo a história da IA e da tecnologia.
