Início ANDROID A controvérsia do Prêmio Commonwealth mostra que o mundo literário não está...

A controvérsia do Prêmio Commonwealth mostra que o mundo literário não está preparado para a IA

21
0

Desde 2012, a revista literária britânica Doar publicou o vencedor regional do prêmio anual Commonwealth Short Story. Mas este ano, há algo estranho em uma das prestigiadas escolhas do prêmio: parece ter sido escrita pela IA.

propriedade de Jamir Nazir “Cobra na Floresta” tem muitas das características da prosa que os LLMs produzem – metáforas mistas, anáfora, listas de três. (Sei que esta também é uma lista de três, e prometo que escrevi este post sozinho, sem ajuda, quando escrevi tudo.) Admito que inicialmente não fiquei convencido com a acusação de que a história de Nazir foi gerada pela IA. Eu sei que as pessoas estão fazendo LLMs para ajudá-las a escrever – ou escrever para elas, ponto final – mas estou cauteloso com o tipo de paranóia de IA que cresce entre meus colegas. O travessão deveria ser uma pista de IA, assim como as palavras “investigar” e a lista mencionada acima. Frases curtas e poderosas também, especialmente quando usadas para pontuar uma série de frases mais longas.

No entanto, como ser humano, definitivamente usei todos os itens acima em meus escritos anteriores. Afinal, os LLMs são treinados em escrita humana. Eles refletem sobre o que comeram. Mas há uma qualidade estranha na prosa gerada pela IA. Há algo estranho nisso, embora você não possa dizer imediatamente o que é. Se houver alguma IA me informando e eu a estiver usando agora, como você sabe que eu realmente escrevi isso?

Nabeel S. Qureshi, ex-estudioso visitante de IA no Mercatus Center da George Mason University, foi um dos primeiros a apontar o alegado uso de IA na história de Nazir. Para Qureshi, as duas primeiras frases foram prova suficiente.

Dizem que a floresta ainda fica movimentada durante o dia. Não foi o som nítido de uma abelha ou o som áspero de uma faca afiada que foi ouvido, mas o som de um estômago – como se a terra tivesse engolido o grito e o tivesse mantido ali..

“Em geral, a escrita de IA tem um certo ritmo que aprendi e é difícil de definir”, disse-me Qureshi por e-mail. “Há um espectro que vai desde ‘A IA me ajudou a editar’ até ‘A IA escreveu isso’ – este caso me parece o fim da linha, embora, é claro, eu não tenha certeza.”

O problema é que, embora haja muitas suspeitas sobre o uso da IA, nenhum de nós tem certeza. Num comunicado, o Diretor Geral da Commonwealth Foundation, Razmi Farook, disse que a organização estava ciente das alegações sobre IA em histórias premiadas, incluindo a de Nazir. Farook disse que todos os autores que enviaram trabalhos para o prêmio foram questionados se enviaram trabalhos originais e não publicados, e todos os autores selecionados afirmaram pessoalmente que nenhuma IA foi usada para ajudá-los a elaborar suas histórias.

“Até que existam ferramentas ou processos adequados para detectar de forma confiável o uso de IA e também possam enfrentar os desafios associados a obras de ficção não publicadas, a Fundação e o Commonwealth Short Story Prize devem operar com base no princípio da confiança”, disse Farook.

Doarpor sua vez, contou a história de Nazir através de Claude “e perguntou se a história foi gerada pela IA”, disse a editora Sigrid Rausing. disse em um comunicado. “A resposta foi longa, concluindo que ‘quase certamente não foi produzido sem assistência humana.’” Mas Claude não é uma ferramenta de detecção de IA, mas sim um chatbot alimentado por um grande modelo de linguagem. Embora as ferramentas de IA sejam muitas vezes melhores do que os leitores humanos na detecção de prosa produzida por LLM – ou pelo menos ferramentas que avaliam prêmios literários – DoarA declaração implicava que tinham ido à fonte para perguntar se a história foi de facto produzida pela IA, o que sugere que talvez a própria revista também não compreenda como funciona a IA.

“É possível que os jurados já tenham concedido um prêmio a um exemplo de plágio de IA – ainda não sabemos, e talvez nunca saberemos”, disse Rausing.

Cada vez mais publicações estão sendo feitas enganado para publicar uma história gerada por IAalguns deles foram “escritos” por “autores” que na verdade não existiam. Houve até suspeitas de que o próprio Nazir era falso – embora o autor Kevin Jared Hosein, ex-vencedor do Commonwealth Short Story Prize, tenha confirmado que Nazir era uma pessoa real, e compartilhou as mensagens que trocou recentemente com Nazir sobre a suspeita de uso de IA na história. Nazir também publicou uma coletânea de poesias em 2018.) Nazir não respondeu Bordapedido de comentário. Em março, Hachette retirar sua publicação do romance de terror de Mia Ballard Garota tímida depois que o autor foi acusado de usar IA, embora Ballard negasse usá-la e culpasse um editor contratado.

Há também a questão de saber se existem formas aceitáveis ​​para escritores e jornalistas utilizarem a IA. A prosa produzida por um LLM é obviamente prolixa, mas e quanto ao uso da IA ​​para gerar ideias ou para pesquisa? E quanto aos serviços de transcrição de IA? Até que ponto a confiança nessas ferramentas significa que o trabalho não é mais seu? Esta semana, a escritora polonesa Olga Tokarczuk aceito ele usa IA para auxiliar seu processo criativo – o outro extremo do espectro de usos de IA mencionado por Qureshi, mas preocupante para os leitores que admiram um escritor que ganhou o Prêmio Nobel de Literatura.

“Muitas vezes, apenas coloco uma ideia na máquina com a frase: ‘Querida, como podemos descrevê-la lindamente?’”, diz Tokarczuk, que recebeu a maior homenagem da literatura em 2018:

“Mesmo sabendo de suas alucinações e de muitos erros factuais no campo da economia quantitativa ou dos dados factuais, devo admitir que, no campo inconstante da ficção literária, esta tecnologia é um ativo com alavancagem extraordinária. Ao mesmo tempo, sinto a profunda tristeza humana por uma era que está desaparecendo e nunca mais retornará. Estou com o coração partido pelo desaparecimento da literatura tradicional escrita isoladamente durante meses, uma obra concebida na mente de um indivíduo consciente. Por tudo isso, lamento profundamente. Balzac, Cioran, e o incomparável Nabokov, pois apesar do meu entusiasmo, não acredito que nenhum tagarela moderno tenha conseguido falar da sua bela maneira.”

Os comentários de Tokarczuk, proferidos em polaco num evento recente em Poznań, infelizmente tornaram-se virais ao mesmo tempo que a controvérsia do Prémio Commonwealth. (Traduzimos seus comentários para o inglês humano.) Mas ele é muito mais ambivalente em relação à IA do que sugerem as manchetes em torno do evento. Tokarczuk esclareceu seu uso da IA ​​em um declaração de três pontos compartilhada com Lit Hub no qual ele explicou que não usou IA para escrever seu próximo livro, mas a usou para “documentar e verificar os fatos mais rapidamente”, embora ele próprio tenha verificado as informações de forma independente.

“Às vezes sou inspirado por sonhos”, continuou ele, “mas antes que esta frase também seja encurralada e destruída por especialistas, apresso-me em informar que foi meu próprio sonho”.

O furor provocado pelos comentários iniciais de Tokarczuk – e a necessidade que sentiu de se explicar – sugere uma paranóia maior e não totalmente injustificada na publicação em relação ao uso da IA. A prosa produzida pelo LLM pode ser o novo normal, mas é o que todos desejam? Milhares de pessoas ameaçou boicotar a Barnes & Noble depois que o CEO James Daunt disse que não tinha problemas em vender livros escritos pela IA, desde que contivessem um aviso afirmando que o livro não foi escrito por uma pessoa. Mais tarde, Daunt voltou atrás em seus comentários, mas não totalmente. “A proibição de livros é claramente um perigo existencial, por isso somos muito cuidadosos com quaisquer exigências de proibição de livros”, disse ele ao The New York Times. Horário de Los Angelesao mesmo tempo que garante “não vender livros gerados por IA disfarçados de obras de autores reais”.

No entanto, nada disto explica a extraordinária qualidade do trabalho gerado pela IA, ou o que diferencia a má prosa produzida pelo LLM da má escrita humana. Quando publiquei a história de Nazir por meio do Pangram, um software de IA e detecção de plágio, os resultados foram 100% gerados por IA. De acordo com Pangram, a evidência mais clara é o uso de tríades por Nazir; a palavra “teimoso”, que tem seis vezes mais probabilidade de aparecer em texto gerado por IA do que em texto gerado por humanos; e a frase “como se houvesse”, que tem cinco vezes mais probabilidade de ocorrer. Mas aqui temos uma lista de outras três, escritas por mim, um humano.

Insatisfeito, publiquei um trecho inédito do meu próximo livro, que estou editando atualmente, através do Pangram. Inclui apenas um parágrafo dois tríades. (Esta parte do livro não é muito boa, por isso a editei.) Pangram diz que a citação foi 100% escrita por um humano, e isso é verdade, mas ainda não estou satisfeito. Fiz outra citação – melhor na minha opinião – e dizia a mesma coisa. Quando executo o primeiro capítulo Limite editor de romance Kevin Nguyen, Seus documentosvia Pangram, os resultados são os mesmos. A própria Pangram administra todos os vencedores do Prêmio Commonwealth por meio de seu software, e encontrei dois dos homenageados de 2026, bem como o vencedor de 2025, parecem ter sido produzidos pela AI. A obra produzida pelo ser humano possui qualidades que não podem ser expressas em palavras e vice-versa. Talvez a prosa gerada pela IA seja como palavrões: você sabe quando a vê, mesmo que não saiba por quê.

Siga tópicos e autores desta história para ver mais coisas semelhantes em seu feed inicial personalizado e para receber atualizações por e-mail.


Source link

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui