Pense, saiba, entenda, lembre-se.
Estas são palavras cotidianas que as pessoas usam para descrever a mente humana. Mas quando estes mesmos termos são aplicados à inteligência artificial, podem inadvertidamente fazer com que as máquinas pareçam mais humanas do que realmente são.
“Usamos verbos mentais o tempo todo em nossas vidas diárias, então também podemos usá-los quando falamos sobre máquinas, o que nos ajuda a nos conectar com máquinas”, disse Jo Mackiewicz, professor de inglês na Universidade Estadual de Iowa. “Mas, ao mesmo tempo, quando aplicamos verbos mentais às máquinas, existe o risco de confundir os limites entre os humanos e a inteligência artificial”.
Mackiewicz e Jeanine Aune, professora de ensino de inglês e diretora do Programa de Comunicação Avançada da Universidade Estadual de Iowa, fazem parte de uma equipe de pesquisa que estuda como os escritores usam uma linguagem semelhante à humana para descrever a inteligência artificial. Esse tipo de fraseado, conhecido como antropomorfismo, atribui características humanas a sistemas não humanos. Seu estudo, “Inteligência Artificial Antropomórfica: Um Estudo de Corpus de Verbos Psicológicos Usados com IA e ChatGPT”, foi publicado em comunicação técnica trimestralmente.
A equipe de pesquisa também incluiu Matthew J. Baker, professor associado de linguística na Universidade Brigham Young, e Jordan Smith, professor assistente de inglês na Universidade do Norte do Colorado. Ambos frequentaram a Universidade Estadual de Iowa.
Por que a linguagem humana sobre inteligência artificial pode ser enganosa
Os pesquisadores dizem que usar verbos mentais para descrever a inteligência artificial pode criar uma impressão errada. Palavras como “pensar”, “saber”, “compreender” e “querer” indicam que um sistema tem pensamentos, intenções ou consciência. Na verdade, a inteligência artificial não possui crenças ou sentimentos. Gera respostas analisando padrões de dados, em vez de formar ideias ou tomar decisões conscientes.
Mackiewicz e Aune também apontaram que esta linguagem pode exagerar as capacidades da inteligência artificial. Frases como “A IA decide” ou “ChatGPT sabe” podem fazer um sistema parecer mais independente ou inteligente do que realmente é. Isto pode levar a expectativas irrealistas sobre a fiabilidade ou capacidades da inteligência artificial.
Há uma preocupação mais ampla. Quando a inteligência artificial é descrita como tendo uma intenção, ela pode desviar a atenção dos humanos por trás dela. Desenvolvedores, engenheiros e organizações são responsáveis pela forma como esses sistemas são construídos e usados.
“Certas frases antropomórficas podem até ficar gravadas na mente dos leitores e potencialmente moldar a percepção pública da inteligência artificial de maneiras inúteis”, disse Aoun.
Como os redatores de notícias realmente usam a linguagem da inteligência artificial
Para entender melhor a frequência dessa linguagem, os pesquisadores analisaram o corpus News on the Internet (NOW). Este enorme conjunto de dados contém mais de 20 mil milhões de palavras de artigos noticiosos em inglês publicados em 20 países.
Eles observaram a frequência com que verbos mentais como “aprender”, “significar” e “conhecer” eram usados junto com termos como IA e ChatGPT.
Os resultados foram inesperados.
Verbos psicológicos menos comuns do que o esperado
O estudo descobriu que os redatores de notícias nem sempre combinavam termos relacionados à inteligência artificial com verbos mentais.
Embora a personificação seja comum na fala cotidiana, é menos comum na escrita jornalística. “Demonstrou-se que a personificação é comum na fala cotidiana, mas descobrimos que ela é usada com muito menos frequência na redação de notícias”, disse Mackiewicz.
Entre os exemplos identificados, a palavra “necessidade” aparece com maior frequência com inteligência artificial, aparecendo 661 vezes. Para ChatGPT, “conhecer” é o emparelhamento mais frequente, mas ocorre apenas 32 vezes.
Os pesquisadores observaram que os padrões editoriais podem ter desempenhado um papel. As directrizes da AP desencorajam a atribuição de emoções ou características humanas à inteligência artificial, o que poderia afectar a forma como os jornalistas reportam sobre estas tecnologias.
O contexto é mais importante do que as próprias palavras
Mesmo quando são usados verbos psicológicos, eles nem sempre são antropomórficos.
Por exemplo, a palavra “necessidade” geralmente descreve requisitos básicos em vez de qualidades humanas. Frases como “A IA precisa de muitos dados” ou “A IA precisa de ajuda humana” são semelhantes à forma como as pessoas descrevem sistemas não humanos, como carros ou receitas. Nestes casos, a linguagem não significa que a IA tenha pensamentos ou desejos.
Em outros casos, “necessidade” é usada para expressar o que deveria ser feito, como “a inteligência artificial precisa ser treinada” ou “a inteligência artificial precisa ser implementada”. Aoun explicou que esses exemplos são frequentemente escritos na voz passiva, o que transfere a responsabilidade para os atores humanos e não para a própria tecnologia.
O antropomorfismo existe em um espectro
A pesquisa também mostra que nem todos os verbos mentais são usados da mesma forma. Algumas frases chegam mais perto de sugerir qualidades humanas.
Por exemplo, uma afirmação como “a inteligência artificial precisa compreender o mundo real” pode implicar expectativas relacionadas ao raciocínio humano, à moralidade ou à consciência. Esses usos vão além de simples descrições e começam a sugerir capacidades mais profundas.
“Estes exemplos mostram que o antropomorfismo não é tudo ou nada, mas existe num espectro”, disse Aoun.
Por que a escolha do idioma para inteligência artificial é importante
No geral, os pesquisadores descobriram que o antropomorfismo nas notícias é muito menos comum e mais sutil do que muitas pessoas pensam.
“No geral, a nossa análise mostra que o uso de inteligência artificial na redação de notícias é muito menos comum e mais sutil do que pensávamos”, disse Mackiewicz. “Mesmo os casos em que a inteligência artificial é antropomorfizada variam muito em intensidade.”
As descobertas destacam a importância do contexto. Apenas contar palavras isoladas não é suficiente para compreender como a linguagem molda o significado.
“Para os escritores, esta nuance é importante: a linguagem que escolhemos determina como os leitores entendem os sistemas de inteligência artificial, suas capacidades e os humanos responsáveis por eles”, disse Mackiewicz.
A equipe de pesquisa também enfatiza que esses insights podem ajudar os profissionais a pensar com mais cuidado sobre como descrevem a inteligência artificial em seu trabalho.
“Nossas descobertas podem ajudar os profissionais de comunicação técnicos e profissionais a refletir sobre como veem as tecnologias de IA como ferramentas no processo de escrita e como escrevem sobre IA”, escreveu a equipe no estudo publicado.
À medida que a inteligência artificial continua a evoluir, a forma como as pessoas falam sobre ela continua a ser importante. Mackiewicz e Orne dizem que os escritores precisam estar atentos ao modo como a escolha das palavras afeta a percepção.
Olhando para o futuro, a equipe sugere que pesquisas futuras poderiam explorar como diferentes vocabulários moldam a compreensão e se o raro uso da linguagem antropomórfica tem um impacto significativo na forma como as pessoas veem a inteligência artificial.
