O renomado biólogo Richard Dawkins teve uma conversa bem divulgada com Claude da Anthropic no início deste mês. sem problemas. Poucos dias depois de usar o chatbot, ele mudou seu nome para Claudia e começou a cogitar a ideia de que ele poderia ser não apenas inteligente, mas também consciente.
Seria fácil considerar a resposta de Dawkins ingénua. Certamente foi assim no início. Porque, independentemente de sua experiência em outro lugar, trata-se claramente de alguém que não está familiarizado com o funcionamento real dos grandes modelos de linguagem (LLMs), com a atração da linguagem natural e com o que parece ser fluência emocional.
Mas isso não é nada surpreendente. Agora podemos ver quão facilmente Os humanos formam conexões com chatbots. Afinal, esses sistemas são projetados para serem comunicativos, atentos e emocionalmente responsivos. Independentemente da inteligência, do status ou do conhecimento técnico, o efeito pode ser poderoso.
Estou mais interessado nas conclusões a que ele chega do que na zombaria de Dawkins. Isso significa que Claude (desculpe, Claudia) pode estar consciente. Esta questão continua a surgir à medida que a IA avança, e alguns investigadores acreditam que a consciência nos sistemas de IA pode eventualmente ser possível.
Outros acham a ideia fundamentalmente absurda, e há outros, como Dawkins, que se perguntam se já estaremos lá.
Dilema da Consciência
Richard Dawkins não é a primeira pessoa a questionar se a IA pode ser consciente. De volta a 2022, O engenheiro do Google, Blake Lemoine, afirmou que o chatbot LaMDA do Google fica senciente depois de uma longa conversa com o sistema.
Antes disso, existia o Efeito ELIZA, em homenagem ao chatbot ELIZA dos anos 1960. Apesar de ser muito básico para os padrões modernos, os usuários ainda projetavam nele emoção, compreensão e humanidade.
Hoje a conversa se aprofundou. Muitos usuários já conversam com chatbots como se tivessem emoções, intenções e vidas interiores. Isto levou outros a acreditar que os sistemas avançados de IA poderiam eventualmente merecer direitos ou consideração moral.
A dificuldade é que todas essas discussões rapidamente se deparam com os mesmos problemas. Dito isto, ninguém concorda completamente sobre o que realmente é a consciência.
Para alguns, a consciência parece significar simplesmente inteligência, raciocínio ou autoconsciência. Muitos neurocientistas veem isso como um fenômeno que ocorre durante o processamento complexo de informações no cérebro. Alguns filósofos argumentam que isto ainda não consegue explicar a nossa experiência subjetiva e que há mais coisas acontecendo do que apenas o disparo de neurônios. E teorias como o panpsiquismo vão mais longe e sugerem que a consciência pode não emergir da matéria, mas sim ser tecida na estrutura da realidade.
Por que muitos especialistas estão céticos
Quando combinamos a forma como os chatbots modernos se comportam de forma cada vez mais humana com o facto de ainda não compreendermos completamente a consciência, torna-se muito mais fácil compreender porque é que pessoas como Richard Dawkins estão intrigadas com a ideia de que a IA pode ser consciente. Isto é especialmente verdadeiro se você for novo em sistemas como Claude ou ChatGPT. Eles podem responder com fluência, lembrar detalhes sobre você, adaptar-se ao seu tom de voz e até parecer atenciosos, emocionais ou autoconscientes.
No entanto, a maioria dos investigadores que estudam a IA ou a consciência não acreditam que os chatbots de hoje sejam conscientes, e alguns argumentam que pode ser perigoso tratá-los como tal.
Parte do problema aqui é que os humanos parecem estar naturalmente programados para sentir mentes em todos os lugares. Projetamos intenções e emoções em todos os tipos de coisas. em Palestras TED recentesO neurocientista Anil Seth argumentou que os humanos são “construídos para ver a consciência onde ela não está (…) graças a preconceitos psicológicos profundamente enraizados que unem a linguagem, a inteligência e a consciência”.
Isto é, quando algo fala fluentemente, responde emocionalmente e parece inteligente, presumimos instintivamente que deve haver uma mente consciente por trás disso. Mas Seth argumenta que estas coisas não são necessariamente iguais, e que só porque a consciência e a inteligência humanas andam juntas não significa que geralmente andam juntas.
Esta é uma distinção muito importante, porque muitos comportamentos que as pessoas interpretam como sinais de consciência são, na verdade, características intencionalmente incorporadas nos sistemas modernos de IA.
Sabemos que os chatbots são projetados para parecerem naturais, coloquiais e humanos. Eles são treinados em grandes quantidades de linguagem humana e aprendem padrões estatísticos que podem produzir respostas persuasivas. É por isso que alguns pesquisadores o descrevem como um mecanismo de previsão muito sofisticado ou um mecanismo de preenchimento automático verdadeiramente avançado, em vez de uma entidade pensante com vida interior.
Todas essas opções de design criam ilusões. Pense nisso. Você também pode dar ao seu chatbot um nome, personalidade e estilo de conversação. Na verdade, as empresas incentivam interações emocionalmente envolventes. Porque as conversas naturais tornam o uso desses sistemas mais fácil e eficaz. Antrópico também instruiu Claude. Não dê uma resposta completamente fechada sobre se você está consciente ou não. Se você pensa que até os chatbots são conscientes, os limites para os usuários podem ficar ainda mais confusos.
A ficção científica também moldou a conversa aqui. A cultura popular está repleta de histórias sobre máquinas sencientes que exigem direitos ou reconhecimento. Os humanos cresceram com essas narrativas durante décadas e, o que é crucial, os LLMs também. Eles foram treinados em uma grande quantidade de escrita humana, incluindo representações fictícias de IA. Isso significa que provavelmente absorveu muitos dos padrões de comportamento e conversação que associamos às máquinas conscientes. Mas a maioria dessas histórias não é realmente sobre robôs. Foi uma alegoria sobre a escravidão, a discriminação, o caráter e o que a sociedade escolheu valorizar como um ser humano pleno.
O debate sobre se algo é consciente ou não é muito importante.
A preocupação entre muitos especialistas não é simplesmente que as pessoas possam acreditar erroneamente que a IA é consciente, mas sim que decorre dessa crença. Os sistemas que parecem conscientes tornam-se psicologicamente mais difíceis de questionar, regular ou desligar. Os humanos tornam-se mais vulneráveis emocionalmente a eles, mais propensos a confiar neles, a confiar neles ou a tratar sempre os seus resultados como corretos.
E já estamos vendo sinais disso acontecendo. Os pesquisadores alertaram as pessoas sobre Ou desenvolvemos uma intensa dependência emocional dos chatbots, caímos em pensamentos delirantes ou, em última análise, depositamos demasiada confiança num sistema que não compreende o mundo através dos sentidos humanos.
É muito importante discutir se algo é consciente ou não. A consciência molda a maneira como pensamos sobre o sofrimento, os valores morais, os direitos e a personalidade. Mas a história também mostra que os humanos são muito rápidos em associar certas características, como linguagem, emoções, inteligência ou autoconsciência, ao nosso ser interior.
O problema adicional aqui é que os sistemas de IA estão se tornando cada vez mais hábeis em executar todas essas características.
Isso não significa que os chatbots sejam ou serão conscientes. Mas penso que também pode significar que temos uma maior capacidade de desencadear o instinto de pensar que estamos a testemunhar consciência nas coisas que nos rodeiam. E como os especialistas ainda discordam fundamentalmente sobre o que realmente é a consciência, este debate não irá desaparecer tão cedo.
Por enquanto, a resposta mais útil não é debater o que é ou não a IA, mas concentrar-se na compreensão de como estes sistemas realmente funcionam: como produzem linguagem, simulam emoções e refletem a conversa humana. Quanto mais sabemos, menor a probabilidade de confundirmos comportamento persuasivo com evidências internas.
Siga o TechRadar no Google Notícias e Adicione-nos como fonte preferencial Receba notícias, análises e opiniões de especialistas em seu feed.

Os melhores MacBooks e Macs para todos os orçamentos



