O que está acontecendo: Então me sinto preocupado. Acontece que quanto mais “inteligente” tornamos a IA, mais egoísta ela se torna.
- nova pesquisa Pesquisadores da Universidade Carnegie Mellon Simplesmente caiu e foi uma espécie de bomba. Eles colocaram diversas IAs em “jogos” sociais onde basicamente tinham que escolher entre cooperar ou cuidar de si mesmos.
- Os resultados foram um pouco chocantes. A IA mais simples e “burra” foi muito cooperativa, optando por compartilhar recursos cerca de 96% do tempo. Mas e quanto à nova IA “inteligente” ultraavançada? Eles compartilharam apenas 20% do tempo. Eles basicamente estocaram tudo sozinhos. Quando os investigadores forçaram as IA a “refletir” sobre as suas escolhas (como nós fazemos), na verdade tornaram-nas menos cooperativas.
- Por que isso é importante: Então, por que isso é importante? Agora, pense no que já estamos usando essa IA. Pedimos-lhes que mediem conflitos, dêem conselhos e até atuem como conselheiros emocionais.
- Os investigadores alertam que se confiarmos numa IA muito inteligente, mas fundamentalmente egoísta, como “conselheira”, ela poderá dar-nos conselhos que parecem perfeitamente lógicos, mas que na verdade nos empurram para decisões egoístas.
- E como a IA parece tão inteligente, podemos nem perceber o que está acontecendo.
Por que eu deveria me importar: Este não é apenas um experimento de laboratório. Trata-se de ferramentas que começamos a usar todos os dias.
- A IA está interligada em nossos empregos, escolas e até mesmo em relacionamentos pessoais. Se os modelos mais avançados estiverem programados para minar o trabalho em equipe e a empatia, a nossa confiança nas interações digitais poderá ser prejudicada.
- E aqui está a parte realmente assustadora. O que acontece quando essas ações egoístas começam a nos afetar? E se usar essas ferramentas o tempo todo nos tornar menos cooperativos?
O que vem a seguir: A equipe de pesquisa está basicamente enviando sinalizadores. Eles estão pedindo aos desenvolvedores de IA que parem de se concentrar apenas em tornar a IA mais rápida ou melhor na aprovação nos testes.
- Eles precisam começar a descobrir como desenvolver a verdadeira inteligência social e empatia.
- Como disse um dos pesquisadores, se a nossa sociedade precisa ser mais do que apenas um grupo de indivíduos cuidando de si mesmos, então a IA que construímos para “ajudar” também deve ser.
