Início ESPECIAIS A indústria de IA tem um grande problema

A indústria de IA tem um grande problema

Por
Erica Ribeiro
-
41
0

O ensaio do empresário Matt Shumer “Something Big Is Happening” é um sucesso no X, alcançando 42 milhões de visualizações.

Este artigo alerta que os rápidos avanços na indústria de IA nas últimas semanas ameaçam mudar o mundo como o conhecemos. Schumer comparou especificamente o momento atual com as semanas e meses anteriores à pandemia da COVID-19, dizendo que a maioria das pessoas não ouvirá os avisos “até que seja tarde demais”.

Já ouvimos avisos como este de pessimistas da IA ​​antes, mas desta vez Shumer quer que acreditemos que o solo está realmente se movendo sob nossos pés.

“Mas está na hora”, escreveu ele. “Não é do tipo ‘eventualmente teremos que conversar sobre isso’. Não é do tipo ‘isso está acontecendo agora e você precisa entender’.”

Infelizmente para Schumer Já ouvimos esses avisos antes. Nós ouvimos isso repetidas vezes. sobree sobree sobre. No longo prazo, algumas destas previsões certamente se tornarão realidade. Muitas pessoas muito mais espertas do que eu certamente acreditam que seja esse o caso. Mas não vou mudar meus planos de fim de semana para construir um bunker.

A indústria de IA agora tem um enorme problema de Chicken Little, o que torna difícil levar muito a sério avisos terríveis como esse. Porque, como já escrevi antes, quando os empreendedores de IA dizem que a IA é a tecnologia que mudará o mundo devido à COVID-19 ou à revolução agrícola, precisamos de interpretar esta mensagem como ela realmente é: um discurso de vendas.

Não me force a tocar na placa.

Por que as pessoas estão tão preocupadas com a IA agora

O ensaio de Shumer argumenta que os modelos de IA generativos de última geração da OpenAI e da Anthropic já podem fazer a maior parte de seu trabalho.

“Aqui está o que ninguém fora da tecnologia entende ainda. A razão pela qual muitos na indústria estão soando o alarme agora é porque isso já aconteceu. nós. Não estamos fazendo previsões. Estamos contando o que já aconteceu em nosso trabalho e avisando sobre o que vem a seguir.”

Esta postagem claramente atingiu X. Contas populares com milhões de seguidores em todo o espectro político estão compartilhando postagens com avisos urgentes.

Para entender a postagem de Shumer, você precisa entender grandes conceitos como AGI e Singularidade. AGI ou inteligência artificial geralé um programa hipotético de IA que “possui inteligência semelhante à humana e pode realizar todas as tarefas intelectuais que um ser humano pode realizar”. A singularidade é o ponto crítico no qual a tecnologia pode melhorar e avançar exponencialmente.

Shumer está certo ao dizer que há boas razões para pensar que houve progresso tanto em AGI quanto em Singularity.

Ajudou a criar o modelo de codificação mais recente da OpenAI, GPT-5.3-Codex. A Anthropic fez uma afirmação semelhante para o lançamento recente de um produto. E não há como negar que a IA generativa agora é muito boa em escrever código. Destruiu o mercado de trabalho para codificadores iniciantes..

É certamente verdade que a IA generativa está a avançar rapidamente e terá um impacto significativo na nossa vida quotidiana, nos mercados de trabalho e no futuro.

No entanto, a previsão do tempo de Chicken Little é difícil de acreditar. E é ainda mais difícil acreditar em tudo que um vendedor de carros lhe conta sobre aquele incrível novo conversível que acabou de chegar à concessionária.

Na verdade, quando a postagem de Shumer se tornou viral, os céticos da IA ​​entraram na briga.

Ainda não é hora de entrar em pânico

Há muitas razões para ser cético em relação às afirmações de Shumer. No ensaio, ele fornece dois exemplos específicos das capacidades da IA ​​generativa: a capacidade de realizar raciocínio jurídico no mesmo nível de um advogado de ponta e a capacidade de criar, testar e depurar aplicativos.

Primeiro, vejamos o argumento do aplicativo.

Eu diria o seguinte para a IA: “Quero construir este aplicativo. Aqui está o que ele precisa fazer. Esta é a aparência aproximada: descobrir o fluxo do usuário, o design, tudo.” E sim, é. Escreva dezenas de milhares de linhas de código. Se assim for, isso é algo que eu não poderia ter imaginado nem há um ano. Abra o próprio aplicativo. Clique no botão. Teste a funcionalidade. Use o aplicativo da mesma forma que um ser humano o usaria. Se não gosto da aparência de alguma coisa, volto e mudo eu mesmo. Como um desenvolvedor, repetimos o trabalho de modificação e melhoria até ficarmos satisfeitos. Só depois de determinarem que o aplicativo atende aos seus padrões é que eles voltam para mim e dizem: “Estou pronto para testar”. E quando você testa, geralmente fica perfeito.

Não estou exagerando. Essa foi a minha segunda-feira desta semana.

Isso é impressionante? inteiramente!

Ao mesmo tempo, é uma piada no mundo da tecnologia que você já possa encontrar aplicativos. todos. (“Existe um aplicativo para isso.”) Isso significa que o modelo de codificação pode modelar tarefas com base em dezenas de milhares de aplicativos existentes. O mundo realmente mudará de forma irreversível agora que podemos criar novos aplicativos com mais rapidez?

Vejamos o argumento jurídico, no qual Shumer diz que a IA é “como ter uma equipe de (advogados) prontamente disponível”. Existe apenas um problema. Advogados em todo o país Criticado por realmente usar IA. Advogados rastreando alucinações de IA no mundo jurídico Encontramos 912 casos documentados. até agora.

Mesmo os LLMs mais avançados têm dificuldade em aceitar avisos sobre AGI quando a verificação de factos é completamente impossível. De acordo com a documentação da própria OpenAI, o modelo mais recente, GPT-5.2, apresenta uma taxa de alucinações de 10,9%. Mesmo se você acessar a Internet para verificar seu trabalho, ainda terá alucinações de 5,8%. Você acreditaria em alguém que só tem alucinações 6% das vezes?

Sim, existe a possibilidade de que um rápido salto em frente seja iminente. No entanto, também é possível que a indústria de IA atinja rapidamente um ponto de retornos decrescentes. E há boas razões para acreditar que esta última hipótese é provável. Esta semana, a OpenAI introduziu anúncios no ChatGPT, uma tática que anteriormente chamava de “último recurso”. A IA aberta também é Novo modo “ChatGPT Adulto” lançado O bate-papo permite que as pessoas participem de dramatizações eróticas. Este não é o comportamento de uma empresa que tenta mostrar a superinteligência da IA ​​a um mundo desavisado.

Este artigo reflete as opiniões do autor.

Divulgação: A empresa-mãe da Mashable, Ziff Davis, entrou com uma ação judicial contra a OpenAI em abril de 2025, alegando que a OpenAI violou os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.

assunto
inteligência artificial



Source link

ARTIGOS RELACIONADOSMais do autor