A IA está se configurando para ser um futuro desafiador, com problemas que Chen Deli, pesquisador sênior da DeepSeek, acredita que as empresas de tecnologia são as mais adequadas para resolver. DeepSeek é uma das startups de IA mais populares na China, embora enfrente ventos contrários políticos e tecnológicos. Mas para uma startup que abalou o mercado global com um modelo de IA de baixo custo que desencadeou uma onda de código aberto por concorrentes como a OpenAI, a DeepSeek tem estado excepcionalmente silenciosa. Assim, quando um dos líderes da IA adverte que a IA poderá eliminar a maior parte dos empregos nos próximos 20 anos e causar perturbações significativas para as quais a sociedade ainda não está preparada, as pessoas prestam atenção.
A “fase de lua de mel” que vivemos actualmente terminará e as pessoas enfrentarão uma onda de despedimentos tão massiva que irão remodelar os nossos contratos sociais e instituições. Ele fez com que soasse como a Peste Negra, menos imediatamente mortal porque reescreveu a vida das pessoas. Certamente não é a afirmação mais estranha. Mas as sugestões de Chen para salvadores corporativos parecem tão absurdas quanto as alucinações da IA.
Apenas a palavra remodelar deveria deixar seus ossos frios. Na verdade, ele está a dizer que as empresas que criam ferramentas que podem virar a sociedade de cabeça para baixo também devem ser responsáveis pela concepção da próxima fase. É como se Oppenheimer pedisse ao Projecto Manhattan para redigir uma constituição pós-guerra, mas apenas depois do reactor nuclear ter sido IPO em Wall Street. Essa sugestão não é apenas ingênua. É muito perigoso.
A IA já está a definir o tom daquilo que vemos, do que compramos e da forma como nos comportamos online, e as empresas tecnológicas estão a monetizar cada parte de nós e dos nossos dados. A ideia de uma mesma empresa, isolada de qualquer supervisão significativa, movida apenas pelo lucro, agindo como guardiã altruísta de uma sociedade caótica é ridícula. Em vez disso, deixaram bem claro que darão prioridade ao crescimento, aos lucros e a tudo o resto em detrimento dos seres humanos e do projecto civilizacional mais amplo, mesmo quando os danos colaterais são claros.
Inteligência humana regulando espécies artificiais
Para ser justo, os reguladores públicos não nos surpreenderam com a sua rapidez ou conhecimento. A lei da UE sobre IA é um bom passo, mas por si só não é suficiente, e o quadro regulamentar dos EUA é fragmentado e em grande parte reativo. A audiência média do Congresso sobre IA é um desfile sombrio de jargões e executivos de tecnologia acenando educadamente para legisladores que não entendem do que estão falando. A China, onde a DeepSeek está sediada, tem sido mais agressiva em algumas áreas, mas é difícil argumentar que o controlo autoritário centralizado seja um modelo melhor para a governação tecnológica. As questões de vigilância e as restrições linguísticas não podem ser facilmente aceites apenas porque as pessoas assinam regras.
O estado atual da regulamentação é irregular, inconsistente e muitas vezes demasiado lento. Mas isso não significa que entregar as rédeas aos desenvolvedores como se eles fossem benevolentemente neutros é a resposta. Eles não são seus amigos ou agentes. Certamente não estão aptos a serem os guardiões físicos e civilizacionais da humanidade. São atores comerciais com produtos para vender e métricas trimestrais para atingir. Quando chega a hora, resolvemos nossas reclamações éticas até que elas se encaixem perfeitamente na apresentação de slides.
Os danos não podem ser mitigados se as próprias medidas de mitigação ameaçarem o modelo de negócio. Se um sistema de contratação baseado em IA se revelar discriminatório, custará dinheiro para corrigi-lo. Se seus geradores automatizados de conteúdo estão inundando a web com lixo de baixa qualidade, desligá-los terá impacto em seus resultados financeiros. Não há incentivo para fazer a coisa certa, a menos que alguém o force, e nesse ponto geralmente é tarde demais.
A indústria tecnológica tem demonstrado repetidamente que não está preparada para se auto-regular de uma forma que coloque o interesse público à frente dos ganhos privados. Na verdade, a mera ideia de que os arquitectos da destruição também deveriam ser responsáveis pela construção do que substitui a ordem existente deveria aterrorizar qualquer pessoa que alguma vez tenha estado do lado errado de um algoritmo de plataforma.
Não é antiprogresso, é pró-humanidade.
Nada disto quer dizer que a IA não tenha um potencial incrível para o bem, ou que exigir salvaguardas significa opor-se à tecnologia. Apesar da confusão terminológica, vale lembrar que os luditas também não se opunham à tecnologia. Eles eram contra a exploração. Os seus protestos não eram sobre os teares, mas contra os proprietários de fábricas que usavam os teares para cortar mão-de-obra qualificada e impor condições de trabalho miseráveis.
Chen Deli está certo sobre tocar o alarme, mas errado sobre quem deve tocar a campainha. Os denunciantes não tendem a surgir das salas de reuniões. Ainda não existe um quadro consistente sobre o que é uma governação responsável da IA. Temos as peças, mas falta-nos o tecido conjuntivo para solidificar a ideia, e falta-nos a coragem política para forçá-la àqueles que têm mais poder.
Ainda assim, não estou completamente pessimista. A estrutura de que precisamos pode existir. Poderia ser construída por uma coligação de governos, sociedade civil, investigadores independentes e até mesmo algumas vozes de princípios provenientes da comunidade tecnológica. Mas só existirá se um número suficiente de pessoas o exigir.
Se as mudanças previstas por Deli realmente ocorrerem na próxima década, serão necessários mais do que compromissos corporativos. Serão necessárias regras rigorosas para preservar a segurança e a dignidade humanas, sem tentar transformá-las numa mercadoria para venda.
Siga o TechRadar no Google Notícias e Adicione-nos como fonte preferencial Receba notícias, análises e opiniões de especialistas em seu feed. Certifique-se de clicar no botão seguir!
Claro que você também pode Siga o TechRadar no TikTok Confira novidades, análises, unboxings em formato de vídeo e receba atualizações regulares. WhatsApp fazer.
Os melhores laptops empresariais para cada orçamento
