Depois de divulgar as ameaças potenciais representadas pelo mais recente modelo de IA, a Anthropic afirma que lançará uma versão com ajustes que o tornarão “mais seguro” para o público.
Um dia depois de entrar com pedido de oferta pública inicial, a empresa anunciou na terça-feira uma nova versão do modelo Mito com advertências sobre segurança cibernética e armas biológicas.
Se o modelo, denominado Claude Fable 5, for questionado sobre questões limitantes, como supressão de bugs de software ou criação de armas biológicas, a resposta será bloqueada e os usuários serão direcionados para o modelo mais antigo conhecido como Opus 4.8; É chamado de antrópico na imprensa.
A empresa, liderada pelo CEO Dario Amodei, há anos que exalta o potencial perigoso dos seus produtos, ao mesmo tempo que se retrata como um administrador responsável da poderosa tecnologia de IA. A empresa sediada em São Francisco está concorrendo a uma listagem pública este ano com os rivais SpaceX OpenAI e Elon Musk, que se fundiram com seu grupo de IA xAI em fevereiro.
Anthropica chama o novo modelo de “classe Mythos”, uma ordem de modelos de Claudius que é mais capaz do que seus modelos anteriores de “classe Opus”.
“Isso é um exemplo capaz de lidar com riscos. Sem precauções, as capacidades do Fable 5 em áreas como segurança cibernética podem ser abusadas para causar sérios danos”, disse a Anthropic. “Portanto, o modelo com as proteções que trouxemos em algumas áreas das questões intermediárias, preferiremos receber uma resposta Close Opus 4.8.”
A empresa às vezes investe no desenvolvimento de alegações “inofensivas”, mas isso é raro, disse ele.
“Queríamos fornecer esse nível de inteligência para usuários em geral de uma forma segura”, disse Dianne Penn, chefe de gerenciamento de produtos da Anthropo, ao Wall Street Journal.
A Anthropic conversou com a indústria de tecnologia e os governos quando anunciou no início deste ano que a Mythos é poderosa o suficiente para espalhar interrupções na segurança cibernética. Foi decidido limitar a solução do produto a cerca de 200 organizações.
A cautela da Anthropic em relação à IA tem sido constante, atraindo o ceticismo de alguns críticos.
Na semana passada, a empresa classificou a indústria como um grande atraso na desaceleração do ritmo de desenvolvimento, enquanto a indústria controla os potenciais riscos sociais.
Comentaristas e rivais disseram que os antropólogos querem apenas atiçar a competição numa corrida acirrada para desenvolver a inteligência artificial.
