DR
A Antrópica propôs dar aos governos autoridade legal para bloquear modelos perigosos de IA e vincular multas às receitas globais. O segundo quadro aborda a protecção dos trabalhadores.
A Antrópica anunciou duas estruturas de políticas: Exigimos que os governos tenham autoridade legal para bloquear implementações perigosas de IA e implementar salvaguardas económicas para proteger os trabalhadores à medida que a IA remodela os mercados de trabalho. A estrutura avançada de IA aborda regulamentações de segurança. O quadro de política económica aborda a migração, a distribuição de capital e as redes de segurança social.
A estrutura de segurança é a mais agressiva das duas. A Anthropic deseja que os governos sejam capazes de bloquear ou desencorajar a implantação de modelos que:Existe o risco de danos graves,“As violações repetidas resultam no aumento das penalidades civis relacionadas à receita anual global. Isso se aplica apenas a modelos treinados usando operações de ponto flutuante superiores a 10²⁵ desenvolvidas por empresas que ganham mais de US$ 500 milhões em receitas de IA ou que gastam mais de US$ 1 bilhão em P&D de IA.
Este limite abrange um pequeno número de empresas, como a própria Anthropic, OpenAI, Google DeepMind, xAI e potencialmente Meta. A Anthropic apela a regulamentações que se apliquem diretamente aos seus negócios, um posicionamento que utilizou anteriormente para se diferenciar dos concorrentes que fazem lobby contra a supervisão.
O quadro identifica quatro categorias de riscos catastróficos, incluindo o desenvolvimento de armas biológicas, a descoberta de vulnerabilidades cibernéticas em grande escala, a perda de controlo sobre sistemas autónomos e a IA que automatiza a sua própria I&D. A Anthropic apontou sua própria experiência com o Mythos Preview, que encontrou milhares de vulnerabilidades de alta gravidade em todos os principais sistemas operacionais e navegadores, como evidência de que esses riscos não são hipotéticos.
💜 da tecnologia da UE
As últimas novidades do cenário tecnológico da UE, a história do sábio fundador Boris e a questionável arte de IA. Receba-o em sua caixa de entrada gratuitamente todas as semanas. Cadastre-se agora!
Os desenvolvedores de fronteira são obrigados a testar modelos, publicar resumos de resultados, enviar avaliações independentes, manter programas de segurança e publicar relatórios de risco regulares. A Anthropic diz que a transparência por si só não é mais suficiente. “As capacidades de IA melhorarão rapidamente nos próximos meses.“A empresa escreveu.”A sua governação deve acompanhar o ritmo.”
Na preempção, a Anthropic responde diretamente ao esforço da Casa Branca para bloquear a legislação estadual de IA. “Não acreditamos que a lei estadual deva ter precedência, a menos que o Congresso aprove uma lei federal pelo menos tão forte quanto a estrutura que propomos hoje.“A empresa disse. Pedindo preempção”cirurgia,”Os estados podem regular a segurança infantil, a proteção do consumidor e outras questões fora do escopo das leis federais de segurança.
O quadro económico é menos detalhado, mas aborda a questão da migração, que os formandos questionavam nas cerimónias de formatura. Estas incluem propostas para uma conta de capital, seguro salarial, incentivos fiscais e uma rede de segurança social alargada. O objetivo é garantir os benefícios financeiros da IA.amplamente compartilhado,“No entanto, as especificidades do financiamento e da implementação são deixadas para discussões futuras.
O momento é intencional. A Anthropic está lutando contra o Departamento de Defesa no tribunal por estar na lista negra por riscos na cadeia de suprimentos. Estamos nos preparando para um IPO. E estamos a ver o Congresso negociar um acordo que trocaria a preempção nacional da IA por legislação de segurança online. Ao publicar o seu próprio quadro, a Anthropic está a tentar definir os termos para um debate regulamentar rápido e sem contribuições.
