O NHS England geralmente torna o software que desenvolve de código aberto
Mark Thomas/Shutterstock
A decisão do NHS England de retirar o código-fonte aberto criado com financiamento do contribuinte britânico devido aos riscos representados pelos modelos de IA que hackeiam computadores está sendo cada vez mais alvo de reações adversas.
No mês passado, foi amplamente divulgado que Mythos, uma IA criada pela empresa de tecnologia Anthropic, é capaz de encontrar pontos fracos em quase todos os softwares, potencialmente permitindo que hackers invadam os sistemas que os executam. O NHS England disse agora aos funcionários que o software existente e futuro deve ser retirado da vista do público e armazenado a portas fechadas até 11 de maio devido a esses riscos.
A decisão vai contra os padrões de serviço do NHS, que exigem que os funcionários abram o código-fonte de qualquer software que produzam para que as ferramentas possam ser criadas, melhoradas e utilizadas sem duplicação de esforços. E os especialistas dizem que remover o código da vista do público não melhorará a segurança.
Agora, um carta aberta apelar ao NHS England para reverter a sua decisão atraiu centenas de assinaturas. No momento em que esta carta foi escrita, 682 pessoas a assinaram, incluindo escritores e ativistas dos direitos digitais Cory Doctorow e o ex-secretário de Saúde do Reino Unido Matt Hancock, que quando contatado para comentar por Novo Cientistaapontando para um postar no LinkedIn no qual ele chamou a política de um “grande erro”.
“Uma das coisas mais inteligentes que o NHS fez nos últimos anos foi abrir seu código. Os contribuintes pagaram por isso, então os contribuintes deveriam se beneficiar dele”, escreveu Hancock. “Mas o caso prático é igualmente forte: o código-fonte aberto é testado com mais rigor, é mais seguro e permite que as melhores mentes de qualquer lugar do mundo o desenvolvam.”
Vlad-Stefan Harbuz da Universidade de Edimburgo, na Inglaterra, é um dos autores da carta aberta. Ele tem acesso ao Mythos e fez parte de um grupo que recentemente o usou para escanear códigos de código aberto do NHS em busca de vulnerabilidades. Eles descobriram “várias vulnerabilidades relativamente graves” que foram divulgadas de forma responsável ao NHS antes da decisão de encerrar o projeto de código aberto.
“Não sei se a vulnerabilidade que relatamos foi o gatilho, mas talvez seja parte disso”, disse Harbuz. “Auditorias de segurança de rotina e publicamente disponíveis (modelos de linguagem grande) podem encontrar as mesmas vulnerabilidades que encontramos. O Mythos torna as coisas mais fáceis. Mas o verdadeiro problema é a falta de investimento do sistema em segurança cibernética, que existia antes da existência do Mythos.”
Harbuz argumentou que as reservas de todo o código do NHS permaneceriam e seriam usadas para treinar vários modelos de IA, mas a sua retirada do GitHub impediria a contribuição de especialistas que se preocupam com a qualidade e segurança dos serviços públicos. “EU“Somos nós que prejudicamos aqueles que ajudam, tornando as coisas de código fechado, e não aqueles que atacam”, disse Harbuz.
O AI Security Institute (AISI), apoiado pelo governo do Reino Unido. investigar mitos e descobriu que estes sistemas só eram capazes de atacar “sistemas empresariais pequenos, fracamente defendidos e vulneráveis”, concluindo que não havia indicação de que uma rede ou software verdadeiramente seguro estaria em perigo.
Terêncio Édenque tem uma vasta experiência na função pública do Reino Unido, trabalhando para abrir o acesso a dados públicos, concordou que a medida não era razoável.
“A confiança do público no NHS depende da abertura, transparência e honestidade do serviço de saúde. Dado que grande parte do nosso serviço de saúde depende de ferramentas digitais, isso significa que o código aberto não é negociável. Temos o direito de ver como estas ferramentas funcionam. Exorto fortemente o NHS a responder positivamente à petição e a manter as suas promessas ao público”, disse Eden.
Inglês O Departamento de Saúde e Serviços Sociais não respondeu a um pedido de comentário, enquanto um um porta-voz do NHS England repetiu uma declaração anterior: “Estamos restringindo temporariamente o acesso a alguns códigos-fonte do NHS England para fortalecer ainda mais a segurança cibernética enquanto avaliamos o impacto dos rápidos desenvolvimentos nos modelos de IA. Continuaremos a publicar o código-fonte onde houver uma necessidade clara.”
Tópico:
