Recentemente tive a oportunidade de conversar com Francis de Souza, COO do Google Cloud, nos bastidores de um evento em Los Angeles. De Souza, que fala com a calma e a consideração de um professor universitário apesar do barulho que nos rodeia, ofereceu conselhos úteis às empresas que navegam no momento de segurança da IA que todos vivemos, observando que “haverá uma transição e então chegaremos a uma situação melhor”.
Ele não mencionou o Google na época, mas está claro que até o Google ainda está descobrindo as coisas.
A principal mensagem de De Souza, que os profissionais de segurança têm tentado fazer com que os executivos internalizem durante anos e que agora se torna urgente devido à IA, é que a segurança não pode ser uma reflexão tardia. “À medida que as empresas iniciam sua jornada de IA, elas precisam adotar uma abordagem de plataforma”, disse ele. “Segurança não é algo que você possa acrescentar mais tarde, nem é algo que você possa deixar para os próprios funcionários fazerem.” Ele alertou especificamente contra a “IA sombra”, onde os funcionários acessam ferramentas de consumo sem supervisão organizacional, e argumentou que as empresas deveriam exigir segurança, governança e auditabilidade de suas plataformas desde o início. “Não existe estratégia de IA sem uma estratégia de dados e uma estratégia de segurança. Estas estratégias devem andar de mãos dadas.”
O que é notável é que ele não apresentou apenas o Google Cloud. Ele recuou porque seu conselho parecia um anúncio do Google. Ele argumentou que o Google está comprometido com uma abordagem multicloud e quase certamente nenhuma empresa pensa que está operando em uma única nuvem. “Mesmo se você escolher uma única nuvem, estará contando com aplicativos SaaS e poderá ter parceiros de negócios que usam nuvens diferentes”, disse ele. “É importante que as empresas tenham uma postura de segurança consistente em nuvens e modelos.”
Ele também argumentou que o cenário de ameaças mudou tão fundamentalmente que os modelos de defesa existentes são demasiado lentos. Ele observou que o tempo médio desde o comprometimento inicial até a transição para o próximo estágio de um ataque diminuiu de 8 horas para 22 segundos, e a superfície de ataque se expandiu muito além dos limites tradicionais da rede. “Além dos ativos habituais, agora temos um modelo. Temos um pipeline de dados que é usado para treinar o modelo. Temos agentes e prompts. Tudo isso precisa ser protegido.”
Uma das ameaças de Souza que não recebe atenção suficiente é que os agentes que transitam pelos sistemas internos de uma empresa possam trazer à tona repositórios esquecidos de dados nos quais ninguém pensava há anos. “Muitas organizações têm servidores SharePoint antigos (e controles de acesso) que não foram realmente atualizados, mas isso não importa porque ninguém sabe realmente onde eles estão. Mas os agentes que percorrem a empresa encontrarão esses ativos de dados e exporão os dados que estão lá.”
Na sua opinião, a resposta é combinar a velocidade da máquina com a velocidade da máquina. “Agora estamos vendo o surgimento de uma defesa completa baseada em IA, onde as organizações podem operar agentes que impulsionam sua defesa”, disse ele. “Em vez de ter defesas lideradas por humanos ou pessoas no circuito, agora podemos ter humanos supervisionando as defesas completas dos agentes.” Ele acrescentou que isso se tornou uma questão de liderança, e não apenas uma questão de tecnologia. “É uma questão do conselho, uma questão de gestão. Não é apenas uma questão da equipe de segurança.”
Mas mesmo que a IA assuma tarefas mais defensivas, há menos pessoal qualificado para as supervisionar e as vulnerabilidades criadas pela própria IA estão a crescer mais rapidamente do que as equipas de segurança conseguem resolvê-las. “Precisamos de alguém para lidar com o apocalipse dos bugs”, disse Lea Kissner, diretora de segurança da informação do LinkedIn. disse ao New York Times Esta semana, ela acrescentou que não espera que a indústria compreenda a segurança da IA de uma forma sustentável a longo prazo, pelo menos durante vários anos.
Voltando aos próprios provedores de plataforma. O Register publicou uma série de relatórios nas últimas semanas documentando muitos desenvolvedores do Google Cloud sendo atingidos por contas de cinco dígitos devido a chamadas de API não autorizadas para modelos Gemini. Muitos deles são serviços que você nunca usou ou ativou intencionalmente. O caso seguiu um padrão familiar. As chaves de API, originalmente distribuídas para o Google Maps e colocadas publicamente sob as próprias diretrizes do Google, tornaram-se discretamente acessíveis ao Gemini depois que o Google expandiu seu escopo sem divulgar claramente as mudanças.
Rod Danan, CEO da plataforma de preparação de entrevistas Prentus, disse que suas contas sofreram um grande impacto. $ 10.138 em cerca de 30 minutos Depois que o invasor explorou sua chave de API comprometida. Da mesma forma, o desenvolvedor Isuru Fonseka, com sede em Sydney, cuja conta foi comprometida, descobriu cobranças de aproximadamente US$ 17.000, apesar de acreditar que seu limite de gastos era de US$ 250. Nenhum deles sabia que o sistema automatizado do Google havia atualizado seus níveis de faturamento com base no histórico de suas contas, aumentando o limite efetivo para US$ 100.000 sem seu consentimento explícito.
O Google reembolsou ambos depois que o The Register publicou seu relatório inicial. No entanto, o Google disse que não tem planos de alterar sua política de atualização automática de nível e prioriza a prevenção de interrupções de serviço em vez de impor as preferências orçamentárias declaradas dos usuários.
Enquanto isso, há uma questão separada sobre o que acontece se um desenvolvedor tentar desligar o sistema. registrar relatado esta semana Um estudo da empresa de segurança Aikido descobriu que mesmo os desenvolvedores que detectam e excluem imediatamente chaves comprometidas podem ficar inseguros. As descobertas do Aikido sugerem que os invasores podem continuar a usar as chaves por até 23 minutos, à medida que a revogação do Google se propaga gradualmente por toda a infraestrutura. O pesquisador de Aikido Joseph Leon disse ao The Register que a taxa de sucesso durante esse período é imprevisível (mais de 90% das solicitações são autenticadas em poucos minutos) e que os invasores podem usar esse tempo para extrair arquivos e dados de conversas em cache do Gemini.
Leon também apontou que o formato de credencial mais recente do Google não parece ter o mesmo problema. As credenciais da API da conta de serviço são revogadas em cerca de 5 segundos, e o formato de chave de prefixo AQ mais recente do Gemini leva cerca de 1 minuto. “Ambos funcionam na escala do Google”, escreveu ele em um artigo sobre Aikido. “Sugiro que ambos também sejam tecnicamente solucionáveis para as chaves de API do Google.” Simplificando, de acordo com Leon, o prazo de 23 minutos é uma questão de prioridades da empresa, não uma restrição de engenharia.
Vale a pena considerar isso ao ler o conselho de Souza, é válido e deve ser levado muito a sério. Ele não está errado, mas há uma lacuna entre o que as plataformas atuais prescrevem e a rapidez com que se adaptam, e é bom estar ciente disso também.
Se você comprar através dos links de nossos artigos, poderemos receber uma pequena comissão. Isto não afeta a nossa independência editorial.
