Com mais de 125.000 desenvolvedores e usuários de mais de 30 empresas Fortune 500, a aquisição da Promptfoo é o movimento mais direto da OpenAI em direção à segurança de aplicações de IA. A tecnologia será aplicada ao Frontier, plataforma de agente empresarial da empresa, lançada há apenas um mês.
Quando Ian Webster liderou a equipe de engenharia LLM da Discord e enviou um produto de IA para 200 milhões de usuários, ele descobriu que a indústria de segurança ainda não havia se atualizado. Isso significa que as ferramentas que sua equipe usa para manter esses produtos seguros foram criadas para uma época diferente. Os scanners de vulnerabilidade existentes não conseguiram inferir injeções imediatas. A análise estática não disse nada sobre modelos prometendo coisas ao usuário que eles não estavam autorizados a entregar. Ele concluiu que não existe infraestrutura de teste para aplicações de IA.
Então ele passou todas as noites e fins de semana construindo ele mesmo como um projeto de código aberto. Esse projeto se tornou o Promptfoo. Na segunda-feira, a OpenAI anunciou que estava adquirindo a empresa.
O acordo, cujos termos não foram divulgados, verá a tecnologia da Promptfoo integrada ao OpenAI Frontier, a plataforma de gerenciamento de agentes corporativos que a OpenAI lançou no início de fevereiro. no postar paraOpenAI disse que esta aquisição “Fortaleça os recursos de teste e avaliação de segurança do agente” Dentro da Frontier, Promptfoo prometeu permanecer de código aberto sob sua licença atual, com suporte contínuo para clientes existentes.
💜 da tecnologia da UE
As últimas novidades do cenário tecnológico da UE, a história do sábio fundador Boris e a questionável arte de IA. Receba-o em sua caixa de entrada gratuitamente todas as semanas. Cadastre-se agora!
Promptfoo, que Webster co-fundou com Michael D’Angelo, ex-vice-presidente de engenharia e chefe de IA da empresa de verificação de identidade Smile Identity, deverá ser lançado comercialmente em 2024 com US$ 5 milhões em financiamento inicial de Andreessen Horowitz. A rodada inicial foi apoiada por uma lista de anjos de alto perfil, incluindo o CEO do Shopify, Tobi Lütke, o CTO da Discord, Stanislav Vishnevskiy, e o cofundador da Okta, Frederic Kerrest. Em julho de 2025, a empresa havia arrecadado US$ 18,4 milhões em uma Série A liderada pela Insight Partners, com a participação novamente da a16z. O financiamento total antes da aquisição foi de aproximadamente US$ 23,4 milhões.
Na época da Série A, a Promptfoo disse que tinha mais de 125.000 desenvolvedores usando sua estrutura de código aberto e mais de 30 empresas da Fortune 500 executando sua plataforma empresarial em produção. Nossos clientes abrangem os setores de varejo, telecomunicações, serviços financeiros e mídia, todos eles severamente expostos a riscos regulatórios e de reputação decorrentes de falhas de IA.
O produto funciona agindo como um adversário automatizado. Em vez de depender de testes de penetração manuais, a plataforma da Promptfoo se comunica diretamente com os aplicativos de IA dos clientes usando modelos e agentes especiais que agem como usuários ou invasores por meio de uma interface de chat ou API. Se um ataque for bem-sucedido, a plataforma registra o ataque, analisa o motivo do ataque e repete o loop de inferência do agente para melhorar os testes e expor vulnerabilidades mais profundas. Os riscos que a plataforma visa incluem injeções rápidas, vazamentos de dados, jailbreaks e o que Webster chama de falhas no “nível de aplicação”: sistemas de IA que prometem aos usuários algo que eles não podem cumprir, revelam conteúdos de bancos de dados em consultas de atendimento ao cliente ou se desviam de opiniões políticas em tutores de lição de casa.
São esses riscos no nível da aplicação que tornam a aquisição da Promptfoo uma opção estratégica para a direção atual da OpenAI. Frontier, descrito pela OpenAI como uma tentativa de criar um “companheiro de IA” para empresas, foi projetado para dar aos agentes de IA acesso a sistemas de produção, plataformas de CRM, data warehouses, ferramentas internas de tickets e executar fluxos de trabalho que geram resultados reais. Os agentes que operam nesse nível de acesso expandem sua superfície de ataque de acordo. Os clientes iniciais do OpenAI for Frontier incluem Uber, State Farm, Intuit e Thermo Fisher Scientific. Para eles, esta é uma organização onde agentes malcomportados são um risco e não um inconveniente.
A OpenAI vem construindo o Frontier rapidamente. Desde o lançamento da plataforma em 5 de fevereiro, a empresa anunciou parcerias Frontier com Accenture, Boston Consulting Group, Capgemini e McKinsey para recrutar empresas de consultoria para impulsionar a implantação empresarial. Separadamente, a empresa lançou o Codex Security, um agente de segurança de aplicativos baseado em IA para repositórios de software, anteriormente conhecido internamente como Aardvark, entrando em maior disponibilidade no mesmo dia do anúncio da aquisição da Promptfoo.
Promptfoo não é o único produto de segurança de IA recebendo maior disponibilidade este mês. A Anthropic lançou o Claude Code Security em fevereiro passado visando casos de uso de verificação de vulnerabilidades semelhantes. Esta convergência sugere que, à medida que os agentes de IA passam para a produção em grande escala, a questão de quem os protege e como está a tornar-se rapidamente um dos campos de batalha comerciais que definem a IA empresarial.
Os esforços da OpenAI para manter o projeto de código aberto sob sua licença atual serão algo a ser observado na comunidade de código aberto do Promptfoo. O projeto conta com mais de 248 colaboradores e, de acordo com o próprio site do Promptfoo, a adoção da ferramenta por desenvolvedores de empresas do setor de IA, incluindo equipes da Anthropic e do Google, baseia-se na premissa de que a ferramenta pertence a uma comunidade de desenvolvedores, e não a um fornecedor específico. Essa promessa tornou-se agora realidade com a integração comercial numa das plataformas empresariais de IA mais poderosas do mercado.
