Owen Sakawa, fundador da Elloe AI, deseja que sua plataforma seja um “sistema imunológico para IA” e um “antivírus para todos os agentes de IA”.
A ideia é adicionar uma camada ao LLM da empresa que verifica preconceitos, alucinações, erros, problemas de conformidade, desinformação e resultados inseguros, disse Sakawa em entrevista antes da conferência TechCrunch Disrupt, onde Elloe AI ficou entre os 20 primeiros na competição Startup Battlefield.
“A IA está evoluindo em um ritmo muito rápido. Está se movendo tão rápido, sem barreiras de proteção, sem redes de segurança, sem mecanismos para impedir que saia dos trilhos”, disse Sakawa (foto acima).
Elloe AI é uma API ou SDK, um módulo que fica acima da camada de saída do modelo de IA, “a infraestrutura no topo do pipeline LLM”, como Sakawa descreve. “E basicamente verificamos os fatos de cada resposta.”
O sistema da startup tem suas próprias camadas, ou “âncoras”, como diz Sakawa.
A primeira âncora verifica os fatos das respostas do LLM em relação a fontes verificáveis. A segunda âncora verifica então se a saída viola regulamentos, como a lei de privacidade de saúde dos EUA HIPAA, a lei mais ampla de proteção de dados e privacidade da Europa, GDPR, ou expõe algumas informações pessoais (PII). A âncora final, segundo Sakawa, é uma trilha de auditoria que mostra como todas as decisões anteriores foram tomadas, permitindo que um regulador ou alguém que audite o sistema “analise a cadeia de pensamento sobre aquele modelo a partir do qual a decisão foi tomada e analise a confiabilidade de cada decisão”.
Para ser claro, Sakawa disse que Elloe AI não foi desenvolvido em LLM. Porque, na sua opinião, ter LLMs confirmando outros LLMs é apenas colocar um “curativo em outra ferida”. No entanto, o sistema da Elloe AI utiliza técnicas de IA, como aprendizado de máquina. E há humanos no circuito. A equipe da Elloe AI acompanha as novas regulamentações sobre proteção de dados e proteção do usuário, disse Sakawa.
Evento de crise tecnológica
São Francisco
|
27 a 29 de outubro de 2025
Se você quiser saber mais sobre Elloe AI, conferir dezenas de outras empresas, ouvir apresentações de empresas e ouvir palestrantes convidados falarem em quatro palcos, junte-se a nós no Disrupt em São Francisco, de 27 a 29 de outubro. Saiba mais aqui.
