IA aberta apresentação O novo recurso fornecerá proteção adicional contra ataques de injeção imediata, onde instruções maliciosas do chatbot ficam ocultas em páginas da web e outras fontes de conteúdo, afirmou.
Entre outras coisas, o Modo Lockdown desativa a navegação na web em tempo real (você só pode acessar conteúdo em cache), recuperar e exibir imagens da web (você ainda pode criar imagens), mergulho profundo e modo de agente.
Segundo a empresa, mesmo com o modo de bloqueio ativado, o ChatGPT ainda pode estar vulnerável à injeção imediata. Por exemplo, “eles podem aparecer em conteúdo da web em cache ou em arquivos carregados e ainda podem afetar o comportamento ou a precisão das respostas”.
No entanto, o objetivo é reduzir a probabilidade de dados confidenciais serem compartilhados no processo.
“O modo de bloqueio é ~ não “É para todos”, diz OpenAI. “Ele foi projetado para pessoas e organizações que lidam com dados confidenciais e desejam proteção mais rígida contra os riscos de violação de dados associados à injeção instantânea.”
A empresa disse que agora está implementando o modo de bloqueio para contas comerciais ChatGPT de autoatendimento e contas pessoais qualificadas.
