OpenAI lança Lockdown Mode para aumentar a segurança contra ataques de prompt injection
OpenAI apresenta Lockdown Mode para proteger dados sensíveis
A OpenAI anunciou uma nova funcionalidade chamada Lockdown Mode, projetada para oferecer uma camada extra de proteção contra ataques de prompt injection. Esse tipo de ataque ocorre quando instruções maliciosas são inseridas em conteúdos como páginas web ou arquivos, podendo manipular o comportamento do chatbot e expor informações sensíveis.
Como funciona o Lockdown Mode
Com o Lockdown Mode ativado, o ChatGPT passa a operar com restrições importantes que visam mitigar os riscos de exfiltração de dados. Entre as principais limitações estão:
- Desativação da navegação ativa na web, permitindo acesso apenas a conteúdos previamente armazenados em cache;
- Bloqueio da recuperação e exibição de imagens provenientes da internet, embora a geração de imagens pelo modelo continue disponível;
- Impedimento do uso de recursos como pesquisa profunda e modo agente, que podem ampliar a superfície de ataque.
Limitações e público-alvo do recurso
Apesar das medidas, a OpenAI alerta que o ChatGPT ainda pode ser vulnerável a ataques de prompt injection mesmo com o Lockdown Mode ativo. Isso porque conteúdos maliciosos podem estar presentes em dados em cache ou arquivos carregados pelo usuário, influenciando respostas e sua precisão.
Por essa razão, a empresa destaca que essa funcionalidade não é destinada a todos os usuários. O foco principal são pessoas e organizações que lidam com dados sensíveis e necessitam de uma proteção mais rigorosa contra riscos de vazamento relacionados a esse tipo específico de ataque.
Disponibilidade e acesso ao Lockdown Mode
Atualmente, o Lockdown Mode está sendo implementado para contas do ChatGPT Business com autoatendimento, além de contas pessoais que atendam aos critérios de elegibilidade definidos pela OpenAI. A ativação dessa funcionalidade pode ser feita diretamente nas configurações dessas contas.
Impacto prático e próximos passos
Com o lançamento do Lockdown Mode, a OpenAI reforça seu compromisso em aprimorar a segurança no uso de suas ferramentas de inteligência artificial, especialmente em ambientes corporativos e sensíveis. Ainda assim, a empresa reconhece que a proteção completa contra ataques sofisticados como o prompt injection demanda esforços contínuos e complementares.
Para organizações que dependem do ChatGPT para processar informações confidenciais, o Lockdown Mode representa uma camada adicional de defesa, reduzindo a exposição a vazamentos acidentais ou maliciosos. A expectativa é que, com o tempo, mais melhorias sejam incorporadas para fortalecer ainda mais a segurança dos usuários.