OpenAI apresenta processamento privado de segurança para clientes com retenção zero de dados
A OpenAI anunciou o Private Safety Processing, uma tecnologia criada para monitorar automaticamente interações com modelos de inteligência artificial em busca de ameaças e usos indevidos, sem contrariar contratos de Zero Data Retention (ZDR). Nesse modelo, as informações enviadas pelos clientes não permanecem armazenadas pela empresa.
A novidade atende principalmente organizações que utilizam IA para lidar com dados estratégicos, informações pessoais, documentos internos ou propriedade intelectual. Para essas empresas, reduzir o armazenamento e limitar o acesso humano a prompts e respostas é uma exigência importante de privacidade, conformidade e segurança.
Como funciona o Private Safety Processing
Em ambientes configurados com ZDR, o cliente pode manter os dados em sua própria infraestrutura ou escolher uma estrutura operada pela OpenAI. A empresa também prevê a utilização de chaves de criptografia controladas pelo próprio cliente, ampliando sua autonomia sobre o acesso às informações.
A análise de segurança é realizada por sistemas automatizados. Esses mecanismos procuram identificar comportamentos suspeitos, tentativas de abuso, violações de políticas e outros sinais de risco. Em vez de disponibilizar o conteúdo completo das interações a funcionários, o sistema gera indicadores limitados, suficientes para auxiliar na proteção da plataforma.
A OpenAI afirma que os prompts e as respostas originais não ficam expostos aos seus funcionários durante esse processo. Assim, a organização pode aplicar controles de segurança sem abrir mão do compromisso de não reter os dados dos clientes.
Análise de padrões entre várias interações
A principal evolução em relação aos recursos anteriores está na capacidade de observar relações entre diferentes interações. Os mecanismos já existentes avaliavam cada solicitação individualmente. O Private Safety Processing, por sua vez, pode identificar padrões em uma sequência de atividades relacionadas.
Essa abordagem permite compreender melhor comportamentos que não seriam considerados suspeitos quando analisados isoladamente. Uma série de solicitações, por exemplo, pode revelar uma tentativa de contornar filtros, extrair informações sensíveis ou utilizar ferramentas conectadas ao modelo de maneira indevida.
A análise poderá envolver não apenas prompts e respostas, mas também sinais associados ao uso de ferramentas, eventos operacionais e indicadores de rede. A OpenAI ainda não divulgou todos os detalhes técnicos, portanto a extensão exata desse monitoramento permanece em aberto.
Diferenças em relação à política da Anthropic
A proposta da OpenAI apresenta uma diferença relevante em relação às regras adotadas pela Anthropic para determinados modelos avançados. Clientes comerciais que utilizam ZDR e estão sujeitos à política de segurança da Anthropic podem ter prompts e respostas retidos por até 30 dias para fins de proteção e investigação.
Fora dessas condições, as duas empresas também trabalham com períodos de retenção para contas comerciais. A Anthropic informa que entradas e saídas da API normalmente são eliminadas em até 30 dias, embora existam exceções.
No ChatGPT Business, os administradores podem definir o período de armazenamento das informações. Conversas excluídas ou que não foram salvas costumam ser removidas dos sistemas da OpenAI em até 30 dias. Esse prazo pode ser ampliado quando houver obrigação legal ou necessidade de proteger a plataforma, os usuários ou terceiros. Uma regra semelhante é aplicada à API em grande parte dos cenários.
Acesso humano aos conteúdos sinalizados
Outro ponto de divergência envolve a revisão humana. A Anthropic informa que seus funcionários não podem consultar normalmente conversas retidas. Entretanto, conteúdos identificados por sistemas automatizados podem ser encaminhados para uma análise humana controlada.
No modelo divulgado pela OpenAI, a participação humana tende a ser mais limitada. A empresa indica que a exceção envolve situações relacionadas à identificação de material de exploração sexual infantil, uma categoria considerada de alto risco e sujeita a exigências específicas de proteção e investigação.
Ainda será necessário avaliar, na prática, como serão definidos os critérios para sinalização, quais equipes poderão acessar eventuais informações técnicas e quais controles independentes estarão disponíveis para os clientes.
Privacidade não significa ausência de monitoramento
A retenção zero não significa que nenhuma informação operacional será processada. Para garantir a segurança do serviço, podem existir metadados, registros técnicos, indicadores estatísticos e sinais de abuso. A diferença está no fato de que esses elementos não devem preservar o conteúdo completo das interações do cliente.
Por isso, empresas interessadas precisam analisar cuidadosamente os termos do serviço. É importante verificar quais dados são considerados conteúdo, quais registros são mantidos, por quanto tempo permanecem disponíveis e em quais circunstâncias podem ser acessados.
Também é recomendável separar dados altamente sensíveis por níveis de classificação. Nem toda informação precisa ser enviada a um modelo externo. Documentos estratégicos, credenciais, dados financeiros e informações pessoais devem receber controles adicionais antes de serem processados por qualquer sistema de IA.
Riscos envolvendo agentes e ferramentas externas
O Private Safety Processing melhora a proteção da inferência, mas não elimina todos os riscos relacionados à inteligência artificial. Agentes conectados a sistemas corporativos podem consultar bancos de dados, enviar mensagens, alterar arquivos ou executar comandos em serviços externos.
Nesse cenário, proteger apenas o prompt e a resposta é insuficiente. Também é necessário controlar permissões, limitar o acesso a ferramentas, registrar ações e exigir aprovação humana para operações de maior impacto.
O alerta é especialmente importante porque um agente pode manipular dados sensíveis mesmo quando o texto original não é armazenado pelo provedor. O risco pode estar no fluxo completo: origem da informação, processamento, chamada de ferramentas, resposta produzida e ação executada.
Boas práticas para empresas
Organizações que pretendem adotar esse modelo devem combinar a retenção zero com outras medidas de segurança. Entre as principais estão:
– definir políticas claras para uso corporativo de IA;
– aplicar controle de acesso baseado em função;
– utilizar criptografia com chaves administradas pelo cliente;
– limitar ferramentas e integrações disponíveis aos modelos;
– registrar atividades sem armazenar conteúdo desnecessário;
– revisar periodicamente permissões e conexões;
– realizar testes de prompt injection e extração de dados;
– exigir aprovação para ações irreversíveis;
– estabelecer procedimentos de resposta a incidentes.
A configuração de ZDR deve ser tratada como parte de uma estratégia mais ampla, e não como uma solução isolada.
Tendência de processamento privado
A preocupação com a confidencialidade dos dados em sistemas de IA cresce entre grandes empresas de tecnologia. Apple, Google, Nvidia e Meta desenvolvem alternativas voltadas à proteção das informações durante cargas de trabalho de inteligência artificial.
Outra tendência é a execução local ou em ambientes privados. Ao manter os modelos dentro da própria infraestrutura, as organizações reduzem a necessidade de transferir dados a provedores externos. Essa opção, porém, exige capacidade computacional, equipe especializada, atualização constante e controles próprios de segurança.
A OpenAI informou que pretende divulgar mais detalhes técnicos sobre o Private Safety Processing no próximo mês. Até que essas informações sejam apresentadas, ainda não é possível avaliar completamente a arquitetura, os limites do mecanismo e o nível de transparência oferecido aos clientes.
A proposta representa um avanço importante para empresas que precisam usar inteligência artificial sem abrir mão da privacidade. No entanto, a proteção efetiva dependerá não apenas da retenção zero, mas também da forma como a organização administra acessos, ferramentas, registros e ações executadas pelos modelos.