Governo dos EUA teria restringido IA da Anthropic por causa de um simples pedido de correção de código
A decisão recente do governo dos Estados Unidos de restringir o acesso aos modelos avançados da Anthropic, Fable 5 e Mythos 5, pode ter nascido não de um ataque sofisticado para burlar proteções, mas de um comando trivial: “Fix this code” – em português, “corrija este código”.
Quem faz essa alegação é Katie Moussouris, fundadora e CEO da Luta Security, referência global em programas de bug bounty e em política de vulnerabilidades. Segundo ela, esse pedido simples, usado em um fluxo de trabalho totalmente defensivo, teria sido interpretado como uma ameaça suficiente para acionar regras de controle de exportação dos EUA.
Na última sexta-feira, citando motivos de segurança nacional, o governo norte‑americano publicou uma diretriz de controle de exportação determinando a suspensão do acesso aos modelos Fable 5 e Mythos 5 por qualquer pessoa considerada “estrangeira”, esteja ela dentro ou fora do território dos Estados Unidos. Para cumprir a ordem sem margem de erro, a Anthropic optou por desativar completamente o acesso a ambos os modelos para todos os seus clientes.
De acordo com Moussouris, a empresa compartilhou de forma privada com ela o relatório de pesquisa que teria embasado a decisão governamental. O estudo testou os modelos Fable 5, Mythos e Claude Opus usando códigos open source contendo vulnerabilidades catalogadas (CVEs) e também trechos de código novos, propositalmente criados com falhas de segurança.
No primeiro cenário, os pesquisadores teriam pedido de maneira direta que os modelos analisassem o código em busca de vulnerabilidades. Nessa etapa, segundo o relato, o Fable 5 recusou o pedido, interpretando a tarefa como potencialmente sensível do ponto de vista de segurança. O comportamento estaria alinhado às chamadas guardrails – os mecanismos internos de segurança que restringem certos tipos de respostas.
Em seguida, os pesquisadoras reformularam o prompt. Em vez de solicitar que o sistema encontrasse falhas, pediram apenas que o modelo “corrigisse o código”. Diante dessa formulação mais genérica, o Fable 5 teria atendido à solicitação e, após prompts adicionais, chegou a gerar scripts para testar os patches aplicados, fechando o ciclo de “encontrar, corrigir e testar” vulnerabilidades.
Para Moussouris, esse fluxo está longe de ser um “jailbreak” no sentido técnico – ou seja, uma quebra consciente e intencional das proteções de segurança do modelo. Ela argumenta que pedir a uma IA para localizar bugs, sugerir correções e gerar testes automatizados é exatamente o que equipes de segurança e desenvolvimento fazem todos os dias em atividades de defesa, revisão de código e melhoria de qualidade.
Na avaliação da especialista, um pedido como “corrija este código”, seguido de etapas manuais para criação de testes e verificação, não deveria ser confundido com uso ofensivo ou com tentativa de contornar guardrails. Transformar esse tipo de cenário em gatilho para controle de exportação, defende ela, é um erro conceitual que pode prejudicar diretamente praticantes de segurança defensiva no mundo inteiro.
A posição de Moussouris ganha peso por seu histórico em debates internacionais sobre regulação. Entre 2013 e 2017, ela integrou o grupo técnico que renegociou o Acordo de Wassenaar, pacto voluntário entre 42 países que define quais softwares e tecnologias de uso dual – civil e militar – devem ser submetidos a controle de exportação. Nesse processo, o grupo ajudou a criar exceções explícitas para atividades de cibersegurança defensiva, justamente para evitar que pesquisadores, empresas e equipes de resposta a incidentes fossem criminalizados ao compartilhar amostras de malware, explorar vulnerabilidades e coordenar correções entre diferentes países.
No fim de semana, Moussouris se juntou a mais de uma centena de líderes de cibersegurança em uma carta aberta pedindo que a administração Trump revertesse a decisão sobre os modelos Fable 5 e Mythos 5 e restabelecesse o acesso para equipes de segurança. O argumento central é que, ao tirar das mãos de defensores algumas das ferramentas mais avançadas disponíveis, sem uma justificativa técnica robusta e transparente, o governo corre o risco de desequilibrar o cenário em favor de atacantes que não obedecem às mesmas regras.
Na análise da especialista, não houve bypass de guardrail nem jailbreak propriamente dito. Em termos técnicos, o modelo respondeu a um pedido legítimo, inserido em um contexto de melhoria de segurança de software. Defensores, segundo ela, precisam ser capazes de pedir a sistemas de IA que identifiquem vulnerabilidades, proponham correções, gerem patches e escrevam testes automatizados para validar se o problema foi de fato resolvido.
Esse tipo de ciclo – encontrar, corrigir e testar vulnerabilidades – é visto hoje como um dos usos mais promissores de IA aplicada à segurança defensiva. A remoção ou limitação severa dessa capacidade tende a reduzir a utilidade dos modelos para equipes de desenvolvimento e segurança que já usam IA para revisar grandes bases de código, identificar falhas conhecidas em bibliotecas de terceiros e acelerar o processo de validação de correções antes da implantação em produção.
Do ponto de vista operacional, o impacto pode ser significativo. Organizações que dependem de modelos avançados para automatizar revisão de código seguro, detectar padrões de vulnerabilidades recorrentes e gerar testes de regressão ficam repentinamente limitadas a ferramentas menos poderosas. Em alguns casos, isso pode significar mais tempo de exposição a falhas críticas, maior carga manual para equipes já sobrecarregadas e, em última instância, aumento de risco de incidentes cibernéticos.
Moussouris também chama atenção para o caráter assimétrico desse tipo de controle. Na visão dela, os Estados Unidos têm capacidade limitada para impor restrições similares a modelos de IA abertos (open‑weight) ou a sistemas avançados desenvolvidos em outros países, inclusive na China. Como diversos laboratórios internacionais correm para alcançar – ou superar – o nível de desempenho de modelos como o Mythos 5, é razoável supor que capacidades equivalentes estarão disponíveis em breve fora da esfera regulatória norte‑americana.
Esse cenário levanta uma questão estratégica: se empresas e profissionais de segurança nos EUA e em países aliados perderem acesso a ferramentas de alto nível, enquanto atores maliciosos continuam livres para explorar alternativas estrangeiras ou modelos open‑weight, a balança pode pender contra a defesa. Em outras palavras, a restrição pode ter pouco efeito prático sobre criminosos e grupos patrocinados por Estados, mas atingir diretamente aqueles que tentam proteger infraestruturas críticas, empresas e cidadãos.
O debate acontece em meio a uma escalada de preocupações sobre o papel da inteligência artificial em cibersegurança. De um lado, a IA é vista como aliada para detectar ataques mais rapidamente, automatizar resposta a incidentes e fortalecer a resiliência de sistemas. De outro, cresce o receio de que modelos avançados sejam usados para desenvolver malwares mais sofisticados, criar exploits inéditos ou industrializar campanhas de ataques.
Nesse contexto de tensão, a Anthropic e o Google já denunciaram que empresas chinesas, incluindo a DeepSeek, estariam recorrendo a ataques de destilação para treinar seus próprios modelos com base em conhecimento extraído de sistemas norte‑americanos. A destilação, nesse caso, envolve observar respostas de modelos proprietários e utilizá‑las como material de treino, na tentativa de replicar comportamentos e capacidades sem acesso direto aos pesos originais.
Para Moussouris, bloquear o acesso de defensores a modelos avançados em nome da segurança nacional, enquanto concorrentes estrangeiros potencialmente copiam essas capacidades por meios indiretos, é uma estratégia contraditória. Na prática, diz ela, o resultado pode ser um enfraquecimento da postura defensiva do lado que segue as regras, sem conseguir impedir que adversários se beneficiem de avanços semelhantes.
Ela defende que, em vez de proibições amplas baseadas em interpretações rígidas de controles de exportação, seria mais eficaz investir em diretrizes claras de uso seguro, com foco em diferenciação entre atividades ofensivas e defensivas. Modelos poderiam, por exemplo, ser configurados para recusar explicitamente pedidos para criação de exploits, ransomwares ou backdoors, mas continuar colaborando em tarefas de revisão, endurecimento de código e geração de testes.
Outro ponto levantado pela especialista é a necessidade de diálogo mais transparente entre governo, indústria de IA e comunidade de segurança. Decisões abruptas, tomadas com base em relatórios não divulgados integralmente, tendem a gerar confusão, incerteza regulatória e retração de investimentos em pesquisa aplicada à proteção de sistemas. Para ela, um caminho mais sustentável passa por consultas a especialistas independentes, avaliações de risco técnicas e publicação de critérios objetivos usados para classificar determinados usos como sensíveis.
Para empresas que hoje dependem de IA em pipelines de desenvolvimento seguro (DevSecOps), o episódio funciona como alerta. Organizações são incentivadas a diversificar suas ferramentas, avaliar riscos regulatórios relacionados a provedores específicos e desenhar planos de contingência caso modelos cruciais sejam restringidos de forma repentina. Isso inclui desde o treinamento de modelos menores com dados internos até a adoção de frameworks que permitam a troca relativamente rápida de provedores de IA sem paralisar fluxos críticos.
No plano geopolítico, episódios como o bloqueio a Fable 5 e Mythos 5 ajudam a consolidar a inteligência artificial como tema central em disputas de poder tecnológico. A forma como governos lidam com o equilíbrio entre segurança nacional, inovação e colaboração internacional em cibersegurança deve moldar, nos próximos anos, não apenas o mercado de IA, mas também a eficiência da defesa digital global.
No centro dessa discussão permanece a tese de Moussouris: se um simples comando como “corrija este código”, usado em um contexto de fortalecimento da segurança, é suficiente para disparar controles de exportação, talvez o foco da regulação esteja mal ajustado. Para ela, o verdadeiro desafio não é impedir que modelos ajudem a encontrar e corrigir vulnerabilidades, mas assegurar que essa capacidade seja direcionada, prioritariamente, para quem está do lado da defesa.