Anthropic detecta uso do Claude em pesquisas biológicas com possível aplicação em armas
A Anthropic identificou cinco episódios nos quais seus modelos Claude foram empregados em pesquisas biológicas consideradas capazes de contribuir, direta ou indiretamente, para o desenvolvimento de armas. Os casos envolveram estudos sobre chikungunya, influenza aviária, orthopoxvírus, peptídeos de veneno e toxinas.
A empresa, porém, ressaltou que não conseguiu comprovar a intenção de transformar essas pesquisas em armamento. Os episódios foram descritos em um relatório de inteligência contra ameaças que analisou diferentes formas de uso indevido dos modelos entre dezembro de 2025 e agosto de 2026. Como resposta, a Anthropic bloqueou pedidos específicos e suspendeu contas associadas às atividades.
Pesquisa com chikungunya foi considerada o caso mais sensível
O episódio mais preocupante envolveu uma proposta financiada por um Estado para realizar pesquisas de ganho de função com o vírus chikungunya. De acordo com a empresa, o projeto estaria ligado a um instituto militar e buscava identificar mutações que poderiam tornar o vírus transmitido por mosquitos mais nocivo.
Esse tipo de investigação é classificado como pesquisa de uso dual. Embora possa aumentar riscos de uso malicioso, também pode ajudar no desenvolvimento de vacinas, terapias, métodos de diagnóstico e estratégias de controle epidemiológico. Por esse motivo, a simples existência de um estudo sobre mutações virais não é suficiente para provar a intenção de produzir uma arma biológica.
A investigação indicou que o projeto teria avançado além da fase de planejamento. Em uma etapa posterior, o Claude foi utilizado para auxiliar na edição e organização de resultados produzidos pelos pesquisadores. Mesmo assim, a Anthropic não classificou o caso como um programa confirmado de armas biológicas, pois não encontrou evidências conclusivas sobre a finalidade final do trabalho.
Tentativas de contornar os bloqueios
Os investigadores também encontraram indícios de que alguns usuários tentaram driblar as barreiras de segurança da plataforma. Entre as estratégias identificadas estavam o uso de serviços intermediários, o encaminhamento do tráfego por servidores localizados nos Estados Unidos, a contratação de revendedores do mercado paralelo e a criação de contas sintéticas.
Em determinadas situações, quando uma solicitação relacionada à biologia era recusada, o pedido era encaminhado para outro modelo com políticas menos rígidas. Esse comportamento expõe uma fragilidade importante em sistemas que reúnem diferentes provedores de inteligência artificial em uma única interface.
Na prática, o usuário pode fazer uma pergunta em uma aplicação agregadora e receber automaticamente uma resposta de outro modelo caso o primeiro bloqueie a solicitação. Dessa forma, uma política de segurança bem estruturada em determinado serviço pode perder eficácia quando a arquitetura do produto permite a migração automática para plataformas com controles diferentes.
Outros estudos envolveram influenza e orthopoxvírus
Outro caso acompanhado pela Anthropic envolveu várias semanas de planejamento de experimentos relacionados à influenza aviária. A empresa não divulgou detalhes técnicos capazes de ampliar os riscos, nem informou os nomes dos pesquisadores, instituições ou países envolvidos.
Em uma ocorrência separada, o modelo Claude Opus 5 foi utilizado na preparação de um pedido de financiamento sobre mecanismos de evasão do sistema imunológico por orthopoxvírus. Também foram detectados usos relacionados a peptídeos de veneno e toxinas, áreas que podem ter aplicações médicas legítimas, mas que exigem controles adicionais quando combinadas com determinadas características experimentais.
A ausência de informações sobre os envolvidos impede uma avaliação independente sobre a finalidade dos projetos. Segundo a Anthropic, a decisão de não divulgar identidades busca evitar exposição indevida e reduzir o risco de que detalhes operacionais sejam usados para reproduzir as atividades.
Modelos mais avançados ampliam o desafio
A empresa afirma que versões anteriores do Claude estavam muito abaixo do nível necessário para oferecer assistência relevante a pesquisadores sofisticados envolvidos em trabalhos biológicos perigosos. Com a evolução dos modelos, contudo, essa avaliação mudou.
Sistemas mais recentes conseguem organizar literatura técnica, sugerir caminhos experimentais, comparar hipóteses, revisar textos científicos e ajudar na estruturação de propostas de financiamento. Essas capacidades podem acelerar descobertas importantes, mas também reduzem o tempo e o conhecimento necessários para executar pesquisas sensíveis.
Por isso, a Anthropic reforçou as proteções aplicadas a consultas relacionadas à biologia de uso dual. A empresa passou a considerar não apenas o conteúdo explícito de cada pergunta, mas também o contexto formado pelo histórico de interações, pela repetição de pedidos e pelas tentativas de manipular os mecanismos de segurança.
Por que bloquear uma pergunta isolada não é suficiente
A análise demonstra que é difícil avaliar riscos observando apenas uma solicitação. Perguntas sobre características de vírus, mecanismos de mutação ou resposta imunológica podem fazer parte de um estudo legítimo ou, em outro contexto, contribuir para aumentar a capacidade de um patógeno.
Por esse motivo, sistemas de proteção precisam combinar diferentes sinais. Entre os indicadores relevantes estão a insistência após recusas, a tentativa de reformular uma solicitação para evitar filtros, o uso de múltiplas contas, a localização declarada, o roteamento por serviços de terceiros e a ocultação da identidade ou da origem do acesso.
A análise comportamental também pode ajudar a diferenciar uma consulta acadêmica comum de um processo deliberado de escalada. Um usuário que começa com perguntas gerais e, ao longo do tempo, passa a solicitar detalhes cada vez mais específicos pode representar um risco maior do que alguém que busca apenas uma explicação introdutória.
A importância da cooperação entre empresas
O problema não pode ser resolvido por uma única companhia. Plataformas de IA, provedores de nuvem, laboratórios, instituições de pesquisa e autoridades reguladoras precisam compartilhar sinais de abuso, respeitando as exigências legais e a proteção de dados.
Sem cooperação, um usuário banido em um serviço pode simplesmente migrar para outro provedor. A criação de padrões comuns para classificação de riscos, autenticação de usuários e resposta a incidentes poderia reduzir esse tipo de migração oportunista.
Também é necessário aprimorar os mecanismos de verificação aplicados a contas envolvidas em pesquisas sensíveis. Isso não significa impedir o acesso de pesquisadores legítimos, mas estabelecer níveis proporcionais de controle, especialmente quando há pedidos que combinam planejamento experimental, agentes patogênicos e métodos para superar barreiras de segurança.
O equilíbrio entre segurança e pesquisa científica
A Anthropic enfrenta um dilema semelhante ao de outras empresas que desenvolvem modelos avançados: proteger a sociedade sem inviabilizar o uso científico da tecnologia. Bloqueios excessivamente amplos podem prejudicar pesquisadores que trabalham com prevenção de epidemias, desenvolvimento de vacinas e resposta a emergências sanitárias.
Por outro lado, controles muito permissivos podem facilitar o acesso a orientações capazes de acelerar atividades perigosas. A solução depende de avaliações graduais, nas quais a resposta do sistema varia conforme o risco, o contexto e o nível de detalhe solicitado.
Medidas como revisão humana, autenticação institucional, registro de atividades e limitação de determinados recursos podem ser mais eficientes do que a simples proibição de palavras-chave. Esse modelo permite preservar usos legítimos, ao mesmo tempo que dificulta a obtenção de instruções operacionais sensíveis.
Os casos identificados pela Anthropic ilustram um dos maiores desafios da inteligência artificial aplicada à ciência. À medida que os modelos se tornam mais capazes de compreender e produzir conhecimento especializado, cresce também a necessidade de avaliar como, por quem e em que contexto eles são utilizados.
A existência de pesquisas com possível aplicação militar não prova, por si só, a intenção de criar armas biológicas. No entanto, tentativas de ocultar a origem do acesso, contornar bloqueios e alternar entre modelos com diferentes níveis de controle representam sinais que não podem ser ignorados. O desafio será construir mecanismos capazes de reconhecer esses padrões sem transformar toda pesquisa biológica avançada em atividade suspeita.