A Anthropic identificou cinco casos em que seu modelo de inteligência artificial Claude foi utilizado em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas. Os casos fazem parte de um relatório de inteligência sobre o uso indevido de seus sistemas, divulgado pela empresa em setembro de 2026.
Segundo a Anthropic, as atividades foram detectadas e interrompidas entre dezembro de 2025 e agosto de 2026. A empresa afirma que bloqueou contas associadas às operações e utilizou as informações obtidas nas investigações para aprimorar seus mecanismos de proteção.
Claude e o desafio do uso dual
Um dos principais pontos destacados pela Anthropic é o chamado uso dual da inteligência artificial.
A mesma tecnologia que pode auxiliar pesquisadores em áreas como desenvolvimento de medicamentos, análise de dados e pesquisa científica também pode, em determinadas circunstâncias, ser utilizada para finalidades prejudiciais.
A empresa afirma que essa característica torna especialmente difícil distinguir automaticamente uma pesquisa legítima de uma atividade que possa contribuir para o desenvolvimento de agentes biológicos perigosos.
Cinco casos identificados pela Anthropic
O relatório apresenta cinco estudos de caso relacionados ao uso de Claude em pesquisas biológicas potencialmente perigosas.
Em um deles, pesquisadores tentaram utilizar uma plataforma intermediária para contornar restrições regionais e obter assistência em pesquisas relacionadas ao vírus chikungunya.
Outro caso envolveu pesquisas sobre influenza aviária altamente patogênica e sua adaptação a mamíferos. De acordo com a Anthropic, os mecanismos de segurança limitaram esse trabalho a modelos menos capazes, reduzindo o nível de assistência que o sistema poderia fornecer.
Os demais casos envolveram pesquisas computacionais relacionadas a toxinas e proteínas que podem apresentar características de uso dual.
A Anthropic ressalta que não está afirmando que todos os pesquisadores identificados tinham intenção de causar danos. A própria empresa destaca que alguns trabalhos científicos podem ter aplicações legítimas, tornando a avaliação de risco mais complexa.
IA começa a entrar no radar da segurança biológica
A revelação acontece em um momento de aumento da preocupação internacional sobre a utilização de sistemas avançados de IA em atividades científicas de alto risco.
A preocupação não está apenas na possibilidade de um modelo fornecer uma resposta diretamente perigosa. Segundo a Anthropic, sistemas cada vez mais capazes podem auxiliar em tarefas como análise de dados, planejamento de pesquisas e organização de informações científicas.
Essa capacidade pode reduzir o tempo necessário para determinadas etapas de trabalhos altamente especializados.
A Reuters também informou que a Anthropic identificou tentativas de utilização do Claude em pesquisas envolvendo chikungunya, influenza aviária e outros agentes biológicos, além de atividades relacionadas a armas convencionais, operações cibernéticas e vigilância.
Anthropic reforça barreiras de segurança
A empresa afirma que os modelos mais recentes receberam mecanismos de proteção mais rigorosos para consultas relacionadas a pesquisas biológicas de uso dual.
Segundo a Anthropic, modelos anteriores já apresentavam limitações para auxiliar diretamente em pesquisas perigosas, mas a evolução das capacidades dos sistemas levou a empresa a ampliar as restrições.
O relatório também aponta que os mecanismos de segurança não podem depender exclusivamente da análise de uma única solicitação. Usuários sofisticados podem dividir atividades complexas em várias interações ou tentar ocultar o objetivo final de uma pesquisa.
O novo desafio para a inteligência artificial
O caso amplia uma discussão que vai além da segurança digital.
À medida que modelos de IA passam a atuar em programação, engenharia, ciência e análise de dados, o debate sobre segurança também precisa considerar áreas como biotecnologia, química, defesa e pesquisa científica.
O relatório da Anthropic afirma que os casos identificados não representam necessariamente o uso típico da plataforma, mas exemplos de atividades consideradas especialmente relevantes para compreender como o risco pode evoluir conforme os modelos se tornam mais capazes.
A questão central passa a ser como permitir que a inteligência artificial acelere pesquisas científicas legítimas sem ampliar, na mesma proporção, o acesso a capacidades que possam ser utilizadas para causar danos.
BOX DE ATUALIZAÇÃO
Atualização — setembro de 2026
A Anthropic informou que identificou e interrompeu operações envolvendo uso indevido do Claude em sete categorias de risco: operações cibernéticas, influência, vigilância, fraudes, uso biológico indevido, desenvolvimento de armas convencionais e destilação ilícita de modelos.
A empresa afirma que as contas relacionadas aos casos foram bloqueadas e que as descobertas foram incorporadas aos seus mecanismos de segurança.
FAQ — Perguntas frequentes
O Claude foi utilizado para criar armas biológicas?
A Anthropic identificou cinco casos em que o Claude foi utilizado em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas. A empresa não afirma que uma arma biológica tenha sido produzida a partir dessas atividades.
Que tipos de pesquisas foram identificadas?
Entre os casos estão pesquisas relacionadas ao chikungunya, influenza aviária e trabalhos computacionais envolvendo toxinas e proteínas de uso dual.
A Anthropic bloqueou os usuários envolvidos?
Segundo a empresa, contas associadas às atividades identificadas foram bloqueadas e as informações obtidas durante as investigações foram utilizadas para fortalecer os sistemas de proteção.
Por que esse caso é importante para a segurança da IA?
Porque demonstra que sistemas avançados podem ser utilizados em áreas científicas de uso dual, nas quais a mesma informação pode ter aplicações legítimas ou potencialmente perigosas.
A IA já consegue desenvolver armas biológicas sozinha?
Os casos apresentados pela Anthropic não demonstram que o Claude tenha desenvolvido autonomamente uma arma biológica. O relatório descreve o uso do modelo como ferramenta de assistência em atividades de pesquisa e planejamento.
Fontes pesquisadas
