A Anthropic afirma ter bloqueado pesquisadores que usaram o Claude em estudos com potencial para contribuir para o desenvolvimento de armas biológicas. Os casos estão em um relatório divulgado nesta quinta-feira (10), no qual a empresa detalha usos considerados perigosos de seus modelos de inteligência artificial.
Foram identificados cinco episódios relacionados a pesquisas biológicas sensíveis, envolvendo chikungunya, gripe aviária, orthopoxvírus — família que inclui os vírus da varíola e da mpox — além de toxinas e venenos.
A expressão “armas biológicas”, porém, exige cautela. A própria Anthropic reconhece que não conseguiu determinar se os pesquisadores tinham intenção de provocar danos. Parte dos trabalhos descritos também pode ter aplicações científicas legítimas, como desenvolvimento de vacinas e medicamentos.
É justamente essa zona cinzenta que torna o relatório relevante.
O caso mais sensível
Em um dos episódios, sistemas da Anthropic bloquearam um pedido relacionado a uma proposta de pesquisa de ganho de função com o vírus da chikungunya.
Esse tipo de experimento busca alterar características de um organismo para compreender seu comportamento. Pode ajudar a antecipar mutações e desenvolver tratamentos, mas também pode produzir conhecimento capaz de tornar um patógeno mais transmissível ou resistente.
Segundo a Anthropic, o projeto estudava características associadas à transmissão do vírus e à capacidade de escapar da resposta imunológica. A empresa também destacou que o trabalho seria realizado em um instituto de pesquisa militar.
Em outro caso, um pesquisador utilizou o Claude durante semanas em estudos sobre gripe aviária e adaptação do vírus a mamíferos, com milhares de interações envolvendo planejamento, interpretação de dados e apoio à pesquisa.
A Anthropic afirma ter encerrado contas, reforçado suas barreiras de segurança e, em algumas situações, compartilhado informações com autoridades e outras empresas de inteligência artificial.
O problema não começa na intenção
O relatório expõe um problema que tende a crescer conforme os modelos se tornam mais capazes.
Uma IA capaz de ajudar um cientista a compreender como um vírus invade células também pode, em tese, ajudar alguém a explorar formas de torná-lo mais eficiente. O conhecimento é o mesmo. O que muda é a finalidade.
Isso torna os mecanismos de segurança frágeis por definição: um sistema precisa decidir se uma pergunta científica aparentemente legítima representa pesquisa médica ou risco biológico sem necessariamente conhecer a intenção de quem está do outro lado da tela.
A própria Anthropic admite que modelos mais recentes se tornaram suficientemente avançados para oferecer assistência relevante em tarefas biológicas complexas — um salto de capacidade que também amplia o potencial de uso indevido.
Empresa também é fiscal do próprio sistema
Há outro ponto menos confortável no relatório.
As informações divulgadas foram produzidas pela própria Anthropic, que desenvolve o Claude, define suas regras, identifica supostos abusos e decide quais casos serão tornados públicos. Não há, no documento, uma auditoria independente que permita verificar integralmente as conclusões da empresa.
Isso não invalida os episódios relatados, mas coloca um problema de governança: laboratórios privados de inteligência artificial estão acumulando não apenas capacidade tecnológica, mas também poder para definir quais usos da ciência são aceitáveis.
A discussão, portanto, vai além de impedir que uma IA ensine alguém a produzir uma arma biológica.
O alerta mais imediato é que sistemas avançados já estão sendo incorporados a pesquisas sensíveis, enquanto mecanismos públicos de fiscalização ainda correm atrás da tecnologia.
O relatório não prova que o Claude tenha sido usado para criar uma arma biológica. Mostra algo anterior: a fronteira entre uma ferramenta científica poderosa e uma ferramenta potencialmente perigosa está ficando mais difícil de enxergar — e, por enquanto, são as próprias empresas de IA que estão desenhando essa linha.
