Anthropic bloqueia tentativas de uso da IA Claude em pesquisas com potencial para armas biológicas
Anthropic afirma ter bloqueado tentativas de usar seu IA Claude em pesquisas com potencial para armas biológicas; dificuldade em avaliar intenções.
Riccardo Neri 
RESUMO ✦
Sem tempo? A Lili IA resume para você
Anthropic bloqueia tentativas de uso da IA Claude em pesquisas com potencial para armas biológicas
A empresa de inteligência artificial Anthropic comunicou que, nos últimos meses, impediu vários esforços de pesquisadores para empregar versões do seu modelo Claude em atividades que poderiam estar relacionadas ao desenvolvimento de armas biológicas. O caso foi apresentado em um relatório interno sobre tentativas de mau uso dos modelos, e evidencia como a fronteira entre pesquisa legítima e risco dual-use pode ser tênue.
Guia Itália +Tradução Juramentada e Assessoria Documental na Itália
A **Pietra Global Assist** oferece assessoria documental personalizada para brasileiros e estrangeiros na Itália, com atendimento em português e acompanhamento em t…
Segundo a companhia — concorrente direta de OpenAI, criadora do ChatGPT —, os episódios bloqueados não envolviam pedidos explicítos de procedimentos laboratoriais ou protocolos técnicos sensíveis. Em vez disso, os solicitantes buscavam suporte organizacional, como auxílio na redação de pedidos de financiamento e na formatação de documentos científicos, tarefas que, à primeira vista, parecem administrativas, mas que podem facilitar projetos com finalidades perigosas.
O relatório identifica cinco casos especificamente conectados a potenciais pesquisas sobre armas biológicas. Em ao menos um deles, um pesquisador tentou usar o sistema para redigir um pedido de financiamento voltado a um estudo sobre um vírus que incluía investigação de ganho de função (gain-of-function) — abordagens laboratoriais que aumentam transmissibilidade ou patogenicidade de agentes biológicos. Estes métodos têm aplicação legítima no desenvolvimento de contramedidas e vacinas, mas também representam um vetor de risco quando empregados com intenções malévolas.
Anthropic ressaltou a dificuldade intrínseca em inferir intenções a partir de solicitações de texto: muitas linhas de pesquisa têm dupla aplicação. Além disso, a companhia observou que os pedidos vieram, em alguns casos, de cientistas localizados em regiões com acesso restrito a essas tecnologias, incluindo indivíduos vinculados a entidades públicas locais. A empresa não revelou os nomes das instituições envolvidas nem os países de origem, citando preocupações de segurança e privacidade.
Do ponto de vista técnico e regulatório, o episódio ilustra uma camada crítica da infraestrutura digital: os modelos de linguagem atuam como um tipo de alicerce digital que pode facilitar fluxos de conhecimento e financiamento, não apenas executar cálculos científicos. Assim como no sistema nervoso de uma cidade, quando sinais transitam sem a filtragem adequada podem emergir riscos sistêmicos.
Anthropic afirma que seus modelos são programados para recusar assistência que possa facilitar o desenvolvimento de agentes biológicos letais. Ainda assim, a empresa reconhece que as barreiras entre usos benignos e abusivos nem sempre são nítidas e que é necessário combinar filtros técnicos, revisão humana e cooperação internacional para mitigar os riscos.
Em síntese, o episódio é um lembrete prático: ao avançarmos na implementação de camadas de inteligência sobre nossas redes de pesquisa e financiamento, é preciso projetar mecanismos de governança que tratem tanto da tecnologia quanto do contexto sociopolítico de quem acessa essas ferramentas. A segurança biológica não é apenas um problema de laboratório, é também uma questão de arquitetura digital e de políticas públicas que regulem o fluxo de dados e de capacidades.
Guia Itália +Cidadania Italiana - Emissões ao Processo
Atuando desde 2015 com o reconhecimento da Cidadania Italiana aos Ítalo descendentes. Realizamos a emissão dos documentos necessários, retificações, traduções, apos…
