Grupo no Iêmen usou Claude em projetos de armas, diz Anthropic

A Anthropic afirma ter identificado e bloqueado uma célula que usava Claude no Iêmen para apoiar três programas de desenvolvimento de armas. Segundo o relatório de ameaças publicado pela empresa na quinta-feira (10), o grupo baseado no norte do país trabalhava em um foguete guiado, um míssil balístico de vários estágios e uma família de mísseis que incluía uma variante com veículo planador hipersônico.

O ponto mais sensível do caso é o papel atribuído ao Claude Code. A Anthropic afirma que os operadores trataram a ferramenta como uma força de engenharia de software, mantendo diferentes instâncias do assistente para programação, pesquisa e revisão. O Claude Code é o agente de programação da companhia e também aparece no comparativo entre ChatGPT e Claude publicado pelo Overdrive.

A companhia diz que não encontrou evidência de que uma arma operacional tenha sido colocada em campo. Houve, porém, um teste real de um foguete guiado. Pela avaliação da Anthropic, o lançamento aparentemente falhou e os operadores voltaram ao Claude poucas horas depois para investigar o problema.

Como o grupo usou Claude no Iêmen apesar dos bloqueios

Os sistemas de segurança da Anthropic bloquearam muitas das solicitações, mas não todas. O relatório diz que os operadores escondiam o objetivo final de determinadas tarefas e dividiam o trabalho entre sessões diferentes. A empresa afirma que baniu as contas associadas à operação, compartilhou informações com parceiros dos setores público e privado e incorporou o caso aos seus mecanismos de defesa.

A companhia também implantou novos classificadores voltados a tráfego relacionado ao desenvolvimento de armas. Em pesquisa publicada junto ao relatório, a equipe Frontier Red Team da Anthropic concluiu que modelos de ponta já conseguem executar algumas tarefas simuladas de inteligência e engenharia militar que historicamente dependiam de especialistas humanos altamente treinados. À Reuters, o chefe de inteligência de ameaças da empresa, Jacob Klein, também apontou que a capacidade dos modelos para tarefas envolvendo software de drones e mísseis avançou em relação ao ano anterior.

Há uma ressalva importante sobre a autoria. O relatório público não identifica a célula pelo nome nem a atribui aos Houthis, descrevendo os responsáveis apenas como atores baseados no norte do Iêmen. As conclusões sobre o episódio vêm da investigação interna da própria Anthropic, e o documento público não apresenta uma verificação técnica independente do caso.

O episódio integra seis operações relacionadas a armas convencionais descritas pela empresa, sendo três associadas à China, duas à Rússia e uma ao Iêmen. A cobertura de inteligência artificial do Overdrive acompanha outros casos de segurança e uso dos principais modelos. Segundo a Anthropic, os novos classificadores criados após essas investigações já foram incorporados às salvaguardas da plataforma.