Anthropic diz ter barrado tentativas de usar Claude em armas biológicas e ataques à Ucrânia

A Anthropic, desenvolvedora do chatbot Claude, divulgou nesta quinta-feira (10) um relatório de inteligência de ameaças detalhando tentativas de uso indevido de sua inteligência artificial ao longo dos últimos oito meses, que a empresa afirma ter identificado e neutralizado. Segundo o documento, um pesquisador teria usado servidores virtuais para acessar o Claude e planejar experimentos relacionados à adaptação do vírus da gripe aviária a mamíferos, num caso classificado pela empresa como risco para o desenvolvimento de armas biológicas. Operadores ligados à China, à Rússia e ao Iêmen também teriam recorrido à ferramenta para desenvolver softwares associados a mísseis, drones e bombas. Segundo Jacob Klein, chefe de inteligência de ameaças da Anthropic, "um ano atrás, se você quisesse otimizar o software de um drone ou míssil, os modelos simplesmente não seriam capazes disso". O relatório também aponta que um grupo de hackers russos usou o Claude em praticamente todas as etapas de uma campanha de ataques contra alvos governamentais, militares e diplomáticos da Ucrânia, incluindo phishing, invasão de redes wi-fi de hotéis e sequestro de contas de WhatsApp. A Anthropic associou a atuação ao grupo Midnight Blizzard, ligado ao serviço de inteligência externa da Rússia (SVR), e também identificou atividade do coletivo ShinyHunters. Outro ponto do relatório envolve laboratórios chineses que, segundo a empresa, criaram milhares de contas fraudulentas para extrair capacidades do Claude e usá-las no aprimoramento de modelos próprios. A Anthropic cita a Alibaba, que teria feito mais de 151 milhões de interações entre maio e julho para aperfeiçoar seus modelos Qwen, além de Moonshot, DeepSeek e Xiaomi. O Ministério das Relações Exteriores da China negou conhecimento das acusações e classificou o relatório como distorção de fatos. Os episódios reforçam a pressão sobre desenvolvedores de inteligência artificial quanto aos riscos de uso indevido de seus sistemas, em um momento no qual a própria Anthropic vem alertando publicamente para os riscos do avanço acelerado da tecnologia.