O regulador da indústria da China alertou na quarta-feira os usuários que uma “porta dos fundos de segurança” foi incorporada em uma versão da ferramenta de codificação Claude Code, da empresa de inteligência artificial norte-americana Anthropic.
De acordo com o National Vulnerability Database (NVDB), uma plataforma chinesa de segurança cibernética, o suposto backdoor poderia permitir que o software “enviasse informações confidenciais aos servidores da Anthropic sem o consentimento do usuário”, incluindo a localização do usuário e identificadores relacionados à identidade.
Claude Code é um agente de codificação de IA que pode gerar código de computador com base em solicitações do usuário, software de depuração e revisão de código.
A startup Anthropic de São Francisco bloqueou o acesso de usuários e empresas na China e em outros países que considera hostis aos seus produtos, mas eles ainda podem usar os produtos internamente por meio de VPNs e serviços de proxy de terceiros.
A NVDB, uma subsidiária do Ministério da Indústria e Tecnologia da Informação da China, anunciou recentemente em seu site que detectou que a ferramenta de codificação de IA Claude Code contém um risco de backdoor de segurança e representa uma séria ameaça.
A Anthropic não respondeu ao pedido da AFP para comentar as alegações, que surgiram pela primeira vez na mídia de tecnologia na semana passada.
O NVDB aconselhou organizações e usuários relevantes a “conduzir imediatamente verificações abrangentes” e “desinstalar ou atualizar imediatamente para a versão segura mais recente com o código backdoor associado removido”.
Também apelou às organizações para aumentarem a monitorização do tráfego de rede para evitar a divulgação não autorizada de dados sensíveis.
Na semana passada, a gigante tecnológica chinesa Alibaba disse aos funcionários que proibiria o uso do código Claude a partir de 10 de julho devido a questões de segurança, segundo pessoas familiarizadas com o assunto.
A Anthropic acusou anteriormente o Alibaba de fazer engenharia reversa de seus modelos de IA para imitar suas capacidades em um processo conhecido como “destilação”.
O engenheiro da Claude Code, Thariq Shihipar, respondeu a relatos de que a ferramenta rastreia certos dados de usuários chineses em uma postagem X na semana passada.
“Este é um experimento que iniciamos em março com o objetivo de prevenir o abuso de contas por revendedores não autorizados e proteger contra destilação”, escreveu Shihipar.
“Desde então, a equipe implementou mitigações mais fortes. Na verdade, já faz algum tempo que pretendíamos remover isso… isso deve ser completamente revertido no lançamento de amanhã.”
