Factbox-How Anthropic says Claude was used for weapons, spying and cyber operations

Sept 11 (Reuters) - Anthropic said in a threat intelligence report on Thursday that several actors had used its Claude AI models for activities ranging from weapons development and cyber operations to surveillance and fraud.

Here are some of the most notable cases described in the report as alleged by Anthropic.

• CHINA-TAIWAN AIR DEFENSES: Anthropic said a China-based actor used Claude to develop an electronic-warfare and air-defense suppression software suite that ranked targets and modeled radar jamming. During the project, the actor changed a simulation to include 12 targets in Taiwan, including early-warning radar, Patriot and Tien Kung missile batteries, air bases and a command bunker. Anthropic said account information linked the actor to Chinese research institutions including the People’s Liberation Army Academy of Military Sciences. Anthropic banned accounts linked to the actor.

China’s foreign ministry said it was not aware of the Anthropic report and that the government maintains that AI should be developed for good and opposes distortion of facts and smears against the country.

China claims democratically governed Taiwan as its own territory and has never renounced the use of force to bring the island under its control. Taiwan rejects Beijing’s sovereignty claims.

• CHINA ANTI-TORPEDO SYSTEM: Anthropic said another China-based actor used Claude to help develop specifications and fire-control software for an anti-torpedo system intended for the Chinese navy. The actor used Claude to produce a technical proposal of more than 200 pages, compare the system with U.S. Navy technology and simulate hostile technical reviews to improve the proposal. “We assess the actor was associated with a Chinese defense industry manufacturer aiming to produce a weapons specification and acquisition proposal for the People’s Liberation Army Navy,” Anthropic said.

• CHINESE RESEARCH INTO MICROWAVE WEAPONS: A China-based defense-intelligence actor used Claude to research foreign high-power microwave weapons, identify components and suppliers and trace supply chains, Anthropic said. The actor sought information that could help reverse-engineer the weapons and develop countermeasures, and drafted restricted briefings for senior Chinese Communist Party, military or state-security officials, the company said.

• YEMEN MISSILE DEVELOPMENT: Anthropic said a cell of threat actors in northern Yemen used Claude to help develop software for a guided rocket, a planned ballistic missile with a range of more than 2,000 km and a missile variant incorporating a hypersonic glide vehicle. The actors used Claude for coding, simulation and troubleshooting, including after a guided-rocket test appeared to fail. Anthropic said it had no evidence they successfully fielded an operational weapon. “Our safeguards blocked many of their requests, but not all of them,” Anthropic said.

The disclosure comes as the Iran-aligned Houthis, who control most of northern Yemen, have intensified attacks on Saudi Arabia and its energy infrastructure. The Anthropic report did not identify whether or not the threat actors were Houthis.

• RUSSIAN DRONE SWARM: Anthropic said likely freelance Russia-based actors used Claude to develop software for an autonomous swarm of first-person-view attack drones, including terminal guidance, target selection and coordination between multiple aircraft.

Small FPV attack drones have become a central weapon in the war in Ukraine, where Russia and Ukraine have deployed them on a vast scale for reconnaissance and strikes.

The Russian Embassy in Washington did not respond to questions specific allegations made by Anthropic or the report overall.

• RUSSIA DUAL-USE COMPONENT PROCUREMENT: Anthropic said a Russia-based procurement manager used Claude to identify intermediaries in China and Hong Kong to acquire European-made goods with potential military uses and work out routes through third countries that could obscure their destination.Items sought included German-made magnetometers, space-grade photovoltaic wafers and aviation oxygen systems, Anthropic said. Russia has increasingly relied on intermediaries and alternative trade routes to obtain foreign technology since Western countries imposed sweeping sanctions and export restrictions following its invasion of Ukraine.

Anthropic detailed five case studies of people attempting to use “our models in ways that could support biological weapons development.”

The attempts included efforts to get Claude assistance on drafting a grant application for funding research on modifying the chikungunya virus in a location where Anthropic does not offer its services. In another case, also in a location where the company does not operate — requiring users to obfuscate their location to utilize the services — Anthropic said it detected efforts to research highly pathogenic avian influenza. Other examples included research related to orthopoxvirus and non-transmissible novel venoms and toxins, Anthropic said.

• CHINA CYBER OPERATIONS: Anthropic said Chinese-speaking operators likely based in Changsha, the capital of central China’s Hunan province, used Claude in cyber operations against 50 organizations, including foreign government networks.The group, which Anthropic said included two university students in Hunan, used AI-driven workflows to for previously unknown software vulnerabilities, develop exploits and conduct parts of intrusions with limited human supervision.

• RUSSIA INTELLIGENCE COLLECTION SUPPORT: One hacking group allegedly ran phishing, hotel Wi-Fi hijacking and WhatsApp-takeover operations against targets in the Ukrainian government, military and diplomatic sectors, using AI at nearly every stage, Anthropic said.The group’s tradecraft was consistent with Russia-based threat actor Midnight Blizzard, which the U.S. government has previously linked to Russia’s SVR foreign intelligence service.

• IRANIAN NAVAL RECONNAISSANCE: Anthropic said it identified and disrupted an Iranian-linked operator that used Claude to collect and analyze publicly accessible data to develop targeting recommendations against U.S. naval forces in the region. The compiled material included a roster of U.S. personnel scraped from captions on public military photographs, publicly accessible ship and aircraft transponder identifiers, and commercial satellite-imagery query scripts.

The operator also directed Claude to compile software vulnerability research on shipboard systems related to ship satellite and other communication equipment and industrial control products.

• UYGHUR RECRUITMENT IN SYRIA: Anthropic said a China-aligned actor used Claude to track and approach Uyghurs in Syria, including people assessed as financially or personally vulnerable, and offer payment for information Uyghur units that had joined Syria’s newly formed army.Beijing regards Uyghur armed groups abroad as terrorist organizations and has long cited militancy as justification for security policies targeting the predominantly Muslim ethnic group. Anthropic assessed with low confidence that the operator was a contractor working for Chinese state security.

• CHINESE RELIGIOUS AND POLITICAL SURVEILLANCE: Anthropic said China-linked actors used Claude to compile intelligence on targets including Catholic cardinals, Taiwanese Christian leaders, Tibetan Buddhists, dissidents and activists.

In a separate operation, Claude was used to automate government-style reports monitoring Uyghurs, Tibetans, Taiwan political figures, labor and student activists and foreign media, Anthropic said.

China tightly controls organized religion and political dissent and has been accused by Western governments and rights groups of conducting surveillance and pressure campaigns against critics overseas. Beijing has rejected accusations of transnational repression.

• COMMERCIAL SURVEILLANCE AS A SERVICE: Anthropic said it banned an account that used Claude to build a commercial surveillance platform to analyze, classify and profile social media activity of users in Iran and the Gulf region. Anthropic said its findings corroborate a February 2023 investigation by journalism network Forbidden Stories that documented a service pitched by a company called S2T Unlocking Cyberspace.

Anthropic said it identified the activity in its pilot stage and found no evidence that later stages of the company’s surveillance chain were used against real targets before the account was banned. S2T did not immediately respond to a request for .

• IRANIAN PROFILING OF ISRAELI AND JEWISH DIASPORA ORGANIZATIONS: Anthropic said it identified an Iranian-linked operator that used Claude to build an automated, open-source intelligence identity-profiling system targeting Israeli governmental and non-governmental individuals, as well as Jewish diaspora organizations. In one workstream, the company said, the operator ran the program against a pre-existing target list. The operator also sought to generate open-source intelligence products Israeli and U.S. people, Anthropic said.

• IRANIAN DOMESTIC SURVEILLANCE: Anthropic said it identified and banned 16 Claude accounts operated by two linked units associated with unidentified Iranian paramilitary and domestic security agencies. One of the organizations, which Anthropic described as a seven-department organization with offices across Iran’s provinces, claimed to maintain an identity-record database of Iranian nationals. The other used Claude to work on a malicious browser extension used to mass-harvest user identities from major social network platforms.

A request for sent to the Iranian government’s representatives at the United Nations in New York was not immediately returned.

• MALI COMMUNICATIONS SURVEILLANCE: Anthropic said Claude was used as the main engineering tool for a domestic surveillance platform built for Mali’s state intelligence service that could monitor data associated with 25 million SIM cards across the country’s three mobile operators. The company said the system, called Lakana 360, appeared to have been developed largely by a single consultant working with Mali’s National State Security Agency.

A request for sent to the office of the prime minister of Mali was not immediately returned.

POLITICAL TARGETING, INFLUENCE OPERATIONS

CAMPAIGN AND PARTY TARGETING: Anthropic said it observed a French-speaking actor using Claude to target 42 European political parties, media, think-tanks and software-as-a-service providers used by those organizations.

The operator’s system stole data and login credentials for various services, and compiled a “purpose-built doxxing platform” that could be used to gather and expose various information on numerous people.

AI-DRIVEN DATING APPS: Anthropic said a China-based operation developed more than 20 dating apps containing over 4,700 AI personas that interacted with at least 25,000 users.

The operation combined automated personas with paid human workers to persuade users that the profiles were genuine, the company said.

(Reporting by Eduardo Baptista and AJ Vicens in Detroit, Editing by Rosalba O’Brien)

Di Eduardo Baptista e AJ Vicens

11 settembre (Reuters) - Anthropic ha affermato giovedì in un rapporto sull’intelligence delle minacce che diversi soggetti hanno utilizzato i suoi modelli di intelligenza artificiale Claude per attività che vanno dallo sviluppo di armi e operazioni informatiche alla sorveglianza e alle frodi.

Ecco alcuni dei casi più rilevanti descritti nel rapporto, secondo quanto sostenuto da Anthropic.

• DIFESE AEREE CINA-TAIWAN: Anthropic ha affermato che un attore con sede in Cina ha utilizzato Claude per sviluppare una suite di software per la guerra elettronica e la soppressione delle difese aeree, in grado di classificare gli obiettivi e modellare le interferenze radar. Nel corso del progetto, l’attore ha modificato una simulazione per includere 12 obiettivi a Taiwan, tra cui un radar di allerta precoce, batterie di missili Patriot e Tien Kung, basi aeree e un bunker di comando. Anthropic ha affermato che le informazioni relative all’account collegavano l’attore a istituti di ricerca cinesi, tra cui l’Accademia delle Scienze Militari dell’Esercito Popolare di Liberazione. Anthropic ha bloccato gli account collegati a tale attore.

Il ministero degli Esteri cinese ha dichiarato di non essere a conoscenza del rapporto di Anthropic e che il governo sostiene che l’intelligenza artificiale debba essere sviluppata per scopi positivi e si oppone alla distorsione dei fatti e alle campagne diffamatorie contro il paese.

La Cina rivendica Taiwan, governata democraticamente, come proprio territorio e non ha mai rinunciato all’uso della forza per portare l’isola sotto il proprio controllo. Taiwan respinge le rivendicazioni di sovranità di Pechino.

• SISTEMA ANTI-TORPEDO CINESE: Anthropic ha affermato che un altro attore con sede in Cina ha utilizzato Claude per contribuire allo sviluppo delle specifiche e del software di controllo del fuoco per un sistema anti-siluro destinato alla marina cinese. L’attore ha utilizzato Claude per produrre una proposta tecnica di oltre 200 pagine, confrontare il sistema con la tecnologia della Marina degli Stati Uniti e simulare revisioni tecniche ostili al fine di migliorare la proposta. «Riteniamo che l’attore fosse associato a un produttore dell’industria della difesa cinese con l’obiettivo di elaborare una specifica per le armi e una proposta di acquisizione per la Marina dell’Esercito Popolare di Liberazione», ha affermato Anthropic.

• RICERCA CINESE SULLE ARMI A MICROONDE: Un attore del settore dell’intelligence per la difesa con sede in Cina ha utilizzato Claude per effettuare ricerche sulle armi a microonde ad alta potenza straniere, identificare componenti e fornitori e tracciare le catene di approvvigionamento, ha affermato Anthropic. L’attore ha cercato informazioni che potessero aiutare a decodificare le armi e a sviluppare contromisure, e ha redatto briefing riservati per alti funzionari del Partito Comunista Cinese, dell’esercito o della sicurezza di Stato, ha affermato l’azienda.

• SVILUPPO DI MISSILI NELLO YEMEN: Anthropic ha affermato che una cellula di attori malintenzionati nel nord dello Yemen ha utilizzato Claude per contribuire allo sviluppo di software per un razzo guidato, un missile balistico in fase di progettazione con una gittata di oltre 2.000 km e una variante di missile che incorpora un veicolo planante ipersonico. Gli autori hanno utilizzato Claude per la programmazione, la simulazione e la risoluzione dei problemi, anche dopo che un test sul razzo guidato sembrava essere fallito. Anthropic ha dichiarato di non avere prove che abbiano effettivamente messo in campo un’arma operativa. “I nostri sistemi di protezione hanno bloccato molte delle loro richieste, ma non tutte”, ha affermato Anthropic.

La rivelazione arriva mentre gli Houthi, allineati con l’Iran e che controllano gran parte dello Yemen settentrionale, hanno intensificato gli attacchi contro l’Arabia Saudita e le sue infrastrutture energetiche. Il rapporto di Anthropic non ha specificato se gli autori della minaccia fossero o meno gli Houthi.

• SCIAME DI DRONI RUSSI: Anthropic ha affermato che probabili attori indipendenti con base in Russia hanno utilizzato Claude per sviluppare software destinato a uno sciame autonomo di droni d’attacco con visuale in prima persona, comprendente la guida terminale, la selezione dei bersagli e il coordinamento tra più velivoli.

I piccoli droni d’attacco con visuale in prima persona (FPV) sono diventati un’arma fondamentale nella guerra in Ucraina, dove sia la Russia che l’Ucraina li hanno impiegati su vasta scala per ricognizioni e attacchi.

L’Ambasciata russa a Washington non ha risposto alle domande relative alle accuse specifiche mosse da Anthropic né al rapporto nel suo complesso.

• APPROVVIGIONAMENTO DI COMPONENTI A DOPPIO USO DA PARTE DELLA RUSSIA: Anthropic ha affermato che un responsabile degli acquisti con sede in Russia ha utilizzato Claude per identificare intermediari in Cina e a Hong Kong al fine di acquisire beni di fabbricazione europea con potenziali usi militari e per elaborare percorsi attraverso paesi terzi in grado di nasconderne la destinazione.Tra gli articoli ricercati figuravano magnetometri di fabbricazione tedesca, wafer fotovoltaici di grado spaziale e sistemi di ossigenazione per l’aviazione, ha affermato Anthropic. La Russia ha fatto sempre più affidamento su intermediari e rotte commerciali alternative per ottenere tecnologia straniera da quando i paesi occidentali hanno imposto sanzioni di ampia portata e restrizioni alle esportazioni a seguito della sua invasione dell’Ucraina.

Anthropic ha illustrato in dettaglio cinque casi studio di persone che hanno tentato di utilizzare «i nostri modelli in modi che potrebbero favorire lo sviluppo di armi biologiche».

Tra questi tentativi figuravano iniziative volte a ottenere l’assistenza di Claude nella stesura di una domanda di sovvenzione per finanziare la ricerca sulla modificazione del virus della chikungunya in una località in cui Anthropic non offre i propri servizi. In un altro caso, sempre in una località in cui l’azienda non opera — il che richiede agli utenti di nascondere la propria posizione per utilizzare i servizi — Anthropic ha dichiarato di aver rilevato tentativi di ricerca sull’influenza aviaria altamente patogena. Altri esempi includevano ricerche relative all’ortopoxvirus e a nuovi veleni e tossine non trasmissibili, ha affermato Anthropic.

OPERAZIONI CIBERNETICHE

• OPERAZIONI CIBERNETICHE IN CINA: Anthropic ha affermato che operatori di lingua cinese, probabilmente con base a Changsha, capitale della provincia di Hunan nella Cina centrale, hanno utilizzato Claude in operazioni cibernetiche contro circa 50 organizzazioni, comprese reti governative straniere.Il gruppo, che secondo Anthropic comprendeva due studenti universitari dell’Hunan, ha utilizzato flussi di lavoro basati sull’intelligenza artificiale per individuare vulnerabilità software precedentemente sconosciute, sviluppare exploit e condurre parti delle intrusioni con una supervisione umana limitata.

• SUPPORTO ALLA RACCOLTA DI INFORMAZIONI DA PARTE DELLA RUSSIA: Secondo Anthropic, un gruppo di hacker avrebbe condotto operazioni di phishing, di dirottamento delle reti Wi-Fi degli hotel e di presa di controllo di account WhatsApp contro obiettivi nei settori governativo, militare e diplomatico ucraini, utilizzando l’intelligenza artificiale in quasi ogni fase.Le tecniche operative del gruppo erano coerenti con quelle dell’attore di minaccia con base in Russia Midnight Blizzard, che il governo statunitense ha precedentemente collegato al servizio di intelligence estero russo SVR.

• RICOGNIZIONE NAVALE IRANIANA: Anthropic ha dichiarato di aver identificato e neutralizzato un operatore legato all’Iran che utilizzava Claude per raccogliere e analizzare dati accessibili al pubblico al fine di elaborare raccomandazioni sui bersagli da colpire contro le forze navali statunitensi nella regione. Il materiale raccolto comprendeva un elenco di personale statunitense ricavato dalle didascalie di fotografie militari pubbliche, identificativi di transponder di navi e velivoli accessibili al pubblico e script di ricerca su immagini satellitari commerciali.

L’operatore ha inoltre incaricato Claude di raccogliere ricerche sulle vulnerabilità software dei sistemi di bordo relativi alle apparecchiature satellitari e di comunicazione delle navi, nonché ai prodotti di controllo industriale.

• RECLUTAMENTO DI UIGURI IN SIRIA: Anthropic ha affermato che un attore allineato alla Cina ha utilizzato Claude per rintracciare e avvicinare gli uiguri in Siria, comprese le persone ritenute vulnerabili dal punto di vista finanziario o personale, e per offrire un compenso in cambio di informazioni sulle unità uigure che si erano unite al nuovo esercito siriano.Pechino considera i gruppi armati uiguri all’estero come organizzazioni terroristiche e da tempo cita il militante come giustificazione per le politiche di sicurezza rivolte a questo gruppo etnico a maggioranza musulmana. Anthropic ha valutato, con un grado di confidenza basso, che l’operatore fosse un appaltatore al servizio della sicurezza di Stato cinese.

• SORVEGLIANZA RELIGIOSA E POLITICA CINESE: Anthropic ha affermato che soggetti legati alla Cina hanno utilizzato Claude per raccogliere informazioni su obiettivi quali cardinali cattolici, leader cristiani taiwanesi, buddisti tibetani, dissidenti e attivisti.

In un’operazione separata, Claude è stato utilizzato per automatizzare rapporti in stile governativo volti a monitorare uiguri, tibetani, personalità politiche di Taiwan, attivisti sindacali e studenteschi e media stranieri, ha affermato Anthropic.

La Cina controlla rigorosamente la religione organizzata e il dissenso politico ed è stata accusata dai governi occidentali e dalle organizzazioni per i diritti umani di condurre campagne di sorveglianza e di pressione contro i critici all’estero. Pechino ha respinto le accuse di repressione transnazionale.

• SORVEGLIANZA COMMERCIALE COME SERVIZIO: Anthropic ha dichiarato di aver bannato un account che utilizzava Claude per creare una piattaforma di sorveglianza commerciale volta ad analizzare, classificare e tracciare il profilo delle attività sui social media di utenti in Iran e nella regione del Golfo. Anthropic ha affermato che le sue scoperte confermano un’indagine del febbraio 2023 condotta dalla rete giornalistica Forbidden Stories, che ha documentato un servizio proposto da una società chiamata S2T Unlocking Cyberspace.

Anthropic ha dichiarato di aver identificato l’attività nella sua fase pilota e di non aver trovato prove che le fasi successive della catena di sorveglianza dell’azienda fossero state utilizzate contro obiettivi reali prima che l’account venisse bloccato. S2T non ha risposto immediatamente a una richiesta di commento.

• PROFILAZIONE IRANIANA DI ORGANIZZAZIONI ISRAELIANE E DELLA DIASPORA EBRAICA: Anthropic ha dichiarato di aver identificato un operatore legato all’Iran che utilizzava Claude per costruire un sistema automatizzato di profilazione delle identità basato sull’intelligence open source, mirato a individui israeliani appartenenti al settore governativo e non governativo, nonché a organizzazioni della diaspora ebraica. In un filone di attività, ha affermato l’azienda, l’operatore ha eseguito il programma su un elenco di obiettivi preesistente. L’operatore ha inoltre cercato di generare prodotti di intelligence open source su cittadini israeliani e statunitensi, ha affermato Anthropic.

• SORVEGLIANZA INTERNA IRANIANA: Anthropic ha dichiarato di aver identificato e bannato 16 account Claude gestiti da due unità collegate, associate ad agenzie paramilitari e di sicurezza interna iraniane non identificate. Una delle organizzazioni, che Anthropic ha descritto come un’organizzazione composta da sette dipartimenti con uffici in tutte le province dell’Iran, sosteneva di gestire un database di dati identificativi dei cittadini iraniani. L’altra utilizzava Claude per sviluppare un’estensione dannosa per il browser, impiegata per raccogliere in massa le identità degli utenti dalle principali piattaforme di social network.

Una richiesta di commento inviata ai rappresentanti del governo iraniano presso le Nazioni Unite a New York non ha ricevuto risposta immediata.

• SORVEGLIANZA DELLE COMUNICAZIONI IN MALI: Anthropic ha affermato che Claude è stato utilizzato come principale strumento di sviluppo per una piattaforma di sorveglianza interna realizzata per i servizi segreti statali del Mali, in grado di monitorare i dati associati a circa 25 milioni di schede SIM presso i tre operatori di telefonia mobile del paese. L’azienda ha affermato che il sistema, denominato Lakana 360, sembra essere stato sviluppato in gran parte da un unico consulente che collaborava con l’Agenzia nazionale per la sicurezza dello Stato del Mali.

Una richiesta di commento inviata all’ufficio del primo ministro del Mali non ha ricevuto risposta immediata.

OBIETTIVI POLITICI, OPERAZIONI DI INFLUENZA

OBIETTIVI RELATIVI A CAMPAGNE E PARTITI: Anthropic ha dichiarato di aver osservato un attore francofono che utilizzava Claude per prendere di mira 42 partiti politici europei, media, think tank e fornitori di software-as-a-service utilizzati da tali organizzazioni.

Il sistema dell’operatore ha sottratto dati e credenziali di accesso a vari servizi, creando una «piattaforma di doxxing appositamente costruita» che poteva essere utilizzata per raccogliere e divulgare informazioni su numerose persone.

APP DI INCONTRI BASATE SULL’IA: Anthropic ha affermato che un’operazione con base in Cina ha sviluppato più di 20 app di incontri contenenti oltre 4.700 profili generati dall’IA che hanno interagito con almeno 25.000 utenti.

L’organizzazione ha combinato personaggi automatizzati con collaboratori umani retribuiti per convincere gli utenti che i profili fossero autentici, ha affermato l’azienda.

(Reporter Eduardo Baptista e AJ Vicens da Detroit, editor Rosalba O’Brien)

Scrivici per correzioni o suggerimenti: [email protected]