AI-klonede direktørstemmer snød hospitaler og banker for 129 millioner dollar

Stemmen i telefonen lød som chefens, og juristen, der ringede kort efter, lød som en partner i et af verdens største advokatfirmaer. Ifølge føderale anklagere på Manhattan var ingen af dem den, de gav sig ud for at være. De siger, at tre mænd brugte kunstig intelligens til at efterligne administrerende direktører og advokater og fik regnskabsmedarbejdere på hospitaler, i banker og i andre virksomheder til at overføre penge til hemmelige handler, der aldrig havde eksisteret. Pengene blev vekslet til kryptovaluta og delt mellem de sammensvorne.

Sagen rækker langt ud over de virksomheder, der mistede penge. Ingen brød ind i en computer. Svindlen byggede på noget, næsten alle kontoransatte gør uden at tænke over det: at stole på en velkendt stemme, der beder om hjælp. En administrerende direktørs taler, regnskabsmøder og konferencedeltagelse er offentligt tilgængelige, og software til stemmekloning kan arbejde ud fra den slags lydoptagelser. Hvis en svindler kan lyde som din chef, er et telefonopkald ikke længere bevis på, hvem der er i den anden ende.

Anklageskriftet, der blev indleveret ved den føderale domstol for det sydlige distrikt i New York, rejser tiltale mod Jacob Soall, 41, der bor i Marbella i Spanien og i Storbritannien; Sharon Hazan, 54, fra Israel; og Guy Sheetrit, 42, fra Israel og De Forenede Arabiske Emirater. Hver af dem er tiltalt for syv forhold, herunder sammensværgelse om elektronisk bedrageri, groft identitetstyveri og hvidvaskning af penge. Anklagerne siger, at gruppen tog omkring 129 millioner dollar fra virksomheder i USA og andre lande.

Ifølge anklageskriftet ændrede fremgangsmåden sig sjældent. Den begyndte ofte med en e-mail sendt via en elektronisk underskriftstjeneste som DocuSign, tilsyneladende fra målets egen administrerende direktør, der bad om hjælp til en hemmelig transaktion og vedhæftede en fortrolighedsaftale. Derefter fulgte opkaldene, hvor de sammensvorne angiveligt brugte AI til at efterligne direktørens stemme og undertiden også ansigt. Den falske direktør stillede medarbejderen videre til en falsk advokat, som som regel lånte navnet fra en virkelig advokat på et europæisk kontor i et af de 50 største advokatfirmaer. Ifølge anklagerne havde Soall et håndskrevet manuskript med titlen “Lawyer Call”, der brugte regler om fortrolighed og insiderhandel til at forhindre medarbejderne i at tale med kolleger.

Ofrene er ikke navngivet, men tabene i anklageskriftet tegner et tværsnit af økonomien. Et hospitalsnetværk i Missouri sendte 4.829.580 dollar. En bank i Rhode Island mistede 2.684.580 dollar, og et hospitalsnetværk i Californien mistede 2.968.497 dollar. Et britisk fintechfirma mistede 11.578.474 dollar, et investeringsselskab i Massachusetts 4.639.918 dollar og en virksomhed, der fremstiller dyrefoder, i Florida 5.242.747 dollar. Pengene blev sendt til konti i USA, Spanien, Portugal, Grækenland, De Forenede Arabiske Emirater, Singapore, Østrig, Slovakiet og Kina, før de blev vekslet til kryptovaluta.

Et mål slap væk. I en stor investeringsbank i New York godkendte en medarbejder en betaling på omkring 2,85 millioner dollar, men bankens backoffice stoppede overførslen, før den blev sendt af sted, siger anklagerne. Det, der virkede, var et ekstra sæt menneskeøjne – ikke en deepfake-detektor.

AI-delen er nyere end forbrydelsen. I sin meddelelse kalder Justitsministeriet værktøjerne for “super intelligence”, mens anklageskriftet selv omtaler kunstig intelligens, og intet i de offentligt tilgængelige dokumenter tyder på, at der blev brugt andet end kommercielt tilgængelig teknologi til kloning af stemmer og ansigter. Resten følger en gammel drejebog: falske e-mails fra ledelsen, penge overført via konti i flere lande og derefter hvidvaskning. Anklagerne siger, at Hazan, der blev dømt for sammensværgelse om banksvindel ved samme domstol i 2008, pralede med at have hvidvasket mere end 400 millioner dollar på tre år og være “nummer et i hele verden”. Der er tale om anklager, ingen af de tre er blevet dømt, og anklagerne har ikke oplyst, hvor mange penge der er blevet inddrevet, eller hvilke kloningsværktøjer der blev brugt.

Virksomhederne har kunnet se det komme. Ingeniørfirmaet Arup mistede omkring 25 millioner dollar i 2024, efter at en medarbejder i Hongkong deltog i et videoopkald, hvor de øvrige deltagere var deepfakes. De gængse råd er stadig de samme: Ring tilbage til direktøren på et nummer, du allerede har, kræv en ekstra godkender ved store overførsler, og betragt krav om hemmeligholdelse som et advarselstegn. “Jeg opfordrer enkeltpersoner og erhvervslivet til at overveje, hvordan de bedst beskytter sig mod den nye trussel fra SI-aktiveret kriminalitet,” sagde USA’s føderale anklager Jamie McDonald.

Den påståede sammensværgelse strakte sig fra mindst juli 2024 til februar 2026. Soall blev anholdt i Spanien den 17. juni, Hazan i Spanien den 5. august, og Sheetrit blev anholdt i Storbritannien den 7. september. Anklageskriftet blev offentliggjort i den første uge af november, og anmodninger om udlevering af alle tre afventer. Elektronisk bedrageri og hvidvaskning af penge straffes hver med op til 20 års fængsel, og FBI opfordrer andre mulige ofre til at henvende sig via bureauets tipportal.

Banken, der beholdt sine penge, havde ikke bedre AI. Den havde en medarbejder i backoffice, som så på overførslen, før den blev sendt af sted.

Tags: Folarin Balogun, Baker Mayfield, Meghan Markle, cybersikkerhed, deepfakes, stemmekloning