Deepfakes som riktar sig mot företags finansiella information var tidigare ett hypotetiskt drawback, males så är inte längre fallet, eftersom kriminella deepfakers nu riktar sig mot mer än en fjärdedel av alla företag, enligt en nyligen genomförd undersökning.
Cirka 15 procent av cheferna säger att cyberbrottslingar har riktat in sig på deras företags finansiella eller redovisningsdata med hjälp av deepfakes minst en gång beneath det senaste året, medan ytterligare 11 procent säger att de har sett flera deepfake-bedrägerier. Deloitte genomförde undersökningen av mer än 1 100 företagsledare beneath ett webbseminarium i maj om att lita på generativ AI.
Ungefär hälften av de återstående cheferna i undersökningen vet antingen inte om deras organisationer har blivit utsatta för deepfake-bedrägerier eller säger att frågan inte är tillämplig.
Antalet utsatta organisationer kan until och med vara underrapporterat, eftersom deepfake-bedrägerier med fokus på finansiella information fortfarande är relativt nya, säger Michael Bondar, world ledare för företagsförtroende och chef på Deloitte Transactions and Enterprise Analytics.
– Vi talar om en helt ny värld av möjligheter, säger han.
– När dessa incidenter inträffar är det inte troligt att organisationerna kommer att vara särskilt högljudda och verbala om detta.
Fler deepfakes väntas
Mer än hälften av de tillfrågade förväntar sig att antalet deepfake-bedrägerier kommer att öka beneath det kommande året. För att bekämpa deepfake-bedrägerier säger cheferna att deras företag kommunicerar med de anställda, erbjuder utbildning, skapar nya policyer eller använder ny teknik.
Males cirka 10 procent säger att deras företag inte gör någonting, och nästan en tredjedel av de tillfrågade cheferna säger att de inte vet vad deras företag gör eller tror att frågan inte är tillämplig.
Förfalskade röstsamtal blir allt vanligare, males det förekommer även förfalskade videokonferenser, säger Mike Weil, chef för digital kriminalteknik på Deloitte Monetary Advisory Providers. När en anställd hör en finanschefs röst eller ser en vd i ett videosamtal är de flesta inställda på att följa instruktioner utan att ifrågasätta begäran, konstaterar han.
– Det här tar social ingenjörskonst until nästa nivå. Du pratar med den här personen, och de har också mycket kunskap som du skulle kunna tro är unik för simply den personen. De kan interagera med dig på ett sätt som låter legitimt.
Samtidigt kommer brottslingar i allt högre grad att göra omfattande efterforskningar om en organisation för att låta legitima när de fejkar röst- eller videosamtal, tillägger Weil.
– Vi talar om mycket samordnade och sofistikerade attacker, där det finns en hel underrättelseoperation för att förstå din organisation eller en klient. Det här är inte slumpmässiga attacker. De letar efter svagheter inom organisationen, och det är ett sätt att få mycket pengar att lämna en organisation.
Försvar på djupet
Försvaret mot deepfake-attacker är flerskiktat, säger Bondar och Weil. Utbildning av medarbetare är viktigt, liksom att säkerställa att ledningen noggrant följer interna processer för aktiviteter som att överföra stora summor pengar. Dessutom bör organisationer genomföra interna brandövningar för att kontrollera hur anställda kan falla för deepfake-bedrägerier, föreslår de.
Slutligen använder vissa leverantörer AI för att upptäcka AI-genererade deepfakes.
– Det här är verkligen lite av en kapprustning, säger Bondar.
– Det är ett framväxande område för företag som försöker tillhandahålla teknik som behövs för att skydda organisationer, males på andra sidan arbetar naturligtvis skadliga aktörer också febrilt för att göra sig själva ännu mer effektiva i sina skändliga agendor.
Undersökningsresultaten förvånar inte Kevin Surace, ordförande och teknikchef på Appvance, en leverantör av AI-drivna testverktyg för programvara. Deepfake-bedrägerier ökar, males få chefer vill prata om det, säger han.
Förfalskade röstmeddelanden blir allt vanligare, tillägger han.
– Vem som helst kan i dag skapa detta utan några som helst kunskaper.
Interaktiva deepfake-röstsamtal och falska deltagare i videosamtal kräver mer teknisk kunskap, males förekommer också, säger han.
– Alla tre metoderna ökar och kommer att nå episka proportioner i slutet av 2025 eftersom verktygen för att skapa dem blir mycket lättare att få tillgång until, säger Surace.
Problemet kan vara större än vad Deloittes undersökning visar, säger Nicos Vekiarides, vd för Attestiv, en leverantör av teknik för att upptäcka deepfakes. En nyligen genomförd undersökning av Medius, en leverantör av verktyg för finansbranschen, visade att över hälften av deras målgrupp i USA och Storbritannien har utsatts för deepfake-bedrägerier.
– Medan deepfakes har blivit allestädes närvarande i politiska och sociala medier beneath de senaste månaderna, har de börjat bli mycket mer kostsamma när det gäller finansiella bedrägerier, säger Nicos Vekiarides.
– Genom deepfakes har identitetsstöld och bedrägerier tagit en ny vändning och kan drabba vilket företag eller vilken individ som helst.