- Anežka Karpjáková
Komunikace s kolegy a klienty prostřednictvím telefonu nebo videohovorů je běžnou praxí společností. Přestože tyto technologie značně usnadňují každodenní fungování firem, mohou také přinášet určitá rizika. Zejména díky masivnímu pokroku v oblasti vývoje umělé inteligence jsou jednou z takových hrozeb podvody využívající tzv. deepfakes.
Co je to deepfake?
Za deepfake můžeme považovat digitální, vizuální nebo zvukové médium generující falešný nebo manipulativní obsah pomocí algoritmů AI nebo výkonných technik strojového učení, které má velký potenciál klamat. Prostřednictvím AI technologie vytvoří útočník například falešný zvukový záznam nebo video zobrazující fiktivní, či reálnou osobu (například CEO známé společnosti).
Díky rychlému rozvoji umělé inteligence se deepfakes v současné době stávají pro útočníky čím dám dostupnější. K vytvoření falešného audia dnes útočníkovi postačí jen 20sekundová nahrávka osoby, kterou má deepfake napodobit. Mohou být tak dokonalé, že v některých případech jsou téměř nerozeznatelné od reality.
Obětí se může stát každý
Počet kybernetických útoků využívajících deepfake technologie přitom stále narůstá a je důležité říct, že podvody nesměřují jen na běžné uživatele, ale také na společnosti a státní instituce. Kvůli falešným videím či audio nahrávkám mohou společnosti přijít klidně o desítky milionů a jako bonus také může dojít k poškození jejich dobré pověsti či úniku citlivých dat.
Jako příklad podvodu s využitím deepfake si můžeme uvést útok na britskou energetickou společnost v roce 2019, kdy pomocí falešné audio nahrávky útočník předstíral, že je generálním ředitelem německé energetické firmy a telefonicky přesvědčil CEO anglické společnosti, aby provedl bankovní převod ve výši 243 000 GBP na zahraniční účet ovládaný útočníkem.
Obdobné případy nemusíme hledat jen v zahraničí. Útočníci míří i na české společnosti. Zkušenost s tímto typem útoku má například i česká společnost GymBeam, kdy zaměstnanec vedl videohovor s útočníkem, který se za pomocí deepfake videa vydával za CEO dané společnosti.
Jak se mohou společnosti proti deepfake podvodům bránit?
Jakým způsobem mohou společnosti útokům využívajícím deepfakes preventivně předcházet? Vzhledem k tomu, že v současné době zatím neexistuje spolehlivý software, který by s jistotou zvládl deepfake rozpoznat, je důležité se zaměřit na zvyšování obezřetnosti a šíření povědomí o tomto trendu napříč svými zaměstnanci, ale také v rámci vrcholného vedení společnosti, jelikož právě na tyto osoby často útočníci míří.
Podle studie CEDMO Trends z roku 2024 více než polovina respondentů uvedla, že neví, co deepfake je a jak jej rozeznat. Studie KPMG z minulého roku uvádí, že údajně 46 % společností nepodniklo žádné opatření k ochraně před deepfakes.
Jak je možné falešné nahrávky rozeznat?
Přestože bývá úroveň deepfake obsahu na vysoké úrovni, že i mnozí odborníci uvádějí, že v některých případech je prakticky nemožné podvodné deepfake rozeznat (zejména v případě audio nahrávek), máme pro vás pár tipů, na co v rámci videí, fotek či audio záznamů zaměřit svou pozornost:
Nereálné pohyby a mimika
Sledujte nesrovnalosti v pohybech obličeje nebo těla, jako je nesynchronizovaný zvuk s pohyby rtů, absence mrkání očí, podivné pohyby úst nebo nekonzistentní světlo a stíny.
Ověřovací otázky
Během hovoru používejte otázky, na které by měla znát odpověď jen protistrana (například osobní zážitek, interní data, podrobnosti i společném tématu).
Zkreslený zvuk
Hlasy ve videích mohou znít podivně, monotónně nebo synteticky. Může se objevit nesoulad mezi zvukem a pohybem rtů.
Podezřelý obsah
Videa mohou obsahovat neobvyklé nebo extrémní výroky či žádosti, které nejsou v souladu s osobou, kterou video údajně zobrazuje.
Prověřovací úkoly
Pro deepfake je těžké reagovat na přítomnost v reálném čase. Nechte si říct, o čem se zrovna dnes píše v denním tisku, co máte na sobě nebo, co je za vámi v záběru videohovoru.
Nepřirozené detaily
Všímejte si drobných chyb v pozadí, náhlých změn osvětlení nebo nepřirozených emocí v tvářích osob.
