Proti podvodům s umělou inteligencí se dnes bojuje zbraněmi stejného kalibru – tedy specializovanou AI. Protože lidské oko a sluch již na nejmodernější podvrhy často nestačí, technologické firmy, univerzity a bezpečnostní agentury vyvíjejí pokročilé detekční platformy.
Tyto nástroje se dělí do několika hlavních kategorií podle toho, jakým způsobem podvod odhalují.
1. Detektory biologických signálů
Tyto systémy nezkoumají kvalitu pixelů, ale hledají nepatrné projevy lidské biologie, které umělá inteligence nedokáže při generování videa věrně nasimulovat.
- Intel FakeCatcher: Unikátní technologie od společnosti Intel, která analyzuje tzv. fotopletysmografii (PPG). Sleduje mikroskopické změny barvy kůže na obličeji, které vznikají prouděním krve v cévách, když srdce pumpuje krev. Skutečný člověk tyto změny má, deepfake video nikoliv.
2. Forenzní analýza obrazu a videa
Tyto nástroje hledají matematické anomálie, nesrovnalosti v pixelech a chyby v osvětlení, které vznikají při digitálním „převlékání“ tváří.
- Microsoft Video Authenticator: Software, který analyzuje video na úrovni jednotlivých snímků. Hledá drobné nepřirozenosti a prolínání na okrajích uměle nasazeného obličeje, které jsou pro lidské oko neviditelné, a dává videu „skóre zmanipulovanosti“.
- Deepware Scanner / Sensity AI: Specializované komerční skenery, které využívají konvoluční neuronové sítě k okamžité kontrole, zda nahrávka prošla generativním AI softwarem.
3. Obrana proti klonování hlasu
Fungují jako filtry v reálném čase, což je klíčové pro bankovní systémy a zákaznická centra, kam podvodníci často telefonují.
- Pindrop Pulse: Špičkový nástroj pro analýzu hlasu během živých hovorů. Dokáže v milisekundách odhalit, zda zvuk vychází z lidského hrdla, nebo zda jde o syntetický hlas generovaný počítačem (podle specifických frekvencí a digitálního šumu).
- Resemble AI: Zaměřuje se na podnikovou bezpečnost a dokáže okamžitě zachytit pokusy o zosobnění manažerů v audio hovorech.
4. Komplexní platformy pro ověřování identity (KYC)
Finanční instituce a kryptoměnové burzy nasazují systémy, které chrání proces zakládání účtů na dálku.
- Sumsub a iProov: Tyto platformy vyžadují tzv. liveness check (ověření živosti). Nutí uživatele před kamerou udělat neočekávaný pohyb (např. otočit hlavu do specifického úhlu, mrknout, usmát se) a v reálném čase analyzují 3D strukturu obličeje, čímž znemožňují podvržení deepfake videa z kamery.
5. Kryptografické ověřování původu (Digitální vodoznaky)
Místo zpětného odhalování podvodů se tato cesta zaměřuje na prokazování authenticity od samého počátku.
- Koalice C2PA (Adobe, Microsoft, Google a další): Vyvíjejí standard, kdy fotoaparáty a telefony zapisují do metadat snímku kryptografický podpis hned při stisknutí spouště. Pokud se fotka či video upraví pomocí AI, tento digitální podpis se poruší a systém ihned signalizuje, že s médiem bylo manipulováno.