DEEPFAKES

Deepfakes: Když už nemůžete věřit ani vlastnímu zraku

Riziko moderní manipulace a odpovědnost organizací v digitálním věku

Technologie deepfake umožňuje pomocí umělé inteligence generovat falešná videa, zvuky nebo obrázky tak realisticky, že je běžný uživatel nedokáže odlišit od skutečnosti.

Zábavné filtry a imitace herců v marketingu mají ale i temnější stránku: deepfaky se staly nástrojem pro manipulaci, vydírání, dezinformace, kybernetické útoky i podvodné vylákání firemních dat.

Ať už jste firma, úřad, zdravotnické zařízení nebo finanční instituce, deepfakes představují reálné bezpečnostní riziko, které je třeba řídit – technologicky, právně i lidsky.

Co jsou deepfakes a jak fungují?

Deepfakes vznikají pomocí strojového učení, zejména tzv. generativních adversariálních sítí (GAN).

Zjednodušeně řečeno: AI se „učí“ na reálných záznamech hlasu, obličeje nebo gesta, a vytváří nová videa, zvuky nebo fotky, které vypadají jako originál – přestože nejsou pravé.

Nejčastější formy deepfakes:

Videa – např. generální ředitel, který na videu “oznamuje” falešné fúze,
Audio – falešné hlasy nadřízených, které instruují k převodu peněz,
Obrázky – zneužití identity, např. při žádostech o úvěr,
Kombinace – fiktivní hovory, phishingy, podvodné video-hovory, falešné videokonference.

Deepfakes jako nová dimenze kybernetického rizika

1. Sociální inženýrství na steroidy

Deepfake video s „hlasem ředitele“ volající účetní, aby okamžitě provedla převod?

Tzv. vishingové útoky (voice phishing) díky deepfake technologiím prudce rostou.

2. Ztráta důvěry v digitální obsah

Jak ověřit, že je to, co vidíte a slyšíte, skutečné?

Falešný tiskový briefing, deepfake e-mailová videopozvánka, dezinformační kampaň?

Bez schopnosti ověřit autenticitu klesá důvěra v oficiální výstupy.

3. Zneužití identity zaměstnanců a klientů

Deepfake podoba může být zneužita i při:

žádostech o půjčky,
registraci do firemních systémů (pokud využívají biometriku),
sociálních sítích či interních platformách.

4. Poškození reputace organizace

Deepfake záznamy mohou poškodit firmu, jejího vedení či zaměstnance – zejména v době krize nebo fúze.

Právní, regulační a bezpečnostní souvislosti

🔹 GDPR

Deepfake může být považován za zpracování osobních údajů bez souhlasu.

Navíc může poškodit subjekt údajů – čímž vzniká povinnost řešit incident, případně hlásit únik.

🔹 NIS2

Organizace spadající pod NIS2 mají povinnost:

předcházet bezpečnostním incidentům (včetně manipulativních technik),
školit zaměstnance v rozpoznávání hrozeb,
mít zavedenu interní bezpečnostní kulturu.

🔹 ISO/IEC 27001

Deepfake riziko by mělo být součástí:

analýzy rizik,
vzdělávání a povědomí,
politiky reakce na incidenty,
a interních auditů.

🔹 DORA, TISAX, další

V regulovaných sektorech (finance, automotive) je vyžadována:

odolnost vůči pokročilým kybernetickým hrozbám,
důkazní schopnost digitálního obsahu,
redukce rizik v dodavatelském řetězci (např. deepfake video zneužívající partnera firmy).

Kdo má odpovědnost za prevenci a obranu?

✅ Organizace

Zavádí bezpečnostní politiku a tréninky (včetně deepfake awareness),
Monitoruje digitální komunikaci a přístupy,
Implementuje technologie pro detekci deepfakes,
Zajišťuje reakci na incidenty a právní obranu (compliance, DPO, CISO),
Zapojuje se do risk managementu včetně scénářů s využitím AI proti firmě.

✅ Zaměstnanci

Nesdílejí veřejně zbytečně mnoho dat (např. hlasové záznamy),
Hlásí podezřelou komunikaci,
Absolvují školení k rozpoznání manipulace,
Neposkytují citlivé informace bez ověření nad rámec standardních procesů.

Opatření pro organizace

✅ Školení a testování (phishing + deepfake scénáře)

✅ Zásady vícefaktorové autentizace – např. ne pouze biometrie

✅ AI nástroje na detekci deepfake obsahu

✅ Monitoring podezřelého chování a náhlých požadavků (např. převod peněz)

✅ Právní rámce pro ochranu identity a reakci na incident

✅ Outsourcing bezpečnostních rolí (např. CISO, DPO) v případě, že interní tým chybí

✅ Podpora 24/7 pro rychlou eskalaci incidentu

V době deepfakes nestačí věřit.
Musíme ověřovat.

Digitální realita je čím dál snáz zmanipulovatelná.

Deepfakes nejsou jen technologickým trikem – jsou výzvou pro informační bezpečnost, lidskou důvěru i odpovědnost firem.

Každá organizace by měla:

zahrnout deepfakes do své bezpečnostní strategie,
chránit zaměstnance i klienty před zneužitím identity,
a budovat odolnost vůči moderním formám digitální manipulace.

Pomůžeme vám:

rozpoznat hrozby spojené s deepfakes,
nastavit interní pravidla a školení,
implementovat technické a organizační opatření,
reagovat na incidenty rychle, profesionálně a v souladu s regulací.