Volby, dezinformace, deepfake a demokracie

Co je deepfake a proč se to v 2024–2025 změnilo

Deepfake je AI generovaný obraz, video nebo audio, který zobrazuje skutečnou osobu v situaci nebo s výrokem, který se nestal. Technologie není nová — první veřejně známé deepfaky pocházejí z roku 2017 (reddit komunita „deepfakes" generovala pornografická videa s tvářemi celebrit). Co se změnilo: kvalita, rychlost a cena. V roce 2017 trvalo vytvoření přesvědčivého video deepfake hodiny počítačového času; v roce 2024 to lze udělat za minuty na běžném notebooku nebo jediným kliknutím v aplikaci typu HeyGen, Synthesia, ElevenLabs. ^[4]

Audio deepfake (hlasové klonování) je dnes ještě snazší a přesvědčivější než video. Nástroje typu ElevenLabs umožňují vytvořit hlasový klon z krátké nahrávky (od desítek sekund výš, podle typu klonování a požadované kvality výstupu). Aplikace je široce dostupná — i útočník bez technické zdatnosti dokáže vyrobit hlasovou nahrávku „starosty" nebo „premiéra". To se promítlo do podvodů typu vishing (telefonní obdoba phishingu — útočník napodobí hlas důvěryhodné osoby) — zavolá například účetnímu firmy v hlase šéfa a požádá o převod peněz; Signicat uvádí nárůst pokusů o deepfake podvody o 2 137 % za tři roky.

Volby 2024–2025: očekávaná katastrofa, která nepřišla

Před superrokem 2024 (~80 zemí, ~2 miliardy voličů) varovaly think-tanky (Brookings, RAND, Atlantic Council) i samotné AI firmy před masivním dopadem AI propagandy. OpenAI vydala v lednu 2024 manuál „Building safety for elections" a omezila ChatGPT v politických tématech. Anthropic, Google, Meta podobně. Realita po roce ukazuje smíšený obrázek: ^[1]

• Hodně AI obsahu, ale málo virálních hitů — deepfake videa, AI-generované obrázky, AI psané komentáře byly všudypřítomné, ale jen malá část získala miliony zhlédnutí. Voliči se rychle naučili být skeptičtí.
• Domácí aktéři převažovali nad zahraničními — strach z ruského nebo čínského masového zásahu se nepotvrdil v rozsahu, který se čekal. Většina AI obsahu pochází od domácích politických kampaní a influencerů.
• Personalizace > masová propaganda — větší obavou než „jeden deepfake otočí volby" je jemný, dlouhodobý vliv personalizované AI propagandy — každý dostává jinou zprávu odpovídající jeho profilu.
• Eroze důvěry — možná nejdůležitější efekt: tzv. liar's dividend (volně „dividenda lháře" — výhoda, kterou lhář získává z toho, že jakmile může být cokoli deepfake, lze i pravý záznam odmítnout jako podvrh; pojem Roberta Chesneyho a Danielle Citron). Pokud cokoliv může být AI generované, politici se snadno zbaví obvinění („to bylo deepfake!"). Skutečné usvědčující záběry se stávají méně účinnými.

Český kontext: NÚKIB, CHH, volby 2025

V Česku byl pro volby 2025 aktivován mezirezortní koordinační mechanismus zahrnující Centrum proti hybridním hrozbám MV ČR (CHH), NÚKIB, BIS, Český telekomunikační úřad a Český statistický úřad. CHH vydávalo týdenní situační zprávy o dezinformačních narativech a deepfake incidentech. NÚKIB publikoval doporučení pro starosty a kandidáty ohledně ochrany před deepfake útoky. ^[3][5]

Z evidovaných deepfake incidentů v české kampani 2025 nejvíc rezonovaly: (a) série deepfake videí Andreje Babiše propagujících podvodné investiční platformy (od „Immediate Matrix" 2023 přes lákání na „první národní kryptoměnu" 2025 po obecné „AI investice" — CEDMO Hub a Demagog.cz dokumentovali několik incidentů) ^[7]; (b) podvodná investiční deepfake videa zneužívající tváře ministra vnitra Víta Rakušana a místopředsedkyně ANO Aleny Schillerové — slibovala vysoké výdělky a odkazovala na podvodné weby; jejich autoři zůstávají neznámí ^[9]. Samostatným, otevřeně parodickým případem bylo satirické deepfake video Rakušana, k jehož autorství se veřejně přihlásil dezinformační aktér Daniel Sterzik („Vidlák"); (c) případ poslankyně ANO Margity Balaštíkové (srpen 2025), kde autentické nahrávky o údajné „likvidaci" podnikání bývalého manžela označila za AI manipulaci — soudní znalkyně (fonoskopička Marie Hes Svobodová) ale jejich pravost potvrdila ^[8]. Jde o učebnicový liar's dividend v praxi. Parlamentní volby vyhrálo hnutí ANO; vládu sestavila koalice ANO, SPD a Motoristů se 108 z 200 mandátů. Třetí vláda Andreje Babiše byla jmenována 15. 12. 2025 a 15. 1. 2026 získala ve Sněmovně důvěru poměrem 108 : 91. Konkrétní povolební analýza vlivu AI dezinformací na výsledek zatím chybí — bez ní zůstává tvrzení o (ne)významném dopadu spekulativní.

Co s tím dělají platformy

Telegram se stal hlavním vektorem politické propagandy v Evropě — méně moderování, rozsáhlé distribuční kanály a aura soukromí (koncové šifrování ale není u standardních chatů a velkých skupin výchozí — pouze v „Secret Chats"). Zatčení Pavla Durova (zakladatel) ve Francii v srpnu 2024 souviselo s francouzským trestním vyšetřováním údajného umožnění trestné činnosti a nedostatečné spolupráce Telegramu s orgány činnými v trestním řízení — nejde tedy o přímý důsledek DSA, byť časově dopadlo do období jejího nástupu. Telegram od září 2024 začal omezeně spolupracovat s justičními orgány na odhalování trestné činnosti.

EU rámec: DSA, AI Act, Code of Practice

Digital Services Act (DSA) (nařízení (EU) 2022/2065) vstoupil v platnost v roce 2022; pro určené velmi velké platformy a vyhledávače se začal používat dříve a od 17. 2. 2024 se plně uplatňuje obecně. DSA ukládá tři vrstvy povinností. Velmi velké online platformy (VLOP, tedy služby s více než 45 miliony aktivních uživatelů měsíčně v EU — patří sem Meta, Google/YouTube, TikTok, X, Amazon, Apple, Booking, Wikipedia, Zalando a další) mají nejpřísnější povinnosti. Musejí každoročně posuzovat systémová rizika (článek 34), procházet nezávislými audity (článek 37) a zpřístupňovat data výzkumníkům (článek 40). Zakázán je i klamavý design rozhraní („dark patterns") a platí zvláštní režim ochrany nezletilých. ^[6]

Code of Practice on Disinformation (rozšířen 2022) je dobrovolný kodex — 44 závazků k boji proti dezinformacím. Signatáři: Meta, Google, TikTok, Microsoft, většina menších platforem. X (Elon Musk) odešel v květnu 2023 s tvrzením, že kodex omezuje svobodu projevu. EU Komise zahájila v prosinci 2023 formální řízení proti X podle DSA a v prosinci 2025 uložila X pokutu 120 mil. EUR za porušení transparentnostních povinností — první sankce podle DSA vůbec. Obecná maximální sankce podle DSA může dosáhnout až 6 % celosvětového ročního obratu.

AI Act (čl. 50) se u transparentnostních povinností použije od 2. 8. 2026. Poskytovatelé mají informovat uživatele při interakci s AI systémem a technicky označovat výstupy generativní AI. Nasazovatelé (firmy a redakce, které deepfake či AI text používají) mají povinně informovat osoby vystavené deepfake obsahu a AI-generovanému či manipulovanému textu zveřejněnému za účelem informování veřejnosti o věcech veřejného zájmu. U uměleckého, tvůrčího nebo satirického obsahu se informační povinnost plní přiměřeným způsobem, který nebrání běžnému užití nebo zobrazení díla — nejde o vyjmutí z pravidel transparentnosti.

Co může občan dělat