Volby, dezinformace, deepfake a demokracie

Co je deepfake a co se v letech 2024–2025 změnilo

Deepfake je obraz, video nebo zvuk vytvořený či upravený umělou inteligencí tak, aby působil jako skutečný záznam. Nejčastěji zachycuje existující osobu v situaci, která se nestala, nebo jí připisuje výrok, který nikdy nepronesla.

Ne každý obrázek vytvořený umělou inteligencí je deepfake. Pokud si někdo nechá vygenerovat obecnou ilustraci, fiktivní postavu nebo jiný obraz, který se nevydává za záznam skutečné osoby či události, jde jednoduše o obrázek vytvořený umělou inteligencí. O deepfaku mluvíme hlavně tehdy, když obsah napodobuje existující osobu, místo nebo událost a může v divákovi vyvolat dojem, že sleduje autentický záznam.

Sama technologie není nová – první veřejně známé deepfaky pocházejí z roku 2017. Tehdy se kolem komunity „deepfakes“ na Redditu, diskusní sociální síti, začala šířit pornografická videa, v nichž byly tváře celebrit vložené na těla jiných osob. Zásadně se ale změnily kvalita, rychlost a cena. V roce 2017 trvalo vytvoření přesvědčivého video deepfaku hodiny počítačového času; dnes často stačí minuty a předplatné za pár set korun měsíčně k vytvoření podvrhu z jediné fotografie a napsaného textu. ^[35]

Křehkost ochranných prvků ukázala aplikace Sora. OpenAI ji spustila 30. září 2025 s funkcí, která umožňovala vložit do generovaného videa skutečného člověka. Všechna vytvořená videa zároveň nesla viditelný vodoznak. Už během prvního týdne provozu se ale objevily volně dostupné weby, které tento vodoznak odstraňovaly. Samotnou aplikaci OpenAI v dubnu 2026 zrušila. ^[26]

Napodobit něčí hlas pomocí umělé inteligence je ještě snazší než vytvořit falešné video. Takzvaný hlasový deepfake, tedy uměle vytvořená nahrávka napodobující hlas konkrétní osoby, přitom může znít velmi přesvědčivě.

Služby jako ElevenLabs umožňují vytvořit hlasový klon z krátké nahrávky. Podle zvoleného způsobu klonování a požadované kvality výstupu mohou stačit už desítky sekund záznamu. Tyto aplikace jsou široce dostupné, takže i útočník bez technických znalostí dokáže vytvořit nahrávku, která zní jako hlas starosty či premiéra nebo jako hlas dcery, která se ocitla v těžké životní situaci.

Tato technologie se využívá také při podvodech typu vishing, telefonní obdobě phishingu. Útočník při nich napodobuje hlas důvěryhodné osoby. Může například zavolat firemnímu účetnímu hlasem jeho nadřízeného a požádat ho o převod peněz.

Rozsah problému ukazují údaje společnosti Entrust, která ročně zpracuje přes miliardu ověření totožnosti. Podle firmy tvořily deepfaky v roce 2025 už pětinu všech pokusů o podvod při biometrickém ověřování pomocí tělesných znaků, například obličeje. Počet „deepfake selfie“, falešných selfie vytvořených nebo upravených pomocí těchto technik, meziročně vzrostl o 58 %. ^[28]

Volby 2024–2026: Černé scénáře se nepotvrdily

Rok 2024 byl volební superrok. Volilo se ve více než padesáti zemích a k urnám přišlo přes 2 miliardy lidí. Ještě před volbami varovaly odborné analytické instituce i firmy vyvíjející nástroje umělé inteligence před možným masivním dopadem propagandy vytvářené pomocí AI. Americká společnost OpenAI omezila používání svého chatovacího nástroje ChatGPT u politických témat ^[2]. Podobně postupovaly také technologické společnosti Anthropic, Google a Meta. Zpětný pohled ale ukazuje složitější realitu: ^[1]

• Hodně AI obsahu, ale málo virálních hitů – deepfake videa a komentáře psané pomocí AI byly všudypřítomné. Jen malá část z nich ale získala miliony zhlédnutí.

  Britský výzkumný tým CETaS napočítal v britských parlamentních volbách v roce 2024 16 virálních AI podvrhů a ve volbách do Evropského parlamentu a ve francouzských volbách dalších 11. Klamavý obsah se většinou dal levně vyrobit i bez AI a voliči se rychle naučili být skeptičtí. ^[15][16]

• Domácí aktéři převažovali nad zahraničními – obavy z masového ruského nebo čínského zásahu se v očekávaném rozsahu nepotvrdily. Většina AI obsahu pocházela od domácích politických kampaní a influencerů.
• Personalizace > masová propaganda – větší obavou než scénář, že „jeden deepfake otočí volby“, je jemný, dlouhodobý vliv personalizované propagandy využívající umělou inteligenci. Každý člověk při ní dostává jinou zprávu, přizpůsobenou svému profilu. Studie zveřejněná v časopise Nature zjistila, že rozhovor s AI chatbotem posunul postoje amerických voličů o 3,9 bodu na stobodové škále. To je zhruba čtyřnásobek účinku běžné politické reklamy. V Kanadě a Polsku byl posun ještě větší. Chatbot přitom přesvědčoval fakty a argumenty, ne manipulací. Šlo však o laboratorní experiment, nikoli o důkaz, že tímto způsobem někdo skutečně ovlivnil volby. ^[18]
• Nová fronta: měření veřejného mínění – umělá inteligence (AI) dokáže vyplňovat online ankety tak, aby ji neodhalil žádný z běžně používaných testů typu „jsi člověk?“. U sedmi velkých předvolebních průzkumů před americkými volbami v roce 2024 by stačilo 10 až 52 falešných odpovědí za cenu kolem koruny za kus, aby průzkum ukázal jiného vítěze. Ohroženy tedy nejsou jen zprávy, ale i čísla, podle kterých se politika řídí. ^[31]
• Eroze důvěry – možná nejdůležitějším efektem je tzv. lhářova dividenda (liar’s dividend): výhoda, kterou lhář získává v prostředí, kde lze jakýkoli záznam označit za deepfake – realisticky upravený nebo vytvořený záznam. Když se dá i o pravém záznamu tvrdit, že ho vyrobila umělá inteligence, politici se mohou obvinění zbavit slovy „to byl deepfake!“. ^[4]

Jedna evropská výjimka stojí za pozornost. Rumunsko v prosinci 2024 zrušilo výsledek prvního kola prezidentských voleb poté, co odtajněné zprávy zpravodajských služeb popsaly koordinovanou kampaň na sociální síti TikTok ve prospěch krajně pravicového kandidáta Călina Georgesca. ^[33]

Nešlo přitom primárně o deepfaky, ale o algoritmické zesílení obsahu – situaci, kdy platforma určitý obsah sama více doporučuje a tím mu zvyšuje dosah – a skryté financování. Opakované volby v květnu 2025 vyhrál Nicușor Dan.

Zatím největší nasazení AI v evropské kampani přinesly maďarské parlamentní volby v dubnu 2026. Opoziční strana Tisza Pétera Magyara v nich získala ústavní většinu a po šestnácti letech ukončila vládu Viktora Orbána. Kampaň před volbami zaplavila vlna AI obsahu, šířená především vládní stranou Fidesz a spřízněnými aktéry: deepfaky zobrazovaly Magyara jako loutku sloužící zájmům předsedkyně Evropské komise Ursuly von der Leyenové a ukrajinského prezidenta Volodymyra Zelenského a virálně se šířilo i podvržené video, v němž von der Leyenová Magyarovi telefonuje. ^[36][37]

Výsledek přitom potvrdil střízlivou lekci volebního superroku 2024: ani masivní AI kampaň výsledek nezaručí. Podle analýzy evropské observatoře EDMO uspěla AI manipulace při ovlivňování veřejného mínění jen částečně. Laciné a snadno rozpoznatelné podvrhy podle výzkumníků vládní kampani spíše škodily – profesionální propagandistická mašinerie se sama stala jedním ze zdrojů krize důvěryhodnosti vlády. Tvrdit, že o volbách rozhodla AI, tedy dostupná data neumožňují. ^[36][37]

Český kontext: podvodná videa, nové paragrafy a volby 2026

Jak do tohoto obrazu zapadá Česko? Ani u nás se černé scénáře nenaplnily, ovšem s jednou důležitou odlišností. Nejznámější české deepfaky necílily na hlasy voličů, ale na jejich peněženky. Podvodníci ve falešných videích využívali tváře politiků, aby lidi nalákali do smyšlených investic.

Nejvíc rezonovala série deepfake videí Andreje Babiše, která propagovala podvodné investiční platformy – od „Immediate Matrix“ v roce 2023 přes lákání na „první národní kryptoměnu“ v roce 2025 až po obecné „AI investice“. ^[7]

Podobná podvodná videa zneužila i tváře ministra vnitra Víta Rakušana a místopředsedkyně ANO Aleny Schillerové: slibovala vysoké výdělky a odkazovala na podvodné weby. Kdo za nimi stojí, se dodnes neví. ^[9] Vedle podvodů se objevila i otevřená parodie – satirické deepfake video Rakušana, ke kterému se veřejně přihlásil dezinformační aktér Daniel Sterzik („Vidlák“).

Třetí případ ukázal v přímém přenosu lhářovu dividendu, o níž byla řeč výše. Poslankyně hnutí ANO Margita Balaštíková v srpnu 2025 označila nahrávky, na nichž se mluví o „likvidaci“ podnikání jejího bývalého manžela, za manipulaci vytvořenou umělou inteligencí. Soudní znalkyně v oboru fonoskopie Marie Hes Svobodová však potvrdila, že nahrávky jsou pravé. ^[8] Jde o učebnicovou ukázku tohoto jevu: skutečný kompromitující materiál stačí prohlásit za výtvor umělé inteligence.

Samotné volby nápor ustály. Volby do Poslanecké sněmovny v říjnu 2025 vyhrálo hnutí ANO a vládu sestavila koalice ANO, SPD a Motoristů, která má ve Sněmovně 108 z 200 mandátů. První hodnocení – především výroční zpráva Středoevropské observatoře digitálních médií CEDMO – naznačují, že dezinformace kampaň nezahltily a volby proběhly férově. Přesný vliv obsahu vytvořeného umělou inteligencí však zatím nelze určit, a proto není možné spolehlivě říct, zda konečný výsledek voleb nějak změnil. ^[12][34]

Právo na tuto vlnu zareagovalo novelou trestního zákoníku, která platí od 1. ledna 2026. Zákon č. 270/2025 Sb. poprvé přímo postihuje podvrhy využívající cizí podobu nebo hlas. Je přitom formulován technologicky neutrálně – neobsahuje výraz „deepfake“ ani spojení „umělá inteligence“. Nový § 191a zavádí trestný čin zneužití identity k výrobě pornografie a její šíření. Za něj hrozí až dva roky vězení, při šíření prostřednictvím internetu až tři roky.

Rozšířený § 181 odst. 2 se vztahuje na podvrhy, jejichž cílem je někomu vážně ublížit. Trestné je vytvořit nebo šířit dílo, které bez svolení napodobuje podobu nebo hlas jiného člověka, vydává se za pravý záznam a má mu způsobit vážnou újmu na právech. Typickým příkladem je falešné video zveřejněné několik dní před volbami, v němž starosta údajně „přiznává“ přijetí úplatku. Také v tomto případě hrozí až dva roky vězení, při šíření prostřednictvím internetu až tři roky. ^[19]

Nejbližší zkouškou budou komunální a senátní volby. Uskuteční se v pátek 9. a v sobotu 10. října 2026, případné druhé kolo senátních voleb pak připadne na 16. a 17. října. ^[21] Poprvé se budou řídit zákonem č. 234/2025 Sb. o volebních kampaních a o transparentnosti a cílení politické reklamy, který do českého práva přenáší evropské nařízení (EU) 2024/900. Zákon sice zakazuje zveřejňovat o kandidujících stranách a jejich kandidátech „informaci nepravdivou nebo urážlivou“, za porušení tohoto zákazu však nestanoví žádnou sankci. O obsahu vytvořeném umělou inteligencí navíc vůbec nemluví. ^[20] Ochrana před volebními podvrhy tak zatím závisí především na trestním zákoníku a na obezřetnosti samotných voličů.

Kdo na situaci v Česku dohlíží? Dezinformační kampaně a působení cizích států sleduje Centrum proti hybridním hrozbám Ministerstva vnitra. ^[3] Kybernetickou oblast má na starosti NÚKIB, Národní úřad pro kybernetickou a informační bezpečnost. Podílel se také na přípravě průvodce a „desatera“ odpovědného využívání umělé inteligence, které pro úřady vydala Sekce pro státní službu Úřadu vlády ČR. ^[5]

Šlichta (slop): levný AI obsah zaplavuje internet

Cílené podvrhy však nejsou jediným způsobem, jak umělá inteligence proměňuje informační prostředí. Druhým je záplava levného, masově vyráběného obsahu – absurdních videí, strojově psaných knih i falešných zpráv, které na první pohled působí věrohodně. Pro tento typ obsahu se vžilo anglické slovo slop, česky přibližně „šlichta“. Americký slovník Merriam-Webster ho vyhlásil slovem roku 2025 a vymezuje ho jako nekvalitní digitální obsah vyráběný ve velkém pomocí umělé inteligence. ^[13]

První návrh této knihy vytvořil tehdy nejvýkonnější model Claude Opus 4.6 za necelou hodinu. Se všemi základními úpravami pro tisk by mohl být vydán během několika dalších hodin. Jednotlivé části knihy však byly mnohokrát přepracovány, doplněny a přeformulovány různými modely, včetně novějších modelů Claude Fable 5 a GPT-5.6 Sol. Autor navíc strávil desítky hodin jejich čtením a opětovnými úpravami. Při plně automatizovaném postupu by však bylo možné za stejnou dobu vytvořit stovky knih obdobného typu bez lidské účasti.

AI šlichty vzniká obrovské množství. Organizace NewsGuard v červnu 2026 evidovala 3 749 zpravodajských a informačních webů, které podle ní fungují prakticky bez lidského dohledu. Analýza vzorku webových článků zase naznačuje, že na přelomu let 2025 a 2026 psala umělá inteligence už polovinu nově publikovaných textů.

K běžnému čtenáři se jí však dostane méně, než by tato čísla naznačovala. Mezi články, které se skutečně probojovaly na první dvě stránky výsledků vyhledávání Google, tvořily texty napsané umělou inteligencí jen 14 %. Vzniká jich tedy obrovské množství, k očím čtenářů se ale zatím dostane pouze menší část. ^[29][30]

Co s tím dělají platformy

Telegram se v Evropě stal jedním z hlavních kanálů pro šíření politické propagandy. Přispívá k tomu slabší moderování, rozsáhlé distribuční kanály a dojem soukromí. Koncové šifrování, při němž mohou zprávu číst jen odesílatel a příjemce, však není u běžných chatů ani velkých skupin zapnuté automaticky. Telegram ho nabízí pouze v režimu „Secret Chats“.

Francouzská policie zatkla zakladatele Telegramu Pavla Durova v srpnu 2024. Vyšetřovatelé prověřovali, zda platforma umožňovala páchání trestné činnosti a zda dostatečně spolupracovala s policií a soudy. Zatčení přímo nesouviselo s evropským aktem o digitálních službách (DSA). Od září 2024 začal Telegram v omezené míře spolupracovat s justičními orgány.

EU rámec

Na obsah, který se před volbami objevuje na sociálních sítích, v Evropě nedohlíží jediný zákon, ale několik pravidel současně. Nejdůležitější z nich je akt o digitálních službách (Digital Services Act, DSA), tedy nařízení Evropské unie 2022/2065.

Co je DSA a koho se týká

DSA odstupňuje povinnosti podle typu a velikosti služby. Nejmírnější pravidla platí pro základní zprostředkovatelské služby, přísnější pro běžné online platformy, jako jsou sociální sítě, tržiště nebo služby pro sdílení obsahu, a nejpřísnější pro „velmi velké online platformy“ (VLOP) a vyhledávače (VLOSE) s nejméně 45 miliony aktivních uživatelů měsíčně v Evropské unii. Patří mezi ně například Facebook, Instagram, YouTube, TikTok, X, Amazon Store, App Store, Booking.com, Wikipedia, Zalando nebo Google Search.

Porušení pravidel může mít pro platformu výrazné finanční následky. DSA umožňuje uložit pokutu až do výše 6 % celosvětového ročního obratu firmy. Dosud nejvyšší pokutu ve výši 200 milionů eur dostalo v květnu 2026 čínské internetové tržiště Temu. ^[46]

Dobrovolný slib, ale kontrola už povinná

Vedle závazných pravidel DSA existuje také dobrovolný kodex proti dezinformacím. Platformy se v něm zavazují například omezovat příjmy z dezinformačního obsahu, zprůhlednit politickou reklamu, spolupracovat s ověřovateli faktů a zpřístupňovat data výzkumníkům.

Kodex je nyní součástí systému DSA. U velmi velkých platforem a vyhledávačů, které se k němu připojily, se jeho dodržování kontroluje při povinném každoročním nezávislém auditu.

Připojení ke kodexu zůstává dobrovolné, jeho dodržování se však u zapojených největších platforem povinně kontroluje. Mezi signatáře patří například Google, Meta, Microsoft a TikTok. Síť X vlastněná Elonem Muskem z kodexu vystoupila v květnu 2023. ^[23]

Vymáhání v praxi: případ platformy X

Že se DSA skutečně vymáhá, ukazuje případ sítě X. Evropská komise jí uložila pokutu 120 milionů eur – šlo o vůbec první rozhodnutí o porušení DSA. Hlavním problémem byly placené modré odznáčky. Ty mohly budit dojem, že platforma ověřila totožnost majitele účtu, přestože si je mohl kdokoli koupit. X navíc nezajistila dostatečně průhledný přehled reklam a ztěžovala výzkumníkům přístup k veřejným datům. ^[22][10]

Spory kolem sítě X pokračují. Evropská komise nyní prověřuje její doporučovací systém i chatbota Grok od společnosti xAI. Zjišťuje, zda X dostatečně omezuje nelegální obsah, včetně sexuálních podvrhů vytvořených bez souhlasu skutečných žen a materiálů zobrazujících sexuální zneužívání dětí. ^[11] Kvůli sexuálním podvrhům vytvořeným pomocí Groku zahájil vyšetřování společnosti xAI také kalifornský generální prokurátor Rob Bonta. ^[32]

Politická reklama a volby

Volebních kampaní se přímo týkají také evropská pravidla pro politickou reklamu. U každého takového sdělení musí být zřejmé, že jde o politickou reklamu, kdo ji zaplatil a na jaké volby či hlasování se vztahuje. U cílené internetové reklamy musí zadavatel navíc vysvětlit, podle jakých údajů vybírá její příjemce a zda při cílení nebo zobrazování použil umělou inteligenci. Tato pravidla neřeší, zda samotný text, obraz nebo video vytvořila umělá inteligence. Označování takto vytvořeného či upraveného obsahu upravuje akt o umělé inteligenci (AI Act). ^[40]

Google i Meta na nová pravidla zareagovaly po svém: politickou reklamu v EU přestaly přijímat úplně – Google od září a Meta od října 2025. Placená politická reklama se tak z velkých reklamních systémů v Evropě prakticky stáhla (viz srovnání platforem výše). Kampaň se přesunula do neplacených příspěvků a k influencerům, kde se financování dohledává hůř. ^[24][25]

USA: proč tam přísné zákazy neprošly

Ve Spojených státech naráží podobná pravidla na silnou ochranu svobody projevu. Kalifornie se pokusila zakázat klamavé volební podvrhy vytvořené či upravené pomocí umělé inteligence, a to zejména během 120 dnů před volbami. Federální soud však zákon zablokoval jako nepřiměřený zásah do politického projevu. Neobstála ani povinnost označovat parodická videa výrazným upozorněním. Soud zároveň omezil platnost navazujícího zákona, který ukládal velkým platformám volební podvrhy odstraňovat nebo označovat. V tomto případě ale rozhodl z jiného důvodu: kalifornská pravidla byla podle něj v rozporu s federální ochranou internetových platforem. ^[38][39]

Označit AI obsah nestačí – značka jde odstranit

Povinné označování má slabé místo. Viditelné vodoznaky lze z obsahu odstranit. Weby, které je mazaly z videí vytvořených v aplikaci Sora 2, se objevily už do týdne od jejího spuštění ^[26]. Také metadata o původu – údaje zapsané přímo v souboru, které uvádějí, kde a čím vznikl – sice prozradí původ souboru, většina sociálních sítí je však při nahrání smaže.

Odvětví proto přechází na neviditelné vodoznaky – skryté značky zapsané přímo do obrazu, zvuku nebo textu, které pouhým okem nelze rozpoznat. OpenAI začala své obrázky označovat technologií SynthID od společnosti Google DeepMind. Google zároveň oznámil, že tyto značky bude rozpoznávat ve svém vyhledávači i v prohlížeči Chrome ^[27].

Ani neviditelné vodoznaky však samy o sobě nejsou důkazem. Stále totiž chybí nezávislé měření, které by ukázalo, jak dobře tyto značky přežijí opakované sdílení a překódování – tedy situaci, kdy platforma soubor při nahrání znovu uloží v úspornější podobě. Pro čtenáře z toho plyne jediné praktické pravidlo: značka „vytvořeno AI“ něco dokazuje, její nepřítomnost však nedokazuje nic.

Co může občan dělat