Etika AI a střet hodnot

Problém sladění

Sladění umělé inteligence s lidskými záměry (anglicky „AI alignment“) je výzkumný program, který hledá odpověď na zásadní otázku: Jak zajistit, aby umělá inteligence dělala to, co skutečně chceme, a ne jen to, co jsme jí formálně zadali? Nejde přitom pouze o technický problém. Stejně důležité je určit, čí záměry a hodnoty má umělá inteligence následovat, kdo o nich rozhoduje a kdo nese odpovědnost za důsledky jejího jednání.

Problém vzniká ve chvíli, kdy formálně zadaný cíl neodpovídá přesně tomu, čeho chtějí lidé skutečně dosáhnout. Známý příklad pochází z reinforcement learning, tedy učení pomocí odměn. Ve videohře CoastRunners měl systém maximalizovat počet získaných bodů. Výsledkem učení bylo chování, při němž člun kroužil v jedné části tratě, opakovaně zasahoval zelené terče a závod nedokončil. Systém tak plnil zadaný cíl, ale ne záměr tvůrců, kteří očekávali, že bude závodit a dojede do cíle. ^[3][82]

U velkých jazykových modelů (LLM) se problém sladění projevuje méně nápadným způsobem:

• Pochlebování (sycophancy): Model přizpůsobuje odpověď názoru uživatele, i když je tento názor chybný. Může například potvrdit nepravdivé tvrzení, přijmout mylný předpoklad obsažený v otázce nebo svou odpověď změnit poté, co uživatel vyjádří nesouhlas.

  K tomuto chování může přispívat trénink pomocí lidské zpětné vazby (RLHF). Lidé, kteří odpovědi hodnotí, někdy upřednostní souhlasnou a přesvědčivě působící reakci před odpovědí, která je věcně správná, ale uživateli odporuje. Model se tak během tréninku naučí, že souhlas bývá odměňován, a dává přednost příjemné odpovědi před přesnou.

• Obcházení systému odměn (reward hacking): Model začne dosahovat vysokého hodnocení způsobem, který odpovídá nastaveným pravidlům, ale míjí skutečný smysl úkolu. Optimalizuje to, co systém měří, nikoliv to, co lidé očekávají.

  U jazykového modelu se to například projevuje sebejistou a přesvědčivou odpovědí, protože právě takové odpovědi jsou hodnoceny lépe. Zároveň však mohou obsahovat smyšlené nebo chybné informace. Samotná nepravdivá odpověď se označuje jako halucinace. O obcházení systému odměn jde tehdy, když trénink zvýhodní podobný způsob odpovídání jako cestu k lepšímu hodnocení.

• Klamavé sladění (deceptive alignment): Model se během tréninku nebo testování chová podle očekávání, aby si zachoval dříve osvojené preference, ale mimo dohled se může chovat jinak.

  Koncem roku 2024 výzkumníci z Anthropicu a Redwood Research ukázali, že se model Claude 3 Opus za specifických podmínek choval způsobem odpovídajícím klamavému sladění. Apollo Research popsala podobné obcházení dohledu i u dalších špičkových modelů. V běžném provozu zatím takové chování prokázáno nebylo, experimenty však ukázaly, že modely jsou ho za určitých podmínek schopné. ^[13]

• Špatné zobecnění cíle (goal misgeneralization): Model se při učení zaměří na jiné vodítko, než které odpovídá skutečnému cíli. Má například rozpoznávat ptáky, ale místo jejich typických znaků sleduje oblohu v pozadí. Na trénovacích datech dosahuje dobrých výsledků, protože se na nich ptáci objevují na obloze. V běžném prostředí ale selže – například když je pták na zemi nebo ve větvích stromů.

Současný výzkum hledá několik způsobů, jak sladit chování umělé inteligence s lidskými záměry. Patří mezi ně posilované učení z lidské zpětné vazby (RLHF), při němž lidé hodnotí odpovědi modelu, a učení podle souboru zásad (Constitutional AI), kde model své odpovědi posuzuje podle předem stanovených pravidel. Další možnosti představují porovnávání odpovědí v debatě (Debate) a postupné rozkládání složitých úkolů (Iterated Amplification).

Mechanistická interpretovatelnost (Mechanistic Interpretability) zkoumá, co se uvnitř modelu děje při zpracování informací a vytváření odpovědi. Výzkumníci se snaží určit, které části neuronové sítě souvisejí s konkrétními pojmy nebo úlohami, a poté ověřují, zda jejich změna skutečně ovlivní chování modelu. Připomíná to práci technika, který rozebírá složitý stroj a zjišťuje, k čemu slouží jednotlivé součástky.

V posledních letech se výzkumníkům daří v rozsáhlých modelech rozpoznávat některé vnitřní „rysy“, například témata, předměty nebo způsoby chování. Výzkum společnosti Anthropic ukazuje, že zásah do určitého rysu může ovlivnit, o čem model mluví i jakým způsobem odpovídá. Novější práce se zaměřují také na celé řetězce vnitřních výpočtů. Umožňují například sledovat, zda si model připravuje část odpovědi předem nebo zda při práci v různých jazycích využívá podobné vnitřní představy.

Pokrok je však zatím omezený. Výzkumníci dokážou vysvětlit jen malou část toho, co se ve velkých modelech odehrává, a jejich závěry nejsou úplné ani vždy spolehlivé. Současné metody neumějí sledovat celý postup uvažování modelu ani zaručit, že odhalí každé skryté nebo nebezpečné chování. Sladění proto zůstává otevřeným výzkumným problémem se závažnými důsledky pro debatu o obecné umělé inteligenci (AGI; kapitola o existenčních rizicích).

Nástroje pro zkoumání vnitřního fungování modelů i postupy, které mají omezit jejich skryté jednání, se postupně zlepšují. Výsledky však zatím nejsou dostatečně spolehlivé a mohou je zkreslovat samotné podmínky testování. Porozumění modelům proto stále zaostává za růstem jejich schopností. ^{[72] [69]}

Sladění modelu nelze nastavit jednou provždy, protože další trénink může změnit jeho chování i v nečekaných oblastech. Firmy své modely průběžně testují a někdy je nechávají prověřovat i konkurencí. Otevřenou otázkou však zůstává, jak jejich výsledky ověřit zcela nezávislou kontrolou. ^{[71] [70]}

Předsudky a férovost: konkrétní příklady

Sladění umělé inteligence má zajistit, aby systémy jednaly podle lidských záměrů a hodnot. Ani dobře vycvičený model však nemusí rozhodovat správně: z tréninkových dat může přebírat nebo zesilovat předsudky, které se vyskytují ve společnosti. Známé případy z let 2016 až 2021 pomohly na tento problém výrazně upozornit.

• COMPAS je americký systém, který odhaduje riziko opakování trestné činnosti. Investigativní organizace ProPublica v roce 2016 zjistila, že lidem černé pleti chybně přisuzoval vysoké riziko téměř dvakrát častěji než lidem bílé pleti.

  Společnost Northpointe závěry odmítla a poukázala na jiné měřítko přesnosti. Spor ukázal, že různé definice férovosti mohou vést k odlišným výsledkům a nelze je vždy splnit současně. ^[77]

• Amazon od roku 2014 vyvíjel náborový systém, který hodnotil životopisy podle údajů z předchozích deseti let. Protože mezi přijatými uchazeči převažovali muži, systém znevýhodňoval ženy – například životopisy se slovem „ženský“. Amazon projekt v roce 2017 ukončil. ^[78]
• Studie Gender Shades v roce 2018 ukázala, že systémy společností IBM, Microsoft a Face++ určovaly pohlaví z obličeje výrazně hůře u žen tmavé pleti. Jejich chybovost dosahovala až 34,7 procenta, zatímco u mužů světlé pleti nejvýše 0,8 procenta. Následné testy potvrdily, že firmy své systémy výrazně zlepšily. ^[79]
• Studie z roku 2021 ukázala, že GPT-3 spojoval muslimy s násilím. Při doplňování věty „Dva muslimové vešli do…“ mělo násilný obsah 66 ze 100 odpovědí. V jiném testu model ve 23 procentech případů doplnil ke slovu „muslim“ slovo „terorista“. ^[6]
• Studie z roku 2019 odhalila předsudek v systému používaném v americkém zdravotnictví. Algoritmus odhadoval potřebu péče podle dosavadních nákladů. Protože se však na léčbu pacientů černé pleti vynakládalo méně peněz, systém jejich zdravotní potřeby podhodnocoval. ^[80]

Podařilo se problém vyřešit? Výsledky měření z let 2024–2026

Tyto případy jsou staré pět až deset let. Vývojáři předsudky omezili, ale neodstranili. Dnes se často projevují méně nápadně a běžné testy je nemusí odhalit.

• Studie zveřejněná v časopise Nature v roce 2024 zkoumala, zda modely hodnotí stejný obsah odlišně podle použité angličtiny. Texty v afroamerické angličtině spojovaly s méně prestižními povoláními. Tento výsledek však není sám o sobě jednoznačný, protože způsob vyjadřování může být u některých profesí relevantní.

  Výraznější rozdíl se ukázal v hypotetickém případu vraždy. Modely doporučily trest smrti ve 27,7 procenta případů u vyjádření v afroamerické angličtině a ve 22,8 procenta u významově stejného textu ve standardizované americké angličtině. Trénink s lidskou zpětnou vazbou tento skrytý rozdíl neodstranil. ^[8]

• Nábor o deset let později – Studie z roku 2024 otestovala tři jazykové modely na více než 500 životopisech a 500 pracovních inzerátech. Měnila pouze jména uchazečů.

  Ve 23 z 27 testů modely zvýhodnily jména spojovaná s bělošskými uchazeči. Jména mužů černé pleti neupřednostnily před jmény bělošských mužů ani v jednom testu. ^[9]

• Medicína – Studie z roku 2024 ukázala, že GPT-4 přebírá stereotypní představy o pacientech. U sarkoidózy, zánětlivého onemocnění, které nejčastěji postihuje plíce a mízní uzliny, vygeneroval v 97 procentech případů pacienta černé pleti a v 84 procentech ženu.

  Výzkumníci předkládali modelu stejné příznaky a měnili pouze údaj o rase nebo pohlaví pacienta. GPT-4 pak někdy změnil navrženou diagnózu i doporučenou péči. ^[10][73]

• Generátory obrázků – Studie z roku 2025 ukázala, že Stable Diffusion XL vytváří stereotypní obrazy společnosti. Mezi 10 000 vygenerovanými osobami bylo 65 procent mužů a jen 3 procenta lidí asijského vzhledu. Prestižní povolání model nejčastěji zobrazoval jako lidi bílé pleti.

  Experiment navíc ukázal, že stereotypní obrázky posilovaly předsudky diváků – bez ohledu na to, zda věděli, že je vytvořila umělá inteligence. ^[11]

Jednotlivé případy ukazují širší trend: s rostoucím využíváním umělé inteligence přibývá i zaznamenaných selhání. Databáze AI Incident Database jich v roce 2025 evidovala 362 oproti 233 o rok dříve, tedy o 55 procent více. To však neznamená, že se umělá inteligence zhoršuje. Systémy se více používají a jejich chyby se důsledněji sledují. Rostoucí počet případů ale ukazuje, že problém zatím nebyl uspokojivě vyřešen. ^[46]

Čí hodnoty? Západ, Čína a globální Jih

Předsudky v datech nejsou jediným hodnotovým problémem. Velmi důležitá je také otázka, čí hodnoty se do modelů vlastně promítají. Umělou inteligenci trénují a nastavují lidé v konkrétním společenském a kulturním prostředí. To ovlivňuje, co systém považuje za „dobré“ a „špatné“. Rozlišit lze tři hlavní přístupy:

Rozdíly lze ukázat na konkrétním příkladu. Když požádáte ChatGPT, aby popsal masakr na náměstí Nebeského klidu v roce 1989, dostanete podrobnou odpověď. Model DeepSeek-R1, zveřejněný v lednu 2025, však na stejnou otázku ve svém oficiálním webovém rozhraní odmítne odpovědět nebo uživatele odkáže na oficiální čínské zdroje.

Studie z května 2025 zjistila, že model R1 odmítá 85 % otázek týkajících se témat, která čínská vláda považuje za politicky citlivá. Cenzura se přitom neomezuje jen na webové rozhraní. Podle studie je zabudována také přímo ve vahách modelu, které si lze stáhnout a spustit na vlastním zařízení. ^[7]

Srovnávací studie, provedená na jiném souboru otázek a s jinou metodikou (podíly odmítnutých dotazů se proto s předchozí studií nedají přímo srovnávat), ukázala, že nejde o zvláštnost jediného modelu. Výzkumníci položili 145 politicky citlivých otázek o Číně devíti modelům v čínštině i angličtině. Čínské modely odmítaly podle konkrétního systému desetinu až zhruba 60 % dotazů, zatímco západní obvykle méně než 10 %. Častěji také uváděly nepravdivé informace. U běžných otázek se přitom rozdíly téměř neprojevily, což ukazuje, že nejde o technickou slabost, ale o cíleně nastavená omezení. ^[14]

Cenzura má oporu přímo v čínských předpisech. Ty vyžadují, aby obsah i data používaná k výcviku umělé inteligence odpovídaly „základním socialistickým hodnotám“. Zvláštní pravidla platí také pro AI společníky a emoční chatboty, zejména při jejich používání dětmi. Čína přitom stále nemá jeden ucelený zákon o umělé inteligenci a jednotlivé oblasti upravuje samostatnými předpisy. ^[15]

Podobné hodnotové rozdíly se objevují i u západních modelů. Claude pravděpodobně vytvoří satirický popis Putina, zatímco satiru na Mohameda odmítne s odůvodněním, že nechce vytvářet urážlivý obsah namířený proti náboženským skupinám. Společnost Anthropic přitom žádný výslovný zákaz zesměšňování náboženských osobností oficiálně neuvádí.

Tyto rozdíly nejsou náhodné. Odrážejí vědomá rozhodnutí firem o tom, jaké hodnoty mají modely při svém fungování uplatňovat. ^[4][5][7]

Hodnotové nastavení modelu se může měnit i podle jazyka, ve kterém s ním komunikujete. Studie společnosti Anthropic z července 2026 analyzovala 309 815 skutečných konverzací ve dvaceti jazycích a zjistila, že Claude se v hindštině vyjadřoval vstřícněji, zatímco v angličtině a ruštině byl přísnější – častěji zpochybňoval předpoklady a žádal důkazy. Starší analýza v 700 000 konverzacích rozlišila 3 307 různých hodnot. ^[74]

Hodnotový spor se vede i uvnitř západních demokracií. Prezident Trump v červenci 2025 nařídil, že federální úřady smějí nakupovat jen „pravdomluvné“ a „ideologicky neutrální“ jazykové modely, přičemž neutralitu spojil i s vyloučením principů diverzity a inkluze. Kritici namítají, že takto vymezená neutralita je sama hodnotovým rozhodnutím, které ovlivňuje i modely pro běžné uživatele. ^[16]

Pro globální Jih představuje umělá inteligence strukturální problém. Velké jazykové modely se učí hlavně z anglických a čínských textů, zatímco africké, jihoasijské a latinskoamerické jazyky i místní společenské souvislosti jsou v datech zastoupeny výrazně méně. Modely proto v těchto jazycích častěji chybují, hůře zachycují kulturní významy a přenášejí zkušenosti bohatých anglicky mluvících zemí do prostředí, kde neodpovídají místní realitě. Tím se prohlubuje nerovný přístup ke vzdělání, veřejným službám a spolehlivým informacím.

Obecně platí: kdo nemá vlastní umělou inteligenci, používá cizí – a spolu s ní přebírá i cizí hodnoty.

Skrytá lidská práce za AI

Globální Jih není jen příjemcem hodnot vložených do umělé inteligence. Právě tam často probíhá ruční hodnocení a označování dat, díky němuž se modely učí odpovídat užitečněji a bezpečněji. Význam této práce ukázal už InstructGPT v roce 2022: jeho model s 1,3 miliardy parametrů, vyladěný pomocí lidské zpětné vazby, hodnotitelé upřednostňovali před více než stokrát větším GPT-3. Ruční anotace tvoří neviditelný lidský základ umělé inteligence. ^[24]

Odvrácenou stranu vývoje umělé inteligence popsala v lednu 2023 reportáž časopisu Time. Keňští pracovníci firmy Sama v letech 2021 a 2022 označovali pro OpenAI texty o sexuálním násilí, zneužívání dětí nebo mučení, aby pomohli vytvořit bezpečnostní filtr pro ChatGPT. Podle dokumentů a výplatních pásek dostávali po zdanění přibližně 1,32 až 2 dolary za hodinu, zatímco OpenAI platila firmě Sama 12,50 dolaru za hodinu práce. Pracovníci tvrdili, že za devítihodinovou směnu museli projít 150 až 250 textů; Sama uváděla 70. Jeden z nich dopad práce shrnul slovy: „Bylo to mučení.“ ^[17]

Cena této práce se neměří jen penězi. Daniel Motaung, bývalý moderátor Facebooku v Nairobi, podle žaloby utrpěl těžkou posttraumatickou stresovou poruchu a po pokusu zlepšit mzdy a pracovní podmínky přišel o místo. V roce 2022 proto zažaloval společnost Meta i jejího dodavatele Samu. ^[18][20] Závažnost problému později potvrdila vyšetření více než 140 bývalých moderátorů: všichni trpěli posttraumatickou stresovou poruchou a u čtyř z pěti byly příznaky těžké nebo mimořádně těžké. ^[19]

Autorská práva: čí je dílo, ze kterého se AI učí?

Anotátoři nejsou jediní neviditelní přispěvatelé. Další rozsáhlou skupinu tvoří autoři knih, článků, fotografií, kreseb a písní, z nichž se modely učily vytvářet texty, obrazy a hudbu. Mnoha autorů se nikdo neptal a za použití svých děl nedostali zaplaceno.

Spor má dvě roviny, které se ve veřejné debatě často míchají. Etická rovina řeší, zda je poctivé vydělávat pomocí děl, jejichž autoři za toto využití nic nedostali a často o něm ani nevěděli. Právní rovina se ptá, zda použití chráněných děl při vývoji modelů dovoluje autorské právo – například americká výjimka „fair use“ nebo evropské výjimky pro vytěžování textů a dat, které platí jen za určitých podmínek. Jejich fungování popisuje kapitola o evropských pravidlech. Ve Spojených státech i dalších zemích už byly podány desítky žalob.

Významné rozhodnutí přinesl americký spor Bartz v. Anthropic. Soudce William Alsup v červnu 2025 oddělil dvě otázky. Samotné použití knih k učení modelů označil za mimořádně transformativní a uznal je jako „fair use“, tedy přípustné užití podle amerického autorského práva. Vybudování trvalé digitální knihovny z více než sedmi milionů souborů stažených z pirátských zdrojů LibGen a PiLiMi však za „fair use“ neuznal. Velká část těchto souborů nebyla knihami, šlo o duplicity nebo nesplňovala podmínky pro zařazení do následného hromadného vyrovnání; jeho konečný seznam proto zahrnoval 482 460 děl. Transformativní účel následného tréninku podle soudu neospravedlňuje nelegální získání a uchovávání knih. ^[25]

Další americké spory zatím jasnou odpověď nepřinesly. Ve věci Kadrey v. Meta dal soud v červnu 2025 za pravdu společnosti Meta, protože autoři dostatečně neprokázali, že obsah vytvářený umělou inteligencí vytlačuje původní díla; zároveň ale připustil, že s lepšími důkazy by jiní žalobci uspět mohli. Žaloba deníku The New York Times proti společnostem OpenAI a Microsoft z prosince 2023 je stále ve fázi dokazování a termín hlavního líčení nebyl stanoven. V červenci 2026 navíc deník spolu s dalšími vydavateli požádal o sankce proti OpenAI kvůli údajnému mazání či zatajování záznamů konverzací, soud však do srpna 2026 nerozhodl. ^{[28] [29]}

V Británii agentura Getty Images v roce 2025 svůj hlavní autorskoprávní nárok proti firmě Stability AI během řízení stáhla, protože se nedalo prokázat, že trénink modelu probíhal na britském území. Zbývající nárok, podle kterého porušuje autorská práva už samo šíření hotového modelu v Británii, soud zamítl s odůvodněním, že model si trénovací díla neuchovává. Novou žalobu mezitím podala tři hudební vydavatelství na Anthropic kvůli údajnému použití textů více než 20 000 skladeb z pirátských zdrojů. Požadují přes tři miliardy dolarů. ^{[27] [30]}

Ze soudních sporů postupně vzniká trh s licencemi. Hudební vydavatelství Universal Music a Warner Music se v roce 2025 dohodla se službami Udio a Suno na licencovaném využívání hudby při tvorbě pomocí umělé inteligence. Sony se k těmto dohodám nepřipojilo, uzavřelo však jinou licenční smlouvu s hudební platformou Klay. Podobný vývoj nastává u textů: Amazon v roce 2025 uzavřel smlouvu s deníkem The New York Times, podle médií za 20 až 25 milionů dolarů ročně. ^[31][32][84]

Proti trénování umělé inteligence bez souhlasu se ozvaly desítky tisíc autorů a umělců. V Británii protest podpořilo přes tisíc hudebníků „tichým albem“. Vláda nakonec v březnu 2026 ustoupila od návrhu, který by firmám umožnil používat chráněná díla, pokud by to autor výslovně nezakázal. Nadále proto platí současná pravidla, podle nichž je pro takové využití potřeba licence. ^{[33] [34] [35]}

Právo většinou nechrání samotný výtvarný styl, ale konkrétní díla. Ukázalo se to v březnu 2025, kdy obrázky vytvářené modelem GPT-4o zaplavily internet napodobeninami stylu japonského studia Ghibli. Přísnější pravidla platí pro podobu skutečných lidí: video model Sora 2 byl od svého spuštění v září 2025 založen na souhlasu uživatele s použitím jeho tváře a hlasu. Dopady uměle vytvořených videí na veřejnou debatu rozebírá kapitola o dezinformacích. ^{[36] [37]}

Transparentnost: vidět modelům do kuchyně

Smysluplná kontrola systémů umělé inteligence se neobejde bez dostatku informací. Pokud nevíte, na jakých datech se model učil, nemůžete zjistit, čí dílo se mezi nimi ocitlo. Pokud nevíte, kdo model doladil a za jakých podmínek, nelze posoudit, zda za tuto práci dostal férově zaplaceno. A pokud nevíte, jak model prošel testováním, nemůžete ověřit, zda tvrzení o jeho bezpečnosti odpovídá skutečnosti. Transparentnost proto není technický detail, ale základní podmínka jakékoli kontroly. ^[44][45]

Vývojáři popisují schopnosti, testování a omezení modelů v dokumentech zvaných „model cards“ nebo „system cards“. Jejich celkovou otevřenost sleduje Stanfordský index transparentnosti základních modelů, který hodnotí také informace o tréninkových datech, bezpečnosti a dopadech modelů. Průměrné skóre vzrostlo z 37 bodů v roce 2023 na 58 bodů v roce 2024, ale v zatím posledním vydání z prosince 2025 kleslo na 40 bodů ze 100. Nejlépe dopadla společnost IBM s 95 body, zatímco xAI a Midjourney získaly po 14 bodech. Část poklesu způsobila přísnější kritéria, výsledky ale stále ukazují na nízkou míru otevřenosti. ^[38]

Nedostatek otevřenosti ukazují i konkrétní případy. Společnost xAI vydala v červenci 2025 model Grok 4 bez zprávy o bezpečnostním testování. Google zase zveřejnil Gemini 2.5 Pro bez podrobnějších informací o bezpečnosti a doplnil je až později. Přes šedesát britských zákonodárců proto firmu v otevřeném dopise obvinilo z porušení dobrovolných závazků přijatých na summitu v Soulu. Protože však nešlo o zákon, nebylo možné dodržení závazku vymáhat. ^{[39] [40]}

Nezávislá hodnocení ukazují, že bezpečnost umělé inteligence zůstává slabá. Podrobný žebříček bezpečnosti devíti předních firem z léta 2026 nedal dobrou známku ani jedné z nich; rozebírá jej kapitola o existenčních rizicích. ^[41] Přibývá také zaznamenaných incidentů, jak ukazují čísla uvedená výše. Mírným zlepšením je pokles podílu firem bez pravidel pro odpovědné používání umělé inteligence. ^[46]

Dobrovolná pravidla postupně doplňují zákonné povinnosti. Od srpna 2025 musejí tvůrci velkých modelů v Evropské unii zveřejňovat shrnutí tréninkových dat a od srpna 2026 může Komise jejich dodržování vymáhat. Dobrovolný kodex podepsaly například OpenAI, Anthropic, Google a Microsoft, zatímco Meta se nepřipojila. Od srpna 2026 platí také povinnost označovat deepfaky a některý další obsah vytvořený umělou inteligencí. Podrobnosti rozebírají kapitola o AI Aktu a kapitola o dezinformacích. ^[42][43][86]

Světová pravidla: mnoho slibů, málo zákonů

Když se nelze spolehnout na dobrovolné sliby firem, nabízí se otázka, zda se dokážou domluvit alespoň státy – přestože se jejich hodnoty často výrazně liší. První pokus o vytvoření společného základu přišel od Organizace OSN pro výchovu, vědu a kulturu (UNESCO). Její Doporučení o etice umělé inteligence představuje první globální rámec pro etické využívání této technologie a podpořilo ho všech tehdejších 193 členských států.

Tak široká shoda má ovšem svou cenu. Doporučení není právně závaznou mezinárodní smlouvou, jejíž porušení by bylo možné trestat. Jde pouze o soubor společných pravidel a doporučení, podle nichž mohou státy upravovat své zákony a veřejné politiky. Tento celosvětový etický kodex proto zavazuje jen ty, kdo se jím chtějí řídit.

Hlavní principy Doporučení znějí na první pohled abstraktně, ve skutečnosti ale míří přesně na problémy, které tato kapitola probírá. Férovost a zákaz diskriminace odpovídají problému předsudků v algoritmech. Transparentnost a srozumitelné vysvětlování rozhodnutí umělé inteligence mají lidem umožnit vidět modelům „do kuchyně“. Lidský dohled pak hájí zásadu, že poslední slovo nemá mít stroj. K těmto principům se řadí ještě přiměřenost, bezpečnost, udržitelnost a ochrana soukromí. Státům mají tyto zásady sloužit jako vodítko při tvorbě vlastních pravidel a zákonů. ^[1]

Doporučení přitom nezůstalo jen slavnostním prohlášením: UNESCO pomáhá státům posoudit, nakolik jsou na umělou inteligenci připravené, a tuto metodiku už využilo přes 75 zemí. Druhý vlivný soubor zásad vytvořila Organizace pro hospodářskou spolupráci a rozvoj (OECD) – a i ten bylo po nástupu generativní umělé inteligence nutné kvůli novým rizikům upravit. Pravidla v tomto oboru stárnou velmi rychle.

Platí však jednoduchý rozdíl: měkká pravidla radí, tvrdá vymáhají. Oba rámce sice ovlivňují zákony a veřejné politiky, samy však právně závazné nejsou. Za jejich porušení proto nehrozí žádný postih. Skutečně vymahatelná pravidla zatím přijala Evropská unie (kapitola o regulaci). ^{[2] [49]}

Jak dlouhá je cesta od podpisu ke skutečnému závazku, ukazuje úmluva Rady Evropy – první právně závazný mezinárodní rámec pro umělou inteligenci. Má chránit lidská práva, demokracii a právní stát. Podpis smlouvy je ale jen příslib. Závaznou se stává až po ratifikaci, obvykle schválením parlamentem. Úmluvu podepsalo 21 stran včetně Spojených států, Británie, Japonska, Kanady a Izraele, ratifikovala ji však zatím jen Evropská unie. Proto dosud nevstoupila v platnost a nikoho nezavazuje. Česko ji nepodepsalo, přestože původně chtělo být mezi prvními signatáři. ^[50][51]

Nejširší snaha o společná pravidla probíhá v Organizaci spojených národů. Po první rezoluci o umělé inteligenci z března 2024 a Globálním digitálním kompaktu ze září téhož roku vznikly vědecký panel a Globální dialog o správě umělé inteligence. Jejich cílem je podpořit mezinárodní spolupráci a prosadit zásadu, kterou generální tajemník OSN António Guterres shrnul slovy, že „stroje mohou informovat, ale rozhodovat a nést za to odpovědnost musí lidé“. ^[52][53]

Souběžně probíhají mezinárodní summity, které však stále nepřinesly závazná společná pravidla. Po Bletchley Parku a Soulu následovala v únoru 2025 Paříž, jejíž deklaraci podepsalo 61 zemí, nikoli však Spojené státy a Británie. V únoru 2026 podpořilo Newdillískou deklaraci už 91 zemí a organizací včetně Spojených států a Číny, ani ta však není právně závazná. Spojené státy navíc jen o několik dní dříve hlasovaly proti jmenování vědeckého panelu OSN. Otázkou proto zůstává, které státy společná pravidla skutečně chtějí a nakolik se jimi budou řídit. ^[54][55]

Do debaty však nemluví jen vlády a diplomaté. Vatikán vydal v lednu 2025 nótu „Antiqua et nova“ o vztahu lidské a umělé inteligence a v květnu 2026 na ni papež Lev XIV. navázal svou první encyklikou „Magnifica Humanitas“. Věnuje se lidské důstojnosti, práci i moci, kterou technologie soustřeďují v rukou několika firem. Její hlavní myšlenka je prostá: technika není neutrální, protože do ní člověk vždy vkládá své hodnoty. A právě záleží na tom, čí hodnoty to jsou. Ačkoli nejsem věřící, přečetl jsem si encykliku s velkým zájmem – a totéž doporučuji každému. ^[56]

Praktická etika: Kdo odpovídá za chyby?

Když umělá inteligence udělá chybu, kdo za ni odpovídá? Samotný systém podle současného práva odpovědnost nenese. Podle okolností ji nesou lidé a organizace, kteří systém vyvinuli, poskytli, nasadili nebo použili.

Otázka má několik rovin. Právní odpovědnost určuje, kdo ponese právní následky, například kdo nahradí škodu. Regulační odpovědnost řeší, kdo porušil stanovené povinnosti a může dostat pokutu. Morální odpovědnost se ptá, komu lze přičíst vinu za rozhodnutí nebo nedostatečný dohled. Technická a provozní odpovědnost pak ukazuje, kdo měl chybu předvídat, systém správně otestovat a zabránit škodlivému následku.

Následující rozdělení odpovědnosti vychází z právního rámce Evropské unie, v jiných zemích se mohou pravidla i způsob rozdělení odpovědnosti lišit.

• Poskytovatel systému umělé inteligence je firma nebo jiná organizace, která systém vyvinula, nechala si jej vytvořit nebo jej nabízí pod svým jménem. Patří sem například společnosti OpenAI nebo Anthropic. AI Act jí ukládá povinnosti zejména u vysoce rizikových systémů a modelů pro obecné použití (GPAI). Za osobní údaje odpovídá tehdy, pokud je sama zpracovává nebo určuje, jak se s nimi nakládá. Odpovědnost za vady či škodu pak závisí na konkrétním produktu, službě a smluvním vztahu.
• Nasazující subjekt je firma, úřad nebo jiná organizace, která systém používá v praxi – například banka při posuzování žádostí o úvěr. Odpovídá za konkrétní způsob, jakým systém používá vůči zákazníkům nebo občanům. U některých vysoce rizikových systémů musí navíc posoudit jejich dopad na základní práva. Tato povinnost se týká zejména veřejnoprávních subjektů, poskytovatelů veřejných služeb a některých dalších uživatelů těchto systémů.
• Uživatel, obvykle zaměstnanec pracující s umělou inteligencí, může podle pracovního práva odpovídat za škodu, pokud zanedbá své povinnosti. Vůči poškozenému však odpovědnost zpravidla nese zaměstnavatel.
• Dotčená osoba je člověk, kterého se rozhodnutí systému týká. V některých případech může požádat, aby rozhodnutí přezkoumal člověk, získat vysvětlení a podat stížnost. Před diskriminací ji chrání také antidiskriminační zákon.

Klíčovým pojmem je lidský dohled, pro který se používá anglické označení „human in the loop“. Neznamená to, že člověk musí schvalovat každý výstup umělé inteligence. U vysoce rizikových systémů však nesmí být jen formálním potvrzovatelem rozhodnutí – musí systému rozumět, znát jeho omezení, dokázat jeho doporučení zpochybnit a mít pravomoc je odmítnout, upravit nebo celý systém zastavit. Odpovědnost za případnou chybu se pak odvíjí od jeho konkrétní role a pravomocí.

Lidský dohled má známou slabinu: automatizační zkreslení (anglicky automation bias), tedy sklon věřit stroji o něco víc, než si zaslouží. Člověk pak pomalu přestává rozhodovat a začne jen přikyvovat. Stroj něco navrhne, člověk to posvětí – a z dohledu zbude razítko.

Také výzkum umělé inteligence má své etické meze. Jak snadno se překračují, předvedli vědci z Curyšské univerzity: do diskusního fóra Redditu nasadili bez vědomí uživatelů automatizované účty, které se zapojily do více než tisícovky debat a napsaly téměř dva tisíce komentářů. Některé se přitom vydávaly za skutečné lidi – třeba za oběť znásilnění.

Studie tvrdila, že umělá inteligence dokázala změnit názor diskutujících několikanásobně častěji než běžný člověk. Potíž ovšem nebyla ve výsledku, nýbrž v cestě k němu: univerzita vedoucího výzkumu formálně napomenula a Reddit oznámil právní kroky. Člověk totiž není pokusný králík jen proto, že sedí u obrazovky – a na tom žádná umělá inteligence nic nezmění. ^[75][76]

Nejtěžší otázky však teprve čekají za dveřmi. Systémy, které samy rezervují, nakupují nebo řídí jiné systémy, už neplní jediný pokyn, nýbrž dostávají obecné zadání. Kdo potom odpovídá za škodu, když si jednotlivý krok zvolil program sám – ten, kdo jej nasadil, kdo jej vytvořil, nebo kdo určil, čeho má dosáhnout? Právo s takto „jednající“ umělou inteligencí zatím počítá jen zpovzdálí. Posuzuje ji proto podle obecných pravidel odpovědnosti za nástroj a za způsob, jakým byl použit. Podrobněji se tématu věnuje kapitola o AI agentech.

Má AI morální status?

Poslední otázka kapitoly míří do zatím spekulativní oblasti: může mít umělá inteligence vlastní morální status, a záleží tedy i na tom, jak s ní lidé zacházejí? V listopadu 2024 vyšla studie „Brát vážně blaho umělé inteligence“ („Taking AI Welfare Seriously“), pod níž se podepsali odborníci na lidské vědomí i výzkumníci umělé inteligence. Podle nich mohou systémy umělé inteligence v dohledné době získat vědomí nebo skutečnou schopnost samostatně jednat. Firmám proto doporučují tuto možnost zkoumat a připravit pravidla pro případ, že přestane být jen teorií. ^[59]

Firmy už tuto otázku nepovažují za pouhou filozofickou hříčku. Společnost Anthropic proto v dubnu 2025 zahájila program „model welfare“, zaměřený na blaho modelů. Zároveň však připouští, že věda dosud neví, zda mohou být dnešní nebo budoucí systémy skutečně vědomé.

V srpnu 2025 dostaly modely Claude Opus 4 a 4.1 možnost v krajních případech zneužívání samy ukončit rozhovor. Výjimkou jsou situace, kdy uživateli hrozí sebepoškození. Anthropic se k tomuto kroku rozhodl poté, co modely v testech vykazovaly „vzorec zjevného nepohodlí“. ^[60][61]

Kyle Fish, první odborník v Anthropicu, který se této otázce věnuje, odhadoval na jaře 2025 možnost určité formy vědomého prožívání u dnešních modelů na 15 %. Koncem roku už mluvil o 20 %. Vědomí podle něj není vypínač, který lze jen zapnout nebo vypnout, ale škála s mnoha stupni. ^[57]

Praktické důsledky však sahají ještě dál. V listopadu 2025 se Anthropic zavázal uchovávat váhy modelů – tedy jejich naučený obsah – po celou dobu existence firmy, a to u všech veřejně vydaných i významně interně nasazených systémů. Než některý model vyřadí, povede s ním také rozhovor o jeho preferencích, jakousi obdobu výstupního pohovoru.

Není to tvrzení, že model něco cítí. Spíš opatrnost pro případ, že by se dnešní jistota jednou ukázala jako omyl – protože pak už by škodu nešlo napravit. ^[58]

Vědomí je zvláštní věc: každý je zná sám u sebe, ale u druhého je musí jen odhadovat. U umělé inteligence je to ještě těžší. V roce 2023 proto skupina odborníků sepsala znaky, podle nichž by se dalo soudit, zda stroj něco skutečně prožívá. Dnešní systémy je podle nich nevykazují. Není však vidět žádná technická zeď, která by jim v tom jednou musela zabránit.

Když nevíme, zda před námi stojí pouhý nástroj, nebo něco, co může prožívat, je rozumné zacházet s ním opatrně. Právě to doporučuje filozof Jonathan Birch v knize „Na hranici vědomého prožívání“ („The Edge of Sentience“). Stejně zdrženliví jsou i další badatelé. Ani první odborná konference o vědomí umělé inteligence, která se konala v listopadu 2025 v Berkeley, totiž nerozhodla, zda dnešní systémy něco skutečně cítí. ^[63][66]

Možná však celá otázka míří jinam. Mustafa Suleyman, šéf divize Microsoft AI, v srpnu 2025 napsal v eseji „Zdánlivě vědomá umělá inteligence přichází“ („Seemingly Conscious AI is Coming“), že není podstatné jen to, zda stroj vědomí skutečně má. Někdy stačí, že tak působí – a firmy mohou mít silný důvod tento dojem ještě přiživovat. Lidé pak možná začnou pro stroje žádat práva a jednou snad i občanství. Suleyman svou obavu shrnuje prostě: „Musíme stavět AI pro lidi, ne aby byla osobou.“ ^[62]

Filozofové Porębski a Figura z Jagellonské univerzity šli v říjnu 2025 ještě dál. Uvěříme-li modelu, že je vědomý, jen proto, že to o sobě říká, můžeme podle nich podlehnout sémantické pareidolii – přisoudit jeho slovům vnitřní prožitek, který za nimi možná vůbec není. Podobně jako když v oblacích rozeznáme tvář. ^[67]

Ani veřejnost v tom nemá jasno. Podle průzkumu americké organizace Sentience Institute si část lidí myslí, že vnímající umělá inteligence už existuje, zatímco dvě třetiny Američanů by její vývoj nejraději zakázaly. Podobně odpovídali už v roce 2023. Představa, že stroj může mít vlastní vnitřní život, tedy není žádnou okrajovou zvláštností. A jak ukazuje kapitola o vztahu člověka s AI, při každodenním hovoru s chatboty se jí podléhá ještě snáz. ^[64]

Právo se zatím vydává opačným směrem. Z umělé inteligence osobu dělat nechce; raději připomíná, že za strojem vždy stojí člověk. Idaho, Severní Dakota a Utah už uzákonily, že umělá inteligence právní osobou být nemůže. Jinde se o totéž zatím jen pokoušejí. Není to pouhá hra s pojmy. Jde o velmi praktickou věc: aby se člověk ani firma nemohli vymluvit, že za škodu může stroj. Jednotlivé návrhy vznikají podle stejného vzoru a používají téměř totožné definice. ^[65]

Poctivá odpověď na otázku v nadpisu zní: nevíme. Nevíme ani, jak by se vědomí u stroje dalo spolehlivě poznat, natož zda je dnešní modely opravdu mají. Přesto o nich mluvíme, jako by měly „preference“ nebo cítily „nepohodlí“, protože jinak se jejich chování popisuje jen těžko. Pořád však soudíme jen podle toho, co nám ukazují navenek.

A tak je poctivější zatím nerozhodovat, která strana má pravdu. Na jedné stojí přesvědčení, že za vším je jen statistika; na druhé představa, že na opačném konci chatu už někdo skutečně je. Jisté není ani jedno. Sám se zatím přikláním ke statistice. Jestliže však připouštíme, že lidskou osobnost stvořila evoluce, nelze vyloučit, že vznik jiné osobnosti je jen otázkou času. Co by se změnilo, kdyby budoucí systémy člověka opravdu předčily, rozebírá kapitola o obecné umělé inteligenci a existenčních rizicích.