Co je vlastně umělá inteligence

Jak se počítače naučily pracovat s jazykem

Na začátku se umělá inteligence dnešním chatovacím robotům vůbec nepodobala. Od 50. do 80. let minulého století se počítače učily hlavně tak, že jim lidé ručně zapisovali pravidla: „Když má pacient horečku a kašel, může jít o chřipku.“ Takových pravidel postupně vznikaly tisíce. Říkalo se jim expertní systémy – programy, které dokázaly překvapivě dobře radit v úzkém oboru, například při zdravotní diagnostice nebo chemické analýze.

Expertní systémy ale měly zásadní slabinu. Když narazily na situaci, se kterou žádné pravidlo nepočítalo, nevěděly si rady. V první polovině 80. let přesto zažily komerční rozmach. Brzy se však ukázalo, že jsou drahé na údržbu a jejich hlavní slabinu nelze snadno obejít. Na konci 80. a začátku 90. let proto opadlo nadšení i financování výzkumu. Historici toto období dodnes označují jako „zimu umělé inteligence“. ^[5]

Později se změnil samotný přístup. Člověk už počítači nepředepisoval každé pravidlo předem, ale začal mu dávat příklady. Už ne: „Takhle přesně poznáš kočku.“ Spíš: „Tady máš tisíc obrázků koček – najdi, co mají společné.“ Tím se otevřela cesta ke strojovému učení – metodám, při nichž počítač hledá vzory v datech.

Počítač už neměl jen poslušně vykonávat pravidla napsaná člověkem. Měl se z příkladů sám naučit, které znaky jsou důležité. Pro veřejnost se tato proměna stala viditelnou hlavně díky velkým vítězstvím: v roce 1997 porazil počítač Deep Blue od firmy IBM mistra světa v šachu Garryho Kasparova ^[6], v roce 2016 program AlphaGo od firmy DeepMind porazil Lee Sedola, jednoho z nejlepších hráčů světa ve hře go, a v roce 2022 přišel ChatGPT. Během dvou měsíců získal 100 milionů uživatelů a spustil „AI horečku“, kterou dnes vidíme téměř všude. ^[7]

Co se mezitím stalo, že se z počítačů založených na ručně psaných pravidlech staly systémy schopné psát texty, překládat, programovat nebo odpovídat na otázky? Sešly se tři věci najednou. Internet přinesl obrovské množství textů, obrázků a dalších dat, z nichž se umělá inteligence mohla učit. Grafické karty, původně vyvíjené hlavně pro hry, se ukázaly jako ideální výpočetní motor: umějí rozdělit výpočet na tisíce malých kroků a řešit je současně, přesně tak, jak to tyto systémy potřebují. V roce 2017 pak vědci z Googlu představili transformer, nový princip, který umožnil mnohem lépe zachycovat souvislosti v textu. Právě z něj vyrostly dnešní velké jazykové modely. ^[3]

Tím začala nová éra. Umělá inteligence už nestojí hlavně na ručně psaných pravidlech ani na malých souborech příkladů. Učí se z obrovského množství dat – z miliard ukázek textu, obrázků a dalších vzorů. Neučí se jako člověk a nerozumí světu stejným způsobem jako my. Přesto dokáže rozpoznávat zákonitosti v jazyce tak dobře, že umí skládat věty, vysvětlovat složité pojmy, psát kód nebo napodobovat styl lidského textu. Tady začíná příběh umělé inteligence, která se naučila zacházet s jazykem tak přesvědčivě, že její odpovědi začaly působit jako skutečný rozhovor.

Model nepřemýšlí jako člověk

Když napíšete otázku velkému jazykovému modelu, model nepřemýšlí jako člověk. Nevychází z vlastní zkušenosti, úmyslu ani z porozumění světu v lidském smyslu. Místo toho postupně dopočítává, jaké pokračování textu je v dané chvíli nejpravděpodobnější.

Základní jednotkou takového výpočtu je token. Token je malý kousek textu – někdy celé krátké slovo, jindy jen část slova nebo jednotlivý znak. Model vybere pravděpodobné pokračování, přidá ho k rozepsané odpovědi a stejný krok opakuje znovu a znovu. Slovo po slově, přesněji token po tokenu, tak postupně vzniká celá odpověď.

Navenek to působí mnohem chytřeji, než by se z tak jednoduchého principu mohlo zdát. Model při tréninku prošel obrovským množstvím textů, a proto při skládání odpovědi velmi dobře odhaduje, jaké pokračování se hodí k tomu, co už bylo napsáno. Když vysvětluje složitý pojem, staví argument, překládá větu, píše program nebo odpovídá na odbornou otázku, nedělá to podle ručně sepsaných pravidel ani díky lidskému porozumění. Přesto z dlouhé řady drobných voleb vzniká odpověď, která působí jako profesionální lidské dílo. Novější modely navržené pro náročnější otázky – říká se jim uvažovací modely – si problém nejprve rozloží, projdou několik mezikroků a teprve potom sestaví odpověď pro čtenáře. Stále nejde o lidské porozumění, ale o mimořádně výkonný způsob, jak generovat smysluplný text.

Parametry: naučená čísla uvnitř modelu

Aby vše fungovalo, musí v sobě model obsahovat obrovské množství „naučených čísel“. Odborně se jim říká parametry. Právě v nich je nepřímo uloženo to, co se model při tréninku naučil: styl psaní, jazykové vzorce, části faktických znalostí i obvyklé podoby vysvětlení, argumentu nebo postupu řešení. Největší dnešní modely mívají stovky miliard parametrů. U některých se mluví i o bilionech, i když firmy u uzavřených modelů přesná čísla obvykle nezveřejňují.

Parametry vznikají při tréninku. Model postupně upravuje vnitřní čísla tak, aby stále lépe odhadoval, jak text obvykle pokračuje. U špičkových modelů může samotný výpočetní trénink stát desítky až stovky milionů dolarů a trvat měsíce na tisících speciálních čipů. Některé novější otevřené modely uvádějí výrazně nižší náklady, které však obvykle nezahrnují celý předchozí výzkum, přípravu dat, vývoj infrastruktury ani neúspěšné pokusy.

Doladění lidmi a jeho skrytá cena

Ve druhé fázi přicházejí na řadu lidé. Model po prvním tréninku umí plynule pokračovat v textu, ale sám od sebe ještě nepozná, která odpověď je užitečná, bezpečná nebo vhodná. Dotaz na podvod, zneužití cizího účtu nebo výrobu jedu by pro něj bez dalšího dolaďování mohl být jen další text, na který má navázat co nejpravděpodobnější odpovědí – podobně jako u receptu, překladu nebo školní úlohy. Proto lidští hodnotitelé posuzují jeho odpovědi, porovnávají lepší a horší varianty a na příkladech mu pomáhají rozlišovat, kdy má pomoci, kdy má být opatrný a kdy má požadavek odmítnout. Tomu se říká učení s lidskou zpětnou vazbou a je to jeden z důvodů, proč jazykové modely odpovídají zdvořile a odmítají škodlivé požadavky.

Tato práce má ale i méně viditelnou stránku. Často se zadává externím firmám v zemích s nízkými mzdami. Známý je například případ pracovníků v Keni, kteří pro dodavatele OpenAI označovali toxický obsah za méně než 2 dolary za hodinu. I proto se vede debata o podmínkách lidí, kteří tuto skrytou práci pro vývoj AI dělají. ^[8]

Když lidský text dochází: syntetická data a učení odměnou

Celý dosavadní recept – víc textu, větší model – přitom naráží na nečekaný strop: kvalitní lidský text dochází. Výzkumná skupina Epoch AI odhadla zásobu použitelného veřejného textu, který kdy lidé napsali, na 510 bilionů tokenů a spočítala, že při současném tempu ji modely vyčerpají někdy mezi lety 2026 a 2032. Internet se nezmenšuje; nový kvalitní text psaný lidmi ale nepřibývá ani zdaleka tak rychle, jak roste „apetit“ tréninku. ^[13]

Laboratoře na to reagují dvěma způsoby. První odpověď zní: když lidský text dochází, ať si ho umělá inteligence vyrobí sama. Textům a příkladům, které jeden model vygeneruje pro trénink jiného, se říká syntetická data a dnes s nimi pracují všechny velké laboratoře. Firma NVIDIA například uvedla, že při dolaďování jejího modelu Nemotron-4 pocházelo přes 98 % dat od modelů samotných; lidé dodali jen dvacet tisíc ukázek. ^[14] Stále ale chybí přesvědčivý důkaz, že by syntetická data zvládla významně nahradit lidský text i v základním tréninku. ^[1]

Má to ovšem háček. Když se modely učí stále dokola z výstupů jiných modelů, hrozí, že se kvalita postupně rozpadne jako u kopie kopie: vzácné a neobvyklé jevy z dat mizí a texty se stávají jednotvárnějšími. Studie v časopise Nature tento jev pojmenovala „kolaps modelu“. ^[15] Navazující výzkum ale ukázal, že při postupném přidávání syntetických dat k lidským se kvalita rozpadat nemusí. ^[16] Syntetická budoucnost tréninku tedy není zadarmo – vyžaduje pečlivou práci s daty.

Druhá odpověď se bez nového textu obejde úplně. U úloh, kde lze výsledek automaticky zkontrolovat – matematický příklad buď vyjde, nebo nevyjde, program buď funguje, nebo ne – se model učí pokusy: zkouší řešení a za správná dostává odměnu, podobně jako při doladění lidmi, jen roli hodnotitele přebírá automatická kontrola. Právě z tohoto přístupu, odborně učení posilováním, vyrostly uvažovací modely zmíněné na začátku této části. U modelu DeepSeek-R1 zvedl takový trénink úspěšnost na úlohách náročné americké středoškolské matematické soutěže z 15,6 % na 71,0 % – bez jediného nového lidského textu. ^[17]

Tento posun vysvětluje, proč je dnešní pokrok tak nerovnoměrný. Tam, kde jde výsledek ověřit – v matematice, programování, logických úlohách – se modely zlepšují skokově. Tam, kde by pomohl hlavně další kvalitní lidský text, třeba ve znalostech o méně známých tématech nebo o vašem profesním oboru, jde pokrok pomaleji.

Kontextové okno: co má model „po ruce“

Když je model natrénovaný a začneme ho v praxi používat, neodpovídá jen na poslední větu, kterou mu napíšeme. Při každé odpovědi vychází z textu, který má v danou chvíli „po ruce“. Patří do něj aktuální otázka, často i předchozí části téhož rozhovoru, případně vložený dokument, delší zadání a také instrukce určující, jak se má model chovat. Nejde o další trénink modelu, ale o soubor informací, z něhož model při konkrétní odpovědi vychází.

Odborně se tomuto prostoru říká kontextové okno. U některých dnešních modelů může být velmi dlouhé: dokážou v jednom zadání pracovat s textem o rozsahu několika knih, tedy se stovkami tisíc až miliony tokenů. Není to ale paměť v lidském smyslu. Model si sám od sebe „nevzpomíná“ na dávné rozhovory. Při aktuální odpovědi může využít jen to, co se mu vešlo do kontextového okna.

Díky kontextovému oknu ale mohou moderní modely shrnovat dlouhé právní dokumenty, porovnávat výroční zprávy, hledat souvislosti ve vložených podkladech nebo pomáhat s rozborem celé knihy. Čím větší část textu má model při odpovědi k dispozici, tím lépe může navazovat na předchozí pasáže, vracet se k nim a držet se zadaného úkolu.

Nově vznikající schopnosti

U velkých modelů se navíc ukazuje, že některé schopnosti se výrazně zlepšují až od určité velikosti a kvality modelu. Někdy se jim říká emergentní schopnosti. Neznamená to ale, že se v modelu z ničeho nic objeví lidské porozumění. Vědci se stále přou, zda jde opravdu o nový skok v chování modelu, nebo spíš o důsledek toho, jak tyto schopnosti měříme. ^[9]

I proto pokračuje debata, zda se podobné modely mohou jednou přiblížit obecné umělé inteligenci – AGI, která by dokázala zvládat široký rozsah úloh podobně pružně jako člověk. Této otázce se podrobněji věnuje kapitola o AGI a existenčních rizicích.

Důležité je pamatovat na obě stránky věci. Velký jazykový model nemá vědomí, vlastní záměr ani lidské porozumění světu. Neví, co chce říct, tak jako to ví člověk. Zároveň však dokáže z obrovského množství naučených jazykových vzorců skládat odpovědi, které působí jako výsledek promyšleného uvažování. V tomto napětí – mezi poměrně jednoduchým principem a překvapivě složitým chováním – spočívá podstata našich rozhovorů s umělou inteligencí.

Proč si AI vymýšlí

Představte si, že požádáte ChatGPT nebo Claude, aby vám našel odbornou citaci k určitému tématu. Model obratem vytvoří záznam, který vypadá naprosto přesvědčivě: uvede jméno autora, název článku, odborný časopis, rok vydání i čísla stránek. Na první pohled působí jako poctivě dohledaný zdroj. Jenže žádný takový článek neexistuje – model si celou citaci vymyslel.

Podobně dopadl v roce 2023 americký právník Steven Schwartz. V soudním podání použil několik smyšlených precedentů, které mu „připravil“ ChatGPT. Nešlo o drobnou chybu v citaci, ale o neexistující soudní případy předložené jako skutečná právní opora. Soud proto uložil právníkům i jejich kanceláři Levidow, Levidow & Oberman pokutu 5 000 dolarů. Případ Mata v. Avianca se od té doby často uvádí jako varování před bezhlavou důvěrou v odpovědi umělé inteligence. ^[10]

Z toho plynou dvě praktická pravidla, ke kterým se v tomto průvodci budeme vracet.

1. AI je užitečná tam, kde lze výsledek snadno zkontrolovat. Programový kód buď běží, nebo neběží. Překlad si může přečíst rodilý mluvčí. Shrnutí dlouhého článku porovnáte s původním textem. Návrh e-mailu sami posoudíte, než ho odešlete.
2. AI je riziková tam, kde se správnost ověřuje obtížně. Faktická tvrzení o méně známých lidech nebo událostech, lékařské diagnózy, právní rady či finanční doporučení mohou znít velmi jistě, i když jsou chybné. V takových případech může AI posloužit jako zdroj nápadů, první orientace nebo seznam otázek, které je třeba dál ověřit. Neměla by ale být konečnou autoritou.

Halucinací postupně ubývá. Novější modely lépe rozpoznávají situace, kdy si nejsou jisté, a některé systémy si navíc před odpovědí dokážou dohledat informace na internetu nebo ve vložených dokumentech. Tomu se říká RAG – zjednodušeně odpovídání s pomocí vyhledaných podkladů. Ani tento postup však halucinace úplně neodstraní. Nejde o dětskou nemoc, ze které modely jednoduše vyrostou, ale o důsledek toho, jak jsou uvnitř postavené.

Co AI dnes opravdu umí – a co ne

K tabulce ještě jedna novinka z poslední doby: nastupují takzvané světové modely (world models) — AI, která z textového popisu vytvoří celé interaktivní trojrozměrné prostředí, jímž se dá procházet jako počítačovou hrou. Průkopníkem je systém Genie od Google DeepMind, který se postupně dostává k prvním uživatelům; na vlastních světových modelech dnes pracuje i řada dalších firem, protože se hodí nejen pro hry, ale třeba i pro trénink robotů. Zatím jde o ranou technologii — vygenerované prostředí vydrží souvisle fungovat jen minuty. ^[12]

A druhá novinka: umělá inteligence už nejen odpovídá, ale začíná také sama jednat. Takzvaní AI agenti za vás dokážou vyhledat informaci na webu, vyplnit formulář nebo naplánovat schůzku. V rutinních úlohách už reálně pomáhají, spolehlivě samostatní ale zatím nejsou. Podrobně se jim věnuje hned následující kapitola o AI, která jedná, vidí i slyší.