Predstavte si, že sa umelej inteligencie opýtate na historickú udalosť. V priebehu niekoľkých sekúnd vám odpovie, uvedie presný dátum, meno významnej osobnosti a dokonca pridá názov odbornej štúdie.

Všetko vyzerá dôveryhodne. Odpoveď je napísaná bez gramatických chýb, má logickú štruktúru a pôsobí ako vysvetlenie od odborníka.

Má to však jeden háčik. Uvedená štúdia vôbec nemusí existovať a dátum môže byť nesprávny.

Práve toto je jeden z najzvláštnejších problémov modernej umelej inteligencie. Dokáže vytvárať mimoriadne presvedčivé odpovede, no nie vždy dokáže spoľahlivo rozlíšiť pravdu od nepravdy.

Čo sú halucinácie umelej inteligencie?

Keď umelá inteligencia vytvorí nepravdivú informáciu, ktorá znie vierohodne, odborníci často hovoria o takzvanej halucinácii AI.

Tento výraz môže byť trochu zavádzajúci. Umelá inteligencia totiž nehalucinuje rovnakým spôsobom ako človek. Ide o označenie situácie, keď systém vygeneruje nesprávny údaj, vymyslený fakt, neexistujúcu citáciu alebo tvrdenie, ktoré nie je podložené dostupnými informáciami.

Americký Národný inštitút pre štandardy a technológie (NIST) používa aj označenie confabulation. Vo svojom dokumente o rizikách generatívnej AI upozorňuje, že systém môže nesprávne informácie prezentovať s vysokou mierou zdanlivej istoty.

Príkladom môže byť odpoveď na otázku o málo známej vedeckej práci. Namiesto priznania, že konkrétnu štúdiu nedokáže nájsť alebo overiť, môže model vytvoriť realisticky znejúci názov, autora a rok vydania.

Pre čitateľa, ktorý sa v danej oblasti nevyzná, môže byť takýto výsledok takmer nerozoznateľný od skutočnosti.

Prečo AI nepozná pravdu tak ako človek?

Veľké jazykové modely, na ktorých fungujú mnohé moderné chatboty, sa učia zo značného množstva textových a ďalších tréningových údajov.

Počas tréningu si osvojujú jazykové vzorce, súvislosti medzi pojmami a množstvo informácií. Pri vytváraní odpovede potom postupne predpovedajú ďalšie časti textu na základe vstupu, kontextu a naučených vzorcov.

To však neznamená, že každú vytvorenú vetu automaticky porovnávajú s nezávislou databázou overených faktov.

Moderné systémy môžu využívať vyhľadávanie, prácu s dokumentmi či ďalšie nástroje. Tieto funkcie dokážu spoľahlivosť zlepšiť, ale ani ich prítomnosť nie je zárukou pravdivosti výsledku.

Dôležitý je ešte jeden rozdiel: jazykový model dokáže vytvoriť gramaticky správnu a presvedčivú vetu aj vtedy, keď je jej obsah chybný.

Plynulosť vyjadrovania preto nie je dôkazom správnosti.

Prečo AI radšej háda, než prizná neistotu?

Zaujímavé vysvetlenie priniesol výskum OpenAI publikovaný v septembri 2025 pod názvom Why Language Models Hallucinate.

Autori poukázali na problém v spôsobe, akým sa jazykové modely trénujú a hodnotia.

Predstavte si školský test. Za správnu odpoveď dostanete bod, za nesprávnu nulu a za nevyplnenú otázku tiež nulu. Ak neviete odpoveď, hádanie sa môže vyplatiť.

Podobný mechanizmus môže vznikať pri hodnotení AI. Pokiaľ systém získava lepšie skóre tým, že sa pokúsi odpovedať, namiesto toho, aby priznal neistotu, vzniká tlak na vytváranie odhadov.

Výskumníci preto upozornili na potrebu lepšieho hodnotenia, ktoré nebude trestať opodstatnenú neistotu rovnako ako nepravdivú odpoveď.

Nejde o jediné vysvetlenie všetkých halucinácií, ale o dôležitý dôvod, prečo problém pretrváva aj pri pokročilých modeloch.

Päť situácií, pri ktorých si treba dávať pozor

1. Presné čísla bez dohľadateľného zdroja

AI vám môže oznámiť, že určitý jav sa týka presne stanoveného percenta obyvateľov alebo že konkrétna krajina dosiahla rekordný výsledok.

Pokiaľ nie je jasné, odkiaľ údaj pochádza a za aké obdobie platí, treba ho overiť.

2. Vedecké štúdie, ktoré neexistujú

Chatbot môže vytvoriť názov akademického článku, meno autora alebo bibliografickú citáciu, ktorá pôsobí skutočne.

Pred použitím takejto štúdie je vhodné vyhľadať ju v Google Scholar, na stránke vedeckého časopisu alebo v databáze príslušnej univerzity.

3. Zastarané informácie

Odpoveď môže opisovať stav, ktorý už nie je aktuálny. Typickým príkladom sú ceny, právne predpisy, dostupnosť produktov, politické funkcie alebo technologické novinky.

Nie každý model má automaticky prístup k najnovším informáciám a ani prístup na internet úplne nevylučuje chybu.

4. Právne a zdravotné odporúčania

V oblastiach, kde môže nesprávna informácia poškodiť človeka, je potrebná osobitná opatrnosť.

AI môže pomôcť vysvetliť odborné pojmy alebo pripraviť otázky pre lekára či právnika. Dôležité rozhodnutia by však nemali stáť iba na jej odpovedi.

5. Vymyslené citácie a výroky

Ak sa niekde objaví pôsobivý výrok údajne pochádzajúci od známeho vedca alebo historickej osobnosti, ešte to neznamená, že ho táto osoba naozaj vyslovila.

Obzvlášť opatrní by sme mali byť pri výrokoch bez uvedenia knihy, rozhovoru, prejavu alebo iného pôvodného zdroja.

Má AI menšiu chybovosť, keď používa internet?

Prístup k aktuálnym zdrojom môže výrazne pomôcť. Chatbot nemusí vychádzať iba z informácií získaných počas tréningu a môže pracovať s konkrétnymi dokumentmi.

Ani to však neznamená, že je automaticky neomylný.

Systém môže nesprávne interpretovať text, prehliadnuť dôležitú podmienku alebo vyvodiť záver, ktorý zdroj v skutočnosti nepotvrdzuje.

Spoločnosť Google DeepMind preto rozvíja hodnotenie s názvom FACTS, ktorým testuje faktickú správnosť jazykových modelov v rôznych situáciách. Patrí medzi ne aj schopnosť odpovedať na základe poskytnutých dokumentov a využívať informácie získané vyhľadávaním.

Dôležité je teda nielen to, či chatbot uvedie zdroj, ale aj či daný zdroj skutočne podporuje jeho tvrdenie.

Odkaz pod odpoveďou nie je automatickým dôkazom jej pravdivosti.

Ako si overiť odpoveď AI za dve minúty?

Nemusíte byť programátor ani odborník na umelú inteligenciu. Väčšinu podozrivých odpovedí možno predbežne preveriť jednoduchým postupom.

Prvý krok: Vyberte najdôležitejšie tvrdenie.

Namiesto kontroly každej vety začnite konkrétnym dátumom, štatistikou alebo faktom, na ktorom stojí celý záver.

Druhý krok: Vyhľadajte pôvodný zdroj.

Ak ide o zdravotníctvo, hľadajte stanoviská zdravotníckych inštitúcií. Pri ekonomike skúste štatistické úrady, centrálne banky alebo medzinárodné organizácie. Pri vede uprednostnite pôvodný výskum.

Tretí krok: Porovnajte aspoň dva dôveryhodné zdroje.

Ak sa tvrdenie objaví iba na jednom neznámom webe, nie je rozumné považovať ho automaticky za potvrdené.

Štvrtý krok: Skontrolujte dátum a kontext.

Aj pravdivá informácia môže byť zavádzajúca, ak sa týka iného roka, krajiny alebo skupiny ľudí.

Piaty krok: Overte, čo zdroj skutočne hovorí.

Niekedy citovaný dokument existuje, ale záver, ktorý z neho AI vyvodila, v ňom vôbec nie je uvedený.

Podobný prístup odporúčajú aj knižnice Massachusettského technologického inštitútu (MIT), ktoré zdôrazňujú kontrolu citácií a porovnávanie tvrdení s nezávislými dôveryhodnými zdrojmi.

Môžeme AI prinútiť, aby sa menej mýlila?

Žiadny jednoduchý príkaz nedokáže zaručiť úplnú správnosť. Spôsob položenia otázky však môže pomôcť.

Namiesto všeobecného „Napíš mi všetko o tejto téme“ môžete skúsiť presnejšie zadanie:

„Vysvetli mi túto tému na základe dôveryhodných zdrojov. Oddeľ overené fakty od predpokladov, uveď pôvodné odkazy a ak niečo nevieš potvrdiť, otvorene to priznaj.“

Ešte užitočnejšie môže byť poskytnúť konkrétny dokument a požiadať AI, aby odpovedala iba na základe jeho obsahu.

Aj tak však zostáva potrebná ľudská kontrola. Model môže nesprávne prečítať dokument alebo vytvoriť záver, ktorý z neho nevyplýva.

Znamená to, že umelej inteligencii nemáme veriť?

Nie. Znamená to, že by sme ju mali používať správnym spôsobom.

AI môže byť mimoriadne užitočná pri vysvetľovaní pojmov, navrhovaní nápadov, sumarizácii textov, príprave pracovných dokumentov alebo učení.

Problém vzniká najmä vtedy, keď z užitočného pomocníka urobíme nekritickú autoritu.

Odborníci preto skúmajú nielen to, ako zvyšovať presnosť modelov, ale aj ako zlepšiť ich schopnosť vyjadrovať neistotu a pracovať s overiteľnými zdrojmi.

Záver: Najnebezpečnejšia chyba je tá, ktorá znie presvedčivo

Umelá inteligencia mení spôsob, akým vyhľadávame informácie a pracujeme s nimi. Čoraz menej času potrebujeme na vytvorenie odpovede, no zodpovednosť za jej správnosť nezmizla.

Keď nám AI poskytne informáciu, ktorá môže ovplyvniť dôležité rozhodnutie, mali by sme vedieť odpovedať na tri otázky: Odkiaľ údaj pochádza? Je stále aktuálny? Potvrdzuje ho pôvodný zdroj?

Umelá inteligencia dokáže odpovedať veľmi rýchlo. To však ešte neznamená, že má vždy pravdu.