Halucinácie AI: ako overiť fakty v texte z ChatGPT

V skratke

• Halucinácie AI sú tvrdenia, ktoré model podá s istotou faktu, hoci za nimi nestojí nič overiteľné, a stáva sa to aj vtedy, keď nástroj pracuje s webom.
• Recenzované štúdie z rokov 2025 a 2026 namerali podiel vymyslených odkazov v desiatkach percent, pričom najhoršie dopadli témy, o ktorých existuje málo textov.
• Kontrola faktov vo firme stojí na jednom kroku, ktorý sa nedá obísť: otvoriť pôvodný zdroj a porovnať s ním číslo, meno aj dátum.
• Zadanie vie riziko znížiť, keď modelu dovolíte povedať „neviem“ a vypýtate si doslovné citáty z priložených dokumentov.

Halucinácia AI je vymyslené tvrdenie, ktoré model podá s rovnakou istotou ako overený fakt. Vo firme jej predídete tak, že z každého textu vypíšete overiteľné tvrdenia, otvoríte primárny zdroj a čísla, mená aj dátumy porovnáte s ním. Čo sa nedá doložiť, z textu vypadne.

Čo sú halucinácie AI a prečo vznikajú

Jazykový model nepracuje s databázou faktov, ale odhaduje, aké slovo má nasledovať po predchádzajúcich, takže vie zostaviť aj vetu, ktorá znie správne a pritom nezodpovedá ničomu skutočnému. Anthropic to v pomocníkovi opisuje tak, že Claude môže vytvoriť presvedčivo znejúce citáty, ktoré nie sú podložené faktami, a preto ho používateľ nemá brať ako jediný zdroj pravdy (Claude Help Center). Google v pomocníkovi k aplikáciám Gemini píše priamo, že takéto prostredia môžu konfabulovať a predkladať nepresné informácie ako fakty (Centrum ochrany súkromia v aplikáciách Gemini).

Pripojenie na internet problém zmenšuje, ale neodstraňuje. OpenAI k vyhľadávaniu v ChatGPT uvádza, že výsledky aj citácie môžu byť neúplné, zastarané alebo nesprávne, a odporúča otvoriť citovaný zdroj a skontrolovať, či zdroj odpoveď naozaj podporuje (Searching the web with ChatGPT). Inými slovami, odkaz pod odpoveďou je pozvánka na kontrolu, nie dôkaz.

Pre podnikateľa z toho plynie jednoduchý záver. Nástroj je dobrý v tom, ako text poskladá, lenže za to, čo v ňom stojí, ručíte vy.

Ako často halucinácie AI vznikajú: čísla z recenzovaných štúdií

Najlepšie zmerané sú odkazy na literatúru, lebo pri nich sa dá jednoznačne povedať, či zdroj existuje. Tím okolo Jakea Linardona nechal model GPT-4o zostaviť šesť simulovaných prehľadov literatúry o duševnom zdraví a zistil, že 19,9 % citácií bolo úplne vymyslených a ďalších 45,4 % obsahovalo bibliografickú chybu, najčastejšie neplatný identifikátor DOI (Linardon a kol., 2025). Zaujímavejší než priemer je rozptyl podľa témy: pri dobre preskúmanej depresívnej poruche bolo vymyslených 6 % citácií, kým pri menej preskúmaných diagnózach to bolo 28 % a 29 %.

Novšie meranie z roku 2026 pracovalo s tromi modelmi a tristo odkazmi z desiatich tém intenzívnej medicíny, pričom 55,0 % odkazov obsahovalo overiteľnú nepresnosť a 28,3 % bolo úplne vymyslených (Seifi a Seyfi, 2026). Rozdiely medzi modelmi boli veľké, takže tvrdenie „AI si vymýšľa“ treba vždy vztiahnuť ku konkrétnemu nástroju a konkrétnemu zadaniu.

Mimo vedeckých citácií je najväčším doteraz zverejneným meraním audit Európskej vysielacej únie a BBC. Dvadsaťdva verejnoprávnych médií z osemnástich krajín posúdilo v štrnástich jazykoch vyše 3 000 odpovedí asistentov ChatGPT, Copilot, Gemini a Perplexity na otázky o spravodajstve. Takmer polovica odpovedí mala aspoň jeden závažný problém, tretina vážny problém so zdrojmi a pätina vážnu chybu v presnosti vrátane vymyslených alebo zastaraných informácií (EBU a BBC, 21. 10. 2025).

Tieto čísla neznamenajú, že sa AI nedá používať. Znamenajú, že kontrola výstupu nie je opatrnosť navyše, ale súčasť práce, ktorú si treba naplánovať do času aj do ceny.

Kde halucinácia firmu najviac bolí

Riziko nerastie s množstvom textu, ale s tým, čo sa s textom ďalej stane. Interná poznámka z porady znesie chybu, kým cenník odoslaný klientovi alebo tvrdenie na webe už nie.

Google pri poslednom riadku hovorí jasne, keď v pomocníkovi píše: „Nespoliehajte sa na aplikácie Gemini, ak ide o diagnózu, liečbu, medicínske poradenstvo či právnu, finančnú alebo inú odbornú pomoc.“ (Centrum ochrany súkromia v aplikáciách Gemini). Rovnaké obmedzenie si dajte do internej smernice, aby ho nemusel každý objavovať sám. Ako taká smernica vyzerá, rozoberá článok o tom, ako nastaviť pravidlá používania AI vo firme.

Ako skontrolovať fakty v texte z AI: postup na päť krokov

Postup zvládne ktokoľvek z tímu a pri bežnom článku zaberie menej času než samotné písanie.

1. Vypíšte overiteľné tvrdenia. Prejdite text a označte všetko, čo sa dá porovnať so skutočnosťou: čísla, percentá, dátumy, mená, názvy funkcií, ceny, paragrafy a citáty.
2. Zoraďte ich podľa rizika. Začnite tým, čo pôjde von k zákazníkovi alebo čo by mohlo spustiť reklamáciu, a až potom riešte detaily, na ktorých nič nestojí.
3. Otvorte primárny zdroj. Nestačí prečítať útržok, ktorý ukáže nástroj, lebo práve v ňom sa stráca kontext. Klikajte na odkaz a hľadajte vetu, ktorá tvrdenie skutočne obsahuje.
4. Porovnajte údaj slovo po slove. Microsoft k výstupom Copilota radí overiť všetky detaily vrátane faktov, čísel, mien, dátumov a odkazov a porovnať ich so zdrojovým materiálom (Evaluate Copilot output).
5. Nedoložené tvrdenie vyhoďte. Nezmierňujte ho slovami „približne“ alebo „podľa niektorých zdrojov“, pretože tým vzniká iba nepravda so slabším hlasom.

Pri treťom kroku pomáha, keď nástroj zdroje vôbec ukazuje. Claude aj ChatGPT pri vyhľadávaní pripájajú k odpovedi citácie, aplikácie Gemini majú tlačidlo Zdroje s odkazmi na verejné weby, nahraté súbory alebo dokumenty z Workspace (Pozrite si súvisiace zdroje), a Copilot Chat zobrazuje citácie priamo v texte odpovede.

Prompt, ktorý z textu vytiahne zoznam tvrdení na kontrolu

Si redaktor, ktorý pripravuje text na kontrolu faktov. Z priloženého textu vypíš
tabuľku so stĺpcami: tvrdenie (doslovná citácia z textu), typ údaja (číslo, dátum,
meno, cena, právny predpis, funkcia nástroja), riziko (nízke, stredné, vysoké)
a čo presne treba overiť.

Pravidlá:
- Nepridávaj tvrdenia, ktoré v texte nie sú.
- Neoveruj nič sám a nedopĺňaj zdroje z pamäte.
- Ak si pri niektorom riadku neistý, napíš do posledného stĺpca „neviem posúdiť“.
- Zoraď riadky od najvyššieho rizika po najnižšie.

TEXT:
"""
[sem vložte text]
"""

Výstupom je pracovný zoznam, ktorý sa dá rozdeliť medzi ľudí. Kontrolu samotnú nechajte na človeka, lebo model, ktorý text napísal, ho zvyčajne obháji.

Ako znížiť halucinácie AI už pri zadaní

Kontrola je nutná vždy, no dobré zadanie jej uberie prácu. Anthropic v dokumentácii odporúča niekoľko techník, ktoré sa dajú použiť v ktoromkoľvek nástroji (Reduce hallucinations):

• Dovoľte modelu povedať „neviem“. Výslovné povolenie priznať neistotu podľa dokumentácie výrazne znižuje množstvo nepravdivých informácií.
• Pýtajte si doslovné citáty. Pri dlhších dokumentoch si najprv vyžiadajte presné citácie a až potom analýzu, aby odpoveď stála na texte a nie na dojme z neho.
• Vyžiadajte si zdroj ku každému tvrdeniu. Model má po napísaní textu ku každému tvrdeniu nájsť podporný citát, a ak ho nenájde, tvrdenie odstrániť.
• Obmedzte ho na priložené podklady. Inštrukcia pracovať výhradne s dodanými dokumentmi a nečerpať zo všeobecných znalostí uzavrie priestor na dopĺňanie.
• Spustite zadanie dvakrát a porovnajte. Rozdiely medzi dvoma odpoveďami na tú istú otázku bývajú presne tam, kde si model vymýšľa.

Tá istá dokumentácia zároveň upozorňuje, že techniky halucinácie výrazne znižujú, no úplne ich neodstránia, takže dôležité informácie treba overiť vždy. Ďalšie hotové zadania, ktoré sa dajú prevziať do firmy, nájdete v článku o tom, ako písať prompty pre ChatGPT.

Prompt na písanie textu so zdrojmi

Napíš [typ textu] na tému [téma] pre [cieľová skupina]. Rozsah [počet] slov.

Pracuj výhradne s dokumentmi, ktoré ti prikladám. Nedopĺňaj nič z vlastných znalostí.

Ku každému číslu, dátumu, menu a odbornému tvrdeniu uveď v zátvorke doslovný citát
z podkladu, o ktorý sa opieraš. Ak k tvrdeniu citát nemáš, tvrdenie do textu nepíš.

Na konci pridaj zoznam tvrdení, ktoré si chcel napísať, ale nemal si k nim oporu
v podkladoch.

PODKLADY:
"""
[sem vložte podklady]
"""

Čo o svojich chybách píšu samotní výrobcovia

Prehľad nižšie vychádza z pomocníkov a dokumentácie výrobcov, stav k 27. 9. 2026. Formulácie sa menia, preto si ich pred citovaním v internom dokumente prečítajte znova.

Rozdiely medzi nástrojmi v každodennej práci rozoberá porovnanie Claude, ChatGPT alebo Gemini. Ďalšie články o tom, ako si s týmito nástrojmi poradiť vo firme, sú v sekcii AI v podnikaní.

Čo kontrola cez AI nezvládne

Nechať jeden model skontrolovať výstup druhého vyzerá lákavo, lenže má to hranice, o ktorých treba vedieť dopredu.

• Vaše vlastné čísla. Obrat, marže, skladové zásoby ani termíny zákaziek nie sú nikde na webe, takže ich neoverí nikto okrem vás.
• Platné znenie predpisu k dátumu. Modely pracujú s tým, čo našli, a novelu si často nevšimnú, preto právne znenie hľadajte v Slov-Lexe alebo v EUR-Lexe.
• Tvrdenia, ktoré nikto nezverejnil. Ak zdroj neexistuje, model ho rád domyslí, a presne tak vznikajú vymyslené štúdie.
• Rozhodnutie, čo je pre firmu prijateľné riziko. To zostáva na človeku, ktorý za text nesie zodpovednosť.

Za nepravdivé tvrdenie v reklame alebo na webe zodpovedá firma bez ohľadu na to, čím text vznikol. Kedy treba pôvod obsahu navyše priznať, vysvetľuje článok o tom, ako funguje označovanie AI obsahu.

Časté otázky

Prečo si AI vymýšľa zdroje, keď má prístup na internet? Vyhľadávanie zúži priestor, v ktorom model pracuje, no nezaručí, že nájdený text naozaj obsahuje to, čo model napíše. OpenAI priamo uvádza, že výsledky aj citácie môžu byť neúplné, zastarané alebo nesprávne, preto je potrebné citovaný zdroj otvoriť a porovnať s odpoveďou.

Ktorý nástroj halucinuje najmenej? Univerzálna odpoveď neexistuje, pretože rozdiely závisia od témy aj od zadania. V meraní z roku 2026 na tristo odkazoch z intenzívnej medicíny sa modely líšili od 23 % po 73 % odpovedí s nepresnou citáciou, takže výsledok jedného testu sa nedá prenášať na inú oblasť.

Ako rýchlo sa dá text z AI skontrolovať? Závisí to od počtu overiteľných tvrdení, nie od dĺžky textu. Článok s piatimi číslami a dvomi citáciami zaberie pár minút, kým odborný text s dvadsiatimi odkazmi si vyžiada hodinu, a práve preto sa oplatí najprv vypísať zoznam tvrdení.

Stačí požiadať AI, aby si odpoveď sama overila? Pomôže to odhaliť časť chýb, hlavne keď modelu poviete, že má ku každému tvrdeniu nájsť citát a bez neho tvrdenie vypustiť. Spoľahnúť sa na to však nemôžete, lebo model nemá ako zistiť, že si zdroj vymyslel, pokiaľ ho niekto naozaj neotvorí.

Ako zabrániť tomu, aby halucinácie prešli až k zákazníkovi? Najúčinnejšie je pravidlo, že text z AI nikto neodošle bez kontroly druhým človekom, a k tomu zoznam tvrdení, ktorý sa kontroluje. Zaveďte to písomne v internej smernici, aby to nezáviselo od nálady a termínu.

Môže firma ručiť za škodu spôsobenú nepravdivým údajom z AI? Zodpovednosť za obsah, ktorý firma zverejní alebo pošle klientovi, nesie firma, nie dodávateľ nástroja. Nástroj je pracovná pomôcka, takže rovnaké pravidlá ako pri texte od externého copywritera platia aj tu.