AI v marketingu
Halucinace AI v marketingu: proč si ChatGPT vymýšlí a jak tomu předejít
Pavel Zeroník, zakladatel Brainie · · 8 min čtení
AI si vymýšlí, protože je naučená odpovídat i tehdy, když odpověď nezná. Typ v testu na nejistotě bodově vyhraje nad přiznáním „nevím“, a modely se podle takových testů ladí. Úplně to vypnout nejde, omezit ano: dejte AI podklady, dovolte jí říct „nevím“, chtějte u každého tvrzení zdroj a čísla, jména i citace kontrolujte vy.
- Halucinace je odpověď, která zní věrohodně, ale je nepravdivá. Typicky jde o vymyšlené číslo, citaci, zdroj nebo vlastnost produktu.
- Podle studie OpenAI ze září 2025 modely halucinují hlavně proto, že je trénink a testy odměňují za tipování místo přiznání nejistoty.
- V testu OpenAI na otázkách SimpleQA se model, který odmítl odpovědět v 52 % případů, spletl v 26 %. Model, který odpovídal skoro vždy, se spletl v 75 %.
- Nejvíc pomáhá dát AI vlastní podklady, výslovně jí dovolit odpovědět „nevím“ a chtít u každého tvrzení citaci z podkladů.
- Za text, který vyjde, ručí firma, ne chatbot: v únoru 2024 to kanadský tribunál řekl Air Canada v případu jejího chatbota.
Co je halucinace AI
Halucinace AI je odpověď jazykového modelu, která zní sebejistě a věrohodně, ale není pravdivá. Model si vymyslí číslo, citaci, zdroj, jméno nebo vlastnost produktu a podá je stejným tónem jako fakta. Nejde o chybu v programu: vychází to z toho, jak se modely učí a jak se hodnotí.
V marketingu to vypadá nevinně. Ilustrační příklad: požádáte o odstavec do článku a dostanete „podle loňského průzkumu používá AI 67 % marketérů“. Číslo sedí do věty a zní seriózně, jen takový průzkum neexistuje. Nebo AI do popisu produktu dopíše funkci, kterou produkt nemá, protože ji mají podobné produkty.
Zrádné je, že halucinace nevypadá jinak než pravda. Žádné „možná“ ani otazník. Proto ji nepoznáte čtením, ale jen kontrolou proti zdroji.
Proč si AI vymýšlí
Nejsrozumitelnější vysvětlení dali v září 2025 sami výzkumníci OpenAI ve studii Why Language Models Hallucinate. Jejich argument má dvě části.
První je trénink. Model se učí předpovídat další slovo z obrovského množství textu. Pravidelné věci (pravopis, stavba věty) se naučí spolehlivě. Jednorázová fakta, třeba datum narození málo známého člověka nebo konkrétní číslo z jedné zprávy, se ze vzorců odvodit nedají. Tam model občas netrefí, i kdyby trénovací data byla bez chyby.
Druhá část je hodnocení. Většina testů, podle kterých se modely srovnávají a ladí, počítá jen přesnost: správná odpověď bod, špatná nula, „nevím“ taky nula. Stejně jako u testu s výběrem odpovědí se tedy vyplatí tipovat. Model, který si tipne, vypadá v žebříčku líp než model, který přizná nejistotu. Autoři proto navrhují testy přepsat tak, aby sebejistá chyba stála víc než přiznané „nevím“.
26 %
chybných odpovědí u modelu gpt-5-thinking-mini, který v 52 % případů odpověď odmítl (test SimpleQA)
75 %
chybných odpovědí u staršího modelu o4-mini, který odmítl jen v 1 % případů (stejný test)
22 % vs. 24 %
správných odpovědí obou modelů ve stejném testu: přesnost skoro stejná, chyb zhruba třikrát méně
Pro praxi z toho plyne jedna věc: model, který občas řekne „nevím“, je užitečnější než ten, který odpoví vždycky. A když mu nejistotu výslovně dovolíte v zadání, chová se tak častěji.
Kde halucinace v marketingu bolí nejvíc
Riziko není všude stejné. Brainstorming názvů kampaně může být klidně vymyšlený, od toho tam je. Problém začíná u textu, který něco tvrdí o světě, o vás nebo o zákazníkovi.
| Co AI vymyslí | Kde se to objeví | Riziko | Jak to chytit |
|---|---|---|---|
| Statistiky a průzkumy | blogy, prezentace, LinkedIn | vysoké: číslo se šíří dál a dohledá se k vám | každé číslo dohledat u vydavatele, jinak smazat |
| Citace a výroky lidí | tiskové zprávy, články | vysoké: připisujete někomu, co neřekl | citovat jen ze zdroje, který máte před sebou |
| Vlastnosti a ceny produktu | popisky, srovnání, odpovědi zákazníkům | vysoké: slib, který musíte dodržet | AI smí čerpat jen z vašich produktových podkladů |
| Odkazy a zdroje | odborné texty, SEO články | střední: nefunkční nebo neexistující URL | otevřít každý odkaz |
| Pravidla a zákony | obchodní podmínky, FAQ, souhlasy | vysoké: právní dopad | ověřit v předpisu, nechat zkontrolovat právníkem |
| Výsledky vašich kampaní | reporty, případové studie | střední: rozhodnutí podle čísel, která nikdo nenaměřil | čísla jen z exportu nebo zápisu, ne z paměti modelu |
Poslední řádek je častější, než by se zdálo. Zeptáte se AI „jak dopadla jarní kampaň“, a když v rozhovoru nemá data, klidně odhadne. Proto se vyplatí mít výsledky kampaní sepsané (viz Zápis výsledků kampaní) a dávat je AI jako podklad.
Kdo ručí, když chatbot řekne nesmysl
Nejznámější spor o halucinaci se netočil kolem článku, ale kolem chatbota na webu. Zákazník Air Canada se v roce 2022 ptal chatbota na slevu na letenku kvůli úmrtí v rodině. Chatbot mu napsal, že o ni může požádat i zpětně po cestě. Pravidla aerolinky to ale neumožňovala.
Aerolinka se před britskokolumbijským tribunálem (Civil Resolution Tribunal) bránila, že za informace od chatbota neodpovídá. Tribunál to 14. února 2024 odmítl: firma odpovídá za všechny informace na svém webu, ať je napsala stránka, nebo chatbot. Air Canada musela zákazníkovi zaplatit celkem 812,02 kanadského dolaru včetně úroků a poplatků.
Částka je malá, princip ne. Co AI napíše vaším jménem, říkáte vy. Platí to pro chatbota stejně jako pro příspěvek nebo newsletter, který AI napsala a nikdo ho nezkontroloval. Jak to ošetřit pravidly v týmu, popisuje článek AI směrnice pro marketing.
Jak halucinace omezit: pět pravidel do každého zadání
Anthropic v dokumentaci ke Claude doporučuje proti halucinacím několik postupů. Jsou to pravidla zadání, ne funkce jednoho nástroje, takže je můžete zkusit v jakékoli AI. Pro marketing z nich vychází pět pravidel:
Pět pravidel proti halucinacím
- 01
Dejte AI podklady
Model, který odpovídá z vašeho dokumentu, si vymýšlí méně než model, který loví v paměti. Produktový list, výsledky kampaně nebo zápis z porady vložte do zadání nebo je mějte tam, odkud si je AI vezme sama.
- 02
Dovolte jí říct „nevím“
Napište výslovně: „Když v podkladech odpověď není, napiš, že ji nevíš. Nic nedoplňuj.“ Anthropic uvádí, že už tohle může nepravdivé informace výrazně omezit.
- 03
Omezte ji na podklady
Přidejte: „Čerpej jen z přiložených dokumentů, ne z obecných znalostí.“ U textů o vašem produktu je to nejdůležitější věta zadání.
- 04
Chtějte citace
U delších podkladů ať AI nejdřív vypíše doslovné úryvky, ze kterých vychází, a teprve pak píše. Po napsání ať ke každému tvrzení najde úryvek, který ho dokládá. Co doložit nejde, smaže.
- 05
Kontrolujte čísla, jména a citace vy
Žádné zadání halucinace úplně nevypne, přiznává to i Anthropic. Před zveřejněním proto člověk ověří u zdroje každé číslo, citaci, jméno a odkaz.
Užitečný je i jednoduchý test: zeptejte se na totéž dvakrát nebo třikrát v nových chatech. Když se odpovědi v podstatné věci liší, model nejspíš tipuje. Více o tom, jak AI dávat správný kontext, je v článku Kontextové inženýrství.
Šablona: zadání, které halucinace omezí
Tuhle část vložte na konec zadání pokaždé, když AI píše text, který něco tvrdí. Funguje s promptem z článku Prompt pro marketing.
Pravidla proti vymýšlení (připojte k zadání)
PODKLADY <podklady> [sem vložte produktový list, data, zápis…] </podklady> PRAVIDLA 1. Čerpej jen z podkladů výše, ne z obecných znalostí. 2. Když informace v podkladech není, napiš [CHYBÍ: co chybí]. Nic nedoplňuj ani neodhaduj. 3. Žádná čísla, procenta, data ani jména, která nejsou v podkladech. 4. Žádné citace, které nejsou doslova v podkladech. 5. Žádné odkazy, které nejsou v podkladech. KONTROLA PO NAPSÁNÍ - Ke každému tvrzení s číslem, jménem nebo citací připiš doslovný úryvek z podkladů, který ho dokládá. - Tvrzení, ke kterému úryvek nenajdeš, smaž a označ [ODSTRANĚNO]. - Na konec vypiš seznam všech [CHYBÍ] a [ODSTRANĚNO].
Proč na tom záleží celému týmu
Jeden člověk si pravidla proti vymýšlení zvykne psát do každého zadání. V týmu je to těžší: kolega pravidla nezná, praktikantka nemá po ruce aktuální produktový list, agentura pracuje se starou verzí ceníku. AI pak nemá z čeho odpovídat a doplní mezery tím, co zní pravděpodobně.
Nejlepší obranou je proto mít ověřená fakta o firmě na jednom místě a dávat je AI každého člověka v týmu: produkty, ceny, výsledky kampaní, schválená čísla se zdrojem. Cesty jsou různé, od sdíleného dokumentu po vlastní GPT nebo napojení přes konektor. Srovnání najdete v článku Vlastní GPT, projekty, nebo sdílená paměť.
Jak s tím pomáhá Brainie
Brainie je sdílená paměť týmu, ze které si ChatGPT i Claude každého člověka berou ověřené podklady samy: tonalitu, popisy produktů, výsledky kampaní. AI tak méně často odpovídá „z hlavy“. Halucinace to ale nevypne. Když v paměti něco chybí nebo je tam stará verze, AI se může splést stejně jako jinde.
Časté otázky
Proč si ChatGPT vymýšlí zdroje a čísla?
Protože je naučený odpovídat i bez jistoty. Podle studie OpenAI ze září 2025 trénink a testy modelů odměňují tipování víc než přiznání „nevím“, takže model raději doplní věrohodné číslo než mezeru.
Dá se halucinacím úplně zabránit?
Ne. Dají se výrazně omezit podklady, pravidly v zadání a citacemi, ale ani Anthropic v dokumentaci ke Claude netvrdí, že je jde vypnout. Před zveřejněním proto vždy ověřte čísla, jména, citace a odkazy.
Halucinuje méně ChatGPT, nebo Claude?
Záleží na verzi modelu a úloze a výsledky srovnání se s novými verzemi mění. Pro praxi je důležitější, jestli AI dáte podklady a dovolíte jí říct „nevím“, než který nástroj používáte.
Pomůže, když ChatGPT zapnu vyhledávání na webu?
Pomůže, protože odpověď opře o nalezené stránky a ukáže odkazy. Chybu tím ale nevylučuje: model může zdroj špatně přečíst nebo vybrat nespolehlivý. Odkazy proto otevřete a tvrzení u nich ověřte.
Kdo odpovídá za chybu v textu, který napsala AI?
Firma, která text zveřejnila. Kanadský tribunál v únoru 2024 rozhodl, že Air Canada odpovídá i za nepravdivou informaci od svého chatbota na webu.
Zdroje
- Why language models hallucinate, OpenAI, 5. 9. 2025
- Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang), arXiv, 4. 9. 2025
- Reduce hallucinations, Anthropic
- Moffatt v. Air Canada, 2024 BCCRT 149, Civil Resolution Tribunal, Britská Kolumbie, 14. 2. 2024
Pavel Zeroník
Pavel staví Brainie, sdílenou paměť pro marketingové týmy, a v marketingu a projektovém řízení pracuje s AI denně.
Postavte marketingu mozek, který nezapomíná.
Brainie je sdílená paměť marketingového týmu pro ChatGPT i Claude. Založení je zdarma, konektor přidáte vložením jedné adresy, bez instalace a bez programování.
Vyzkoušet zdarma →