Jak předcházet halucinacím u Claude AI: Tipy pro přesné odpovědi

Halucinace znamenají, že AI sebejistě napíše informaci, která není pravdivá: neexistující zdroj, vymyšlené číslo nebo špatně přiřazený citát. Neděje se to ze zlé vůle. Jazykový model skládá nejpravděpodobnější text, a když mu chybí informace, může mezeru zaplnit věrohodně znějícím výmyslem. Dobrá zpráva je, že riziko jde výrazně snížit správným zadáním a ověřováním. Nikdy se ho ale nezbavíte úplně.

Proč AI vymýšlí

• Nemá informaci, například o málo známém tématu nebo o událostech po datu, ke kterému byla naučena.
• Musí odpovědět. Pokud zadání vyžaduje odpověď, model ji vytvoří i bez opory.
• Chybí kontext: zadání je vágní a model si domýšlí.
• Požadujete přesné detaily, jako čísla, data, názvy zákonů a citace, kde je chyba nejnápadnější.

Tip 1: Dodejte vlastní zdroj

Nejúčinnější prevence je vložit text, ze kterého má Claude vycházet, a říct, aby z něj nevybočoval. Například: „Odpověz jen na základě textu níže. Pokud odpověď v textu není, napiš, že jsi ji v podkladech nenašel. Text: …“ Model pak nemusí hádat a dá se snadno zkontrolovat, odkud informace pochází.

Tip 2: Dovolte říct „nevím“

Pokud vám záleží na přesnosti, výslovně povolte nejistotu: „Pokud si nejsi jistý, napiš to a nepředstírej, že víš.“ Tahle jedna věta často výrazně sníží počet vymyšlených odpovědí, protože model už nemá pocit, že musí odpovědět za každou cenu.

Tip 3: Žádejte citace z podkladů

• „U každého tvrzení uveď přesnou větu z textu, ze které vychází.“ Kdo cituje, hůř vymýšlí.
• „Rozlišuj, co plyne přímo z textu a co je tvůj závěr.“
• „Označ místa, kde je informace slabá nebo chybí.“

Podpoř nás naskenováním QR kódu

Tip 4: Rozdělte složité úkoly

Čím víc kroků najednou zadáte, tím víc se chyby kumulují. Rozdělte práci: nejdřív sběr faktů, pak ověření, potom teprve psaní textu. Po každém kroku zkontrolujte výsledek. Dlouhé zadání typu „napiš odborný článek o legislativě včetně čísel a zdrojů“ patří k nejrizikovějším.

Tip 5: Využijte funkce s přístupem k webu

U aktuálních informací je nejlepší, když má nástroj přístup k vyhledávání a ukazuje odkazy. Pokud ho váš tarif nabízí, zapněte ho a odkazy otevřete. Odpověď, která uvádí zdroj, ještě neznamená pravdu, ale můžete ji ověřit. Bez zdroje počítejte s tím, že fakta je nutné dohledat jinde.

Tip 6: Ověřte sami

• Čísla, data, názvy a citace vždy porovnejte s důvěryhodným zdrojem.
• Odkazy otevřete. Model může vymyslet adresu, která nikam nevede.
• Zeptejte se podruhé jinak a porovnejte odpovědi. Rozdíly jsou varováním.
• Důležité věci, jako právo, zdraví a finance, konzultujte s odborníkem.

Pozor na sugestivní otázky

Dalším zdrojem chyb je ochota modelu vyhovět. Pokud se zeptáte sugestivně, například „Že je to pravda?“, může se model přiklonit k tomu, co chcete slyšet. Ptejte se neutrálně: „Je toto tvrzení pravdivé? Uveď argumenty pro i proti.“ Takové zadání dává objektivnější odpověď a snižuje riziko, že vám AI jen přitaká.

Kde je riziko největší

• Odborné citace a odkazy: model může vymyslet zdroj, který zní uvěřitelně, ale neexistuje.
• Čísla a statistiky, zejména nejnovější nebo málo známé.
• Právní, zdravotní a finanční informace, kde omyl může stát peníze nebo zdraví.
• Málo známé osoby, firmy a místa, o kterých model mnoho neví.
• Aktuální události po datu, ke kterému je model naučen.

Ověřovací otázky, které můžete položit

Po odpovědi se zeptejte: „Jak moc jsi si jistý na škále od 1 do 10 a proč?“, „Které části odpovědi je nutné ověřit?“ nebo „Řekni mi, co by mohlo být v tvé odpovědi špatně.“ Model často přizná slabá místa víc, než byste čekali, a tím vám zúží výběr toho, co ověřovat.

Vzorové zadání pro přesnější odpovědi

Zkopírujte a přizpůsobte: „Pomáhej mi s rešerší. Pravidla: odpovídej jen na základě podkladů, které ti vložím. Pokud něco nevíš nebo to v podkladech není, napiš ‚nevím‘. Rozlišuj fakta od odhadů. U čísel a jmen uveď, odkud pocházejí. Na konci vypiš věci, které je třeba ověřit.“ Vložte ho na začátek konverzace nebo do nastavení projektu, aby platilo pro celý rozhovor.