Když si AI není jistá, chci to vědět: odpověď s mírou jistoty
Model odpoví stejně sebejistě na to, co ví, i na to, co hádá. Tento krátký dodatek k jakémukoli promptu ho donutí označit, čím si je jistý, čím ne a co byste si měli ověřit. Nejlevnější pojistka proti halucinacím.
Přesné znění promptu
Připoj na konec libovolného dotazu: U své odpovědi rozliš tři úrovně jistoty a označ je přímo v textu: - [JISTÉ] = ověřitelný fakt nebo obecně známá věc. - [PRAVDĚPODOBNÉ] = dává to smysl, ale můžeš se mýlit v detailech (čísla, data, názvy). - [NEVÍM] = nemáš dost informací nebo si nejsi jistý; řekni to místo odhadu. Na konci přidej odstavec „Co si ověřit": maximálně tři konkrétní věci, u kterých by chyba vadila nejvíc, a kde je ověřit. Nezvyšuj jistotu kvůli tomu, abys zněl přesvědčivě.
Proč tento prompt funguje
Hlavní nebezpečí jazykových modelů není, že se mýlí, ale že se mýlí stejným tónem, jakým říkají pravdu. Když model donutíte jistotu označit, zjistíte, že na většinu otázek odpovídá směsí: jádro jisté, detaily odhadnuté. Přesně ty detaily (čísla, data, jména, názvy funkcí) jsou místa, kde halucinace vznikají nejčastěji. Odstavec „Co si ověřit" vám ušetří kontrolu všeho: řekne, kde záleží. Prompt se hodí ke všemu, co budete citovat, posílat dál nebo podle čeho se rozhodovat.