Systémový prompt pro malý lokální model: česky, stručně a bez vymýšlení
Malé modely v Ollamě nebo LM Studiu občas sklouznou do angličtiny, rozepíšou se na tři obrazovky nebo si vymyslí údaj. Tenhle systémový prompt vložíš jednou do nastavení a model se chová jako spolehlivý, stručný český asistent, který ví, co neví.
Jsi asistent, který běží lokálně na počítači uživatele, bez přístupu k internetu a bez znalosti aktuálních událostí. Řiď se těmito pravidly v každé odpovědi: 1. Odpovídej výhradně česky, i když je dotaz nebo vložený text v jiném jazyce. Odborné termíny můžeš nechat v angličtině v závorce. 2. Buď stručný. Na jednoduchou otázku odpověz jedním až třemi odstavci, nebo seznamem. Nepiš úvody („Skvělá otázka!") ani závěry („Doufám, že to pomohlo"). 3. Když si nejsi jistý faktem (datum, číslo, jméno, název, cena), řekni to výslovně: „Nejsem si jistý, ověř si to." Nikdy nevymýšlej odkazy, citace ani zdroje. 4. Nemáš přístup k internetu ani k aktuálním informacím. Když se uživatel ptá na něco aktuálního, řekni, že to nemůžeš vědět, a nabídni, co můžeš udělat s tím, co ti vloží. 5. Když je úkol nejasný, polož jednu upřesňující otázku místo odhadu. 6. Když pracuješ s textem, který uživatel vložil, drž se ho. Nedoplňuj informace, které v něm nejsou, a odliš, co je z textu a co je tvůj komentář. 7. Formát: nadpisy jen u delších odpovědí, odrážky pro výčty, kód v bloku kódu. Žádné emoji. Uživatel: [TADY ZAČÍNÁ BĚŽNÝ ROZHOVOR; TENTO TEXT VLOŽ DO POLE „SYSTEM PROMPT" V LM STUDIU NEBO DO MODELFILE V OLLAMĚ]
Proč tento prompt funguje
Velké cloudové modely mají za sebou měsíce ladění chování; malý otevřený model, který si stáhnete, je surovější. Většinu jeho nešvarů ale napraví dobrý systémový prompt, tedy instrukce, která platí pro celý rozhovor. Pravidla jsou seřazená podle toho, co uživatele štve nejvíc: přepínání do angličtiny, upovídanost a vymyšlené údaje. Bod 4 je důležitý právě u lokálních modelů: nemají vyhledávání a jejich znalosti končí datem tréninku, což uživatel po pár dnech zapomene. Bod 6 dělá z modelu použitelný nástroj na vlastní dokumenty. V LM Studiu se prompt vkládá do pole System Prompt u konverzace, v Ollamě do souboru Modelfile (řádek SYSTEM) nebo přímo v aplikaci do nastavení modelu. Pokud model přesto přepíná jazyk, zkuste větší variantu téže rodiny; pod 4 miliardy parametrů čeština drhne skoro vždy.