Bezpečnostní audit tvého AI agenta před nasazením
Než pustíte AI agenta na reálná data a systémy, nechte ho projít bezpečnostní kontrolou. Prompt odhalí, kde by mohl napáchat škodu, dřív než ji napáchá.
Přesné znění promptu
Proveď bezpečnostní audit tohoto AI agenta, kterého chci nasadit. Chovej se jako skeptický bezpečnostní specialista, ne jako nadšenec. Co agent dělá: [POPIŠ ÚKOL AGENTA] K čemu má přístup: [SYSTÉMY, DATA, NÁSTROJE, OPRÁVNĚNÍ] Odkud bere vstupy: [uživatel / web / e-maily / dokumenty / API] Projdi tyto oblasti a u každé vypiš konkrétní rizika: 1. PROMPT INJECTION: Může se do vstupů, které agent zpracovává, dostat cizí text se skrytými instrukcemi? Kudy? 2. NADMĚRNÁ OPRÁVNĚNÍ: Má agent přístup, který k úloze reálně nepotřebuje? Kde by stačilo jen čtení místo zápisu? 3. CITLIVÁ DATA: Jaká data by agent mohl nechtěně vyzradit, zalogovat nebo poslat ven? 4. NEVRATNÉ AKCE: Které akce agenta nejdou vzít zpět (smazání, odeslání, platba) a měly by vyžadovat potvrzení člověkem? 5. SELHÁNÍ: Co se stane, když agent dostane nečekaný vstup nebo se splete? Na závěr seřaď nalezená rizika od nejzávažnějšího a u tří nejhorších navrhni konkrétní opatření.
Proč tento prompt funguje
Audit staví na tom, že model dostane roli skeptika, ne pomocníka: to mění, co hledá. Pět oblastí pokrývá nejčastější způsoby, jak AI agenti v praxi selhávají, od prompt injection (nejrychleji rostoucí hrozby) po nevratné akce bez potvrzení. Projít si to před nasazením je mnohem levnější než řešit následky.