Bezprecedentní zásah: USA nařídily Anthropicu vypnout Fable 5
Tři dny po vydání musel Anthropic na pokyn americké vlády zablokovat přístup k modelům Fable 5 a Mythos 5 pro všechny cizince, včetně vlastních zaměstnanců. Důvodem je údajná metoda obcházení kybernetických pojistek.
Něco takového AI průmysl ještě nezažil. Americká vláda vydala s odvoláním na národní bezpečnost exportní směrnici, která Anthropicu nařizuje pozastavit přístup k modelům Claude Fable 5 a Claude Mythos 5 pro jakéhokoli cizího státního příslušníka, ať už v USA, nebo mimo ně. Směrnice dopadá i na zahraniční zaměstnance samotného Anthropicu.
Co se stalo
Podle dostupných informací se vláda dozvěděla o metodě jailbreaku, tedy obcházení pojistek, které mají bránit zneužití Fable 5 pro kybernetické útoky, konkrétně vyhledávání zranitelností v softwaru. Anthropic uvedl, že mu byla předvedena demonstrace, při níž technika odhalila „malý počet již známých, méně závažných zranitelností". Detaily bezpečnostních obav vláda nesdělila.
Proč je to přelom
- Poprvé byl exportní režim použit na váhy a přístup k AI modelu stejným způsobem, jakým se reguluje vývoz zbraní nebo čipů.
- Firmy po celém světě zjistily, že model, na kterém staví produkt, může přes noc zmizet, a to nikoli rozhodnutím výrobce, ale státu.
- Pro Evropu je to připomínka závislosti: špičkové modely podléhají americké jurisdikci.
Anthropic směrnici vyhověl a uvedl, že s vládou spolupracuje na vyřešení obav. Mimo provoz zůstala novinka nakonec 19 dní. Jak dopadl návrat, čtěte v navazujícím článku.
Proč na tom záleží
Nejde o jeden model jedné firmy. Precedens říká: přístup k frontier AI je geopolitická páka. Každá firma stavějící na AI by měla mít plán B: možnost přepnout na jiný model bez přepisování celého produktu.