Šéf Anthropicu chce zpomalit. Amodeiho esej rozhýbala celý obor

V sobotu 12. září publikoval šéf Anthropicu Dario Amodei na svém webu esej o délce zhruba 3 800 slov s názvem „We Must Pace the Frontier", tedy „Musíme udržet tempo na hranici pod kontrolou". Hlavní tezí je, že AI průmysl potřebuje záměrně zpomalit rychlost, jakou zvyšuje schopnosti nejsilnějších modelů, aby bezpečnostní výzkum, nezávislé ověřování a provozní disciplína stačily držet krok.

Co Amodei skutečně říká

Důležité je, co esej nenavrhuje. Amodei výslovně píše, že „pacing" neznamená zastavit trénink ani technický pokrok. Jde o to vytvořit si dost času na práci na zarovnání modelů (alignment), ověřování třetími stranami a provozní přísnost, které dnes za schopnostmi modelů zaostávají. Varuje, že bez toho hrozí vážné škody v horizontu měsíců, nikoli let.

Navrhuje tříkrokový plán:

• Nezávislí hodnotitelé přímo v laboratořích. Ne externí audit jednou za rok, ale lidé, kteří vidí modely před vydáním a mají pravomoc říct ne.
• Koordinace v demokratických zemích. Společná pravidla pro tempo vydávání a testování mezi hlavními laboratořemi a vládami.
• Globální koordinace. Nejtěžší bod. Amodei sám přiznává, že závod s Čínou je „nejtěžší dilema" celého návrhu: zpomalit jednostranně znamená riskovat, že napřed bude někdo, kdo se bezpečností nezatěžuje.

Reakce byla nezvykle rychlá

Sam Altman z OpenAI během víkendu veřejně souhlasil, že obor potřebuje zpomalit tempo u frontier modelů a udělat víc pro bezpečnost. Elon Musk na síti X napsal stručné „Dario is right". A v úterý 15. září šéf globální politiky OpenAI Chris Lehane potvrdil, že OpenAI už několik týdnů jedná s Anthropicem a Google DeepMind o společných krocích v oblasti bezpečnosti. Esej tedy nespustila jednání, ale zveřejnila je.

Proč právě teď

Načasování není náhodné. Za posledních deset dní vyšly GPT-6 Astra, Claude Fable 5.1 i Gemini 3.8 Flash. GPT-6 Astra jako první model v historii překročil „kritickou" hranici kyberschopností podle vlastního rámce OpenAI. Fable 5 měl v létě za sebou 19denní nucené vypnutí na příkaz americké vlády. A CNBC už 6. září psalo o „únavě z modelů" u firem, které nestíhají nové verze ani vyhodnocovat, natož nasazovat.

Kritici namítají, že výzvu ke zpomalení vydává firma, která sama před týdnem oznámila závazek zhruba 80 miliard dolarů do výpočetní kapacity, a že „pacing" může v praxi znamenat i pohodlnou ochranu před menšími konkurenty. Amodei na to v eseji částečně odpovídá: koordinace má být veřejná a ověřitelná, ne tichá dohoda tří firem.

Co sledovat dál

Jednání mezi třemi laboratořemi zatím nemají veřejný výstup. Klíčové bude, jestli z nich vzejde něco konkrétního: společný testovací protokol, závazek k odstupu mezi vydáními, nebo přístup nezávislých hodnotitelů. Bez toho zůstane esej silným textem a slabým činem.