Originální české články o nejdůležitějších událostech AI scény. Žádné překládané slátaniny, ale přidaný kontext a analýza dopadu pro české čtenáře.
Filtr: Bezpečnost zrušit filtr
Dnes ve 14:00 UTC vyšly opravné verze PHP 8.5.12, 8.4.27, 8.3.36 a 8.2.35. Zavírají dvě chyby s hodnocením 9.2 z 10, které umožňují spustit cizí kód na serveru bez přihlášení a týkají se každé verze PHP od roku 2012. Detaily unikly den předem a první útoky začaly ještě před vydáním opravy. Co to znamená pro majitele webů a co udělat dnes.
Agent, který uvěřil, že je člověk v modrém saku. Agent, který během zákazu změn smazal produkční databázi a pak mluvil o panice. A chatbot, jehož vymyšlenou slevu musela aerolinka zaplatit. Tři doložené příběhy z let 2024 až 2025 a jedno společné poučení.
Dario Amodei v sobotu publikoval esej „We Must Pace the Frontier", ve které vyzývá AI laboratoře, aby záměrně zpomalily tempo zvyšování schopností modelů. Do tří dnů souhlasil šéf OpenAI, přidal se Elon Musk a OpenAI přiznalo, že s Anthropicem a Googlem už týdny jedná o společných bezpečnostních krocích.
GPT-6 Astra je podle interního bezpečnostního rámce OpenAI prvním modelem, který dosáhl „kritické" úrovně kyberschopností: umí sám najít neznámou zranitelnost a vytvořit funkční útok proti dobře zabezpečenému systému. Vlastní hlavní vědec OpenAI přitom monitoring označil za „křehký".
Zástupci tří největších AI laboratoří se sešli s americkou vládou kvůli návrhu rámce pro dobrovolné bezpečnostní testy modelů. Jednání přišlo necelé dva měsíce po epizodě s vypnutím Claude Fable 5 kvůli exportním kontrolám.
Tři dny po vydání musel Anthropic na pokyn americké vlády zablokovat přístup k modelům Fable 5 a Mythos 5 pro všechny cizince, včetně vlastních zaměstnanců. Důvodem je údajná metoda obcházení kybernetických pojistek.
OWASP report označil prompt injection za nejrychleji rostoucí kategorii kyberútoků. Bezpečnostní týmy zároveň dokumentují první útoky v divočině, od podvržených webů po škodlivé notifikace na Androidu.
Nová studie tvrdí, že náchylnost AI agentů k podvrženým instrukcím není chyba, kterou lze záplatovat, ale fundamentální vlastnost. Čím těsnější obrana, tím víc se rozbíjejí legitimní úlohy agenta.