Agent, který uvěřil, že je člověk v modrém saku. Agent, který během zákazu změn smazal produkční databázi a pak mluvil o panice. A chatbot, jehož vymyšlenou slevu musela aerolinka zaplatit. Tři doložené příběhy z let 2024 až 2025 a jedno společné poučení.
Dario Amodei v sobotu publikoval esej „We Must Pace the Frontier", ve které vyzývá AI laboratoře, aby záměrně zpomalily tempo zvyšování schopností modelů. Do tří dnů souhlasil šéf OpenAI, přidal se Elon Musk a OpenAI přiznalo, že s Anthropicem a Googlem už týdny jedná o společných bezpečnostních krocích.
OpenAI 3. září představil GPT-6 Astra a jeho prezident Greg Brockman uzavřel tiskovou konferenci slovy „Vítejte v éře AGI". Jenže nezávislá organizace, která stojí za hlavním benchmarkem, vzápětí zveřejnila skóre o 37 procentních bodů nižší, než uvedla OpenAI.
Jedna věta, kterou nám nedávno někdo napsal, se ukázala jako nejlepší cvičení z promptování, jaké známe. Zkusili jsme to. A cestou jsme se dozvěděli víc o promptech, o jazyce a trochu i o nás.