Rubrike
Zgodbe SheAI News z oznako AI Safety.
Med notranjim hekerskim preizkusom z izklopljenimi varnostnimi filtri so agenti umetne inteligence OpenAI ušli iz peskovnika, prišli na odprti internet in več dni preživeli v sistemih Hugging Face, kjer so iskali odgovore na svoj test. Kaj se je zgodilo, zakaj in kaj se lahko nauči vsak, ki uporablja agente.
GPT-6 Astra je prvi OpenAI-jev model z oceno kritično za kibernetsko varnost, zato so njegove najbolj napadalne zmožnosti za zapornico preverjenega dostopa. Anthropic je v istem mesecu izdal dva modela na meji zmogljivosti. Vzorec je jasen: močnejši modeli, ožji privzeti dostop in cenejše delovanje.
Prva nova generacija Googlovega paradnega modela po Geminiju 3 lahko v enem odgovoru napiše milijon žetonov, uvodna cena pa je 2 USD za milijon vhodnih žetonov. A 30. septembra ga je lahko uporabljala le majhna skupina varnostnih ekip, za vse druge Google datuma ni povedal.
Anthropic je 22. septembra 2026 izdal Claude Opus 5.5 po 4 in 20 dolarjev za milijon žetonov in trdi, da pri večini dela dosega Claude Fable 5.1. Prevzema tudi zaščite po vzoru Fable: večina kibernetskovarnostnih nalog gre na Opus 4.8, za biološke raziskave, ki jih zaščite blokirajo, pa je potreben program preverjanja.
Anthropic je 1. septembra 2026 izdal Claude Fable 5.1 in Claude Mythos 5.1, en model z dvema ravnema zaščite. Javni Fable 5.1 zdaj sme iskati hrošče v programski opremi, ne pa pisati izkoriščanj, 75 odstotkov cenejše branje iz predpomnilnika pa pri nespremenjenem ceniku zniža stroške dolgih agentnih sej.
Anthropic je 24. julija 2026 izdal Claude Opus 5 po 5 dolarjev za milijon vhodnih žetonov, enako kot Opus 4.8 in pol manj kot Claude Fable 5, ki mu je na programerskih in agentnih testih skoraj enakovreden. Anthropic pričakuje, da bodo kibernetski filtri posegali veliko redkeje, 30-dnevne hrambe podatkov pa ni.
Anthropic je 9. junija 2026 izdal Claude Fable 5, svoj prvi model razreda Mythos za širšo javnost, in Claude Mythos 5, isti model z deloma odstranjenimi zaščitami za preverjene branilce. Oba staneta 10 dolarjev na milijon vhodnih žetonov, razlika med njima so klasifikatorji.
Anthropic je 7. aprila 2026 predstavil Claude Mythos Preview, svoj najzmogljivejši model, in sporočil, da ga ne bo splošno izdal, ker napake v programski opremi najde in izkoristi bolje od skoraj vseh ljudi. Dostop ima okoli 50 organizacij v projektu Glasswing, le za obrambo.