Naujausias „Anthropic“ dirbtinio intelekto modelis „Claude Fable 5“ kriptovaliutų bendruomenėje sukasi dėl netinkamų priežasčių. Vakar išleistoje viešoje šio sumažinto dydžio kalbų modelio versijoje atsisakoma leisti vartotojams tikrinti išmaniąsias sutartis ar daryti daug kitų su kibernetiniu saugumu susijusių veiksmų.
Priėmimas buvo mišrus. Kai kurie yra susijaudinę, bet daugelis bijo. Ankstyvoji kritika sutelkta į sunkius modelio apsauginius turėklus. Anthropic pristatė apribojimų rinkinį, vadinamą „klasifikatoriais“, kurie nukreipia temas „kibernetinis saugumas, biologija ir chemija arba distiliavimas“ į savo senesnį modelį Claude Opus 4.8.
Taigi, kai kas nors bando naudoti „Fable 5“, kad patikrintų, ar kriptovaliutų kode nėra pažeidžiamumų, vietoj to jie patenka į „Opus“. Tai nuvylė kūrėjus ir saugos ekspertus, kurie naudojasi šiais įrankiais, kad sustiprintų sistemas.
„Fable 5 apsaugos priemonės aptinka užklausas, susijusias su kibernetiniu saugumu“, – socialinėje žiniasklaidoje sakė vienas kritikas. „Tai yra siaubingas sprendimas. Prašymai, padedantys sustiprinti sistemas, greičiausiai nesiskiria nuo juodųjų užklausų.”
„Guardraiils Impact Biology“ ir „AI“ distiliavimas
Apribojimai neapsiriboja išmaniosiomis sutartimis. „Anthropic“ taip pat blokuoja bandymus „distiliuoti“ Claude’o galimybes – iš esmės bet kokį prašymą, kuris galėtų išmokyti konkuruojantį AI modelį. Kompanija perspėja, kad tuo gali pasinaudoti autoritarinės šalys, o tai gali „atsivesti prie artimųjų AI galimybių plitimo“ be tinkamų apsaugos priemonių.
Buvęs Palantiro biologijos specialistas Nabeelis S. Qureshi pažymėjo, kad Anthropic „nematomai nerimauja dėl bet kokių užklausų, nukreiptų į pasienio LLM plėtrą“.
Su biologija susijusios apsaugos priemonės sulaukė ypatingos kritikos. Biologė Olivia H. Scharfman teigė, kad ji net negalėjo pasveikinti „Fable 5“, kol ji neperėjo į „Claude Opus 4.8“. Kitu atveju tinklaraštininkas Jordanas Laskeris pažymėjo, kad modelis uždraudė klausimus apie mitochondrijas.
Anthropic teigia, kad šios priemonės skirtos užkirsti kelią piktnaudžiavimui, ypač biologinių ginklų ir virusų kūrimui. Bendrovė teigė: „Mūsų prioritetas buvo kuo greičiau saugiai išleisti „Fable“, net ir taikant pernelyg plačias apsaugos priemones. Todėl kol kas susitarėme, kad „Fable“ grįžtų prie „Opus 4.8“ daugeliui su biologija ir chemija susijusių užklausų.
Visas „Mythos“ leidimas išlieka ribotas
Ankstesnis „Mythos“ modelis, išleistas praėjusį balandį, buvo apibūdintas kaip pavojingas įsilaužimo įrankis ir kibernetinio saugumo atnaujinimas. Pradinis jo išleidimas apsiribojo 50–60 didelių įmonių, kurios buvo projekto Glasswing dalis. Šios įmonės vis dar turi prieigą prie „Mythos 5“. Kiti ankstyvieji gavėjai yra „atrinkti biologijos tyrinėtojai“, kurie gali naudoti „Mythos 5“ su panaikintomis biologijos ir chemijos apsaugos priemonėmis „kol bus prieinama mūsų platesnė patikimos prieigos programa“.
Tai sudėtingas balansas. „Anthropic“ aiškiai žino kažką apie galimą riziką, kurios visiškai nesidalija. Tačiau šiuo metu daugelis vartotojų mano, kad linija nubrėžta netinkamoje vietoje. Geresnių klasifikatorių reikia greitai – galbūt anksčiau nei vėliau.
