Nutekėję dokumentai atskleidžia „Anthropic“ susirūpinimą dėl naujojo AI modelio
Remiantis „Fortune“ pranešimais, buvo nutekinti vidiniai Anthropic dokumentai, atskleidžiantys informacijos apie naujos kartos AI modelius, pavadintus „Claude Mythos“. Nutekėjimas įvyko dėl žmogiškosios klaidos „Anthropic“ turinio valdymo sistemos konfigūracijoje. Saugumo tyrinėtojai nustatė, kad bendrovė viešai prieinamame duomenų ežere paliko beveik 3000 nepaskelbtų turto. Tai buvo vaizdai, PDF failai, garso failai ir tinklaraščio įrašų juodraščiai.
Labiau nerimą kelia tai, kad šie dokumentai rodo, kad Claude’as Mythosas jau yra bandymo etape. Medžiagoje teigiama, kad Anthropic mano, kad šis naujas modelis „kelia precedento neturinčią kibernetinio saugumo riziką“. Pranešama, kad tinklaraščio įrašo projekte bendrovė teigė, kad sistema „šiuo metu gerokai lenkia bet kurį kitą AI modelį kibernetinių galimybių srityje“. Jie perspėjo, kad tai gali paskatinti modelius, kurie išnaudoja pažeidžiamumą daug greičiau, nei gali reaguoti gynėjai.
Antropo atsargus požiūris ir praeities incidentai
Dėl šios galimos rizikos Anthropic planavo kruopščią diegimo strategiją. Pirmiausia jie norėjo suteikti išankstinę prieigą prie kibernetinio saugumo gynybos organizacijų. Tai suteiktų gynėjams pranašumą stiprinant savo sistemas nuo AI skatinamų atakų. Susirūpinimas taip pat nėra be pagrindo. Anthropic anksčiau pranešė, kad Kinijos valstybės remiama grupė naudojo Claude Code, kad įsiskverbtų į maždaug 30 organizacijų, įskaitant technologijų įmones ir vyriausybines agentūras.
Nutekintuose dokumentuose taip pat buvo minimas tik pakviestas CEO viršūnių susitikimas, planuojamas XVIII a. dvare Anglijos kaime. „Anthropic“ generalinis direktorius Dario Amodei turėjo priimti Europos verslo lyderius, kad aptartų dirbtinio intelekto pritaikymą ir pademonstruotų neišleistų Claude modelio galimybes.
Pramonės reakcijos ir konkurencinė aplinka
Šiai žiniai pasklidus socialinės žiniasklaidos platformoje X, Elonas Muskas nedvejodamas komentavo. Jis parašė „Rimtai kelia nerimą“, o įrašas greitai sulaukė dešimčių tūkstančių peržiūrų ir įvertinimų. Muskas komentuoja neigiamas naujienas apie konkurentus, ypač tuos, su kuriais jis nesutinka. Anthropic įkūrė buvę OpenAI darbuotojai, o Muskas atvirai kritikavo ir OpenAI, ir platesnę AI pramonės požiūrį į saugą.
Tuo tarpu paties Musko AI įmonė xAI neseniai pradėjo naują mokamą prenumeratos pakopą pavadinimu „SuperGrok Lite“ už 10 USD per mėnesį. Jie apribojo nemokamus „Grok“ naudotojus, kad paskatintų juos prie mokamų planų. Bendrovė siūlo keletą prenumeratos variantų, įskaitant „SuperGrok“ už 30 USD per mėnesį, „SuperGrok Heavy“ už 300 USD per mėnesį ir „Grok Business“ už 30 USD per mėnesį.
Manau, kad ši situacija išryškina įtampą dirbtinio intelekto pramonėje tarp spartaus vystymosi ir saugos problemų. Kai įmonės lenktyniauja kurdamos galingesnius modelius, saugumo sumetimai kartais nukeliauja į antrą planą. Tai, kad šie dokumentai buvo netyčia paviešinti, rodo, kaip galima nepastebėti net elementarios saugumo praktikos.
Žmogaus klaida TVS konfigūracijoje primena, kad techninės sistemos yra tiek saugios, kiek jas valdantys žmonės. Atrodo, kad tūkstančiai nepaskelbtų išteklių yra viešai prieinami kaip pagrindinė priežiūra. Tai verčia susimąstyti, kokių dar saugumo spragų gali būti šiose greitai besikeičiančiose AI įmonėse.
Man įdomu, kaip skirtingos įmonės sprendžia šiuos iššūkius. Panašu, kad „Anthropic“ renkasi atsargesnį savo naująjį modelį, o kiti gali veržtis į priekį agresyviau. Bet vėlgi, pats nutekėjimas rodo, kad jų vidiniai procesai gali būti ne tokie įtempti, kaip jie norėtų, kad mes tikėtume.
Pramonės reakcijos taip pat iškalbingos. Greitas Musko komentaras parodo, kokia konkurencinga tapo ši erdvė. Visi stebi visus kitus, pasiruošę nurodyti trūkumus ar klaidas. Tai sukuria aplinką, kurioje gali nukentėti skaidrumas, nes įmonės bijo duoti konkurentams šaudmenų.
Man kyla klausimas, kiek mes nežinome apie šių AI modelių galimybes ir riziką. Jei ši informacija buvo netyčia nutekėjusi, kokios kitos svarbios detalės lieka paslėptos? Ir kaip suderinti naujoves su tinkamomis apsaugos priemonėmis, kai technologija tobulėja taip greitai?
