JAV vyriausybė penktadienį nurodė Anthropic nedelsiant uždaryti prieigą prie dviejų galingiausių dirbtinio intelekto modelių – Claude Fable 5 ir Claude Mythos 5 – remdamasi nacionalinio saugumo sumetimais. Anthropic paskelbė X, kad įvykdė, bet aiškiai nurodė, kad mano, kad vyriausybė suklydo.
Direktyva, kurią Anthropic pranešė gavusi penktadienį 17.21 val. ET, verčia bendrovę išjungti abu modelius visiems naudotojams visame pasaulyje – ne tik tiems užsienio piliečiams, kuriems buvo oficialiai skirtas vyriausybės eksporto kontrolės įsakymas. Prieiga prie kitų Anthropic modelių neturi įtakos.
Kodėl tai svarbu? „Mythos“ yra pajėgiausias „Anthropic“ dirbtinio intelekto modelis, kurį bendrovė peržiūrėjo balandžio pradžioje ir nuo to laiko jį griežtai apribojo dėl to, ką „Anthropic“ apibūdino kaip išskirtinį gebėjimą aptikti programinės įrangos saugumo spragas. Pasak Anthropic, „Mythos“ nustatė kiekvienos pagrindinės išbandytos operacinės sistemos ir žiniatinklio naršyklės trūkumus, todėl, užuot ją plačiai išleidusi, bendrovė pradėjo kontroliuojamą programą „Project Glasswing“, dalindamasi ja su maždaug 50 patikrintų organizacijų, įskaitant „Amazon“, „Apple“, „Google“, „Microsoft“ ir „CrowdStrike“, kad būtų naudojama gynybiniam kibernetinio saugumo darbui.
„Fable 5“, išleista vos prieš tris dienas, buvo „Anthropic“ atsakas į akivaizdų komercinį spaudimą: „Mythos“ versija su apsauginiais turėklais, blokuojančiais atsaką didelės rizikos srityse, tokiose kaip kibernetinis saugumas ir biologija, todėl yra pakankamai saugi bendram išleidimui, teigė bendrovė. Tai iš karto tapo galingiausiu visuomenei prieinamu dirbtinio intelekto modeliu, remiantis etaloniniais bandymais iš bendrovės „Vals AI“, stebinčios AI technologijų našumą.
Vyriausybės direktyva suformuluota kaip eksporto kontrolės veiksmas, ribojantis užsienio šalių piliečių prieigą prie modelių. Tačiau ilgame tinklaraščio įraše Anthropic teigia, kad ji supranta, kad pagrindinis susirūpinimas yra tariamas Fable 5 įkalinimas. Iki šiol vyriausybė pateikė tik žodinius įrodymus apie „galimą siaurą, neuniversalų įkalinimą“ – tokį, kuris, kaip apibūdina Anthropic, skatina modelį perskaityti konkrečią kodų bazę ir nustatyti programinės įrangos trūkumus. Ir, beje, priduria bendrovė, tai yra „pajėgumo lygis“, kuris jau plačiai prieinamas kituose viešai prieinamuose modeliuose, įskaitant OpenAI GPT-5.5. Jį taip pat reguliariai naudoja kibernetinio saugumo specialistai gynybos tikslais, sako Anthropic.
Anthropic platesnis argumentas yra tas, kad jos stipriausios apsaugos priemonės veikia per nepriklausomas klasifikatorių sistemas, veikiančias atskirai nuo paties modelio, o tai reiškia, kad net jei kas nors įtikins Fable toliau kalbėti apie atsisakymą, pagrindinė apsauga nuo pavojingiausių rezultatų išlieka.
Akivaizdu, kad to nepakako, kad vyriausybė neveiktų, o „Anthropic“ neslepia savo nusivylimo. „Nesutinkame, kad radus siaurą potencialų įsilaužimą į kalėjimą turėtų būti atšauktas komercinis modelis, pritaikytas šimtams milijonų žmonių“, – rašė bendrovė. „Jei šis standartas būtų taikomas visoje pramonėje, manome, kad tai iš esmės sustabdytų visų naujų modelių diegimą visiems pasienio modelių tiekėjams.
Plačiai tikimasi, kad „Anthropic“ šiais metais vykdys IPO ir didžiąją dalį savo viešosios tapatybės sužadino kaip saugią alternatyvą savo konkurentams. Stebėtojai nepraranda ironijos, kad „Anthropic“ atsargumas ribodamas „Mythos“, kurį jis reklamavo kaip tokį pavojingą modelį, kad negalėjo būti paskelbtas viešai, dabar, matyt, sulaukė būtent tokio vyriausybės dėmesio, kuris galėtų labiausiai sutrikdyti jos verslą.
„OpenAI“ atstovas Samas Altmanas bent jau tuo džiaugiasi. Balandį jis pasakė podcaster Ashlee Vance, kad „Anthropic“ tvarko „Mythos“ prilygsta „baime pagrįsta rinkodara“. „Akivaizdžiai neįtikėtina rinkodara pasakyti: „Mes sukūrėme bombą. Mes ketinome numesti ją ant jūsų galvos. Parduosime jums bombų priedangą už 100 milijonų dolerių „, – sakė Altmanas. Altmanas, kurio įmonė taip pat turėtų kuo greičiau paskelbti IPO, neprognozavo vyriausybės uždarymo, tačiau nustatė kai ką, kas kol kas vėl įkandavo antropiškai, t.
Kai perkate per mūsų straipsniuose pateiktas nuorodas, galime uždirbti nedidelį komisinį atlyginimą. Tai neturi įtakos mūsų redakcinei nepriklausomybei.
