Neseniai turėjau galimybę pasėdėti su Francis de Souza, „Google Cloud“ COO, renginio Los Andžele užkulisiuose. Aplink mus tvyrant triukšmui, de Souza, kalbantis ramiai, saikingai kaip universiteto profesorius, davė naudingų patarimų įmonėms, naršančioms dirbtinio intelekto saugumo akimirką, kurią visi išgyvename, ir pažymėjo, kad „bus pereinamasis laikotarpis, ir tada manau, kad pateksime į šią geresnę vietą“.
Tuo metu jis nekalbėjo apie „Google“, bet akivaizdu, kad net „Google“ vis dar aiškinasi.
Pagrindinė De Souzos žinutė buvo ta, kad saugumo specialistai daugelį metų bandė priversti vadovus įsisavinti, o dabar skubiai tai padarė dirbtinis intelektas: saugumas negali būti pasenęs. „Kadangi įmonės pradeda šią AI kelionę, jos turi laikytis platformos požiūrio“, – sakė jis. „Saugumas nėra kažkas, ko galite prisiimti vėliau, ir tai nėra kažkas, ką galite palikti darbuotojams patiems. Jis konkrečiai įspėjo apie „šešėlinį AI“ – darbuotojus, kurie siekia vartotojų įrankių be organizacinės priežiūros – ir tvirtino, kad įmonės nuo pat pradžių turi reikalauti saugumo, valdymo ir audito iš savo platformų. „Nėra tokio dalyko kaip AI strategija be duomenų strategijos ir saugumo strategijos. Jie turi eiti koja kojon.”
Verta paminėti: jis ne tik pasiūlė „Google Cloud“. Kai pastebėjau, kad jo patarimai skamba kaip „Google“ reklama, jis atsitraukė. Jis sakė, kad „Google“ yra įsipareigojusi taikyti kelių debesų metodą, ir jis įrodė, kad įmonės, kurios mano, kad jos veikia viename debesyje, beveik neabejotinai to nedaro. „Net jei jie pasirenka vieną debesį, jie pasikliauja SaaS programomis, yra verslo partnerių, kurie gali naudoti skirtingus debesis“, – sakė jis. „Svarbu, kad įmonės laikytųsi vienodos saugos pozicijos debesyse ir visuose modeliuose.
Jis taip pat nurodė, kad grėsmių aplinka pasikeitė taip iš esmės, kad seni gynybiniai modeliai yra per lėti. Jis pažymėjo, kad vidutinis laikas nuo pradinio pažeidimo iki perdavimo kitam atakos etapui sumažėjo nuo aštuonių valandų iki 22 sekundžių, o atakos paviršius išsiplėtė gerokai už tradicinio tinklo perimetro. „Be savo įprasto turto, dabar turite modelius. Turite duomenų srautus, naudojamus modeliams apmokyti. Turite agentus, turite raginimus. Visa tai reikia apsaugoti.”
De Souza pažymėjo vieną grėsmę, kuriai neskiriama pakankamai dėmesio: agentai, judantys per įmonės vidines sistemas, gali atskleisti pamirštas duomenų saugyklas, apie kurias niekas negalvojo daugelį metų. „Daugelis organizacijų turi senus „SharePoint“ serverius (ir prieigos valdiklius), kurie tikrai neatnaujinti, bet tai neturėjo reikšmės, nes niekas iš tikrųjų nežinojo, kur jie yra. Tačiau tarptinklinio ryšio jūsų įmonėje agentai suras tuos duomenų išteklius ir parodys juose esančius duomenis.
Atsakymas, jo nuomone, yra suderinti mašinos greitį su mašinos greičiu. „Dabar matome, kaip atsiranda dirbtinis intelektas, visiškai agentinė gynyba, kai organizacijos gali paleisti agentus, vadovaujančius jų gynybai“, – sakė jis. „Užuot turėję žmogaus vadovaujamą gynybą ar net žmogų, dabar galite turėti žmonių, kurie prižiūri visiškai agentinę gynybą. Jis pridūrė, kad tai tapo lyderystės, o ne tik technologijų problema. „Tai yra valdybos lygio ir vykdomosios komandos problema. Tai ne tik saugos komandos problema.”
Tačiau net kai dirbtinis intelektas prisiima daugiau gynybinio darbo krūvio, jį prižiūrėti kvalifikuotų žmonių trūksta – o pažeidžiamumų, kuriuos įveda pats AI, daugėja greičiau, nei saugos komandos gali juos pašalinti. „Mums reikės žmonių, kurie susidorotų su klaidų pokalipse“, – šią savaitę „New York Times“ sakė „LinkedIn“ vyriausioji informacijos saugumo pareigūnė Lea Kissner ir pridūrė, kad nesitiki, kad pramonė supras dirbtinio intelekto saugumą kokiu nors tvariu ilgalaikiu būdu bent kelerius metus.
Tai sugrąžina mus prie pačių platformos teikėjų. Registras per pastarąsias kelias savaites paskelbė keletą ataskaitų, kuriose užfiksuota „Google Cloud“ kūrėjų banga, susidūrusi su penkiaženklėmis sąskaitomis po neteisėtų API iškvietimų į „Gemini“ modelius – paslaugas, kurių daugelis jų niekada nenaudojo arba tyčia įjungė. Atvejai vyko pagal pažįstamą modelį: API raktai, iš pradžių naudojami „Google“ žemėlapiams, viešai pateikti pagal pačios „Google“ instrukcijas, tyliai tapo pajėgūs pasiekti „Gemini“, kai „Google“ išplėtė jų taikymo sritį, aiškiai neatskleisdama pakeitimo.
Rodas Dananas, interviu paruošimo platformos „Prentus“ generalinis direktorius, sakė, kad jo sąskaita pasiekė 10 138 USD per maždaug 30 minučių po to, kai užpuolikai pasinaudojo jo pažeistu API raktu. Isuru Fonseka, Sidnėjuje įsikūręs kūrėjas, kurio paskyra buvo panašiai pažeista, pabudo nuo maždaug 17 000 Australijos dolerių mokesčių, nors tikėjo, kad jam nustatyta 250 USD išlaidų riba. Nieko nežinojo ir tai, kad „Google“ automatizuotos sistemos atnaujino savo atsiskaitymo pakopas, remdamosi paskyros istorija, padidindamos efektyvias viršutines ribas iki 100 000 USD be aiškaus sutikimo.
„Google“ grąžino abu pinigus po to, kai „The Register“ paskelbė pirminę ataskaitą. Vis dėlto „Google“ sakė žurnalui „The Register“, kad neketina keisti automatinio pakopų atnaujinimo politikos, sakydama, kad pirmenybė teikiama paslaugų nutrūkimų prevencijai, o ne vartotojų nurodytų biudžeto nuostatų vykdymui.
Tuo tarpu yra atskiras klausimas, kas nutinka, kai kūrėjas bando uždaryti dalykus. „The Register“ šią savaitę pranešė apie saugos firmos „Aikido“ atliktą tyrimą, kuriame nustatyta, kad net kūrėjai, kurie pagauna pažeistą raktą ir iškart jį ištrina, gali būti nesaugūs. Remiantis Aikido išvadomis, užpuolikai gali toliau naudoti šį raktą iki 23 minučių, nes „Google“ atšaukimas palaipsniui plinta visoje jos infrastruktūroje. Aikido tyrinėtojas Josephas Leonas žurnalui „The Register“ sakė, kad per tą langą sėkmės rodikliai yra nenuspėjami – per kelias minutes vis dar autentifikuota daugiau nei 90 % užklausų, o užpuolikai gali panaudoti laiką failams ir talpykloje saugomiems pokalbių duomenims iš Gemini išfiltruoti.
Leonas taip pat pažymėjo, kad naujesni „Google“ kredencialų formatai neturi tos pačios problemos: paslaugos paskyros API kredencialai atšaukiami maždaug per penkias sekundes, o „Gemini“ naujesnis AQ rakto formatas užtrunka apie minutę. „Abu veikia Google mastu“, – rašė jis su Aikido susijusiame dokumente. „Abu rodo, kad tai techniškai galima išspręsti ir naudojant Google API raktus. Trumpai tariant, pasak Leono, 23 minučių langas nėra inžinerinis suvaržymas, o įmonės prioritetų klausimas.
Tai verta apsvarstyti skaitant de Souzos patarimą, kuris yra pagrįstas ir į jį turėtų būti žiūrimas labai rimtai. Jis neklysta, tačiau šiuo metu yra atotrūkis tarp platformų, kurias išrašo, ir to, kaip greitai jos prisitaiko, ir gerai tai žinoti.
Kai perkate per mūsų straipsniuose pateiktas nuorodas, galime uždirbti nedidelį komisinį atlyginimą. Tai neturi įtakos mūsų redakcinei nepriklausomybei.
