„Google Deepmind“ trečiadienį paskelbė išsamų dokumentą apie jo saugos metodą AGI, apytiksliai apibrėžtą kaip AI, galinčią atlikti bet kurią užduotį, kurią žmogus gali.
AGI yra šiek tiek prieštaringai vertinamas objektas AI lauke, o „Naysayers“ rodo, kad tai yra šiek tiek daugiau nei svajonė apie vamzdį. Kiti, įskaitant pagrindines AI laboratorijas, tokias kaip „Anthropic“, perspėja, kad jis yra už kampo, ir gali padaryti katastrofišką žalą, jei nebus imtasi veiksmų, kad būtų galima įgyvendinti tinkamas apsaugos priemones.
„DeepMind“ 145 puslapių dokumentas, kurį valdė „Deepmind“ įkūrėjas Shane'as Leggas, prognozuoja, kad AGI gali atvykti iki 2030 m. Ir kad tai gali sukelti tai, ką autoriai vadina „sunkią žalą“. Straipsnyje konkrečiai tai neapibrėžia, tačiau pateikiamas nerimą keliantis „egzistencinės rizikos“ pavyzdys, kuris „visam laikui sunaikina žmoniją“.
„(Mes tikimės) išskirtinio AGI vystymąsi iki dabartinio dešimtmečio pabaigos“, – rašė autoriai. „Išskirtinis AGI yra sistema, turinti galimybes, atitinkančias bent 99-ąjį kvalifikuotų suaugusiųjų procentilį, atlikdamas įvairias nefizines užduotis, įskaitant metakognityvines užduotis, tokias kaip naujų įgūdžių mokymasis.“
Neatliekant šikšnosparnio, popierius prieštarauja „DeepMind“ gydymui dėl AGI rizikos mažinimo su antropic ir Openai. Anthropic, sakoma, mažiau pabrėžia „tvirtą mokymą, stebėjimą ir saugumą“, o „Openai“ yra pernelyg pabėgęs nuo „automatizavimo“ AI saugos tyrimų formos, vadinamos derinimo tyrimais.
Straipsnyje taip pat kyla abejonių dėl superintelligent AI – AI, kurie gali atlikti geriau nei bet kuris žmogus, gyvybingumą. („Openai“ neseniai teigė, kad jis nukreipia savo tikslą nuo AGI iki superintelligence.) Nesant „reikšmingų architektūrinių naujovių“, „Deepmind“ autoriai nėra įsitikinę, kad supertelligentinės sistemos greitai atsiras – jei kada nors.
Vis dėlto šiame dokumente yra tikėtina, kad dabartinės paradigmos įgalins „rekursinį AI patobulinimą“: teigiamą grįžtamojo ryšio kilpą, kai AI atlieka savo AI tyrimus, kad sukurtų sudėtingesnes AI sistemas. Ir tai gali būti nepaprastai pavojinga, tvirtina autoriai.
Aukštu lygmeniu šiame dokumente siūlomi ir šalininkai, kaip sukurti metodus, skirtus blokuoti blogų veikėjų prieigą prie hipotetinio AGI, pagerinti AI sistemų veiksmų supratimą ir „sukietėti“ aplinka, kurioje AI gali veikti. Jame pripažįstama, kad daugelis metodų yra nauji ir turi „atvirų tyrimų problemų“, tačiau perspėja nepaisyti saugos iššūkių, galbūt horizonte.
„Transformacinis AGI pobūdis gali turėti tiek neįtikėtinų naudos, tiek ir didelę žalą“, – rašo autoriai. „Todėl norint atsakingai kurti AGI,„ Frontier AI “kūrėjams labai svarbu aktyviai planuoti sušvelninti didelę žalą“.
Tačiau kai kurie ekspertai nesutinka su popieriaus patalpomis.
Heidy Khlaaf, ne pelno siekiančio AI instituto vyriausiasis AI mokslininkas, „TechCrunch“ sakė, kad, jos manymu, AGI koncepcija yra per daug netinkama, kad būtų „griežtai vertinama moksliškai“. Kitas AI tyrėjas Matthew Guzdial, Albertos universiteto docentas, teigė, kad netiki, jog rekursinis AI pagerėjimas šiuo metu yra realus.
„(Rekursinis tobulinimas) yra žvalgybos išskirtinio argumentų pagrindas“, – sakė Guzdial „TechCrunch“, „bet mes niekada nematėme jokių įrodymų, kad jis veiktų“.
Sandra Wachter, tyrėja, tirianti technologijas ir reguliavimą Oksforde, teigia, kad realistiškesnis susirūpinimas yra AI, sustiprinantis „netikslius rezultatus“.
„Daugėjant generatyvinių AI rezultatų internete ir laipsniškai pakeisti autentiškus duomenis, modeliai dabar mokosi iš savo išvesties, kuriose yra suklydimų ar haliucinacijų“, – sakė ji „TechCrunch“. „Šiuo metu pokalbių programos daugiausia naudojamos paieškos ir tiesos nustatymo tikslams. Tai reiškia, kad mums nuolat gresia pavojus būti šeriamam neteisingai ir tikėti jais, nes jie pateikiami labai įtikinamai.”
Atrodo, kad „Deepmind“ popierius, kaip tai gali būti, išspręsta diskusijoms dėl to, kaip realistiška AGI – ir AI saugumo sritys, kurioms reikia skubiausio dėmesio.
