„Openai“ pertvarko savo modelio elgsenos komandą – mažą, bet įtakingą tyrėjų grupę, kuri formuoja, kaip bendrovės AI modeliai sąveikauja su žmonėmis, „TechCrunch“ sužinojo.
Rugpjūčio mėn. „TechCrunch“ matytame darbuotojuose „Openai“ vyriausiasis tyrimų pareigūnas Markas Chenas teigė, kad modelio elgesio komanda, kurią sudaro maždaug 14 tyrėjų, prisijungs prie „Post Training“ komandos-didesnės tyrimų grupės, atsakingos už įmonės AI modelių patobulinimą po jų pradinio išankstinio mokymo.
Vykdydami pakeitimus, modelio elgsenos komanda dabar praneš apie „Openai“ po treniruočių vadovą Maxą Schwarzerį. „Openai“ atstovas patvirtino šiuos „TechCrunch“ pakeitimus.
„Model Behavior“ komandos įkūrėja Joanne Jang taip pat pradeda pradėti naują projektą įmonėje. Duodamas interviu „TechCrunch“, Jang sako, kad ji sukuria naują tyrimų komandą, pavadintą „Oai Labs“, kuri bus atsakinga už „naujų sąsajų išrasimą ir prototipą, kaip žmonės bendradarbiauja su AI“.
Modelio elgsenos komanda tapo viena iš pagrindinių „Openai“ tyrimų grupių, atsakingų už bendrovės AI modelių asmenybės formavimą ir už tai, kad sumažina srikoshanciją – tai įvyksta, kai AI modeliai tiesiog sutinka ir sustiprina vartotojo įsitikinimus, net nesveikus, o ne siūlo subalansuotus atsakymus. Komanda taip pat stengėsi naršyti po politinį šališkumą modelio atsakymuose ir padėjo Openai apibrėžti savo poziciją AI sąmonei.
Personalo atsiminime Chenas teigė, kad dabar pats laikas priartinti „Openai“ modelio elgesio komandos darbą prie pagrindinio modelio plėtros. Tai darydama, įmonė rodo, kad jos AI „asmenybė“ dabar laikoma kritiniu veiksniu, kaip vystosi technologija.
Pastaraisiais mėnesiais „Openai“ susidūrė su padidėjusiu savo AI modelių elgesiu. Vartotojai griežtai prieštaravo asmenybės pakeitimams, padarytoms į GPT-5, kurie, pasak Bendrovės, parodė mažesnę sycofancy procentą, tačiau kai kuriems vartotojams atrodė šaltesni. Tai paskatino „Openai“ atkurti prieigą prie kai kurių senų modelių, tokių kaip „GPT-4o“, ir išlaisvinti atnaujinimą, kad naujesni GPT-5 atsakymai jaustųsi „šiltesni ir draugiškesni“, nepadidinant sycofancijos.
„TechCrunch“ renginys
San Franciskas
|
2025 m. Spalio 27–29 d
„Openai“ ir visi AI modelių kūrėjai turi pasivaikščioti puikiomis linijomis, kad jų AI pokalbiai būtų draugiški kalbėtis, bet ne sycophantic. Rugpjūčio mėn. 16-mečio berniuko tėvai pateikė ieškinį Openai dėl tariamo Chatgpto vaidmens jų sūnaus savižudybėje. Remiantis teismo dokumentais, berniukas Adomas Raine'as pasitikėjo savo savižudybės mintis ir planuoja pabendrauti (būtent GPT-4o maitinamą versiją) per kelis mėnesius iki jo mirties. Teismo ieškinyje teigiama, kad „GPT-4o“ nesugebėjo atsitraukti prie savo savižudybės idėjų.
Modelio elgsenos komanda nuo GPT-4, įskaitant GPT-4O, GPT-4.5 ir GPT-5, dirbo prie kiekvieno „Openai“ modelio. Prieš pradėdamas įrenginį, Jangas anksčiau dirbo prie tokių projektų kaip „Dall-E 2“, „Openai“ ankstyvojo įvaizdžio kartos įrankis.
Praėjusią savaitę „X“ įraše Jang paskelbė, kad palieka komandą „pradėti ką nors naujo„ Openai “. Buvęs modelio elgesio vadovas su „Openai“ buvo beveik ketverius metus.
Jang pasakojo „TechCrunch“, kad ji eis generaliniu direktoriumi „Oai Labs“, kuris kol kas praneš apie Cheną. Tačiau tai yra ankstyvos dienos ir dar neaišku, kokios bus tos naujos sąsajos, sakė ji.
„Labai džiaugiuosi galėdamas ištirti modelius, kurie perkelia mus už pokalbių paradigmos, kuri šiuo metu labiau siejama su draugija ar net agentais, kur akcentuojama autonomija“, – sakė Jang. „Aš galvojau apie (AI sistemas) kaip mąstymo, kūrimo, žaidimo, darymo, mokymosi ir ryšio instrumentus“.
Paklaustas, ar „Oai Labs“ bendradarbiaus su šiomis naujomis sąsajomis su buvusiu „Apple Design“ vadovu Jony Ive'u, kuris dabar dirba su „Openai“ AI aparatūros įrenginių šeimoje – Jang teigė, kad atvira daugybei idėjų. Tačiau ji teigė, kad greičiausiai pradės nuo tyrimų sričių, su kuriomis ji labiau pažįstama.
Ši istorija buvo atnaujinta įtraukiant nuorodą į Jango įrašą, kuriame skelbiama apie jos naują poziciją, kuri buvo išleista po šios istorijos paskelbimo. Mes taip pat paaiškiname modelius, prie kurių dirbo „Openai“ modelio elgesio komanda.
