Kalifornijos įstatymo projektas, kuris reglamentuotų AI kompanionų pokalbių programas

Kalifornija žengė didelį žingsnį link AI reguliavimo. „SB 243“ – įstatymo projektas, kuris reguliuotų PG kompanionų pokalbių programas, siekiant apsaugoti nepilnamečius ir pažeidžiamus vartotojus – priėmė ir valstybinę asamblėją, ir Senatą, palaikydamas dvišalį paramą, ir dabar kreipiasi į gubernatoriaus Gavino Newsomo stalą.

„Newsom“ iki spalio 12 d., Kad būtų galima veto sąskaitą arba pasirašyti ją įstatymais. Jei jis pasirašytų, jis įsigalios 2026 m. Sausio 1 d., Todėl Kalifornija yra pirmoji valstija, reikalaujanti, kad AI „Chatbot“ operatoriai įgyvendintų AI kompanionų saugos protokolus ir būtų teisiškai atsakingos įmonėms, jei jų pokalbių programos neatitinka šių standartų.

Įstatymo projekte konkrečiai siekiama užkirsti kelią bendravimojant pokalbių programas, kurias įstatymai apibūdina kaip AI sistemas, kurios teikia adaptyvius, į žmogų panašius atsakymus ir gali patenkinti vartotojo socialinius poreikius-nuo pokalbių apie savižudybės idėją, savęs kenksmingą ar seksualiai aiškų turinį. Sąskaitoje reikalaujama, kad platformos vartotojams teiktų pasikartojančius perspėjimus – kas tris valandas nepilnamečiams – primena jiems, kad jie kalba su AI pokalbių tyrimu, o ne tikru asmeniu ir kad jie turėtų atsipūsti. Tai taip pat nustato metinius ataskaitų teikimo ir skaidrumo reikalavimus AI įmonėms, siūlančioms bendros pokalbių programos, įskaitant pagrindinius žaidėjus „Openai“, „CHARAGE.AI“ ir „REPLIKA“, kurie įsigalios 2027 m. Liepos 1 d.

Kalifornijos įstatymo projektas taip pat leistų asmenims, kurie mano, kad buvo sužeisti dėl pažeidimų, kad būtų pateikiamos ieškiniai prieš AI bendroves, siekiančias uždraudimo pagalbos, žalos atlyginimo (iki 1 000 USD už pažeidimą) ir advokato mokesčius.

Įstatymo projektas įgavo pagreitį Kalifornijos įstatymų leidėjoje po paauglio Adomo Raine mirties, kuris nusižudė po ilgų pokalbių su Openai Chatgpt, kuriuose buvo diskutuojama ir planuojant jo mirtį ir savęs žalojimą. Teisės aktai taip pat reaguoja į nutekėjusius vidinius dokumentus, kuriuose, kaip pranešama, buvo parodyta, kad „Meta“ pokalbių programos buvo leista įsitraukti į „romantiškus“ ir „jausmingus“ pokalbius su vaikais.

Pastarosiomis savaitėmis JAV įstatymų leidėjai ir reguliavimo institucijos reagavo intensyviai tikrindami AI platformų apsaugos priemones, kad apsaugotų nepilnamečius. Federalinė prekybos komisija ruošiasi ištirti, kaip AI pokalbiai daro įtaką vaikų psichinei sveikatai. Teksaso generalinis prokuroras Kenas Paxtonas pradėjo „Meta“ ir „CHARAGHT.AI“ tyrimus, apkaltindamas juos klaidinančiais vaikais, turinčiais pretenzijų į psichinę sveikatą. Tuo tarpu tiek senas Joshas Hawley (R-Mo), tiek senjoras Edas Markey (D-MA) pradėjo atskirus zondus į meta.

„Manau, kad žala yra potencialiai didelė, tai reiškia, kad turime greitai judėti“, – pasakojo Padilla „TechCrunch“. „Mes galime įdiegti pagrįstų apsaugos priemonių, kad įsitikintume, jog ypač nepilnamečiai žino, kad nekalba su tikru žmogumi, kad šios platformos susieja žmones su tinkamais ištekliais, kai žmonės sako, kad jie galvoja apie save pakenkdami ar yra nelaimės (ir), kad įsitikintų, jog netinkama netinkama medžiaga.“

„Padilla“ taip pat pabrėžė, kad AI kompanijų svarba dalijasi duomenimis apie tai, kiek kartų jie kiekvienais metais nurodo vartotojus į krizių paslaugas, „taigi mes geriau suprantame šios problemos dažnumą, o ne tik sužinojome apie ją, kai kieno nors padaryta žala ar dar blogiau“.

Anksčiau SB 243 turėjo stipresnių reikalavimų, tačiau daugelis jų buvo suderinti dėl pakeitimų. Pvz., Iš pradžių įstatymo projektas būtų reikalaujantis, kad operatoriai užkirstų kelią AI pokalbių programoms naudoti „kintamo atlygio“ taktiką ar kitas funkcijas, skatinančias per didelį įsitraukimą. Ši taktika, kurią naudojo AI kompanionų kompanijos, tokios kaip „Replika“ ir „Charakteriai“, siūlo vartotojams specialias žinutes, prisiminimus, siužetines linijas ar galimybę atrakinti retas atsakymus ar naujas asmenybes, sukurdami tai, ką kritikai vadina potencialiai priklausomu atlygiu.

Dabartiniame įstatymo projekte taip pat pašalinamos nuostatos, dėl kurių operatoriai būtų reikalaujantys sekti ir pranešti, kaip dažnai pokalbių programos inicijavo diskusijas apie savižudybės idėją ar veiksmus su vartotojais.

„Manau, kad tai sukelia tinkamą pusiausvyrą, kaip patekti į žalą, neužtikrinant to, ko įmonėms neįmanoma laikytis, nes tai techniškai neįmanoma, arba tiesiog daug dokumentų“, – sakė Beckeris „TechCrunch“.

„SB 243“ pereina į įstatymus tuo metu, kai Silicio slėnio įmonės lieja milijonus dolerių į Pro-AAI politinių veiksmų komitetus (PACS), norėdamos patvirtinti kandidatus artėjančiuose vidutinio laikotarpio rinkimuose, kurie palaiko lengvą požiūrį į AI reguliavimą.

Sąskaita taip pat pateikiama, nes Kalifornija sveria dar vieną AI saugos sąskaitą „SB 53“, kuris įpareigotų išsamius skaidrumo ataskaitų teikimo reikalavimus. „Openai“ parašė atvirą laišką gubernatoriui Newsomui, prašydamas jo atsisakyti tokio įstatymo projekto, kuriame būtų mažiau griežtų federalinių ir tarptautinių pagrindų. Pagrindinės technologijų kompanijos, tokios kaip „Meta“, „Google“ ir „Amazon“, taip pat priešinosi SB 53. Priešingai, tik „Anthropic“ teigė, kad palaiko SB 53.

„Atminu prielaidą, kad tai yra nulinės sumos situacija, kad naujovės ir reguliavimas yra vienas kitą paneigiančios“, – teigė Padilla. „Nesakyk man, kad mes negalime vaikščioti ir kramtyti gumos. Mes galime palaikyti naujoves ir plėtrą, kuri, mūsų manymu, yra sveika ir turi naudos – ir ši technologija yra naudinga, aišku – ir tuo pačiu galime suteikti pagrįstų apsaugos priemonių labiausiai pažeidžiamiems žmonėms.“

„Mes atidžiai stebime įstatymų leidybos ir reguliavimo aplinką ir laukiame darbo su reguliavimo institucijomis ir įstatymų leidėjais, kai jie pradeda svarstyti įstatymus dėl šios kylančios erdvės“, – sakė veikėjas.AI atstovas spaudai sakė, kad „TechCrunch“ sakė, kad pradedančioji įmonė jau apima svarbius atsisakymus visuose vartotojo pokalbių patirtyje, paaiškindamas, kad jis turėtų būti traktuojamas kaip fantastika.

Meta atstovas atsisakė komentuoti.

„TechCrunch“ susisiekė su „Openai“, „Antropic“ ir „Replika“ komentuoti.