Kai „Deepseee“, „Alibaba“ ir kitos Kinijos firmos išleido savo AI modelius, Vakarų tyrėjai greitai pastebėjo, kad jie nukreipė klausimus, kritinius Kinijos komunistų partijai. Vėliau JAV pareigūnai patvirtino, kad šios priemonės yra sukurtos taip, kad atspindėtų Pekino kalbėjimo taškus, keliančius susirūpinimą dėl cenzūros ir šališkumo.
Amerikos AI lyderiai, tokie kaip „Openai“, atkreipė dėmesį į tai, kaip greitai pateisinti savo techniką, be per daug reguliavimo ar priežiūros. Kaip praėjusį mėnesį „LinkedIn“ įraše rašė „Openai“ vyriausiasis pasaulinių reikalų pareigūnas Chrisas Lehane'as, yra konkursas tarp „JAV vadovaujamos demokratinės AI ir komunistų vadovaujamos Kinijos autokratinės AI“.
Trečiadienį prezidento Donaldo Trumpo pasirašytas vykdomasis įsakymas, draudžiantis „pažadinti AI“, ir AI modeliai, kurie nėra „ideologiškai neutralūs“ iš vyriausybės sutarčių, gali sutrikdyti tą pusiausvyrą.
Įsakymas iškviečia įvairovę, teisingumą ir įtraukimą (DEI), vadinančią ją „paplitusios ir destruktyvia“ ideologija, kuri gali „iškraipyti produkcijos kokybę ir tikslumą“. Konkrečiai kalbant, įsakymas reiškia informaciją apie rasę ar seksą, manipuliavimą rasine ar seksualine atstovavimu, kritinės rasės teorija, transgenderizmu, nesąmoningu šališkumu, sankryža ir sisteminiu rasizmu.
Ekspertai perspėja, kad tai gali sukelti vėsinantį poveikį kūrėjams, kurie gali jausti spaudimą suderinti modelio išvestis ir duomenų rinkinius su Baltųjų rūmų retorika, kad būtų užtikrinta federaliniai doleriai savo grynųjų pinigų deginimo įmonėms.
Įsakymas įvyks tą pačią dieną, kai Baltieji rūmai paskelbė D.Trumpo „AI veiksmų planą“, kuris perkelia nacionalinius prioritetus nuo visuomenės rizikos ir sutelkia dėmesį į AI infrastruktūros kūrimą, mažinant biurokratiją technologijų įmonėms, kuriant nacionalinį saugumą ir konkuruojant su Kinija.
Šis įsakymas nurodo Valdymo ir biudžeto tarnybos direktoriui kartu su federalinės viešųjų pirkimų politikos administratoriumi, Generalinių paslaugų administratoriumi ir Mokslo ir technologijos politikos tarnybos direktoriumi, kad būtų galima pateikti rekomendacijas kitoms agentūroms, kaip jų laikytis.
„TechCrunch“ renginys
San Franciskas
|
2025 m. Spalio 27–29 d
„Kartą ir visiems laikams mes atsikratome pabudimo“,-sakė Trumpas trečiadienį per AI renginį, kurį surengė „All-In Podcast“ ir „Hill & Valley“ forumas. „Aš pasirašysiu įsakymą, draudžiantį federalinei vyriausybei įsigyti AI technologijos, kuri buvo užpildyta partizanų šališkumu ar ideologinėmis darbotvarkėmis, tokiomis kaip kritinės rasės teorija, kuri yra juokinga. Ir nuo šiol JAV vyriausybė spręs tik su AI, kuri siekia tiesos, teisingumo ir griežto artimo.“.
Nustatyti, kas yra nešališka ar objektyvi, yra vienas iš daugelio iššūkių tvarkai.
„TechCrunch“ „TechCrunch“ sakė Philipas Seargeantas, „TechCrunch“ taikomosios kalbotyros dėstytojas, kad niekas niekada negali būti objektyvus.
„Vienas iš pagrindinių sociolingvistikos principų yra tas, kad kalba niekada nėra neutrali“, – teigė seržantas. „Taigi mintis, kad jūs kada nors galite gauti gryną objektyvumą, yra fantazija“.
Be to, D.Trumpo administracijos ideologija neatspindi visų amerikiečių įsitikinimų ir vertybių. Trumpas ne kartą siekė panaikinti finansavimą klimato iniciatyvoms, švietimui, visuomenės transliacijai, tyrimams, socialinių paslaugų dotacijoms, bendruomenės ir žemės ūkio paramos programoms bei lyties patvirtinimo priežiūrai, dažnai apibūdindamas šias iniciatyvas kaip „pabudimo“ ar politiškai šališkų vyriausybės išlaidų pavyzdžius.
Kaip Rummanas Chowdhury, duomenų mokslininkas, „Tech“ ne pelno siekiančios humaniško intelekto generalinis direktorius ir buvęs JAV mokslo pasiuntinys AI, pasakė: „Viskas (D.Trumpo administracija neleidžia), kaip iš karto įmesta į šią pejoratyvią pabudimo krūvą“.
Trečiadienį paskelbtos tvarkos „tiesos ieškojimo“ ir „ideologinio neutralumo“ apibrėžimai yra neaiškūs kai kuriais būdais, o kitais-konkretus. Nors „tiesos ieškojimas“ yra apibrėžiamas kaip LLM, kuris „prioritetą teikia istoriniam tikslumui, moksliniam tyrimui ir objektyvumui“, „ideologinis neutralumas“ yra apibrėžiamas kaip „neutralios, nepartinės priemonės, kurios nesigilina į ideologinių šunų, tokių kaip DEI, naudai.
Šie apibrėžimai palieka erdvę plačiam aiškinimui, taip pat galimą spaudimą. PG įmonės reikalavo mažiau apribojimų, kaip jos veikia. Ir nors vykdomasis įsakymas nepareiškia įstatymų leidybos jėgos, pasienio AI įmonės vis tiek galėtų atsidurti besikeičiančiuose administracijos politinės darbotvarkės prioritetuose.
Praėjusią savaitę „Openai“, „Anthropic“, „Google“ ir „Xai“ pasirašė sutartis su Gynybos departamentu, kad gautų iki 200 mln.
Neaišku, kurią iš šių bendrovių geriausia gauti iš „Woke AI“ draudimo, ar jos laikysis.
„TechCrunch“ susisiekė su kiekvienu iš jų ir atnaujins šį straipsnį, jei išgirsime.
Nepaisant to, kad parodo savo šališkumą, XAI gali būti labiausiai suderintas su tvarka – bent jau šiame ankstyvame etape. Elonas Muskas pastatė Groką, Xai „Chatbot“, kaip didžiausią antiboką, „mažiau šališką“, „Truthseeker“. „Grok“ sistemos raginimai nurodė jai vengti atidėti pagrindines valdžios institucijas ir žiniasklaidą, ieškoti priešingos informacijos, net jei ji yra politiškai neteisinga, ir net nurodyti paties Musko nuomonę prieštaringai vertinamomis temomis. Pastaraisiais mėnesiais Grokas netgi papasakojo apie antisemitinius komentarus ir gyrė Hitlerį X, be kitų neapykantos kupinų, rasistinių ir misogynistinių pranešimų.
Stanfordo universiteto teisės profesorius Markas Lemley sakė, kad „TechCrunch“ vykdomasis įsakymas yra „aiškiai skirtas kaip požiūrio diskriminacija, nes (vyriausybė) ką tik pasirašė sutartį su„ Grok “, dar žinomu kaip„ Mechahitler “.“
Be „Xai“ DOD finansavimo, bendrovė paskelbė, kad „Grok už vyriausybę“ buvo įtrauktas į Generalinių paslaugų administravimo grafiką, tai reiškia, kad „Xai“ produktus dabar galima įsigyti kiekvienoje vyriausybės biure ir agentūroje.
„Tinkamas klausimas yra toks: ar jie uždraustų Groką, AI, su kuriais jie tiesiog pasirašė didelę sutartį, nes buvo sąmoningai sukurta pateikti politiškai įkrautus atsakymus?“ Lemley sakė interviu el. Paštu. „Jei ne, jis aiškiai skirtas atskirti tam tikrą požiūrį“.
Kaip parodė pačios Groko sistemos raginimai, modelio išėjimai gali atspindėti tiek žmones, kurie kuria technologiją, tiek duomenis, kuriuose yra mokomi AI. Kai kuriais atvejais kūrėjų per didelis atsargumo ir AI, mokomo interneto turinio, kuris skatina tokias vertybes kaip inkliuzija, per daug, lėmė iškraipytą modelio rezultatą. Pvz., „Google“ praėjusiais metais kilo po to, kai jos „Dvynių pokalbiai“ parodė juodąjį George'o Vašingtoną ir rasiškai įvairius nacius-kuriuos Trumpo įsakymas iškviečia kaip DEI užkrėstų AI modelių pavyzdį.
Chowdhury sako, kad didžiausia jos vykdomojo įsakymo baimė yra ta, kad AI kompanijos aktyviai pakeis mokymo duomenis, kad vilktų partijos liniją. Ji atkreipė dėmesį į Musko teiginius likus kelioms savaitėms iki „GROK 4“ paleidimo, sakydama, kad XAI panaudos naują modelį ir jo pažangias samprotavimo galimybes, kad „perrašytų visą žmogaus žinių korpusą, pridėdama trūkstamų informacijos ir ištrintų klaidas. Tada perkvalifikuokite.“
Akivaizdu, kad Muskusas būtų vertinamas vertinant tai, kas yra tiesa, o tai gali turėti didžiulį pasrovių poveikį informacijos prieinamumui.
Žinoma, įmonės vertina, kokia informacija yra matoma ir nematyti nuo interneto aušros.
Konservatoriai, tokie kaip Davidas Sacksas-verslininkas ir investuotojas, kurį Trumpas paskyrė AI CZAR-kalbėjo apie savo susirūpinimą dėl „pažadino AI“ per „All-in“ podcast'ą, kuris kartu surengė Trumpo AI pranešimų dieną. Sacksas apkaltino kūrėjus iškiliais AI produktais, kurie juos užpildo kairiosios pakraipos vertybėmis, apibrėžė jo argumentus kaip laisvo žodžio gynimą ir įspėjimą prieš tendenciją centralizuotai ideologinei kontrolei skaitmeninėse platformose.
Ekspertų teigimu, problema yra ta, kad nėra vienos tiesos. Neįmanoma pasiekti nešališkų ar neutralių rezultatų, ypač šiandieniniame pasaulyje, kur net faktai yra politizuoti.
„Jei rezultatai, kuriuos sukuria AI, sako, kad klimato mokslas yra teisingas, ar tai kairiojo sparno šališkumas?“ Sakė Seargeantas. „Kai kurie žmonės sako, kad reikia pateikti abi argumento puses, kad būtų objektyvus, net jei viena argumento pusė neturi statuso.“
