Antropinis prieš Pentagoną: kas iš tikrųjų yra pavojuje?

Pastarąsias dvi savaites antropinės veiklos generalinio direktoriaus Dario Amodei ir gynybos sekretoriaus Pete'o Hegsetho susidūrimas buvo apibrėžtas kaip dviejų mūšis dėl AI naudojimo kariuomenėje.

„Anthropic“ atsisako leisti savo dirbtinio intelekto modelius naudoti masiniam amerikiečių stebėjimui arba visiškai autonominiams ginklams, kurie smogia be žmogaus indėlio. Tuo pačiu metu sekretorius Hegsethas teigė, kad Gynybos departamentas neturėtų būti apribotas pardavėjo taisyklėmis, teigdamas, kad bet koks „teisėtas technologijos naudojimas“ turėtų būti leidžiamas.

Ketvirtadienį Amodei viešai pranešė, kad Anthropic nesitraukia – nepaisant grasinimų, kad dėl to jo įmonė gali būti priskirta tiekimo grandinės rizikai. Tačiau naujienų ciklui sparčiai judant, verta dar kartą peržiūrėti, kas yra ant kortos kovoje.

Šios kovos esmė yra apie tai, kas valdo galingas AI sistemas – jas kuriančios įmonės ar vyriausybė, kuri nori jas įdiegti.

Dėl ko nerimauja antropas?

Kaip minėjome aukščiau, „Anthropic“ nenori, kad jos AI modeliai būtų naudojami masiniam amerikiečių stebėjimui arba autonominiams ginklams, kuriuose nėra žmogaus, kad būtų galima nukreipti ir šaudyti. Tradiciniai gynybos rangovai paprastai turi mažai įtakos, kaip bus naudojami jų produktai, tačiau Anthropic nuo pat savo veiklos pradžios tvirtino, kad dirbtinio intelekto technologija kelia unikalią riziką ir todėl reikalauja unikalių apsaugos priemonių. Įmonės požiūriu, kyla klausimas, kaip išlaikyti šias apsaugos priemones, kai technologijas naudoja kariuomenė.

JAV kariuomenė jau remiasi labai automatizuotomis sistemomis, kai kurios iš jų yra mirtinos. Sprendimas naudoti mirtiną jėgą istoriškai buvo paliktas žmonėms, tačiau yra nedaug teisinių apribojimų kariniam autonominių ginklų naudojimui. DoD kategoriškai nedraudžia visiškai autonominių ginklų sistemų. Remiantis 2023 m. DOD direktyva, dirbtinio intelekto sistemos gali pasirinkti ir įtraukti taikinius be žmogaus įsikišimo, jei jie atitinka tam tikrus standartus ir bus peržiūrimi vyresniųjų gynybos pareigūnų.

Būtent tai antropiką nervina. Karinės technologijos iš prigimties yra slaptos, taigi, jei JAV kariuomenė imtųsi veiksmų automatizuoti mirtinų sprendimų priėmimą, mes apie tai galėtume nežinoti, kol jos nepradėtų veikti. Ir jei buvo naudojami Anthropic modeliai, tai gali būti laikoma „teisėtu naudojimu“.

Antropo pozicija nėra tokia, kad toks naudojimas turėtų būti visam laikui pašalintas. Taip yra todėl, kad jo modeliai dar nėra pakankamai pajėgūs, kad juos saugiai išlaikytų. Įsivaizduokite autonominę sistemą, klaidingai identifikuojančią taikinį, eskaluojančią konfliktą be žmogaus leidimo arba priimančią mirtiną sprendimą, kurio niekas negali atšaukti. Pastatykite mažiau pajėgų dirbtinį intelektą, atsakingą už ginklus, ir gausite labai greitą, labai pasitikintį aparatą, kuris blogai atlieka didelius statymus.

AI taip pat turi galią tam tikru mastu sustiprinti teisėtą Amerikos piliečių sekimą. Pagal dabartinius JAV įstatymus Amerikos piliečių sekimas jau yra įmanomas renkant žinutes, el. laiškus ir kitus ryšius. AI pakeičia lygtį įgalindama automatinį didelio masto modelių aptikimą, objektų skyrą duomenų rinkiniuose, nuspėjamą rizikos balų nustatymą ir nuolatinę elgsenos analizę.

Ko nori Pentagonas?

Pentagono argumentas yra tas, kad jis turėtų turėti galimybę naudoti Anthropic technologijas bet kokiam teisėtam naudojimui, kuris, jo nuomone, yra būtinas, o ne būti ribojamas Anthropic vidaus politikos, susijusios su autonominiais ginklais ar stebėjimu.

Konkrečiau, sekretorius Hegsethas teigė, kad Gynybos departamentas neturėtų būti apribotas pardavėjo taisyklėmis ir kad jis užsiims „teisėtu technologijos naudojimu“.

Pentagono vyriausiasis atstovas Seanas Parnellas ketvirtadienio X poste sakė, kad departamentas nėra suinteresuotas vykdyti masinį vidaus stebėjimą ar dislokuoti autonominius ginklus.

„Štai ko mes prašome: leisti Pentagonui naudoti Anthropic modelį visais teisėtais tikslais“, – sakė Parnell. „Tai paprastas, sveiko proto prašymas, kuris neleis Anthropic kelti pavojaus svarbioms karinėms operacijoms ir potencialiai kelti pavojų mūsų kovotojams. Neleisime JOKIAI įmonei diktuoti sąlygų, kaip priimame operatyvinius sprendimus.”

Jis pridūrė, kad Anthropic turi nuspręsti iki penktadienio 17:01 ET. „Priešingu atveju nutrauksime savo partnerystę su Anthropic ir manysime, kad jie kelia pavojų DOW tiekimo grandinėje“, – sakė jis.

Nepaisant Departamento pozicijos, kad jis tiesiog netiki, kad tai turėtų būti ribojama korporacijos naudojimo politika, sekretoriaus Hegsetho susirūpinimas dėl Antropijos kartais atrodė susijęs su kultūrinėmis nuoskaudomis. Sausio mėn. kalboje „SpaceX“ ir „xAI“ biuruose Hegsethas pasisakė prieš „pažadintą AI“ kalboje, kurią kai kurie laikė jo nesantaikos su Anthropic apžvalga.

„Department of War AI nebus pažadintas“, – sakė Hegsethas. „Kuriame karui paruoštus ginklus ir sistemas, o ne pokalbių robotus Ivy League fakulteto holui.

Tai kas dabar?

Pentagonas pagrasino paskelbti „Anthropic“ „tiekimo grandinės rizika“, o tai iš tikrųjų įtrauks Antropinį į juodąjį sąrašą nuo verslo su vyriausybe, arba pasinaudos Gynybos gamybos įstatymu (DPA), kad priverstų bendrovę pritaikyti savo modelį pagal kariuomenės poreikius. Hegsethas davė Anthropic atsakyti iki penktadienio 17.01 val. Tačiau artėjant terminui, galima spėlioti, ar Pentagonas ištaisys savo grėsmę.

Tai nėra kova, nuo kurios bet kuri šalis gali lengvai pasitraukti. Sachinas Sethas, „Trousdale Ventures“ rizikos kapitalo narys, daugiausia dėmesio skiriantis gynybos technologijoms, sako, kad „Anthropic“ tiekimo grandinės rizikos etiketė gali reikšti, kad bendrovė „užges“.

Tačiau jis sakė, kad jei Anthropic bus pašalintas iš DOD, tai gali būti nacionalinio saugumo problema.

„(Departamentas) turėtų palaukti nuo šešių iki 12 mėnesių, kol OpenAI arba xAI pasivys“, – „TechCrunch“ sakė Sethas. „Tai palieka iki metų laikotarpį, per kurį jie gali dirbti iš ne geriausio modelio, o antro ar trečio geriausio modelio.

„xAI“ ruošiasi tapti įslaptinta ir pakeisti Anthropic, ir, atsižvelgiant į savininko Elono Musko retoriką šiuo klausimu, būtų teisinga sakyti, kad įmonei nekiltų jokių problemų suteikti DOD visišką savo technologijų kontrolę. Naujausios ataskaitos rodo, kad OpenAI gali laikytis tų pačių raudonų linijų kaip ir Anthropic.