Ar Pentagono antropiniai ginčai atbaidys startuolius nuo gynybos darbo?

Praėjus kiek daugiau nei savaitei, derybos dėl Pentagono naudojamo Anthropic's Claude technologijos žlugo, Trumpo administracija priskyrė Anthropic tiekimo grandinės rizikai, o dirbtinio intelekto įmonė pareiškė kovosianti su šiuo paskyrimu teisme.

Tuo tarpu „OpenAI“ greitai paskelbė apie savo susitarimą, dėl kurio vartotojai pašalino „ChatGPT“ ir iškėlė „Anthropic“ „Claude“ į „App Store“ topų viršūnę. Ir bent vienas „OpenAI“ vadovas atsistatydino dėl susirūpinimo, kad pranešimas buvo skubotas be atitinkamų apsauginių turėklų.

Naujausioje „TechCrunch's Equity“ podcast'o serijoje Kirsten Korosec, Seanas O'Kane'as ir aš aptarėme, ką tai reiškia kitiems startuoliams, norintiems dirbti su federaline vyriausybe, ypač Pentagonu, nes Kirsten susimąstė: „Ar pamatysime, kad melodija šiek tiek pasikeis?

Seanas pabrėžė, kad tai yra neįprasta situacija daugeliu atžvilgių, iš dalies dėl to, kad OpenAI ir Claude gamina produktus, kurių „niekas negali tylėti“. Ir svarbiausia, kad tai yra ginčas dėl to, „kaip jų technologijos naudojamos ar nenaudojamos žmonėms žudyti“, todėl tai, žinoma, bus labiau išnagrinėta.

Vis dėlto Kirsten tvirtino, kad tai yra situacija, kuri turėtų „suteikti bet kokią paleidimo pauzę“.

Žemiau skaitykite mūsų pokalbio peržiūrą, redaguotą, kad būtų aiškumo ir ilgio.

Kirsten: Man įdomu, ar kiti startuoliai pradeda žiūrėti į tai, kas atsitiko su federaline vyriausybe, ypač Pentagonu ir Anthropic, tomis diskusijomis ir imtynių rungtynėmis, ir (imti) pristabdo, ar jie nori siekti federalinių dolerių. Ar matysime, kad melodija šiek tiek pasikeis?

Šonas: Aš irgi tuo stebiuosi. Manau, kad tam tikru mastu artimiausiu metu ne, jei tik todėl, kad kai iš tikrųjų bandote galvoti apie visas įvairias įmones, nesvarbu, ar tai būtų pradedančiosios įmonės, ar dar labiau įsitvirtinusios „Fortune 500“, kurios dirba su vyriausybe ir ypač su Gynybos departamentu ar Pentagonu, (daugeliui jų), šis darbas skrenda po radaru.

„General Motors“ gamina kariuomenės gynybines transporto priemones ir darė (tai) labai ilgą laiką ir dirbo su visomis elektrinėmis šių transporto priemonių versijomis ir autonominėmis versijomis. Tokie dalykai vyksta nuolatos ir tiesiog niekada nepasiekia senumo. Manau, kad problema, su kuria „OpenAI“ ir „Anthropic“ susidūrė praėjusią savaitę, yra tokia, kad tai yra įmonės, gaminančios produktus, kuriuos naudoja daugybė žmonių – ir dar svarbiau, kad niekas negali tylėti.

Taigi jie yra tiesiog dėmesio centre, kuris, žinoma, pabrėžia jų dalyvavimą tokiu lygiu, su kuriuo, manau, dauguma kitų įmonių, sudarančių sutartis su federaline vyriausybe, ir ypač bet kuri iš federalinės vyriausybės karinių elementų, nebūtinai turi susidurti.

Vienintelis įspėjimas, kurį pridursiu, yra didelis karštis, susijęs su šia diskusija tarp Anthropic ir OpenAI bei Pentagono, susijusi su tuo, kaip jų technologijos naudojamos arba nenaudojamos žmonėms žudyti, arba kai kuriose misijose, kuriose žudomi žmonės. Tai ne tik jiems skiriamas dėmesys ir susipažinimas su jų prekių ženklais, bet ir papildomas elementas, kuris, mano nuomone, yra abstraktesnis, kai galvojate apie „General Motors“ kaip gynybos rangovą ar bet ką.

Nemanau, kad pamatysime, pavyzdžiui, „Applied Intuition“ ar bet kurią iš šių kompanijų, kurios laikosi dvejopo naudojimo, vien todėl, kad nematau dėmesio ir tiesiog nėra bendro supratimo apie tai, koks tai gali būti poveikis.

Anthony: Ši istorija yra tokia unikali ir daugeliu atžvilgių būdinga šioms įmonėms ir asmenybėms. Turiu omenyje, kad buvo daug tikrai įdomių minčių apie: koks yra technologijų vaidmuo vyriausybėje? (Ne) AI vyriausybėje? Ir aš manau, kad tai yra geri ir verti klausimai, kuriuos reikia užduoti ir ištirti.

Tačiau taip pat manau, kad tai yra labai įdomus objektyvas, per kurį galima ištirti kai kuriuos iš šių dalykų, nes Anthropic ir OpenAI iš tikrųjų nėra tokie skirtingi nei daugeliu atžvilgių, nei savo pozicijų. tai ne kaip viena įmonė sako: „Ei, aš nenoriu dirbti su vyriausybe“, o kita sako: „Taip, aš noriu“. Arba vienas sako: „Tu gali daryti ką nori“. ir (kita) sako: „Ne, aš noriu apribojimų“. Abu jie, bent jau viešai, sako: „Norime apribojimų, kaip mūsų dirbtinis intelektas bus naudojamas“. Panašu, kad Antropikai daug daugiau ieško: Jūs negalite pakeisti terminų tokiu būdu.

Be to, atrodo, kad yra asmenybės sluoksnis, kuriame yra „Anthropic“ generalinis direktorius ir Emilis Michaelas, kurį daugelis „TechCrunch“ skaitytojų gali prisiminti iš savo „Uber“ laikų ir dabar yra (gynybos departamento vyriausiasis technologijų pareigūnas). Matyt, jie tiesiog labai nemėgsta vienas kito. Pranešama.

Šonas: Taip, čia yra labai didelis „merginos kaunasi“ elementas, kurio neturėtume pamiršti.

Kirsten: Taip, šiek tiek. Yra, bet pasekmės yra šiek tiek stipresnės. Vėlgi, norint šiek tiek atsitraukti, mes kalbame apie tai, kad Pentagonas ir Anthropic įsitraukė į ginčą, kuriame Anthropic, atrodo, pralaimėjo, nors turėčiau pasakyti, kad juos vis dar labai naudoja kariuomenė. Jie laikomi itin svarbia technologija, tačiau „OpenAI“ tarsi įsikišo ir tai vystosi ir greičiausiai pasikeis, kai pasirodys šis epizodas.

Atmušimas buvo įdomus OpenAI, kur mes matėme daug ChatGPT pašalinimų, manau, kad jis išaugo 295 % po to, kai OpenAI sudarė susitarimą su Gynybos departamentu.

Man visa tai yra triukšmas dėl tikrai kritiško ir pavojingo dalyko, ty to, kad Pentagonas siekė pakeisti esamas esamos sutarties sąlygas. Ir tai tikrai svarbu ir turėtų padaryti bet kokią paleidimo pauzę, nes šiuo metu vykstanti politinė mašina, ypač su DoD, atrodo kitokia. Tai nėra normalu. Sutartys užtrunka amžinai, kol vyriausybės lygmeniu užsiima, ir tai, kad jos siekia pakeisti šias sąlygas, yra problema.