Kodėl pirmieji GPU finansuotojai kreipiasi į išvadų lustus 400 mln

„General Compute“, AI išvadų debesies startuolis, gavo 400 mln. USD paskolą iš technologijų investicinės įmonės „Upper90“. Tai gali būti pirmasis sandoris, kai kaip užstatas pateikiamos konkrečios išvados lustai – lustai, sukurti taip, kad greitai ir efektyviai veiktų jau parengti dirbtinio intelekto modeliai, o ne brangesni lustai, naudojami modeliams kurti.

Finansavimas yra naujausias signalas, kad rinkos reaguoja į susirūpinimą dėl AI įrankių ir žetonų kainos, kreipiasi į infrastruktūrą, kurioje atvirojo kodo modeliai veikia pigiau nei naujausi LLM iš pasienio laboratorijų.

Įkurta generalinio direktoriaus Finno Puklowskio, „General Compute“ gegužės mėnesį surinko 15 mln. (Neoclouds yra specialiai sukurtos dirbtinio intelekto darbo krūviams, skirtingai nei bendrosios paskirties infrastruktūra, kurią siūlo tradiciniai hiperskaleriai, pvz., AWS ar Azure.)

Įmonės SN50 lustai yra skirti išvadoms daryti. Jie taupo energiją ir nereikalauja brangių vandens aušinimo sistemų, o tai reiškia, kad juos galima įdiegti greičiau nei GPU įvairiuose duomenų centruose. „General Compute“ teigia, kad naujieji lustai suteiks 16 kartų greitesnes išvadas nei GPU pagrįsti debesys.

Iššūkis yra gauti daug šių lustų, ypač kai esate visiškai nauja įmonė.

„Upper90“ įkūrėjas ir generalinis direktorius Billy Libby, buvęs „Goldman Sachs“ prekybininkas, turėjo tam skirtą knygą: 2021 m. jo įmonė finansavo „Crusoe“, į energiją orientuoto duomenų centro startuolio, GPU pirkimą, o tai, jo manymu, buvo pirmoji paskola už pažangių lustų vertę.

Tradiciniai skolintojai vengė tokių sandorių tuo metu dėl rizikos ir netikrumo dėl GPU nusidėvėjimo. Tačiau kai „CoreWeave“ paskolas su lustais pavertė verslo modeliu, o vėliau ir sėkmingo IPO pagrindu, toks finansavimas tapo įprastas.

„Kai finansavome Nvidia GPU kaip pirmąją grupę, kuri tai padarė, rinka buvo neefektyvi“, – „TechCrunch“ pasakojo Libby. „Mes tikrai galėtume ką nors sukurti kaip ankstyvieji dalyviai ir gauti kompensaciją už riziką.

Dabar, kai GPU yra palyginti gerai suprantami ir galbūt perkami per daug, Upper90 kreipiasi į tokias įmones kaip „General Compute“, kad galėtų įveikti kitą AI bumo bangą. „Manome, kad atvirojo kodo modeliai bus svarbūs, todėl praėjusiais metais ieškojome žaidėjo, kuris padarė išvadą“, – sakė Libby. „Visiems nereikia superkompiuterio, bet jiems reikia išvadų ir dirbtinio intelekto.

Ši disertacija vis stiprėjo, nes įmonės, suteikiančios prieigą prie atvirų modelių, tokių kaip „OpenRouter“ ir „Fireworks“, padidino naujus didžiulius įvertinimus. Nauji modeliai, tokie kaip Kimi's K3, neseniai, tik šią savaitę, įrodė, kad konkuruoja su naujausiais Anthropic ir OpenAI leidimais kodavimo etalonuose. Nauji lustų gamintojai, tokie kaip Groq ir Cerebras, sulaukė tiek pirkėjų, tiek viešųjų rinkų susidomėjimo.

„General Compute“ galimybė pasiekti lustus už „Nvidia“ ekosistemos ribų yra svarbi dėl tos pačios priežasties. TensorWave, kita AI infrastruktūros įmonė, panašiai lažinasi dėl partnerystės su AMD. Atsiradus daugiau „Nvidia“ alternatyvų, skaičiavimo paslaugų teikėjai, kurie nėra prisijungę prie „Nvidia“ sandorių, gali turėti pranašumą teikiant ekonomiškai efektyvias išvadas.

„Yra daugybė lustų, kurių mastelis pradeda didėti ir turi nuostabų (bendras nuosavybės kaina) arba gali veikti daug greičiau nei „Nvidia“, tačiau pirkėjų jiems nėra per daug“, – sakė Puklowskis. „Bendradarbiaujant su Upper90, tai ne tik „šaunus startuolis gavo šiek tiek pinigų, kad galėtų nusipirkti kompiuterį“. Tai yra pirmasis signalas, kad kapitalas susitvarko ir „Nvidia“ monopolinis dominavimas suskaidomas.