Nors pirmajame dirbtinio intelekto (AI) etape dominavo didelis kalbos modelio (LLM) mokymas, tikimasi, kad išvados galiausiai taps daug didesne rinka.
Nors LLM mokymas yra sudėtingas ir techniškai sudėtingesnis, išvados dažniausiai būna orientuotos į atmintį ir turi būti ekonomiškesnės, nes tai nuolatinis procesas. Tradiciškai grafikos apdorojimo blokai (GPU) ir kiti AI greitintuvai yra supakuoti su didelės spartos atmintimi (HBM), kad padėtų optimizuoti jų veikimą šioje srityje.
Tačiau Nvidia (NVDA 1,00 %)neseniai „įsigijus“ „Groq“ ir Smegenų sistemos (CBRS 2,31 %) dabar ieško lustinės SRAM (statinės laisvosios prieigos atminties), kad pagreitintų AI darbo krūvį, kad padarytų išvadas. Tai naujas požiūris, ir abi bendrovės naudoja SRAM daug skirtingai. Nors naudojant SRAM galima žymiai padidinti išvadų greitį, ji yra fiziškai didelė, todėl atsiranda tam tikrų kompromisų tarp lusto dydžio, atminties talpos ir duomenų centro infrastruktūros, reikalingos lustams maitinti ir aušinti.
Pažvelkime į du būdus ir pažiūrėkime, kuri puslaidininkių dalis atrodo geriau pasirengusi tapti išvadų rinkos lydere.
Vaizdo šaltinis: „The Motley Fool“.
Smegenys: ar didesnės geriau?
Siekdama susidoroti su fiziniu SRAM tūriu, „Cerebras“ sukuria didžiulius plokštelės dydžio lustus, kurie viename luste gali tilpti tiek daug skaičiavimo galios, tiek SRAM. Tačiau tai sukelia papildomų problemų, kurias reikia išspręsti.
Šiandienos pasikeitimas
(-2.31%) $-5.60
Dabartinė kaina
$236,99
Pagrindiniai duomenų taškai
Market Cap
52 mlrd. USD
Dienos diapazonas
$232,56 – $251.35
52 sav. diapazonas
$185.00 – $386,34
Apimtis
4,4 mln
Vid. t
10,5 mln
Bendroji marža
39.03 val%
Pirma, lustų gamybos procesas yra sudėtingas, o defektai yra dažni. Priežastis Taivano puslaidininkių gamyba tapo virtualia pažangios lustų gamybos monopolija, nes ji gali gaminti pažangias lustus su dideliu išeigumu, tačiau net ir jos naujausios technologijos tikslas yra maždaug 80 proc. Tačiau žiūrint į labai brangius, vaflio dydžio traškučius, tokio tipo derlius jo nesumažina. Siekdama išspręsti šią problemą, „Cerebras“ prideda papildomų branduolių, kad padėtų pašalinti bet kokius lustų defektus.
Be to, jo lustams reikalingas specialus aušinimas ir maitinimo valdymas, todėl jis neparduoda jų atskirai, o tik parduoda arba nuomoja juos kaip dalį visos serverio stovo CS-3 sistemos. Nors bendrovė giriasi, kad jos sistemos gali padaryti išvadas 15 kartų greičiau nei GPU, viskas, kas susiję su tuo, lemia labai brangų aukščiausios kokybės sprendimą.
Nvidia: ekosistemos pranašumas
Įsigijusi „Groq“ už 20 milijardų dolerių, „Nvidia“ gavo prieigą prie bendrovės kalbos apdorojimo blokų (LPU), skirtų išvadoms daryti. Nors LPU taip pat naudoja SRAM, jie yra įprasto dydžio lustai. Kompromisas yra tas, kad LPU kiekviename luste naudoja labai nedidelį SRAM kiekį, todėl jie turi būti sujungti su kitais LPU dideliame, sudėtingame klasteryje. Tai sumažina efektyvumą.
Šiandienos pasikeitimas
(-1.00%) $-2.14
Dabartinė kaina
$212.11
Pagrindiniai duomenų taškai
Market Cap
5,1 T USD
Dienos diapazonas
$211,90 – $217.80
52 sav. diapazonas
$135.40 – $236,54
Apimtis
7,3 mln
Vid. t
166,4 mln
Bendroji marža
74.15%
Dividendų pajamingumas
0,02%
Palyginimui, Cerebros lustai yra šešis kartus greitesni. Jie taip pat yra labai nelankstūs ir gali būti naudojami tik išvadoms daryti.
Tačiau vienas didelis „Nvidia“ sandorio pranašumas yra tai, kad jis įtraukė LPU į savo CUDA programinės įrangos platformą ir sukūrė visas stovo sistemas, naudodamas ir GPU, ir LPU, specialiai išvadoms. GPU, supakuoti su HBM, gali atlikti išankstinio užpildymo etapą, kad suprastų vartotojo raginimą, o LPU gali perimti atsakymo iššifravimo etapą. Kadangi LPU naudoja SRAM atmintį, jie gali reaguoti beveik be vėlavimo.
Geriau turėti akcijų
Cerebras turi galimybę apversti išvadų rinką ant galvos ir turi didelį OpenAI įsipareigojimą, kuris paskatins didžiulį augimą. Tačiau akcijomis prekiaujama labai brangiai (daugiau nei 100 kartų atsilieka nuo pardavimų) ir reikia įrodyti, kad jos gali tapti daugiau nei nišiniu žaidėju.
Kita vertus, „Nvidia“ jau yra nusistovėjusi LLM mokymo lyderė. Tuo tarpu jos „Groq“ „įsigijimas“ atrodo kaip puikus žingsnis, kuris turėtų padėti jai tapti svarbiu išvadų rinkos dalyviu. Galėdama sujungti savo GPU su LPU tame pačiame serveryje, bendrovė rado būdą, kaip paimti nišinį produktą ir įtraukti jį į pagrindinį srautą. Taigi manau, kad „Nvidia“ yra geresnis iš dviejų akcijų pirkimas.
