 Ne GPU, ale AI čipy. „Těžební AI“ mánie je v plném proudu a NV očekává 40 tisíc dolarů za kus!
Společnost NVIDIA sebe samu označuje za AI firmu a její nová generace HW tomu plně odpovídá. Firma sází na AI všechno a maximalizuje výrobní kapacity i svou pozornost tímto směrem. Nové Blackwell čipy tak nejsou vlastně ani GPU. Nemají prakticky nic z toho, aby jako GPU mohly fungovat. Ovšem to je záměr, ne chyba :). I když v mnoha směrech zaostávají výkonem za předchozí generací HPC GPU, tedy HOPPER (GH100) a AMPERE (GA100).
- B100/B200 jsou především AI řešení
Skutečně nejde o GPU jako předchůdci. Blackwell je zcela odlišná architektura i konstrukce čipu proti Hopper či Ampere. Je to účelově specializované řešení pro AI výpočty. NVIDIA dokonce obětovala i ten klasický, pro HPC zásadní, FP64 výkon. Nové B100 je dokonce o velké desítky % slabší než starší generace. FP64 výkon totiž klesl ze 67 na 30 TFLOPS!
NVIDIA tak přenechává specializovaný superpočítačový HPC trh hlavně AMD, kdy její Instinc Mi300 série řešení je mnohem výkonnější i efektivnější v náročných HPC výpočtech v náročnějších výpočtech. NV to ale moc nemrzí, protože vyjma především superpočítačů, jde sice o tradiční a zajímavý, ale ve srovnání s AI o vlastně malý trh a okruh zákazníků. A ráda jej (pravděpodobně momentálně) částečně „obětuje“ ve prospěch AI produktů a horečky, která připomíná těžařskou mánii na druhou. Ostatně hospodářské výsledky NVIDIA, která dokáže 20 miliard za kvartál, z toho ¾ jsou právě z AI produktů, jasně dokazují, že jde pro ni správnou cestou. Minimálně pokud AI horečka vydrží.
NVIDIA dělá vše proto, aby vydržela, kdy B100 navrhla speciálně pro AI. Omezila sice tradiční HPC výkon ve vyšších přesnostech a výrazně se soustředila na výkonu v jednodušších operacích. Včetně zavedení nových méně náročných FP6 a FP4 „přesností“. Uvádí tedy celkově až 20 petaFLOPS AI výkonu, násobek současných možnosti H100 řešení apod. Současně však mnozí mluví o obřím plýtvání křemíku, kdy nové nepříliš univerzální Blackwell AI čipy jsou opravdu velké.
Firma sází na starší 5nm výrobu (N4 speciálně), kdy objednala více kapacit, než jaké má k dispozici AMD. Bohužel s ohledem na miliardy dolarů, které jsou zákazníci prahnoucí po AI řešení ochotni platit, samozřejmě běžná GPU a CPU nemají šanci tohle zaplatit. TSMC tak nadšeně za zvýšenou cenu NV kapacita poskytuje. Společně upravily i stávající N4 výrobu na specializovanou 4NP verzi, kterou má NV využívat. A jde údajně na samé maximum možného. Čip Blackwell sice není tak komplexní jako klasické GPU, ale stále je to hodně tranzistorů a výpočetních jednotek v jednom. Údajně má tak ohromující velikost přes 800mm2 a je na samé hranici možností zvládnutelné výroby současnými technologiemi monolitických čipů. Navíc v rámci finálního B100/200 produktu, tvoří celek dva tyhle čipy vedle sebe na čipletu. B100 nicméně nepůjde na trh v plně aktivní specifikaci. Část čipu nebude aktivní i takty budou níže. Chystá se tak výkonnější verze B200 se stejným čipem, ale ještě lepšími parametry. A údajně pracuje i na variantě GB200, která má mít podobu dvou B100/200 čipletů vedle sebe!
Samotné B100/B200 má tedy dva hlavní čipy tvořené více než 1600mm2+ 4nm křemíku! Dvojnásobek ve srovnání se současnou generací. 208 miliard tranzistorů, tedy 104 miliard na čip proti 80 miliardám u H100. K tomu je třeba připočítat další křemík, který tvoří celkem 192GB HBM3E paměti připojených skrze 4096-bit sběrnici pro každý čip. Tedy 96GB HBM3E paměti na čip proti 80GB u současného H100 řešení. TDP má být nejméně 700W u ořezné níže taktované B100 varianty a 1000W u B200. V obou případech se plánuje v základu vodní chlazení. TOP výkonná verze GB200 tvořená až 4 čipy, má mít údajně 2700W TDP!
- Oficiální cena není, NV ale očekává až 40 tisíc dolarů za kus!
Asi budete hádat, že ty dva 800mm2 velké čipy na 4nm výrobě TSMC a 128GB HBM3E paměti k nim tvořící jeden B100/B200, bude opravdu drahá sranda už jen na samotnou výrobu. A máte naprostou pravdu. Výrobní náklady včetně nákladů na vývoj se očekávají nejméně 6000 dolarů za B100/B200! Šéf NV tvrdí, že celý vývoj Blackwell stál firmu 10 miliard dolarů! Tedy až 5 tolik, co stojí vývoj klasické nové generace běžných GPU. I na tom vidíte, kde má dnes NV priority.
A očekává, že zákazníci podle toho začnou platit. I když existují sankce a NV nemůže svůj nový TOP HW prodávat do Číny apod., právě ta je a zůstává jedním z největších zákazníků HPC/AI produktů. Do Číny jdou přes síť prostředníků ze třetích zemí velká množství výkonných AI řešení. Včetně těch, co by neměla. Nicméně i západní firmy nakupují ve velkém a chystají svou nabídky HPC AI řešení. Šéf NV tak očekává, že B100/200 bude prodávat zákazníkům prý někde mezi 30 až 40 tisíci dolary za kus.
Nutno dodat, že mánie AI stále trvá. Takže nemůžeme vyloučit, že zákazníci budou tohle ochotni platit. NVIDIA se po zkušenostech prostě rozhodla, že nechá stanovit cenu trh a zákazníky a nebude se tedy omezovat na nějakou vlastní MSRP. Nikdo až na NVIDIA však dnes na AI nevydělává. Zatím je AI černá díra na peníze pro všechny, mimo výrobce HW. Zatím jsou však firmy ochotné za tento HW královsky platit. Jak dlouho tahle AI horečka vydrží, je otázkou. Ale asi vydrží, protože tento HW slouží pro vývoj klíčových AI nástrojů, včetně těch, které mohou a budou používány pro válečné účely, masivní šíření a tvorbu dezinformací atd. NVIDIA AI tak není jen zajímavý hardware a technologie, jde o zbraň a munici pro nadcházející nevyhnutelný velký světový konflikt, který nepochybně přijde a dost možná dříve, než si myslíme. Zatím jde ale dobrý business, kdy NV byla v dobrý čas na správném místě, a tak očekává další miliardy dolarů. A zatím vše nasvědčuje tomu, že se její očekávání naplní a AI „bublina“ nafouklá zůstane. Samozřejmě zvýšená poptávka po drahých AI produktech a soustředění se na ně, bude mít negativní vliv i na ceny klasických CPU a GPU i pamětí atd. Všechno půjde cenově vzhůru, jak přednost na stále dražší výrobě a dodávkách všeho, mají právě AI řešení. Zkrátka situace může být podobná situaci v době těžební mánie …
Jinak stojí za zmínku, že NVIDIA sice ohlašuje a představuje nové produkty v rámci Blackwell už nyní, ovšem reálně se na trhu omezeně pro vybrané partnery objeví jen možná B100 v samém závěru roku. Výkonnější B200 varianta se objeví určitě až tak za rok. A to platí i o dalších Blackwell řešeních. Takže fakticky nejde vlastně o letošní produkt, jako spíše až pro nadcházející rok. Současná generace H100 řady produktů, tak bude ještě delší dobu tou skutečně v nabídce. I v tomto kontextu je tedy zjevné, že NV se snaží udržet AI horečku na maximum a ukazuje přísliby a nové lepší produkty, které přitom zdaleka nemá hotové. Ale AI firmy už se řadí do fronty a nakupují. Pro nás, co by nadšence do PC, je Blackwell trochu méně uchopitelný, protože nejde prostě o GPU. Vlastně už nejde ani o HPC GPU řešení, jako předchůdci. Může však velmi negativně ovlivnit situaci a ceny ve výrobě klasických GPU/CPU a pamětí pro naše PC. Využívat jako produkt jej také přímo co by řadoví uživatelé PC nebudeme. Jen zprostředkovaně. Nepochybně bude pohánět serverové systémy pro vývoj a provoz AI nástrojů, které tak mohou přinést další posun na poli umělé inteligence ve hrách, AI nástrojů v tvůrčích aplikacích atd. Ale bohužel také přinesou dokonalejší AI nástroje pro šíření a tvorbu dezinformací, deepfake, masivního sledování atd. Tedy přirovnání Blackwell NVIDIA B100/200 ke zbrani a munici, je v tomto případě zcela na místě.
Peníze však jasně ukazují, že AI zbrojení je v plném proudu a NVIDIA se na tak správně na tohle pole maximálně soustředí a není zdaleka sama. Údajně však na klasické GPU ještě úplně nezapomíná. Tedy pokud očekáváte rozumné GPU za rozumné dostupné ceny, tak to máte smůlu, takové jsou až na úplném konci zájmů firmy. Bude se soustředit hlavně na ta dražší řešení. A tak očekávejte novou generaci v podobě RTX 5090/5080 sice hardwarově a výkonem hodně zajímavé, ale také opravdu „mastné“. Jejich ceny budou téměř určitě podstatně výše, než u současné generace …
| AUTOR: Jan "DD" Stach |
|---|
| Radši dělám věci pomaleji a pořádně, než rychle a špatně. |
|
)
)
)
)
)
)
