Inferencia Prekonáva Tréning – CoreWeave a AI Infraštruktúra

Nedávny rozhovor s Michaelom Intratorom, CEO spoločnosti CoreWeave, priniesol zaujímavé pohľady na súčasný stav a budúcnosť infraštruktúry pre umelú inteligenciu (AI). Intrator zdôrazňuje rastúci tlak na výpočtové zdroje, najmä v oblasti inferencie, a vysvetľuje, ako CoreWeave reaguje na túto potrebu. V tomto článku sa pozrieme na kľúčové poznatky z rozhovoru a analyzujeme ich dopad na trh s AI.

Kľúčové Poznámky

• Inferencia Dominantná: Podľa Intratora už teraz predstavuje inferencia viac ako 50% všetkých pracovných zaťažení v oblasti AI, čo signalizuje posun od intenzívneho trénovania modelov k ich nasadeniu a používaniu.
• Systematický Nedostatok Kapacity: CoreWeave sa snaží riešiť globálny nedostatok výpočtovej infraštruktúry, ktorý je najvýraznejší v oblasti paralelizovaného počítania pre AI.
• Dôležitosť Komplexného Riešenia: Intrator zdôrazňuje, že dodávka superpočítača nie je kompletná, pokiaľ nie sú dodané všetky jeho komponenty – od elektrickej energie až po chladenie a sieťové pripojenie.
• Výzvy v Dodávateľskom Reťazci: Spoločnosť sa neustále stretáva s prekážkami v dodávateľskom reťazci, ako sú nedostatky čipov alebo sieťových komponentov.
• Diverzifikácia Zákazníkov a Sektorov: CoreWeave aktívne rozširuje zákaznícku základňu a vstupuje do nových sektorov, ako je VFX (vizuálne efekty) a životná sféra.

Rastúci Dopyt po Inferencii: Posun v AI

Rozhovor jasne ukazuje, že dopyt po inferencii rastie rýchlejšie ako dopyt po trénovaní modelov. Tréning nových modelov stále predstavuje významnú potrebu, ale inferencia – teda používanie týchto modelov na predpovedanie a rozhodovanie v reálnom čase – sa stáva dominantnou silou. Intrator to prirovnáva k postupnému prechodu medzi generáciami grafických procesorov (GPU), kde staršie generácie preberajú úlohu inferencie, zatiaľ čo najnovšie generácie sa venujú trénovaniu.

Prekážky v Rozvoji: Nedostatok Kapacity a Dodávateľský Reťazec

CoreWeave čelí výzvam spojeným s rýchlym rozširovaním infraštruktúry. Intrator zdôrazňuje, že kľúčovou prekážkou je zabezpečenie elektrickej energie a chladenia – „viditeľné ohnutie ocele na dodávanie elektrónov do superpočítača“. Okrem toho sa spoločnosť stretáva s neustálymi problémami v dodávateľskom reťazci, ktoré sa prejavujú nedostatkom čipov alebo sieťových komponentov.

CoreWeave a Model Neo Cloud: Dlhšie Zmluvy a Stabilita

CoreWeave si vybudoval biznis model založený na dlhodobých zmluvách s klientmi, čo im umožňuje zabezpečiť financovanie pre rozsiahle projekty výstavby infraštruktúry. Tento prístup ich zároveň chráni pred krátkodobými výkyvami cien výpočtového výkonu. Intrator vysvetľuje, že spoločnosť sa snaží znížiť náklady na kapitál a je presvedčený, že dlhodobé zmluvy sú kľúčom k stabilite a rastu.

Diverzifikácia: Nové Sektory a Príležitosti

CoreWeave aktívne rozširuje svoju zákaznícku základňu a vstupuje do nových sektorov, ktoré využívajú AI. Intrator spomenul VFX (vizuálne efekty) a životnú sféru ako príklady oblastí s vysokým potenciálom rastu. Táto diverzifikácia pomáha spoločnosti znižovať závislosť od jednotlivých klientov a trhov.

Závery a Úvahy

Rozhovor s Michaelom Intratorom poskytuje cenný pohľad na súčasný stav AI infraštruktúry a výzvy, ktorým čelia spoločnosti ako CoreWeave. Posun smerom k inferencii, nedostatok kapacity a problémy v dodávateľskom reťazci sú faktory, ktoré budú formovať budúcnosť trhu s AI. Dlhšie zmluvy a diverzifikácia zákazníkov predstavujú pre CoreWeave strategické nástroje na zabezpečenie stability a udržateľného rastu.

Referencie

• Bloomberg Technology YouTube Channel: https://www.youtube.com/channel/UCrM7B7SL_g1edFOnmj-SDKg
• Bloomberg Technology-Daily Podcast: https://www.bloomberg.com/podcasts/series/bloomberg-technology

Približne 137 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.69 l vody za účelom vygenerovania tohoto článku.