Jedno nastavenie namiesto prepisovania kódu. Takáto drobnosť môže na trhu AI čipov zmeniť viac, než sa zdá.
Amazon $AMZN dnes predstavil TorchNeuron, softvér, ktorý umožňuje spúšťať existujúci PyTorch kód na jeho vlastných AI čipoch Trainium. Podľa Amazonu stačí zmeniť jediné nastavenie bez potreby prepisovať celý kód.
Prečo bolo doteraz také ťažké konkurovať Nvidii?
Jednou z najväčších konkurenčných výhod Nvidie $NVDA nie sú len samotné čipy, ale jej softvérový ekosystém CUDA. Vývojári na ňom roky budujú a optimalizujú svoje AI modely. Prechod na hardvér iného výrobcu preto často znamenal dodatočnú prácu, náklady a čas. Aj keby konkurencia ponúkala lacnejšie čipy, migrácia sa nemusela oplatiť. No a práve túto bariéru sa Amazon snaží odstrániť.
Podľa spoločnosti používa PyTorch zhruba 85% AI výskumníkov a vývojárov. TorchNeuron im umožňuje využívať Trainium bez zásadných zmien existujúceho kódu. Softvér má byť navyše bezplatný a dostupný ako open source.
Takisto podľa Reuters už TorchNeuron využíva viac ako 30 prvých zákazníkov z oblastí robotiky, hlasovej AI či vývoja modelov simulujúcich reálny svet. Niektorí pritom hlásia výrazné úspory nákladov.
Pre Amazon príležitosť, pre Nvidiu riziko
Pre Amazon je to šanca dostať Trainium k oveľa širšiemu okruhu zákazníkov AWS. Vlastné čipy mu zároveň dávajú väčšiu kontrolu nad nákladmi a možnosť ponúkať konkurencieschopnejšie ceny za AI výpočty.
Pre Nvidiu je to ďalší signál, že konkurencia sa už nesnaží iba dobiehať výkon jej GPU, ale aj zmenšovať výhodu, ktorú si roky budovala cez softvér.
Samozrejme, TorchNeuron hneď neznamená koniec dominancie CUDA...Nvidia má stále obrovský náskok v optimalizácii, nástrojoch aj podpore vývojárov. Čiže rozhodovať bude hlavne to, či Trainium dokáže pri reálnych úlohách ponúknuť porovnateľný výkon za nižšie celkové náklady.
Ak sa prechod na konkurenčné čipy výrazne zjednoduší, zákazníci budú mať väčšiu možnosť vyberať si podľa ceny a výkonu, nie podľa toho, na akom hardvéri už majú postavené svoje modely.
Mimochodom, Morgan Stanley dnes zvýšila cieľovú cenu Amazonu z $335 na $350 a označila ho za jednu zo svojich najpreferovanejších akcií. Akcie dnes pridali asi 5%, najmä vďaka optimizmu okolo AWS.
Myslíte si, že Amazon dokáže časom výraznejšie konkurovať Nvidii, alebo je jej softvérový náskok stále obrovský? 👇