AMD predstavuje akcelerátory Instinct MI350 a svoj plán pre vysokovýkonnú umelú inteligenciu

Posledná aktualizácia: 01.02.2024

  • Nové akcelerátory AMD Instinct MI350 poskytujú až 35-krát rýchlejší inferenčný výkon a výrazne zlepšujú energetickú účinnosť.
  • Racková infraštruktúra umelej inteligencie s procesormi MI350 a EPYC sa už nasadzuje v hyperškálovateľných cloudoch, ako je Oracle Cloud Infrastructure.
  • Softvérový prelom: ROCm 7 optimalizuje vývoj umelej inteligencie a je teraz dostupný spolu s globálnou platformou AMD Developer Cloud.
  • Spolupráca so spoločnosťami Meta, OpenAI, Microsoft a ďalšími poprednými spoločnosťami posilňuje vedúce postavenie spoločnosti AMD v ekosystéme otvorenej umelej inteligencie.
Akcelerátory AMD Instinct MI350-2

Spoločnosť AMD predstavila svoje nové akcelerátory Instinct MI350, s cieľom zaznamenať obdobie pred a po v sektore generatívnej umelej inteligencie a pokročilých výpočtov. Spoločnosť, počas podujatia Advancing AI 2025, jasne uviedla svoj cieľ etablovať sa ako referenčný bod v oblasti výkonu, efektívnosti a škálovateľnosti pre najnáročnejšie aplikácie umelej inteligencie. Stratégia založená na otvorených technológiách a štandardoch, Snaží sa tiež uľahčiť integráciu hardvéru a softvéru prostredníctvom spolupráce s rôznymi priemyselnými lídrami..

S týmito vydaniami, AMD sa snaží byť kľúčovým hráčom pri vytváraní otvorených a robustných ekosystémov umelej inteligencie, schopný reagovať na exponenciálny rast jazykových modelov a algoritmov novej generácie. Výzvou je skombinovať vysokoúrovňové akcelerátory, výkonné procesory a optimalizovaný softvérový balík, podpora demokratizácie riešení umelej inteligencie pre veľké spoločnosti aj pre nezávislých vývojárov.

Exkluzívny obsah – kliknite sem  OpenAI posilňuje Sora 2 po kritike Bryana Cranstona: nové bariéry proti deepfakes

Prichádza Instinct MI350: skok vo výkone a efektivite

Akcelerátory AMD Instinct MI350-0

Nová séria Instinct MI350, pozostávajúca z Grafické procesory MI350X a MI355X, sľubuje štvornásobné zvýšenie výpočtového výkonu v úlohách umelej inteligencie v porovnaní s predchádzajúcou generáciou. Pokiaľ ide o inferencie umelej inteligencie, skok je ešte výraznejší a dosahuje až 35-násobok predchádzajúceho výkonu. Model MI355X vyniká aj pomerom kvality a ceny, čo umožňuje dosiahnuť až... O 40 % viac tokenov za každý investovaný dolár v porovnaní s konkurenciou.

Aby sme splnili potreby aj tých najzložitejších pracovných zaťažení, Instinct MI350 integruje 288 GB pamäť HBM3E (dodávané spoločnosťami Micron a Samsung) a ponúkajú šírku pásma až 8 TB/sK dispozícii sú možnosti vzduchového aj kvapalinového chladenia, čo umožňuje inštaláciu až 64 grafických kariet v tradičnom racku alebo dvojnásobok v konfiguráciách s priamym kvapalinovým chladením. Údaje o výkone dosahujú až 2,6 exaFLOPS v operáciách FP4/FP6.

Komplexná infraštruktúra a škálovateľnosť: návrh „Helios“

Rack s umelou inteligenciou AMD Instinct MI350

Jedným z hlavných zameraní je otvorená infraštruktúra pre rackové systémy, Už beží na veľkých cloudoch, ako je Oracle Cloud Infrastructure. Toto riešenie, ktoré bude dostupné v druhej polovici roka 2025, kombinuje akcelerátory Instinct MI350 s procesormi AMD EPYC piatej generácie a sieťovými kartami Pensando Pollara.

Exkluzívny obsah – kliknite sem  Ako vyberiem batériu z Chromebooku HP?

Spoločnosť AMD s výhľadom do budúcnosti predstavila systém „Helios“, svoju novú generáciu AI rack, ktorá bude integrovať grafické procesory Instinct MI400, procesory EPYC „Venice“ s architektúrou Zen 6 a sieťové karty Pensando „Vulcan“. Očakáva sa, že nárast výkonu pri spustení modelov AI bude... Zmes expertov môže byť až 10-krát vyššia ako v prípade súčasnej generácie.

A v softvérovej sekcii, AMD uvádza na trh ROCm 7, vylepšená verzia navrhnutá na riešenie výziev generatívnej umelej inteligencie a vysokovýkonných výpočtov. Táto aktualizácia obsahuje vylepšenia podpora štandardných frameworkov, nových API, ovládačov a nástrojov, rozšírenie možností pre vývojárov.

Okrem toho platforma Cloud pre vývojárov AMD je teraz k dispozícii na celom svete, ktoré ponúkajú spravované prostredie pre agilný vývoj projektov umelej inteligencie a prístup k pokročilým zdrojom.

Zvyšovanie energetickej účinnosti a udržateľnosti

AMD Instinct MI350 Energeticky úsporná umelá inteligencia

Jeden aspekt, ktorý spoločnosť AMD zdôraznila, je optimalizácia energie. Akcelerátory MI350 ďaleko prekročili interné ciele a za päťročné obdobie dosiahli až 38-násobné zlepšenie energetickej účinnosti. Spoločnosť si tiež kladie za cieľ do roku 2030 zvýšiť energetickú účinnosť v rackových systémoch 20-násobne v porovnaní s rokom 2024, čo by uľahčilo trénovanie modelov umelej inteligencie, ktoré v súčasnosti vyžadujú stovky rackov na jednom. zníženie spotreby elektriny o 95 %.

Exkluzívny obsah – kliknite sem  Čo sú to módne slová?

Strategické aliancie sú pilierom spoločnosti AMD, pričom spoločnosti ako napríklad Meta, OpenAI, Microsoft, Oracle, Cohere, Red Hat, HUMAIN, Astera Labs, Marvell a xAI čím prejavujú veľkú dôveru vo svoju technológiu. Meta už používa sériu MI300X v inferenčných modeloch ako Llama 3 a 4; OpenAI úzko spolupracuje so spoločnosťou AMD na integrácii hardvéru a softvéru do svojej infraštruktúry umelej inteligencie; a Microsoft už prevádzkuje produkčné modely na platforme Azure s platformou Instinct.

VeštecZ jeho strany, plánuje nasadiť až 131.072 355 grafických procesorov MIXNUMXX škálovať vaše zettascale klastre, čím sa posilní partnerský ekosystém, ktorý podporuje zavádzanie a vývoj riešení umelej inteligencie.

Vízia spoločnosti AMD sa nezameriava len na rýchlosť a výkon, ale aj na udržateľnosť, technologickú otvorenosť a budovanie silných partnerstiev s cieľom urýchliť pokrok umelej inteligencie na celom svete.