AMD avalikustab Instinct MI350 kiirendid ja oma suure jõudlusega tehisintellekti tegevuskava

Viimane uuendus: 16.01.2024

  • AMD uued Instinct MI350 kiirendid pakuvad kuni 35 korda kiiremat järeldusjõudlust ja parandavad märkimisväärselt energiatõhusust.
  • Hüperskaalas pilvedes, näiteks Oracle Cloud Infrastructure'is, on MI350 ja EPYC protsessoritega rack-skaala tehisintellekti infrastruktuur juba juurutatud.
  • Tarkvaraline läbimurre: ROCm 7 optimeerib tehisintellekti arendust ja on nüüd saadaval koos globaalse AMD Developer Cloud platvormiga.
  • Koostöö Meta, OpenAI, Microsofti ja teiste juhtivate ettevõtetega tugevdab AMD juhtpositsiooni avatud tehisintellekti ökosüsteemis.
AMD Instinct MI350-2 kiirendid

AMD on tutvustanud oma uusi Instinct MI350 kiirendeid. eesmärgiga tähistada generatiivse tehisintellekti ja täiustatud andmetöötluse sektoris perioodi enne ja pärast. Ettevõte, Advancing AI 2025 ürituse ajal, tegi selgeks oma eesmärgi kehtestada end jõudluse, tõhususe ja skaleeritavuse etaloniks kõige nõudlikumate tehisintellekti rakenduste jaoks. Avatud tehnoloogiatel ja standarditel põhinev strateegia Samuti püütakse hõlbustada riist- ja tarkvara integreerimist koostöös erinevate tööstusharu liidritega..

Nende väljalasetega AMD eesmärk on olla võtmetegija avatud ja tugevate tehisintellekti ökosüsteemide loomisel, mis on võimeline reageerima järgmise põlvkonna keelemudelite ja algoritmide eksponentsiaalsele kasvule. Väljakutse seisneb kõrgetasemeliste kiirendite, võimsate protsessorite ja optimeeritud tarkvarapaketi kombineerimises, tehisintellekti lahenduste demokratiseerimise edendamine nii suurettevõtetele kui ka sõltumatutele arendajatele.

Eksklusiivne sisu – klõpsake siin  OpenAI toetab Sora 2-d pärast Bryan Cranstoni kriitikat: uued tõkked süvavõltsingute vastu

Instinct MI350 saabub: hüpe jõudluses ja efektiivsuses

AMD Instinct MI350-0 kiirendid

Uus Instinct MI350 seeria, mis koosneb järgmistest osadest: Graafikakaardid MI350X ja MI355X, lubab tehisintellekti ülesannete arvutusvõimsust eelmise põlvkonnaga võrreldes neljakordistada. AI-järelduste osas on hüpe veelgi märkimisväärsem, ulatudes kuni 35-kordse jõudluseni võrreldes eelmisega. MI355X mudel paistab silma ka hinna ja kvaliteedi suhte poolest, võimaldades saavutada kuni 40% rohkem žetoone iga investeeritud dollari kohta võrreldes konkurentidega.

Kõige keerukamate töökoormuste vajaduste rahuldamiseks Instinct MI350 integreerib 288 GB HBM3E mälu (tarnijateks Micron ja Samsung) ja pakuvad ribalaiust kuni 8 TB/sSaadaval on nii õhk- kui ka vedelikjahutuse valikud, mis võimaldavad paigaldada traditsioonilisse racki kuni 64 graafikakaarti või otse vedelikjahutusega konfiguratsioonides kaks korda rohkem. Jõudlusnäitajad ulatuvad kuni 2,6 exaFLOPS FP4/FP6 operatsioonides.

Põhjalik taristu ja skaleeritavus: Heliose ettepanek

AMD Instinct MI350 tehisintellektiga rack

Üks peamisi fookuspunkte on avatud riiulitüüpi infrastruktuur, Juba töötab suurtes pilvedes nagu Oracle Cloud Infrastructure. See lahendus, mis on saadaval 2025. aasta teises pooles, ühendab Instinct MI350 kiirendid viienda põlvkonna AMD EPYC protsessorite ja Pensando Pollara võrgukaartidega.

Eksklusiivne sisu – klõpsake siin  Kuidas ma saan HP Chromebookist aku eemaldada?

Tulevikku vaadates esitles AMD oma järgmise põlvkonna tehisintellektiga racke "Helios", mis integreerib Instinct MI400 GPU-d, Zen 6 arhitektuuriga EPYC "Venice" protsessorid ja Pensando "Vulcan" võrgukaardid. Tehisintellektiga mudelite käitamise jõudluse hüpe peaks olema ... Ekspertide segu võib olla kuni 10 korda suurem kui praegusel põlvkonnal.

Ja tarkvara osas AMD toob turule ROCm 7 protsessori. uuendatud versioon, mis on loodud genereeriva tehisintellekti ja kõrgjõudlusega andmetöötluse väljakutsete lahendamiseks. See värskendus sisaldab täiustusi järgmistele aspektidele: tugi standardraamistikele, uutele API-dele, draiveritele ja tööriistadele, arendajate valikuvõimaluste laiendamine.

Lisaks platvorm AMD arendajapilv on nüüd saadaval kogu maailmas, pakkudes hallatud keskkonda agiilseks tehisintellekti projektide arendamiseks ja juurdepääsu täiustatud ressurssidele.

Energiatõhususe ja jätkusuutlikkuse edendamine

AMD Instinct MI350 energiatõhususe tehisintellekt

Üks aspekt, mida AMD on esile tõstnud, on energia optimeerimine. MI350 kiirendid on sisemised eesmärgid kaugelt ületanud, saavutades viie aasta jooksul kuni 38-kordse energiatõhususe paranemise. Ettevõtte eesmärk on ka suurendada riiulite energiatõhusust 2030. aastaks 20 korda võrreldes 2024. aastaga, mis lihtsustaks tehisintellekti mudelite treenimist, mis praegu vajavad sadu riiulid vaid ühel. vähendades elektritarbimist 95% võrra.

Eksklusiivne sisu – klõpsake siin  Mis on moesõnad?

Strateegilised liidud on AMD jaoks sammas, kusjuures sellised ettevõtted nagu Meta, OpenAI, Microsoft, Oracle, Cohere, Red Hat, HUMAIN, Astera Labs, Marvell ja xAI näidates üles suurt usaldust oma tehnoloogia vastu. Meta kasutab juba MI300X seeriat järeldusmudelites nagu Llama 3 ja 4; OpenAI teeb tihedat koostööd AMD-ga riist- ja tarkvara integreerimiseks oma tehisintellekti infrastruktuuri; ja Microsoft käitab juba Azure'is tootmismudeleid Instinct platvormil.

OraakelOmalt poolt plaanib kasutusele võtta kuni 131.072 355 MIXNUMXX graafikaprotsessorit oma zettaskaala klastrite skaleerimiseks, tugevdades partnerite ökosüsteemi, mis soodustab tehisintellekti lahenduste kasutuselevõttu ja arendamist.

AMD visioon ei keskendu ainult kiirusele ja võimsusele, vaid ka jätkusuutlikkusele, tehnoloogilisele avatusele ja tugevate partnerluste loomisele, et kiirendada tehisintellekti arengut kogu maailmas.