AMD predstavlja Instinct MI350 akceleratore i svoj plan za visokoperformansnu umjetnu inteligenciju

Posljednje ažuriranje: 01.02.2024.

  • AMD-ovi novi Instinct MI350 akceleratori pružaju do 35 puta brže performanse inferencije i značajno poboljšavaju energetsku efikasnost.
  • Infrastruktura umjetne inteligencije skalabilne za rack s procesorima MI350 i EPYC već se primjenjuje na hiperskaliranim oblacima poput Oracle Cloud Infrastructure.
  • Softverski proboj: ROCm 7 optimizuje razvoj vještačke inteligencije i sada je dostupan uz globalnu AMD Developer Cloud platformu.
  • Saradnja sa Meta, OpenAI, Microsoftom i drugim vodećim kompanijama jača AMD-ovu lidersku poziciju u otvorenom AI ekosistemu.
AMD Instinct MI350-2 akceleratori

AMD je predstavio svoje nove akceleratore Instinct MI350, s ciljem da obilježi razdoblje prije i poslije u sektoru generativne umjetne inteligencije i naprednog računarstva. Kompanija, tokom događaja Advancing AI 2025, jasno je stavio do znanja svoj cilj da se etablira kao mjerilo performansi, efikasnosti i skalabilnosti za najzahtjevnije AI aplikacije. Strategija, zasnovana na otvorenim tehnologijama i standardima, Također nastoji olakšati integraciju hardvera i softvera kroz saradnju s raznim industrijskim liderima..

Con estos lanzamientos, AMD ima za cilj da bude ključni igrač u stvaranju otvorenih i robusnih AI ekosistema, sposoban da odgovori na eksponencijalni rast jezičkih modela i algoritama sljedeće generacije. Izazov je kombinovati akceleratore visokog nivoa, moćne procesore i optimizovani softverski stek, promovisanje demokratizacije rješenja umjetne inteligencije kako za velike kompanije, tako i za nezavisne developere.

Ekskluzivni sadržaj - kliknite ovdje  Kako povećati radni sto

Instinct MI350 stiže: skok u performansama i efikasnosti

AMD Instinct MI350-0 akceleratori

Nova serija Instinct MI350, koja se sastoji od Grafički procesori MI350X i MI355X, obećava učetverostručenje računarske snage u zadacima umjetne inteligencije u poređenju s prethodnom generacijom. Kada je riječ o AI zaključivanju, skok je još značajniji, dostižući i do 35 puta veće performanse u odnosu na prethodne. Model MI355X se također ističe po odnosu kvalitete i cijene, omogućavajući postizanje do... 40% više tokena za svaki uloženi dolar u poređenju sa konkurentima.

Da bi se zadovoljile potrebe najsloženijih radnih opterećenja, Instinct MI350 integriše 288 GB HBM3E memorije (isporučuje Micron i Samsung) i nude propusnost do 8 TB/sDostupne su opcije hlađenja zrakom i tekućinom, što omogućava instalaciju do 64 grafičke kartice u tradicionalni rack ili dvostruko više u konfiguracijama s direktnim hlađenjem tekućinom. Performanse dosežu do 2,6 exaFLOPS-a u FP4/FP6 operacijama.

Sveobuhvatna infrastruktura i skalabilnost: prijedlog "Helios"

AMD Instinct MI350 AI rack

Jedan od glavnih fokusa je otvorena infrastruktura rack-skala, Već radi na velikim oblacima poput Oracle Cloud Infrastructure. Ovo rješenje, koje će biti dostupno u drugoj polovini 2025. godine, kombinuje Instinct MI350 akceleratore sa AMD EPYC procesorima pete generacije i Pensando Pollara mrežnim karticama.

Ekskluzivni sadržaj - kliknite ovdje  Kako odabrati dobro napajanje

Gledajući unaprijed, AMD je predstavio "Helios", svoje AI rackove sljedeće generacije, koji će integrirati Instinct MI400 GPU-ove, EPYC "Venice" procesore sa Zen 6 arhitekturom i Pensando "Vulcan" mrežne kartice. Očekuje se da će skok performansi pri pokretanju AI modela biti... Mixture of Experts mogla bi biti i do 10 puta veća od trenutne generacije.

A u odjeljku za softver, AMD lansira ROCm 7, obnovljena verzija dizajnirana za rješavanje izazova generativne umjetne inteligencije i računarstva visokih performansi. Ovo ažuriranje uključuje poboljšanja za podrška za standardne okvire, nove API-je, drajvere i alate, proširenje opcija za developere.

Además, la plataforma AMD Developer Cloud sada je dostupno globalno, nudeći upravljano okruženje za agilni razvoj AI projekata i pristup naprednim resursima.

Povećanje energetske efikasnosti i održivosti

AMD Instinct MI350 energetska efikasnost umjetne inteligencije

Jedan aspekt koji je AMD istakao je optimizacija energije. Akceleratori MI350 su daleko premašili interne ciljeve, postižući poboljšanja energetske efikasnosti i do 38 puta tokom perioda od pet godina. Kompanija također ima za cilj povećati energetsku efikasnost na nivou rackova do 2030. godine za faktor 20 u poređenju sa 2024. godinom, što bi olakšalo obuku AI modela koji trenutno zahtijevaju stotine rackova na samo jednom. smanjenje potrošnje električne energije za 95%.

Ekskluzivni sadržaj - kliknite ovdje  Kako napuniti Joy-Con slušalice

Strateški savezi su stub za AMD, s kompanijama kao što su Meta, OpenAI, Microsoft, Oracle, Cohere, Red Hat, HUMAIN, Astera Labs, Marvell i xAI pokazujući veliko povjerenje u svoju tehnologiju. Meta već koristi MI300X seriju u modelima zaključivanja poput Llama 3 i 4; OpenAI blisko sarađuje s AMD-om kako bi integrirao hardver i softver u svoju AI infrastrukturu; a Microsoft već pokreće produkcijske modele na Azureu s Instinct platformom.

ProročišteSa svoje strane, planira raspoređivanje do 131.072 MI355X GPU-a za skaliranje vaših zettascale klastera, jačajući partnerski ekosistem koji potiče usvajanje i razvoj AI rješenja.

AMD-ova vizija nije usmjerena samo na brzinu i snagu, već i na održivost, tehnološku otvorenost i izgradnju snažnih partnerstava kako bi se ubrzao napredak umjetne inteligencije na globalnom nivou.