„Foundry Local“ ir „Windows AI Foundry“: „Microsoft“ lažinasi dėl vietinio DI su nauja kūrėjų ekosistema.

Paskutiniai pakeitimai: 20/05/2025

  • „Windows AI Foundry“ yra nauja „Microsoft“ vieninga platforma, skirta dirbtinio intelekto modeliams kurti ir diegti vietiniuose įrenginiuose ir debesyje.
  • „Foundry Local“ leidžia kūrėjams paleisti, optimizuoti ir valdyti dirbtinio intelekto modelius, automatiškai prisitaikant prie turimos aparatinės įrangos tiek „Windows“, tiek „macOS“ sistemose.
  • Integracija su „Windows ML“ ir bendradarbiavimas su tokiais partneriais kaip „Intel“, AMD, „Nvidia“ ir „Qualcomm“ užtikrina efektyvumą ir suderinamumą visuose įrenginiuose.
  • Naujos API ir kūrimo priemonės supaprastina dirbtinio intelekto integravimą į programas, suteikdamos galimybę naudoti viską – nuo ​​modelio pritaikymo iki pažangių funkcijų, tokių kaip semantinė paieška.
Vietinė liejykla

„Microsoft“ dar kartą patvirtino savo įsipareigojimą dirbtinio intelekto srityje pateikti „Windows“ dirbtinio intelekto liejykla ir tarnyba Vietinė liejykla renginio „Build 2025“ metu, taip įtvirtindama savo strategiją, pagal kurią vietinis dirbtinis intelektas yra kūrimo patirties „Windows“ ir naujesnėse sistemose pagrindas. Šių naujų iniciatyvų tikslas – pasiūlyti kūrėjams Daug lankstesnė, efektyvesnė ir pritaikytesnė aplinka dirbtinio intelekto modeliams kurti, testuoti ir diegti vietoje., panaikinant daugelį tradicinių kliūčių.

Atvykus „Windows AI Foundry“, bendrovė siekia palengvinti dirbtinio intelekto modelių integravimą į programas maksimaliai išnaudojant kiekviename įrenginyje esančią aparatinę įrangą ir skatinant atvirą bei tvirtą ekosistemą. Šis judėjimas rodo aiškų įsipareigojimą skatinti inovacijas tiek vartotojų, tiek įmonių lygmeniu, Siūlomi įrankiai ir API, kurie supaprastina mašininio mokymosi modelių kūrimą ir pritaikymą naudojimui neprisijungus arba debesyje.

„Microsoft“ įsipareigojimas vietiniam dirbtiniam intelektui: kas yra „Windows AI Foundry“?

„Microsoft Foundry“ vietinės plėtros įrankiai

„Windows“ dirbtinio intelekto liejykla Tai natūrali ankstesnės „Copilot Runtime“ evoliucija ir Ji pateikiama kaip centralizuota platforma, skirta valdyti visą dirbtinio intelekto kūrimo gyvavimo ciklą.. Tai apima įvairius veiksmus – nuo ​​modelio parinkimo ir optimizavimo iki tikslaus derinimo, išvadų darymo ir integravimo į galutines programas, tiek vietoje, tiek per „Azure“ debesį.

Išskirtinis turinys – spustelėkite čia  Kas yra pastiprinimo mokymasis?

Kūrėjai gali pasiekti atvirojo kodo dirbtinio intelekto modelius ir patentuotus modelius, įskaitant populiariausius rinkoje, tokius kaip „Ollama“, „Nvidia NIM“ ir kitas parinktis, leidžiančias pasinaudoti skirtingais modelių katalogais. Vienas iš jo stipriųjų pusių yra gebėjimas automatiškai aptikti ir prisitaikyti prie vietinės įrangos (CPU, GPU, NPU), rekomenduojant ir optimizuojant tinkamiausius modelius kiekvienu atveju, nereikalaujant rankiniu būdu konfigūruoti kiekvienos aplinkos.

La bendradarbiavimas su pirmaujančiais techninės įrangos gamintojais Tokios kompanijos kaip „Intel“, AMD, „Nvidia“ ir „Qualcomm“ atliko pagrindinį vaidmenį užtikrinant sklandų „Windows AI Foundry“ veikimą, leidžiant kūrėjams dirbti su skirtingais mikroschemų rinkiniais ir įrenginiais – nuo ​​lengvų nešiojamųjų kompiuterių iki galingų darbo stočių ar net specializuotos įrangos, tokios kaip „Copilot+“ kompiuteriai. „Microsoft“ yra atsakinga už nuolatinį priklausomybių atnaujinimą, siekiant užtikrinti maksimalų suderinamumą ir našumą, procesoriams tobulėjant.

„Foundry Local“: dirbtinis intelektas be debesijos

„Windows AI Foundry“ vietinis AI

Vietinė liejykla Jis išsiskiria kaip modulis, specialiai sukurtas tiems, kurie nori visiškai lokaliai paleisti dirbtinio intelekto modelius. Dėl kelių platformų dizaino kūrėjai gali diegti modelius ne tik „Windows“, bet ir „macOS“, todėl lengva kurti hibridines programas arba mišrias darbo aplinkas neprarandant suderinamumo.

Išskirtinis turinys – spustelėkite čia  „Intel“ paskelbė apie galutinį „Clear Linux OS“ uždarymą

„Foundry Local“ teikia specialios priemonės, tokios kaip SDK ir CLI testuoti, optimizuoti ir diegti modelius tiesiai vartotojo aplinkoje. Galite peržiūrėti su kiekvieno kompiuterio aparatine įranga suderinamų modelių sąrašą ir paleisti arba pritaikyti juos pagal savo poreikius. Taip pat pasinaudokite „ONNX“ vykdymo laikas, „Microsoft“ atvirojo išvadų modulis, kuris pagreitina dirbtinio intelekto modelių vykdymą skirtingose ​​architektūrose.

Šis sprendimas taip pat apima LoRA palaikymas (žemo rango adaptacija) – tai technika, leidžianti greitai ir efektyviai pritaikyti iš anksto nustatytus modelius prie pasirinktinių duomenų rinkinių, todėl ji idealiai tinka įmonėms ar organizacijoms, norinčioms pritaikyti dirbtinį intelektą konkretiems atvejams nekuriant modelių nuo nulio.

API ir naujos galimybės kūrėjams

Foundry vietinė API

„Microsoft“ skyrė daug dėmesio padaryti dirbtinio intelekto diegimą kuo paprastesnį. Už jį, „Windows AI Foundry“ pristato paruoštų naudoti API seriją daugiausia dėmesio skiriama įprastoms užduotims, tokioms kaip teksto žvalgyba, vaizdų atpažinimas, objektų aprašymas ir semantinė paieška. Šie įrankiai panaikina poreikį kurti individualius modelius pagrindinėms užduotims, leisdami kūrėjams sutelkti dėmesį į unikalias savo programos funkcijas.

Kitas svarbus privalumas yra API palaikymas išplėstinės paieškos ir žinių paieškos funkcijos, specialiai sukurta integruoti į papildytos paieškos (AR) darbo eigas, palengvinant tiek struktūrizuotos, tiek nestruktūrizuotos informacijos užklausas ir analizę.

Visa tai papildo integracija „Windows“ mašininio mokymosi, „Microsoft“ vietinė išvados vykdymo aplinka, kuri supaprastina diegimą gamybinėje aplinkoje ir pašalina poreikį papildomai pakuoti vykdymo aplinkas ar tvarkykles. Dėl automatinių atnaujinimų suderinamumas ir saugumas visada garantuojami.

Išskirtinis turinys – spustelėkite čia  Kaip nustatyti „Voicemeeter Banana“ transliacijai „Twitch“ ar „YouTube“ platformose

Suderinamumas, saugumas ir vieninga patirtis

„Microsoft Foundry“ vietinis vietinis dirbtinis intelektas

„Microsoft“ siūloma ekosistema taip pat remiasi atvirųjų standartų diegimas kaip Modelio konteksto protokolas (MCP), kad dirbtinio intelekto agentai ir modeliai galėtų sklandžiai ir saugiai bendrauti naudodami skirtingus įrankius ir platformas. „Microsoft“ yra įsipareigojusi užtikrinti tikrą sąveikumą, palengvindama nuolatinę pramonės raidą ir integraciją su trečiųjų šalių sprendimais.

Kalbant apie platformos saugumą, integruoja pažangias funkcijas, tokias kaip saugi vykdymo aplinka (su virtualizacijos pagrindu veikiančio saugumo ir postkvantinės kriptografijos palaikymu), taip pat stebėjimo įrankius, našumo stebėjimą ir apsaugą nuo grėsmių.

„Microsoft“ platforma su „Windows AI Foundry“ ir „Foundry Local“ ne tik palengvina kūrėjų darbą, bet ir išplečia galimybes įmonėms bei patyrusiems vartotojams, norintiems... Išnaudokite dirbtinio intelekto potencialą neprarasdami kontrolės ar privatumo.

„Microsoft“ skatina dirbtinio intelekto kūrimo ateitį, propaguodama modelį, kuriame dirbtinis intelektas gali būti valdomas efektyviai, lengvai ir saugiai tiesiai vartotojų įrenginiuose, nepasikliaujant vien debesimi. „Windows AI Foundry“ ir „Foundry Local“ įdiegimas iškelia „Windows“ į vietinių dirbtinio intelekto paslaugų priešakį, siūlant lanksčią, atvirą platformą, visiškai pritaikytą ekosistemos ir jos technologijų partnerių poreikiams.

Kaip naudoti kompiuterį kaip vietinį dirbtinio intelekto centrą
Susijęs straipsnis:
Kaip naudoti kompiuterį kaip vietinį dirbtinio intelekto centrą: praktinis ir lyginamasis vadovas