Foundry Local a Windows AI Foundry: Spoločnosť Microsoft vsádza na lokálnu AI s novým ekosystémom pre vývojárov.

Posledná aktualizácia: 01.02.2024

  • Windows AI Foundry je nová jednotná platforma od spoločnosti Microsoft na vývoj a nasadzovanie modelov umelej inteligencie na lokálnych zariadeniach a v cloude.
  • Foundry Local umožňuje vývojárom spúšťať, optimalizovať a spravovať modely umelej inteligencie, ktoré sa automaticky prispôsobujú dostupnému hardvéru, a to v systémoch Windows aj macOS.
  • Integrácia s Windows ML a spolupráca s partnermi, ako sú Intel, AMD, Nvidia a Qualcomm, zabezpečujú efektívnosť a kompatibilitu medzi zariadeniami.
  • Nové API a vývojové nástroje zjednodušujú integráciu umelej inteligencie do aplikácií a umožňujú všetko od prispôsobenia modelu až po pokročilé funkcie, ako je sémantické vyhľadávanie.
Miestna zlieváreň

Spoločnosť Microsoft potvrdila svoj záväzok k umelej inteligencii. predstaviť Windows AI Foundry a služba Miestna zlieváreň počas podujatia Build 2025, čím upevnila svoju stratégiu umiestniť lokálnu umelú inteligenciu do centra vývojového procesu v systéme Windows a ďalších systémoch. Cieľom týchto nových iniciatív je ponúknuť vývojárom Oveľa flexibilnejšie, efektívnejšie a prispôsobenejšie prostredie na lokálne vytváranie, testovanie a nasadzovanie modelov umelej inteligencie., čím sa odstránili mnohé tradičné bariéry.

S príchodom Windows AI Foundry sa spoločnosť zameriava na uľahčiť integráciu modelov umelej inteligencie do aplikácií maximálne využitie hardvéru dostupného na každom zariadení a podpora otvoreného a robustného ekosystému. Toto hnutie predstavuje jasný záväzok k podpore inovácií na úrovni používateľov a spoločností, Ponúkame nástroje a API, ktoré zjednodušujú vytváranie aj prispôsobovanie modelov strojového učenia na použitie offline alebo v cloude.

Záväzok spoločnosti Microsoft k lokálnej umelej inteligencii: Čo je Windows AI Foundry?

Nástroje pre lokálny vývoj v Microsoft Foundry

Windows AI Foundry Je to prirodzený vývoj predchádzajúceho Copilot Runtime a Je prezentovaná ako centralizovaná platforma na riadenie celého životného cyklu vývoja umelej inteligencie.. To siaha od výberu a optimalizácie modelu až po jemné doladenie, inferenciu a integráciu do finálnych aplikácií, a to ako lokálne, tak aj prostredníctvom cloudu Azure.

Exkluzívny obsah – kliknite sem  OpenAI vydáva gpt-oss-120b: svoj doteraz najpokročilejší model otvorených váh.

Vývojári majú prístup k modelom umelej inteligencie s otvoreným zdrojovým kódom a proprietárnym modelom, vrátane najpopulárnejších na trhu, ako sú Ollama, Nvidia NIM a ďalšie možnosti, ktoré vám umožňujú využívať rôzne katalógy modelov. Jednou z jeho silných stránok je jeho schopnosť automaticky detekovať a prispôsobiť sa lokálnemu hardvéru (CPU, GPU, NPU), pričom odporúča a optimalizuje najvhodnejšie modely v každom prípade bez nutnosti manuálnej konfigurácie každého prostredia.

La spolupráca s poprednými výrobcami hardvéru Spoločnosti ako Intel, AMD, Nvidia a Qualcomm zohrali kľúčovú úlohu v zabezpečení plynulého chodu systému Windows AI Foundry, čo vývojárom umožňuje pracovať s rôznymi čipsetmi a zariadeniami, od ľahkých notebookov až po výkonné pracovné stanice alebo dokonca špecializovaný hardvér, ako sú počítače Copilot+. Spoločnosť Microsoft je zodpovedná za udržiavanie závislostí v aktuálnom stave, aby sa zabezpečila maximálna kompatibilita a výkon s vývojom procesorov.

Foundry Local: AI bez spoliehania sa na cloud

Lokálna umelá inteligencia systému Windows AI Foundry

Miestna zlieváreň Vyniká ako modul špeciálne navrhnutý pre tých, ktorí chcú spúšťať modely umelej inteligencie úplne lokálne. Vďaka multiplatformovému dizajnu môžu vývojári nasadiť modely nielen v systéme Windows, ale aj v systéme macOS, čo uľahčuje vytváranie hybridných aplikácií alebo zmiešaných pracovných prostredí bez obetovania kompatibility.

Exkluzívny obsah – kliknite sem  Základné automatizácie a skratky v Outlooku na zvýšenie produktivity

Foundry Local poskytuje špecifické nástroje, ako napríklad SDK a CLI testovať, optimalizovať a nasadzovať modely priamo do používateľského prostredia. Môžete si pozrieť zoznam modelov kompatibilných s hardvérom každého počítača a spustiť ich alebo prispôsobiť podľa svojich potrieb. Využite tiež Runtime ONNX, otvorený inferenčný engine od spoločnosti Microsoft, ktorý urýchľuje vykonávanie modelov umelej inteligencie na rôznych architektúrach.

Toto riešenie zahŕňa aj podpora pre LoRA (Low-Rank Adaptation), technika, ktorá umožňuje rýchle a efektívne prispôsobenie preddefinovaných modelov vlastným súborom údajov, vďaka čomu je ideálna pre spoločnosti alebo organizácie, ktoré chcú prispôsobiť umelú inteligenciu konkrétnym prípadom bez toho, aby museli vyvíjať modely od nuly.

API a nové možnosti pre vývojárov

Lokálne API pre zlieváreň

Spoločnosť Microsoft kladie veľký dôraz na čo najviac zjednodušiť zavádzanie umelej inteligencieAby ste to dosiahli, Windows AI Foundry prináša sériu API rozhraní pripravených na použitie zamerané na bežné úlohy, ako je textová inteligencia, rozpoznávanie obrázkov, popis objektov a sémantické vyhľadávanie. Tieto nástroje eliminujú potrebu vyvíjať vlastné modely pre základné úlohy, čo umožňuje vývojárom sústrediť sa na jedinečné funkcie pre ich aplikáciu.

Ďalšou dôležitou výhodou je podpora API pre funkcie pokročilého vyhľadávania a získavania znalostí, špeciálne navrhnutý na integráciu do pracovných postupov rozšíreného vyhľadávania (AR), čo uľahčuje vyhľadávanie a analýzu štruktúrovaných aj neštruktúrovaných informácií.

Toto všetko je doplnené integráciou Strojové učenie vo Windowse, lokálny inferenčný runtime od spoločnosti Microsoft, ktorý zjednodušuje nasadenie v produkčnom prostredí a eliminuje potrebu dodatočného balenia runtime alebo ovládačov. Vďaka automatickým aktualizáciám je kompatibilita a bezpečnosť vždy zaručená.

Exkluzívny obsah – kliknite sem  Čo sú to expertné systémy?

Kompatibilita, zabezpečenie a jednotný zážitok

Lokálna lokálna umelá inteligencia spoločnosti Microsoft Foundry

Ekosystém navrhnutý spoločnosťou Microsoft sa tiež spolieha na prijatie otvorených štandardov ako ten Protokol kontextu modelu (MCP), aby agenti a modely umelej inteligencie mohli bezproblémovo a bezpečne komunikovať medzi rôznymi nástrojmi a platformami. Spoločnosť Microsoft sa zaviazala k skutočnej interoperabilite, čo uľahčuje neustály vývoj a integráciu odvetvia s riešeniami tretích strán.

Z hľadiska bezpečnosti platforma integruje pokročilé funkcie, ako napríklad bezpečné prostredia pre vykonávanie (s podporou virtualizácie založenej bezpečnosti a postkvantovej kryptografie), ako aj nástroje na pozorovateľnosť, monitorovanie výkonu a ochranu pred hrozbami.

Platforma od spoločnosti Microsoft s Windows AI Foundry a Foundry Local nielen uľahčuje život vývojárom, ale rozširuje aj možnosti pre firmy a náročných používateľov, ktorí chcú Využite potenciál umelej inteligencie bez straty kontroly alebo súkromia.

Spoločnosť Microsoft podporuje budúcnosť vývoja umelej inteligencie a model, v ktorom umelá inteligencia sa dá prevádzkovať efektívne, jednoducho a bezpečne priamo na zariadeniach používateľov, bez toho, aby sa museli spoliehať výlučne na cloud. Zavedenie Windows AI Foundry a Foundry Local stavia Windows do popredia lokálnych služieb umelej inteligencie a ponúka flexibilnú a otvorenú platformu plne prispôsobenú potrebám ekosystému a jeho technologických partnerov.

Ako používať počítač ako lokálne centrum umelej inteligencie
Súvisiaci článok:
Ako používať počítač ako lokálne centrum umelej inteligencie: Praktický a porovnávací sprievodca