Cumu installà Gemma 3 LLM in Windows 11 passu per passu

I mudelli di lingua open source anu evolutu à salti è limiti, è Oghje hè pussibili à gudiri direttamente da un urdinatore persunale senza dipende di servizii nuvola.. Unu di i più promettenti attualmente hè Gemma 3, u novu LLM di Google basatu annantu à a tecnulugia Gemini, chì si distingue per a so capacità di processà u testu è l'imaghjini, è ancu per a so enorme finestra di cuntestu di finu à 128k tokens in e so versioni avanzate. Per più infurmazione nantu à sta liberazione, pudete visità u nostru articulu a presentazione di Gemma 3.

Sè vo aduprate Windows 11 è circate di installà Gemma 3 per a sperimentazione o ancu a produzzione lucale, site ghjuntu à u locu ghjustu. Andemu in detail tutti i modi pussibuli per mette in opera nantu à u vostru urdinatore, cumprese l'opzioni più cunsigliate cum'è Ollama, LM Studio, è ancu una alternativa basata in nuvola cù Google AI Studio. In più, avemu da affruntà i bisogni tecnichi, vantaghji di ogni metudu è Cumu sfruttà u putenziale di sta putente intelligenza artificiale.

Chì ghjè Gemma 3 è perchè stallà?

Gemma 3 hè a terza generazione di mudelli LLM liberati da Google sottu una licenza open-source.. A cuntrariu di e soluzioni precedenti cum'è Llama o Mistral, offre un supportu direttu per l'input d'imaghjini, un cuntestu assai più largu, è supportu per più di 140 lingue. Sicondu i vostri bisogni, pudete sceglie da parechje versioni di u mudellu chì varieghja da i paràmetri 1B à 27B:

• Gemma 3: 1B: Modellu ligeru ideale per i travaglii basi è ambienti limitati di risorse.
• Gemma 3: 4B: Equilibrà u rendiment è l'efficienza per l'applicazioni intermedie.
• Gemma 3: 12B: Cunsigliatu per l'analisi cumplessa, a prugrammazione è u trattamentu multilingue.
• Gemma 3: 27B: L'opzione più putente, pensata per usi intensivi, multimodali cù una grande capacità contextuale.

A pussibilità di eseguisce un mudellu cusì avanzatu da u vostru PC Cambia e regule di u ghjocu in quantu à a privacy, a rapidità di risposta è a dipendenza da terze parti. Ùn avete più bisognu di pagà abbonamenti mensili o rinunzià i vostri dati. Tuttu ciò chì ci vole hè un pocu di preparazione è un desideriu d'amparà. Sè vo vulete sapè più nantu à i benefici di sti mudelli, verificate u nostru articulu nantu mudelli AI di pesu apertu.

Opzione 1: Installazione cù Ollama

Ollama hè probabilmente u modu più faciule per eseguisce LLM cum'è Gemma 3 da Windows 11. A so interfaccia basata in terminal permette di installà è eseguisce mudelli cù una linea di cumanda simplice. In più, hè cumpatibile cù macOS, Linux è Windows, facendu faciule d'utilizà in una varietà di ambienti.

Passi per installà Ollama è eseguisce Gemma 3:

1. Accessu à u situ ufficiale: ollama.com.
2. Scaricate l'installatore per Windows è eseguite cum'è qualsiasi altru prugramma.
3. Open Command Prompt (CMD) o PowerShell è pruvà l'installazione cù:

ollama --version

Sè tuttu va bè, pudete avà scaricà qualsiasi di i mudelli Gemma 3 dispunibuli. Simply run unu di sti cumandamenti secondu u mudellu chì vulete:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Una volta telecaricatu, vi ponu facirmenti principiatu u mudellu.. Per fà questu, eseguite:

ollama init gemma3

Da quellu mumentu, pudete cumincià à interagisce cù u LLM da:

ollama query gemma3 "¿Cuál es la capital de Japón?"

Se vulete prufittà di e funzioni multimodali, pudete puru aduprà l'imaghjini in e vostre dumande:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Chì avete bisognu per fà u travagliu bè? Ancu Ollama ùn impone micca requisiti minimi stretti, mudelli più grande (cum'è 27B) necessitanu almenu 32 GB di RAM. Cù 16GB pudete travaglià senza prublemi cù u mudellu 7B, è ancu s'ellu l'usu di una GPU ùn hè micca ubligatoriu, aiuta assai in rapidità.

Opzione 2: Aduprate LM Studio

LM Studio hè un altru strumentu gratuitu chì permette di installà è eseguisce mudelli LLM in u locu da una interfaccia grafica.. Hè cumpatibile cù Windows, macOS è Linux, è u so grande vantaghju hè chì ùn hà micca bisognu di cunniscenze tecniche per operare.

Istruzzioni:

1. Scaricate LM Studio da u so situ ufficiale: lmstudio.ai.
2. Installa è corse.
3. Cliccate nantu à l'icona di lente d'ingrandimentu chì dice "Scoprite".
4. Type "Gemma 3" in u mutore di ricerca per vede i mudelli dispunibili.

Prima di stallà, verificate se u mudellu hè cumpatibile cù u vostru equipamentu. Se vede l'avvertimentu "Probabilmente troppu grande per questa macchina", pudete ancu installà, ma u rendiment ottimali ùn hè micca garantitu.

Una volta chì un mudellu cumpatibile hè statu scaricatu:

• Press "Load Model" per carricà.
• O apre una nova chat è sceglite u mudellu da u menù a tendina.

U megliu di LM Studio hè chì agisce cum'è un tipu di ChatGPT locale, offline è in a vostra lingua. Pudete creà parechje chats è salvà e vostre conversazioni se vulete. Inoltre, se attivate l'opzione "Serveru Locale", pudete integrà cù e vostre applicazioni Python cù l'API compatibile OpenAI.

Opzione 3: Aduprate Google AI Studio (in linea)

Se ùn pudete micca o ùn vulete micca installà nunda, pudete aduprà Gemma 3 direttamente da u nuvulu cù Google AI Studio. Nisuna installazione hè necessaria, ma una cunnessione Internet è un contu Google sò necessarii.

Basta à andà aistudio.google.com è selezziunate "Gemma 3" da a lista di mudelli. Da quellu mumentu, pudete inizià a chatte cù u mudellu cum'è s'ellu era una versione avanzata di Bard o ChatGPT, cumprese l'input d'imaghjini.

Installazione in nuvola cù NodeShift (opcional)

Per quelli chì cercanu più putere o per implementà u mudellu in modu prufessiunale, ci hè l'opzione di utilizà servizii cloud cum'è NodeShift. Cù elli, pudete allughjà macchine cù GPU putenti è cunfigurà u vostru ambiente ideale per eseguisce Gemma 3 senza limitazioni.

Passi basi in NodeShift:

1. Creà un contu à app.nodeshift.com.
2. Cumincià un Node GPU persunalizatu (per esempiu cù 2x RTX 4090).
3. Sceglite una maghjina preconfigurata cù Ubuntu + Nvidia CUDA o Jupyter Notebook, secondu chì avete aduprà Ollama o Transformers.
4. Cunnette via SSH è installate u mudellu da a linea di cummanda.

Stu tipu di stallazione vi dà accessu à cunfigurazioni prufessiunale, ideale per i mudelli di furmazione, a valutazione di u rendiment, etc. Mentre ùn hè micca essenziale per l'utilizatori di casa, hè utile per quelli chì volenu sperimentà in prufundità o custruisce applicazioni nantu à LLM avanzati.

Requisiti di u sistema è cunsiglii tecnichi

Micca tutti i mudelli Gemma 3 correranu in ogni PC. Sottu vi lasciamu una riferenza generale secondu u tipu di mudellu:

• sobre mudelli 1B à 7B: minimu 8 GB di RAM. Funcionanu in quasi ogni PC mudernu, ancu senza GPU.
• sobre mudelli 13B: sò cunsigliatu 16GB à 24GB RAM.
• sobre mudelli 27B: sò necessarii almenu 32 GB di RAM è preferibile una GPU dedicata.

Avè più RAM accelera l'operazione è impedisce l'errori per mancanza di memoria. Mentre Ollama è LM Studio pruvate d'utilizà risorse in modu efficiente, dependerà assai di u vostru hardware. Inoltre, a rapidità di risposta migliora significativamente se GPU hè aduprata invece di CPU.

L'installazione di Gemma 3 in Windows 11 hè più faciule ch'è pare.. Ùn importa micca s'ellu decide di utilizà Ollama per a so simplicità, LM Studio per a so interfaccia grafica, o Google AI Studio per ghjucà sicuru in u nuvulu. L'impurtante hè chì ogni metudu si adatta à diversi livelli di sperienza è capacità tecniche. Avà chì sapete tutte l'opzioni è ciò chì avete bisognu per cumincià, pudete cumincià à sperimentà sta intelligenza artificiale locale impressiunante oghje.