如何在 Windows 3 上逐步安裝 Gemma 11 LLM

開源語言模型已經突飛猛進，並且 如今，我們可以直接從個人電腦欣賞它們，而無需依賴雲端服務。。目前最有前景的產品之一是 Gemma 3，這是 Google 基於 Gemini 技術的全新 LLM，其突出特點是能夠處理文字和圖像，並且其高級版本擁有高達 128k 個標記的巨大上下文視窗。有關此版本的更多信息，您可以訪問我們的文章 Gemma 3 的介紹.

如果你正在使用 Windows 11 並希望安裝 Gemma 3 進行實驗甚至本地生產，您來對地方了。讓我們詳細介紹在您的電腦上啟動和運行它的所有可能方法，包括最推薦的選項，例如 Ollama、LM Studio，以及基於雲端的 Google AI Studio 替代方案。此外，我們將討論每種方法的技術要求、優點以及 如何充分發揮這種強大人工智慧的潛力.

什麼是 Gemma 3 以及為什麼要安裝它？

Gemma 3 是 Google 在開源許可下發布的第三代 LLM 模型。。與之前的 Llama 或 Mistral 等解決方案不同，它直接支援影像輸入、更廣泛的背景以及對 140 多種語言的支援。根據您的需要，您可以從 1B 到 27B 參數的多個模型版本中進行選擇：

• 傑瑪 3：1B：輕量級模型，非常適合基本任務和資源有限的環境。
• 傑瑪 3：4B：平衡中級應用程式的效能和效率。
• 傑瑪 3：12B：推薦用於複雜分析、程式設計和多語言處理。
• 傑瑪 3：27B：最強大的選項，專為密集、多模式使用而設計，具有強大的語境容量。

在 PC 上運行如此先進模型的可能性 它改變了隱私、回應速度和對第三方的依賴方面的遊戲規則。您不再需要支付月度訂閱費用或放棄您的數據。所需要的只是一點準備和學習的願望。如果您想進一步了解這些模型的好處，請查看我們的文章 開放權重AI模型.

選項 1：使用 Ollama 安裝

Ollama 可能是在 Windows 3 上執行 Gemma 11 等 LLM 的最簡單方法。其基於終端的介面允許您使用簡單的命令列安裝和運行模型。此外，它與 macOS、Linux 和 Windows 相容，可輕鬆在各種環境中使用。

安裝 Ollama 並執行 Gemma 3 的步驟：

1. 造訪官方網站： olama.com.
2. 下載適用於 Windows 的安裝程序 並像運行其他程式一樣運行它。
3. 開啟命令提示字元 (CMD) 或 PowerShell 並使用下列命令驗證安裝：

ollama --version

如果一切順利，您現在可以下載任何可用的 Gemma 3 範本。根據您想要的模板，只需執行以下命令之一：

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

下載後，您可以輕鬆啟動該模型。。為此，請運行：

ollama init gemma3

從那一刻起，您可以透過以下方式開始與 LLM 互動：

ollama query gemma3 "¿Cuál es la capital de Japón?"

如果你想利用多模態功能，您也可以在查詢中使用圖像：

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

您需要做什麼才能使其良好運作？ 雖然 Ollama 沒有施加嚴格的最低要求，但較大的型號（如 27B）至少需要 32GB 的 RAM。使用 16GB，您可以毫無問題地使用 7B 型號，儘管 GPU 的使用不是強制性的，但它對速度有很大幫助。

選項 2：使用 LM Studio

LM Studio 是另一個免費工具，可讓您從圖形介面本機安裝和執行 LLM 模型。。它相容於 Windows、macOS 和 Linux，其最大的優點是不需要技術知識即可操作。

說明：

1. 從官方網站下載 LM Studio： lmstudio.ai.
2. 安裝並運行它。
3. 按一下「發現」的放大鏡圖示。
4. 在搜尋引擎中輸入“Gemma 3”以查看可用的型號。

安裝前，請檢查型號是否與您的裝置相容。如果您看到警告“可能對於這台機器來說太大”，您仍然可以安裝它，但不能保證最佳性能。

下載相容模型後：

• 點擊“載入模型”即可載入。
• 或開啟新的聊天並從下拉式選單中選擇模型。

LM Studio 的最大優點是它可以充當本地 ChatGPT，離線且使用您的語言。如果您願意，您可以建立多個聊天並保存您的對話。此外，如果您啟用「本機伺服器」選項，則可以使用與 OpenAI 相容的 API 將其與您的 Python 應用程式整合。

選項 3：使用 Google AI Studio（線上）

如果你不能或不想安裝任何東西，你可以直接從雲端使用 Google AI Studio 中的 Gemma 3。無需安裝，但需要網路連線和 Google 帳戶。

你只需要去 aistudio.google.com 並從模型清單中選擇“Gemma 3”。從那一刻起，您就可以開始與模型聊天，就像它是 Bard 或 ChatGPT 的高級版本一樣，包括影像輸入。

使用 NodeShift 進行雲端安裝（可選）

對於那些尋求更多功能或專業部署模型的人來說，可以選擇使用像NodeShift這樣的雲端服務。有了他們，您可以租用具有強大 GPU 的機器並配置理想的環境以無限制運行 Gemma 3。

NodeShift 的基本步驟：

1. 在以下位置創建一個帳戶 app.nodeshift.com.
2. 啟動自訂 GPU 節點（例如，使用 2x RTX 4090）。
3. 根據您將使用 Ollama 還是 Transformers，選擇預先配置有 Ubuntu + Nvidia CUDA 或 Jupyter Notebook 的映像。
4. 透過 SSH 連接並從命令列安裝模型。

這種安裝類型可讓您存取專業配置，非常適合訓練模型、評估表現等。雖然對於家庭用戶來說不是必需的，但對於想要深入實驗或在高級 LLM 上建立應用程式的人來說很有用。

系統需求和技術建議

並非所有 Gemma 3 型號都能在任何 PC 上運行。下面我們根據模型類型為您提供一般參考：

• 至 型號 1B 至 7B： 最低限度 8 GB的RAM。它們可以在幾乎任何現代 PC 上運行，即使沒有 GPU。
• 至 13B 型號：建議 16 GB 至 24 GB 的 RAM.
• 至 27B 型號：需要 至少32 GB的RAM 最好是專用的 GPU。

擁有更多 RAM 可加快操作速度並防止因記憶體不足而導致的錯誤。雖然 Ollama 和 LM Studio 嘗試有效地利用資源，但這很大程度上取決於您的硬體。另外，如果使用GPU代替CPU，反應速度會顯著提高。

在 Windows 3 上安裝 Gemma 11 比看起來容易。。無論您決定使用 Ollama 來獲得它的簡單性，還是使用 LM Studio 來獲得它的圖形介面，還是使用 Google AI Studio 來在雲端安全運行，都沒關係。重要的是，每種方法適應不同程度的經驗和技術能力。現在您已經了解了所有選項以及開始所需的條件，您可以立即開始嘗試這種令人印象深刻的本地人工智慧。