Open WebUI 完全指南:如何掌握 Ollama 介面並管理您的聊天記錄

最後更新: 2026年14月07日

  • 一個可自主管理的 Web 介面平台,允許與本地語言模型進行交互,並完全保護隱私。
  • 採用分層資料夾和知識庫管理的高階組織系統 RAG。
  • 可透過 Pipelines、Python 函數和 MCP 協定進行擴展,以連接外部工具。
  • 支援多用戶存取控制,並相容於各種人工智慧後端。

如何在 Open WebUI 中使用資料夾組織對話

¿如何在 Open WebUI 中使用資料夾組織對話 如果您曾經覺得透過終端機與 AI 模型互動略顯簡陋,那麼 Open WebUI 正是您所需要的。這款工具徹底改變了使用本地 LLM 的體驗,為您提供… 視覺效果精美的介面 與 ChatGPT 非常相似,但它具有無可比擬的優勢,即所有操作都在您自己的硬體上進行,而無需將資料傳輸到雲端。

Ollama 不僅僅是徒有其表;它是一個完整的生態系統,可讓您管理使用者、建立知識庫,並將 AI 定製到最小的細節。對於那些正在尋找…的人來說,它是理想的選擇。 絕對隱私 他們可以完全控制自己使用的模型以及處理資訊的方式,從而消除代幣費用或資料安全問題。

如何在 Open WebUI 中變更預設模型
相關文章:
Open WebUI 中預設模型的管理和變更完整指南

Open WebUI究竟是什麼?它是如何運作的?

本質上,OpenWebUI 充當前端層,連接到模型執行引擎,其中 Ollama 是最常用的合作夥伴,但它也相容於任何遵循 OpenAI 標準的 API。 Ollama 負責繁重的運算工作,例如將 GGUF 檔案載入到 GPU 或 CPU 上,而 OpenWebUI 則負責其他方面的工作。 使用者體驗提供聊天記錄、快速管理和強大的多用戶管理功能。

它最大的優點之一在於它完全獨立於後端。這意味著您可以從本機模型切換到雲端模型,或使用 vLLM 或 LM Studio 等服務,而無需更改介面。這種靈活性使得系統能夠從簡單的筆記型電腦擴展到更大型的電腦。 Kubernetes集群 在商業環境中,始終保持同樣的易用性。

獨家內容 - 點擊這裡  Flash Builder 如何加快開發速度?

本地人工智慧組織

逐步安裝:從終端到瀏覽器

設定此系統最簡單且最推薦的方法是使用 Docker。對於已經在系統上執行 Ollama 的用戶,只需執行一條 Docker 命令,將連接埠 3000 對應到容器的連接埠 8080 即可。添加此標誌至關重要。 host.docker.internal:host-gateway 在 Linux 系統中,容器可以與主機上執行的 Ollama 服務進行通訊。

如果您希望為生產環境或家庭實驗室建立更結構化的方案,Docker Compose 是最佳選擇。透過在 YAML 檔案中定義服務,您可以建立一個… 共享網路 (例如 ai-network)其中 Open WebUI 和 Ollama 只需透過其服務名稱即可識別,大大方便了系統的可維護性和更新。

在 Ollama 中移除不再使用的模型
相關文章:
如何在 Ollama 中刪除不再使用的模型

容器啟動並運作後,造訪本機位址時會提示您註冊帳戶。創建的第一個使用者將自動成為管理員。 系統管理員這樣,您就可以透過控制面板管理哪些使用者還可以註冊,或者每個使用者群組可以使用哪些型號。

使用資料夾和標籤進行進階組織

如何在 Ollama 中刪除不再使用的模型

當你開始進行幾十次對話時,對話記錄就會變得混亂。為了解決這個問題, 開啟 WebUI 實施一個系統 基於專案的資料夾它們不是簡單的聊天容器;您可以透過拖放對話或透過上下文選單建立分層資料夾(資料夾內嵌套資料夾)。

真正強大的地方在於,每個資料夾都可以配置成一個獨立的工作區。您可以分配一個 特定係統提示 將其儲存到資料夾中,這樣在該資料夾中發起的任何新聊天都會自動繼承該資料夾的個人化設定或指令集。例如,您可以建立一個名為「Python程式設計」的資料夾,人工智慧將始終扮演程式碼優化專家的角色。

獨家內容 - 點擊這裡  如何在 Windows 11 中新增掃描器作為設備

除了資料夾之外,該系統還包括標籤,以便更靈活地進行組織。文件夾側重於結構,而標籤則側重於功能。 標籤允許篩選 無論對話儲存在何處,都會按主題進行組織,從而方便對過去的互動進行語義搜尋。

奇聞2.5
相關文章:
如何在 Windows 11 上本機安裝 Qwen AI

RAG 和在地知識管理

檢索增強生成 (RAG) 技術使人工智慧無需憑空捏造內容,而是直接利用您提供的文件。在 Open WebUI 中,這項功能透過工作區的「知識庫」部分來實現。您可以上傳 PDF、文字檔案、Markdown 或 Word 文檔,系統會自動處理後續步驟。 將內容分割開來 並產生嵌入向量。

為了使此功能完美運行,選擇一個好的嵌入模型至關重要,例如 nomic-embed-text。這個過程涉及將這些片段儲存在向量資料庫(預設為 ChromaDB)中,這樣,當您使用金鑰提出問題時,就可以使用這些片段。 # 後面跟著集合名稱人工智慧會在回覆之前從您的文件中檢索準確資訊。

如果您有大量檔案(例如,數千個程式碼檔案),為了避免系統崩潰,建議不要一次上傳所有檔案。在這種情況下,請將資訊整理成多個文件。 較小的收藏 在管理設定中調整片段大小和重疊度可以幫助使索引更加流暢。

利用管道、函數和 MCP 為 AI 賦能

Open WebUI 與其他介面最大的區別在於其可擴充性。 函數是 Python 腳本。 它們存在於介面中,可以充當過濾器(用於清理敏感資料)、操作(用於在 Notion 中保存摘要)或管道(用於根據複雜性將查詢路由到不同的模型)。

另一方面,管道是外部服務,可讓您建立複雜的工作流程。這對於實施尤其有用。 PII繪圖濾鏡 或將人工智慧與 Langfuse 等監控工具連接起來。這本質上是將你的聊天記錄變成一個可編程的軟體應用程式。

如何限制 Ollama 所使用的 RAM
相關文章:
如何在 Ollama 中優化和限制記憶體使用

模型上下文協定 (MCP) 的出現徹底改變了遊戲規則。現在可以將本地模型連接到… 外部工具 例如,無需編寫複雜的程式碼,即可呼叫 Slack、GitHub 或 SQL 資料庫等工具。該模型會決定何時調用這些工具來獲取更新的數據,從而使人工智慧在開發環境中更加主動和實用。

獨家內容 - 點擊這裡  如何在 RubyMine 中替換程式碼?

語音支援和硬體優化

互動方式不一定局限於文字。該系統整合了 Faster-Whisper for STT (語音轉文字)功能可讓您在本地進行語音輸入。輸出方面,您可以連接到 OpenAI TTS API 或使用 Coqui-TTS 等本地引擎,從而實現流暢的對話體驗,而無需將音訊傳輸到您的網路之外。

就效能而言,關鍵在於GPU加速。使用Apple Silicon晶片的使用者必須原生運行Ollama才能充分利用其效能。 金屬由於 Docker for Mac 中的 GPU 直通功能仍然有限,在 Windows 和 Linux 系統上,使用 NVIDIA Container Toolkit 至關重要,以確保模型不完全依賴 CPU,並且令牌產生速度可以接受。

為了優化記憶體使用,尤其是在配備 16GB 記憶體的系統上,建議使用量化模型或更小的版本,例如參數為 3B 的 Llama 3.2。如果系統運作緩慢,請降低參數設定。 上下文長度 在模型參數方面,通常最快的解決方案是釋放 VRAM 並避免記憶體不足錯誤。

克里斯蒂安·加西亞

Cristian Garcia

從小就對科技充滿熱情。我喜歡了解該領域的最新動態,最重要的是,進行交流。這就是為什麼我多年來一直致力於技術和視頻遊戲網站的交流。您可以找到我撰寫的有關 Android、Windows、MacOS、iOS、任天堂或您想到的任何其他相關主題的文章。