- Jan AI 允许您在 Windows、macOS 和 Linux 上本地且私密地运行开源语言模型。
- 该软件支持从其内部 Hub 下载 GGUF 模型,或直接从 Hugging Face 导入。
- 可以使用 OpenAI 或 Anthropic 等提供商的 API 密钥将模型集成到云端。
- 该工具提供批量删除功能,用于清理已下载的模型并释放磁盘空间。
任何尝试过类似工具的人 奥拉玛 或者 LM Studio,你可能已经接触过了。 Jan AI简而言之,它是一款应用程序,可以让我们将人工智能变成计算机上的另一个程序,就像网页浏览器或文本编辑器一样。但这会占用空间。 如何从 Jan AI 中移除模型 于是,这就变得势在必行了。
与运行在云端的传统聊天机器人不同,Jan 是直接安装在……上的。 Windows、macOS 或 Linux它的主要吸引力在于其设计使得整个过程都在本地进行,从而保证了 用户隐私 这应该是绝对优先事项,因为数据不会离开我们自己的硬件。
Jan AI究竟是什么?它是如何工作的?
对于不熟悉的人来说,Jan 是 ChatGPT 的一个免费开源替代方案。它的理念很简单:无需将问题发送到 Google 或 OpenAI 服务器, 下载语言模型 您可以通过电脑访问人工智能,并通过非常直观的界面与之互动。这意味着即使您在没有网络连接的飞机上,也可以使用人工智能。
该项目遵循 Apache 2.0 许可证,并基于三大基本支柱。首先,它是 完全开放因为它的代码在 GitHub 上公开,任何人都可以进行改进。其次,它是私有的,因为所有的计算都是用 Python 完成的。 您自己的 CPU 或 GPU第三,一切都是你的财产:你可以决定安装什么以及何时删除所有内容。
该应用程序的核心是一个名为……的引擎 皮层该组件负责运行模型并将其呈现给聊天界面。我们看到的就是这个界面,它包含对话列表和用于调整助手参数的按钮。
安装和初始步骤
安装并运行 Jan 的过程相当快捷。只需访问官方网站,下载适用于您操作系统的可执行文件即可。打开后,您会看到几个选项,但需要注意的是…… 西班牙语 虽然菜单中没有这个选项,但聊天功能可以完美地理解和回复西班牙语。
对于那些不想出现并发症的人来说,可以选择以下方案: 一月模型快速入门它是一款通用型语言学习软件,无需复杂的配置,可用于撰写、摘要或翻译文本。此外,该应用还包含许多实用功能,例如…… 用于图像分析的视觉能够附加 PDF 或 Word 文档,并可选配网络搜索功能。
本地模型管理(GGUF)
Jan的强项是…… 模型中心在这里,您可以探索并下载各种人工智能“大脑”。这些模型采用 GGUF 格式,因此可以离线运行。根据您的机器性能,您可以选择以下几种方案:
- Llama-3.2-指令: 非常轻巧,非常适合内存较小的电脑和简单的任务。
- DeepSeek-R1-Distill: 推理能力和资源消耗之间达到了极佳的平衡。
- Phi-3.5 和 Phi-4 Mini: 微软的模型功能非常强大,其中 Phi-4 在长时间对话中表现最为稳定。
- 米斯特拉尔-尼莫: 它功能更强大,重量也更重(约 7 GB),需要 超过 32 GB 的内存 或者使用独立显卡以获得流畅的性能。
如果您的电脑上已有模型文件,您可以直接从引擎设置中导入它们。如果您需要释放电脑空间,可以无痕删除 Jan AI 模型。也可以使用 拥抱脸直接链接 将型号 ID 粘贴到 Jan's Hub 的搜索栏中。
如何在不留痕迹的情况下移除 Jan AI 模型
随着时间的推移,下载多个模型会迅速填满你的硬盘空间,因为每个模型都可能占用几个GB的空间。 有效释放空间 为避免残留文件,Jan 提供批量清理工具。
要从 Jan AI 中删除模型,您需要导航到以下部分: 设置 然后进入 Llama.cpp 部分(或者 MLX 部分,视情况而定)。在那里你会找到一个名为“ 全部删除 在模型部分。点击后,应用程序会告诉您将释放多少空间,并一次性删除程序管理的所有文件。
需要注意的是,此过程会清理通过 Hub 下载的模型,但是 手动导入的文件 如果它们没有被 Jan 的引擎注册,则可能需要不同的处理方式。
云模型和本地 API
虽然离线模式是其亮点,但 Jan 也允许您进行连接。 云服务提供商 例如 Azure、Anthropic 或 Gemini。为此,请转到“设置”,输入“模型提供程序”,然后插入以下内容: API密钥 相应的服务。与实体场所不同,这些模式通常是按使用量付费(代币)。
另一个高级功能是 本地 API 服务器如果在设置中启用此选项,Jan 将在以下位置创建一个端点: http://localhost:1337这对开发者来说简直是福音,因为它允许你在 Python 项目中使用 Jan 来替代 OpenAI,或者将其与……集成。 VS Code 扩展 例如 Continue.dev。
拥有一个能够普及本地人工智能的工具,可以让任何用户,从处理敏感数据的律师到程序员,都能拥有一个强大的助手,而无需牺牲…… 数据主权通过学习管理和移除 Jan AI 模型,我们可以保持团队的优化运行,并使其免受数字垃圾的困扰。
专门研究技术和互联网问题的编辑,在不同数字媒体领域拥有十多年的经验。我曾在电子商务、通讯、在线营销和广告公司担任编辑和内容创作者。我还在经济、金融和其他领域的网站上撰写过文章。我的工作也是我的热情所在。现在,通过我的文章 Tecnobits,我尝试探索技术世界每天为我们提供的所有新闻和新机会,以改善我们的生活。