Cách xóa các mô hình Jan AI mà không để lại các tệp dư thừa

Bất cứ ai đã từng thử các công cụ như Ollama hoặc LM Studio, chắc hẳn bạn đã từng bắt gặp rồi. Jan AIVề cơ bản, đó là một ứng dụng cho phép chúng ta biến trí tuệ nhân tạo thành một chương trình khác trên máy tính, giống như trình duyệt web hoặc trình soạn thảo văn bản. Nhưng điều đó lại chiếm dung lượng. Cách xóa mô hình khỏi Jan AI Khi đó, điều này trở nên cần thiết.

Khác với các chatbot thông thường chạy trên nền tảng đám mây, Jan được cài đặt trực tiếp trên máy tính. Windows, macOS hoặc LinuxĐiểm hấp dẫn chính của nó là được thiết kế sao cho toàn bộ quy trình diễn ra tại chỗ, điều này đảm bảo rằng... quyền riêng tư của người dùng Đây phải là ưu tiên tuyệt đối, vì dữ liệu không rời khỏi phần cứng của chúng ta.

Jan AI là gì và nó hoạt động như thế nào?

Đối với những ai chưa biết, Jan là một lựa chọn thay thế miễn phí và mã nguồn mở cho ChatGPT. Ý tưởng rất đơn giản: thay vì gửi câu hỏi của bạn đến máy chủ của Google hoặc OpenAI, Tải xuống các mô hình ngôn ngữ Bạn truy cập AI trên máy tính cá nhân và tương tác với chúng thông qua giao diện rất trực quan. Điều này có nghĩa là bạn có thể sử dụng AI ngay cả khi đang ở trên máy bay mà không cần kết nối internet.

Dự án này tuân theo giấy phép Apache 2.0 và dựa trên ba trụ cột cơ bản. Thứ nhất, nó là mở hoàn toànThứ nhất, mã nguồn của nó có sẵn trên GitHub để bất kỳ ai cũng có thể cải tiến. Thứ hai, nó là dự án riêng tư, vì tất cả các phép tính đều được thực hiện bằng... CPU hoặc GPU của riêng bạnThứ ba, mọi thứ đều thuộc sở hữu của bạn: bạn quyết định cài đặt cái gì và khi nào xóa mọi thứ.

Cốt lõi của ứng dụng là một công cụ có tên gọi là... Vỏ nãoThành phần này chịu trách nhiệm chạy các mô hình và hiển thị chúng trên giao diện trò chuyện. Giao diện này chính là những gì chúng ta thấy, với danh sách các cuộc hội thoại và các nút để điều chỉnh các tham số của trợ lý ảo.

Cài đặt và các bước đầu tiên

Việc cài đặt và chạy Jan khá nhanh chóng. Chỉ cần truy cập trang web chính thức và tải xuống tệp thực thi dành cho hệ điều hành của bạn. Sau khi mở, bạn sẽ thấy một số tùy chọn, mặc dù điều quan trọng cần lưu ý là tiếng Tây Ban Nha Chức năng này không có trong menu, mặc dù chức năng trò chuyện hiểu và phản hồi hoàn hảo bằng tiếng Tây Ban Nha.

Đối với những người không muốn gặp rắc rối, có một lựa chọn khác là... Hướng dẫn nhanh về mô hình JanĐây là một phần mềm LLM đa năng, không yêu cầu cấu hình phức tạp và có thể được sử dụng để viết, tóm tắt hoặc dịch văn bản. Ngoài ra, ứng dụng còn bao gồm nhiều tính năng hữu ích như... tầm nhìn để phân tích hình ảnh, khả năng đính kèm tài liệu PDF hoặc Word và chức năng tìm kiếm trên web tùy chọn.

 

Quản lý mô hình địa phương (GGUF)

Điểm mạnh của Jan là... Trung tâm mô hìnhNơi bạn có thể khám phá và tải xuống nhiều "bộ não" nhân tạo khác nhau. Các mô hình này có định dạng GGUF, cho phép chạy ngoại tuyến. Tùy thuộc vào cấu hình máy tính của bạn, bạn có thể lựa chọn từ một số tùy chọn:

• Llama-3.2-Hướng dẫn: Rất nhẹ, lý tưởng cho các máy tính có RAM ít và thực hiện các tác vụ đơn giản.
• DeepSeek-R1-Distill: Một sự cân bằng tuyệt vời giữa khả năng suy luận và việc sử dụng tài nguyên.
• Phi-3.5 và Phi-4 Mini: Các mẫu máy của Microsoft rất có khả năng, trong đó Phi-4 thể hiện sự ổn định cao nhất trong các cuộc hội thoại dài.
• Mistral-Nemo: Mạnh mẽ hơn và nặng hơn nhiều (khoảng 7 GB), nó yêu cầu hơn 32 GB RAM hoặc card đồ họa rời để có hiệu năng mượt mà.

Nếu bạn đã có sẵn các tệp mô hình trên máy tính, bạn có thể nhập chúng trực tiếp từ cài đặt công cụ. Và bạn có thể xóa các mô hình Jan AI mà không để lại dấu vết nếu cần giải phóng dung lượng trên máy tính. Cũng có thể sử dụng Liên kết trực tiếp đến Hugging Face Dán mã ID của mô hình vào thanh tìm kiếm của Jan's Hub.

Cách xóa các mô hình Jan AI mà không để lại dấu vết

Theo thời gian, việc tải xuống nhiều mô hình có thể nhanh chóng làm đầy ổ cứng của bạn, vì mỗi mô hình có thể chiếm vài gigabyte. giải phóng không gian một cách hiệu quả Để tránh lưu trữ các tập tin còn sót lại, Jan cung cấp một công cụ dọn dẹp hàng loạt.

Để xóa các mô hình khỏi Jan AI, bạn cần điều hướng đến phần... Cài đặt và vào thư mục Llama.cpp (hoặc MLX, tùy trường hợp). Ở đó bạn sẽ tìm thấy một tùy chọn có tên là Xóa tất cả Trong mục mô hình. Khi bạn nhấp vào, ứng dụng sẽ cho bạn biết dung lượng sẽ được giải phóng và sẽ xóa tất cả các tệp do chương trình quản lý cùng một lúc.

Điều quan trọng cần lưu ý là quá trình này sẽ làm sạch các mô hình được tải xuống thông qua Hub, nhưng các tệp được nhập thủ công Chúng có thể cần được xử lý khác nếu chúng không được đăng ký bởi hệ thống của Jan.

Mô hình đám mây và API cục bộ

Mặc dù chế độ ngoại tuyến là tính năng nổi bật, Jan cũng cho phép bạn kết nối mạng. các nhà cung cấp dịch vụ đám mây chẳng hạn như Azure, Anthropic hoặc Gemini. Để làm điều này, hãy vào Cài đặt, nhập Nhà cung cấp mô hình và chèn Khóa API của dịch vụ tương ứng. Không giống như các địa điểm vật lý, các mô hình này thường tính phí theo lượt sử dụng (thẻ).

Một tính năng nâng cao khác là máy chủ API cục bộNếu bạn bật tùy chọn này trong cài đặt, Jan sẽ tạo một điểm cuối trong http://localhost:1337Đây là một kho báu thực sự dành cho các nhà phát triển, vì nó cho phép bạn sử dụng Jan như một sự thay thế cho OpenAI trong các dự án Python hoặc tích hợp nó với... Tiện ích mở rộng VS Code Giống như Continue.dev.

Việc sở hữu một công cụ giúp dân chủ hóa trí tuệ nhân tạo cục bộ cho phép bất kỳ người dùng nào, từ luật sư xử lý dữ liệu nhạy cảm đến lập trình viên, đều có được một trợ lý mạnh mẽ mà không cần phải hy sinh điều đó. quyền tự chủ dữ liệu của bạnBằng cách học cách quản lý và loại bỏ các mô hình Jan AI, chúng tôi giúp đội ngũ của mình luôn được tối ưu hóa và tránh bị quá tải bởi các dữ liệu kỹ thuật số.