- Cài đặt và kích hoạt máy chủ LLM cục bộ bằng LM Studio.
- Liên kết tiện ích mở rộng Continue.dev với nhà cung cấp mô hình cục bộ.
- Cấu hình tệp JSON nâng cao để kích hoạt tính năng tự động hoàn thành mã.
- Có thể chạy mô hình trên máy tính từ xa để tối ưu hóa hiệu năng.
Bạn mệt mỏi vì phải trả phí thuê bao hàng tháng cho các công cụ AI? Bạn lo lắng mã nguồn của mình sẽ bị lưu trữ trên đám mây của người khác? Có lẽ đã đến lúc... Kết nối và tiếp tục với LM StudioNói cách khác, tích hợp trí tuệ nhân tạo cục bộ vào môi trường phát triển của bạn. Đây là cách tốt nhất để duy trì sự riêng tư hoàn toàn và làm việc mà không cần phụ thuộc vào kết nối internet ổn định.
Hôm nay chúng ta sẽ cùng tìm hiểu cách xây dựng một hệ sinh thái mạnh mẽ bằng cách kết hợp LM Studio và tiện ích mở rộng. Continue.dev Trong VS Code. Về cơ bản, chúng ta sẽ biến máy tính của bạn thành một... máy chủ LLM riêng Vì vậy, bạn có thể lập trình với một trợ lý ảo không tính phí hàng tháng và thực hiện chính xác những gì bạn yêu cầu.
Chuẩn bị mặt bằng với LM Studio
Việc đầu tiên chúng ta cần làm để kết nối Continue với LM Studio là cài đặt phần mềm sau, về cơ bản đây là công cụ cho phép bạn chạy các mô hình ngôn ngữ trên máy tính của mình. Sau khi mở ứng dụng, lý tưởng nhất là bạn nên tìm một mô hình được tối ưu hóa cho lập trình. Ví dụ: Lập trình viên Qwen2.5 Đây là một lựa chọn tuyệt vời; nếu bạn có một máy tính mạnh mẽ, hãy chọn phiên bản 14 tỷ tham số, nhưng nếu bạn nhận thấy máy tính của mình hoạt động chậm, phiên bản 3 tỷ là quá đủ và nhẹ hơn nhiều.
Sau khi tải xuống mô hình, bạn cần vào mục dành cho nhà phát triển ở thanh bên và kích hoạt máy chủ cục bộBạn sẽ thấy hệ thống bắt đầu hoạt động theo hướng đó. http://localhost:1234Bước này rất quan trọng, vì nó là cầu nối cho phép Visual Studio Code giao tiếp với mô hình AI.

Thiết lập Continue.dev trong VS Code
Để tính năng này hoạt động trong trình soạn thảo của bạn, bạn cần cài đặt tiện ích mở rộng mã nguồn mở có tên Continue.dev. Sau khi cài đặt, một tab mới sẽ xuất hiện ở bên cạnh. Mã VSBan đầu, khung chat sẽ không phản hồi vì nó không biết nên sử dụng bộ não nào, vì vậy chúng ta phải... liên kết mô hình LM Studio.
Để làm điều này, hãy nhấp vào tùy chọn kiểu máy ở cuối khung chat và chọn "Thêm mô hình trò chuyện"Trong menu thả xuống nhà cung cấp, chọn "LM Studio" và để nguyên thiết lập mô hình là "Tự động phát hiện". Điều này sẽ cho phép ứng dụng trò chuyện tự động nhận diện mô hình bạn đã tải trong LM Studio, và bạn có thể bắt đầu sử dụng ngay lập tức.
Tận dụng tối đa cuộc trò chuyện và ngữ cảnh.
Sau khi kết nối Continue với LM Studio, việc tương tác với trình hướng dẫn rất đơn giản và tương tự như khi bạn sử dụng ChatGPT. Bạn có thể yêu cầu nó tạo một đoạn mã HTML từ đầu hoặc giúp bạn gỡ lỗi. Một mẹo rất hữu ích là... sử dụng ký hiệu @ Chọn các tệp cụ thể từ dự án của bạn; bằng cách này, AI sẽ có ngữ cảnh thực sự của mã nguồn và không tự bịa đặt, tạo ra tài liệu hoặc các thành phần chính xác hơn nhiều.
Kích hoạt tính năng tự động hoàn thành thông minh
Nếu bạn muốn AI đề xuất mã khi bạn gõ (kiểu Copilot), chỉ chat thôi là chưa đủ; bạn cần cấu hình tính năng tự động hoàn thành bằng phím Tab. Để làm điều này, bạn phải tìm và mở tệp cấu hình nằm trong thư mục [đường dẫn]. ~/.continue/config.json.
Trong tệp đó, bạn phải thêm một khối mã cụ thể để tính năng tự động hoàn thành biết cách truy vấn máy chủ LM Studio. Đối tượng JSON phải bao gồm... apiBase trỏ đến localhost:1234/v1Nhà cung cấp, chẳng hạn như "lmstudio," và tên của mô hình bạn đang sử dụng. Sau khi lưu các thay đổi, bạn sẽ thấy trình soạn thảo tự động dự đoán các dòng mã tiếp theo một cách mượt mà.
Sử dụng máy chủ từ xa cho thiết bị có cấu hình khiêm tốn.
Có một tình huống rất phổ biến khi kết nối Continue với LM Studio: bạn có một chiếc máy tính xách tay nhẹ để làm việc nhưng lại có một máy tính để bàn mạnh mẽ. Bạn không cần phải chịu đựng sự chậm chạp của máy tính xách tay; bạn có thể... Cấu hình máy tính để bàn của bạn thành máy chủ LLM.Thay vì sử dụng "localhost" trong cấu hình Continue.dev, bạn chỉ cần nhập địa chỉ IP của máy tính mạnh mẽ của mình trên mạng cục bộ.
Theo cách này, máy tính xách tay chỉ đóng vai trò là giao diện cho VS Code, trong khi... Quá trình xử lý nặng được thực hiện trên máy tính để bàn.Điều này cho phép bạn có được kết quả tốt nhất từ các mô hình lớn mà không làm quạt tản nhiệt của máy tính xách tay phát ra tiếng ồn khó chịu, đồng thời vẫn duy trì hoạt động mượt mà và khả năng phản hồi nhanh nhạy.
Bằng cách triển khai quy trình làm việc này với LM Studio và Continue.dev, chúng tôi đã tạo ra một môi trường phát triển tự động, nơi chúng tôi hoàn toàn kiểm soát phần cứng và dữ liệu, cho phép chúng tôi tận hưởng tính năng tự động hoàn thành và trò chuyện thông minh mà không phát sinh chi phí định kỳ.
Biên tập viên chuyên về các vấn đề công nghệ và internet với hơn mười năm kinh nghiệm trong các lĩnh vực truyền thông kỹ thuật số khác nhau. Tôi đã từng làm biên tập viên và người sáng tạo nội dung cho các công ty thương mại điện tử, truyền thông, tiếp thị và quảng cáo trực tuyến. Tôi cũng đã viết trên các trang web kinh tế, tài chính và các lĩnh vực khác. Công việc của tôi cũng là niềm đam mê của tôi. Bây giờ, qua bài viết của tôi trong Tecnobits, Tôi cố gắng khám phá tất cả những tin tức và cơ hội mới mà thế giới công nghệ mang đến cho chúng ta hàng ngày để cải thiện cuộc sống của chúng ta.