- Installation och aktivering av den lokala LLM-servern med LM Studio.
- Länkar Continue.dev-tillägget med den lokala modellleverantören.
- Avancerad JSON-filkonfiguration för att aktivera autokomplettering av kod.
- Möjlighet att köra modellen på en fjärrdator för att optimera prestandan.
Är du trött på att betala månadsabonnemang för AI-verktyg? Är du orolig för att din kod ska hamna i någon annans moln? Kanske är det dags att Anslut Fortsätt med LM StudioMed andra ord, att integrera lokal artificiell intelligens i din utvecklingsmiljö. Det bästa sättet att upprätthålla fullständig integritet och arbeta utan att vara beroende av en stabil internetanslutning.
Idag ska vi se hur man bygger ett kraftfullt ekosystem genom att kombinera LM Studio och tillägget. Continue.dev i VS Code. I grund och botten kommer vi att förvandla din dator till en privat LLM-server så att du kan programmera med en assistent som inte tar ut någon månadsavgift och gör exakt vad du ber om.
Förbereder marken med LM Studio
Det första vi behöver göra för att ansluta Fortsätt med LM Studio är att installera den senare, vilket i huvudsak är motorn som låter dig köra språkmodeller på din egen maskin. När applikationen är öppen bör du helst leta efter en modell som är optimerad för programmering. Till exempel, Qwen2.5-kodare Det är ett fantastiskt alternativ; om du har en kraftfull dator, välj versionen med 14 miljarder parametrar, men om du märker att din dator kämpar är 3B-versionen mer än tillräcklig och mycket lättare.
När du har laddat ner modellen måste du gå till utvecklaravsnittet i sidofältet och aktivera den lokala servernDu kommer att se att systemet börjar röra sig i den riktningen. http://localhost:1234Detta steg är avgörande, eftersom det är bryggan som gör det möjligt för Visual Studio Code att kommunicera med AI-modellen.
Konfigurera Continue.dev i VS-kod
För att magin ska kunna ske i din editor måste du installera tillägget med öppen källkod som heter Continue.dev. När det är installerat kommer en ny flik att visas på sidan av VS-kodFörst svarar inte chatten eftersom den inte vet vilken hjärna den ska använda, så vi måste länka LM Studio-modellen.
För att göra detta, klicka på modellalternativet längst ner i chatten och välj "Lägg till chattmodell"I leverantörsmenyn väljer du "LM Studio" och låter modellen vara inställd på "Autodetektera". Detta gör att chatten automatiskt känner igen modellen du har laddat i LM Studio, och du kan börja använda den direkt.
Få ut det mesta av chatt och kontext
Efter att du har anslutit Continue till LM Studio är det mycket enkelt att interagera med guiden och det liknar vad du skulle göra med ChatGPT. Du kan be den att skapa ett HTML-kodavsnitt från grunden eller att hjälpa dig felsöka ett fel. Ett mycket användbart knep är använd @-tecknet att välja specifika filer från ditt projekt; på så sätt har AI:n den verkliga kontexten för din kod och hittar inte på saker, vilket genererar mycket mer exakt dokumentation eller komponenter.
Aktivera smart autofullständig
Om du vill att AI ska föreslå kod medan du skriver (i Copilot-stil) räcker det inte med chatt; du måste konfigurera funktionen för automatisk komplettering av tabbar. För att göra detta måste du leta upp och öppna konfigurationsfilen som finns i ~/.continue/config.json.
I den filen måste du lägga till ett specifikt kodblock så att autokomplettering vet att den ska fråga LM Studio-servern. JSON-objektet måste innehålla apiBase pekar mot localhost:1234/v1Leverantören, till exempel "lmstudio", och namnet på modellen du använder. När du har sparat ändringarna kommer du att se redigeraren smidigt förutsäga dina nästa kodrader.
Använda fjärrservrar för blygsam utrustning
Det finns ett mycket vanligt scenario när man ansluter Continue med LM Studio: du har en lätt bärbar dator för arbete men en stationär dator som är ett kraftpaket. Du behöver inte lida av den bärbara datorns långsamhet; du kan Konfigurera din dator som en LLM-serverIstället för att använda "localhost" i Continue.dev-konfigurationen anger du helt enkelt IP-adressen för din kraftfulla dator i det lokala nätverket.
På så sätt fungerar den bärbara datorn endast som ett gränssnitt för VS Code, medan Tung bearbetning sker på den stationära datornDetta gör att du kan få bästa möjliga resultat från stora modeller utan att din bärbara dators fläkt låter som att den ska ta fart, samtidigt som du bibehåller smidig drift och respons.
Genom att implementera detta arbetsflöde med LM Studio och Continue.dev uppnådde vi en autonom utvecklingsmiljö där kontrollen över hårdvara och data ligger helt i våra händer, vilket gör att vi kan njuta av autokomplettering och intelligent chatt utan återkommande kostnader.
Redaktör specialiserad på teknik och internetfrågor med mer än tio års erfarenhet av olika digitala medier. Jag har arbetat som redaktör och innehållsskapare för e-handel, kommunikation, onlinemarknadsföring och reklamföretag. Jag har också skrivit på ekonomi, finans och andra sektorers webbplatser. Mitt arbete är också min passion. Nu genom mina artiklar i Tecnobits, Jag försöker utforska alla nyheter och nya möjligheter som teknikvärlden erbjuder oss varje dag för att förbättra våra liv.