- Jan AI:n avulla voit suorittaa avoimen lähdekoodin kielimalleja paikallisesti ja yksityisesti Windowsissa, macOS:ssä ja Linuxissa.
- Ohjelmisto tukee GGUF-mallien lataamista sisäisestä Hubistaan tai suoraa tuontia Hugging Facesta.
- Malleja on mahdollista integroida pilveen käyttämällä API-avaimia tarjoajilta, kuten OpenAI tai Anthropic.
- Työkalu tarjoaa joukkopoistotoiminnon ladattujen mallien puhdistamiseksi ja levytilan vapauttamiseksi.
Jokainen, joka on kokeillut työkaluja, kuten Ollama tai LM Studio, olet luultavasti törmännyt Jan AIPohjimmiltaan se on sovellus, jonka avulla voimme muuttaa tekoälyn vain yhdeksi tietokoneellamme olevaksi ohjelmaksi, aivan kuten verkkoselaimen tai tekstieditorin. Mutta se vie tilaa. Mallien poistaminen Jan AI:sta Sitten siitä tulee välttämätön.
Toisin kuin perinteiset pilvessä toimivat chatbotit, Jan asennetaan suoraan Windows, macOS tai LinuxSen tärkein vetovoimatekijä on se, että se on suunniteltu siten, että koko prosessi tapahtuu paikallisesti, mikä takaa, että käyttäjän yksityisyys Tämän pitäisi olla ehdoton prioriteetti, koska data ei poistu omasta laitteistostamme.
Mikä Janin tekoäly tarkalleen ottaen on ja miten se toimii?
Niille, jotka eivät tunne tätä, Jan on ilmainen ja avoimen lähdekoodin vaihtoehto ChatGPT:lle. Idea on yksinkertainen: sen sijaan, että lähettäisit kysymyksesi Googlelle tai OpenAI:n palvelimille, Lataa kielimallit Pääset käyttämään tekoälyä tietokoneellasi ja olet vuorovaikutuksessa sen kanssa erittäin intuitiivisen käyttöliittymän kautta. Tämä tarkoittaa, että voit käyttää tekoälyä myös lentokoneessa ilman internetyhteyttä.
Projektia hallinnoidaan Apache 2.0 -lisenssillä, ja se perustuu kolmeen peruspilariin. Ensinnäkin se on täysin aukikoska sen koodi on saatavilla GitHubissa kenen tahansa parannettavaksi. Toiseksi, se on yksityinen, koska kaikki laskenta tehdään oma suoritin tai näytönohjainJa kolmanneksi, kaikki on sinun omaisuuttasi: sinä päätät, mitä asennat ja milloin poistat kaiken.
Sovelluksen ytimessä on moottori nimeltä AivokuoriTämä komponentti vastaa mallien suorittamisesta ja niiden näyttämisestä chat-käyttöliittymässä. Näemme tämän käyttöliittymän, jossa on luettelo keskusteluista ja painikkeet avustajan parametrien säätämiseen.
Asennus ja ensimmäiset askeleet
Janin käyttöönotto on melko nopea prosessi. Siirry vain viralliselle verkkosivustolle ja lataa käyttöjärjestelmällesi tarkoitettu suoritettava tiedosto. Kun se on avattu, löydät useita vaihtoehtoja, vaikka on tärkeää mainita, että espanjan kieli Sitä ei ole saatavilla valikoissa, vaikka chat ymmärtää ja vastaa täydellisesti espanjaksi.
Niille, jotka eivät halua komplikaatioita, on olemassa vaihtoehto Jan-mallin pika-aloitusSe on yleisluontoinen oikeustieteen maisteriohjelma, joka ei vaadi monimutkaisia konfiguraatioita ja jota voidaan käyttää tekstien kirjoittamiseen, yhteenvetoon tai kääntämiseen. Lisäksi sovelluksessa on erittäin hyödyllisiä ominaisuuksia, kuten... visio kuvien analysointiin, mahdollisuus liittää PDF- tai Word-dokumentteja ja valinnainen verkkohaku.
Paikallinen mallinhallinta (GGUF)
Janin vahvuus on... Mallikeskusjossa voit tutkia ja ladata erilaisia keinotekoisia "aivoja". Nämä mallit ovat GGUF-muodossa, joten ne ovat yhteensopivia offline-suorituksen kanssa. Koneesi tehosta riippuen voit valita useista vaihtoehdoista:
- Llama-3.2-Ohje: Erittäin kevyt, ihanteellinen tietokoneille, joissa on vähän RAM-muistia, ja yksinkertaisiin tehtäviin.
- DeepSeek-R1-tislaus: Upea tasapaino järkeilyn ja resurssien kulutuksen välillä.
- Phi-3.5 ja Phi-4 Mini: Microsoftin mallit ovat erittäin kyvykkäitä, ja Phi-4 on johdonmukaisin pitkissä dialogeissa.
- Mistral-Nemo: Paljon tehokkaampi ja painavampi (noin 7 Gt), se vaatii yli 32 Gt RAM-muistia tai erillinen näytönohjain sujuvaa suorituskykyä varten.
Jos tietokoneellasi on jo mallitiedostoja, voit tuoda ne suoraan moottorin asetuksista. Voit myös poistaa Janin tekoälymalleja jälkiä jättämättä, jos sinun on vapautettava tilaa tietokoneellasi. Voit myös käyttää Hugging Facen suorat linkit Liitä mallitunnus Jan's Hubin hakupalkkiin.
Kuinka poistaa Janin tekoälymallit jälkiä jättämättä
Ajan myötä useiden mallien lataaminen voi nopeasti täyttää kiintolevyn, koska jokainen voi viedä useita gigatavuja. vapauttaa tilaa tehokkaasti Jäännöstiedostojen välttämiseksi Jan tarjoaa työkalun joukkopuhdistukseen.
Jos haluat poistaa malleja Jan AI:sta, sinun on siirryttävä osioon Asetukset ja mene Llama.cpp-osioon (tai MLX:ään, tapauksesta riippuen). Sieltä löydät vaihtoehdon nimeltä Poista kaikki mallit-osiossa. Kun napsautat, sovellus kertoo, kuinka paljon tilaa vapautuu, ja poistaa kaikki ohjelman hallinnoimat tiedostot kerralla.
On tärkeää huomata, että tämä prosessi puhdistaa Hubin kautta ladatut mallit, mutta manuaalisesti tuodut tiedostot Ne saattavat vaatia erilaista käsittelyä, jos Janin hakukone ei ole rekisteröinyt niitä.
Pilvimallit ja paikalliset API:t
Vaikka offline-tila onkin ykkösominaisuus, Jan mahdollistaa myös yhteyden muodostamisen. pilvipalveluntarjoajat kuten Azure, Anthropic tai Gemini. Voit tehdä tämän siirtymällä asetuksiin, kirjoittamalla Mallipalveluntarjoajat ja lisäämällä API-avain vastaavasta palvelusta. Toisin kuin fyysiset sijainnit, nämä mallit ovat yleensä käyttöperusteisia (tokenit).
Toinen edistyksellinen ominaisuus on paikallinen API-palvelinJos otat tämän asetuksen käyttöön asetuksissa, Jan luo päätepisteen kohteeseen http://localhost:1337Tämä on puhdasta kultaa kehittäjille, sillä sen avulla voit käyttää Jania OpenAI:n korvikkeena Python-projekteissa tai integroida sen VS Code -laajennukset kuten Continue.dev.
Paikallista tekoälyä demokratisoiva työkalu antaa kenelle tahansa käyttäjälle, arkaluonteisia tietoja käsittelevästä lakimiehestä ohjelmoijaan, tehokkaan avustajan tinkimättä omasta työvoimasta. tietojesi suvereniteettiOppimalla hallitsemaan ja poistamaan Janin tekoälymalleja pidämme tiimimme optimoituna ja vapaana digitaalisesta sotkusta.
Indeksi