OpenRouterin yhdistäminen Open WebUI:hin ja pilvimallien käyttö

Jos käytät Open WebUI:a tekoälymallien kanssa vuorovaikutukseen, olet ehkä aloittanut ajamalla paikallisia malleja Ollaman avulla. Tämä kokoonpano tarjoaa yksityisyyttä ja hallintaa, mutta sillä on myös selkeä rajoitus: suuremmat mallit vaativat paljon RAM-muistia, tehokkaan näytönohjaimen ja huomattavan tallennustilan.

Yksi tapa laajentaa luetteloa muuttamatta käyttöliittymää on Yhdistä OpenRouter Open WebUI:n kanssaOpenRouter tarjoaa OpenAI-yhteensopivan API:n, jonka avulla voit käyttää useita eri yritysten malleja. Näin voit vaihtaa OpenAI:n, Anthropicin, Googlen, Metan, DeepSeekin, Mistralin ja muiden tarjoajien mallien välillä käyttämällä Open WebUI:n vakiovalitsinta.

Jokaista mallia ei tarvitse asentaa erikseen tai ostaa erillistä tilausta jokaiselle avustajalle. OpenRouter käyttää luottojärjestelmää ja vähentää jokaisen pyynnön kustannukset valitun mallin, syöttötokenien, luotujen tokeneiden ja joissakin tapauksissa lisäominaisuuksien, kuten kuvien, päättelyn tai verkkohaun, perusteella.

Ollamamaan verrattuna on kuitenkin yksi tärkeä ero: OpenRouterille lähetetyt kehotteet käsitellään ulkoisilla palvelimillaAvoin WebUI toimii edelleen tietokoneellasi tai palvelimellasi, mutta malli ei ole enää täysin paikallinen.

Mitä tarvitset OpenRouterin yhdistämiseen Open WebUI:n kanssa

Ennen kuin aloitat, sinulla on oltava toimiva Open WebUI -asennus ja OpenRouter-tili. Integrointi ei vaadi lisälaajennusten asentamista, koska OpenRouter käyttää OpenAI-formaatin kanssa yhteensopivaa API:a.

Tarvitset nämä tuotteet:

• Päivitetty asennus Avoin verkkokäyttöliittymä.
• Aktiivinen tili sisään OpenRouter.
• A API-avain luotu OpenRouterista.
• Käytettävissä olevat krediitit jos haluat käyttää maksumalleja.
• Järjestelmänvalvojan oikeudet avoimen WebUI:n sisällä.

OpenRouter tarjoaa myös ilmaisia ​​​​malleja. Ne tunnistetaan yleensä päätteellä :free ja niihin sovelletaan pyyntörajoituksia, vaihtelevaa saatavuutta ja mahdollisia odotusaikoja ruuhka-aikoina.

Toinen vaihtoehto on reititin:

openrouter/free

Tämä valitsee automaattisesti yhden saatavilla olevista ilmaisista malleista. Se on hyödyllinen testausta varten, vaikka se ei takaa, että samaa mallia käytetään aina.

API-avaimen luominen OpenRouterissa

Kirjaudu OpenRouteriin ja siirry API-avaimet-osioon. Luo uusi avain ja käytä nimeä, joka tunnistaa sen käyttötarkoituksen helposti, kuten:

Open WebUI

Kopioi avain heti, kun se ilmestyy, ja tallenna se salasananhallintaan. Et saa julkaista sitä, jakaa sitä kuvakaappauksena tai lisätä sitä Open WebUI -asennukseen, jota et hallitse..

On suositeltavaa tuottaa eri avain jokaiselle sovellukselleTällä tavoin voit tarkistaa erikseen, kuinka paljon Open WebUI kuluttaa, ja peruuttaa vain kyseisen tunnistetiedon, jos se paljastuu.

Jos OpenRouter sallii luottorajan asettamisen avaimen luomisen tai muokkaamisen yhteydessä, määritä summa käyttötarkoituksesi mukaan. Tämä estää pitkän keskustelun, kalliin mallin tai vaarantuneen tilin kuluttamasta koko käytettävissä olevaa saldoasi.

Jos epäilet avaimen vuotaneen, poista se välittömästi, luo uusi avain ja päivitä tallennettu yhteys Open WebUI:ssa.

Kuinka lisätä krediittejä OpenRouteriin

OpenRouter käyttää Yhdysvaltain dollareissa määräisiä luottoja. Voit täydentää saldoasi manuaalisesti ja aktivoida automaattiset lataukset, kun se laskee tietyn summan alle.

Alusta veloittaa palkkion, kun ostat krediittejä, ja kullekin mallille näytetyt päätelmähinnat välitetään eteenpäin ilman lisäkorotuksia palveluntarjoajan mainostaman hinnan lisäksi. Ennen maksamista tarkista ostonäytöllä näkyvä lopullinen summa ja palkkio, sillä nämä ehdot voivat muuttua.

Kaikki mallit eivät ole saman hintaisia. Jokaisella listauksella on yleensä eri hinnat. varten:

• Syöttötunnukset, jotka vastaavat kehotetta ja lähetettyä historiaa.
• Lähtötokenit, jotka vastaavat luotua vastausta.
• Sisäisen päättelyn tunnukset, kun malli laskuttaa ne.
• Kuvat, tiedostot, verkkohaut tai muut lisätoiminnot.

Aluksi sinun ei tarvitse tallettaa suurta summaa. Pienellä latauksella voit... Integraation tarkistaminen ja todellisen kulutuksen mittaaminen ennen kuin käytät kalliimpia malleja.

Krediitit eivät oikeuta ChatGPT-, Claude- tai Gemini-tilaukseen. OpenRouter-saldosi käytetään vain sen oman API:n kautta käsiteltyihin pyyntöihin.

OpenRouterin yhdistäminen Open WebUI -asetuksista

Suora integrointi OpenAI-yhteensopivan API:n kautta on yksinkertaisin ja tällä hetkellä suositeltu menetelmä.

Avaa profiilisi Open WebUI:ssa ja siirry kohtaan:

Panel de administración > Ajustes > Conexiones

Joidenkin asetusten tarkka sijainti tai nimi voi vaihdella hieman asennetusta versiosta riippuen. Lisää uusi yhteys ja määritä nämä kentät:

• Toimittaja: Avoin tekoäly.
• API-tyyppi: Keskustelujen suorittaminen.
• Perus-URL-osoite: https://openrouter.ai/api/v1.
• API-avain: OpenRouterissa luotu avain.
• Etuliitetunnus: openrouter.

Vaikka valitsisit OpenAI:n palveluntarjoajaksesi, pyyntöjä ei lähetetä OpenAI:lle, ellet valitse jotakin sen malleista. Open WebUI käyttää tätä luokkaa ryhmitelläkseen samaa API-muotoa tukevia palveluita.

Etuliite-ID on valinnainen, mutta erittäin suositeltava. Sen avulla voit erottaa etämallit muista, joilla voi olla samanlainen nimi. Malli voidaan esimerkiksi tunnistaa seuraavasti:

openrouter/openai/gpt-4.1

Kun olet syöttänyt tiedot, käytä vaihtoehtoa yhteyden vahvistamiseen ja muutosten tallentamiseen. Jos avain on kelvollinen, Open WebUI tekee kyselyn OpenRouter-mallin päätepisteeseen ja lisää käytettävissä olevat vaihtoehdot keskusteluvalitsimeen.

Kuinka näyttää vain ne mallit, joita aiot käyttää

OpenRouterilla on erittäin laaja luettelo. Sen näyttäminen kokonaisuudessaan voisi täyttää Open WebUI -valitsimen sadoilla vaikeasti erotettavilla varianteilla.

Yhteyden avulla voit jättää mallikentän tyhjäksi, jolloin koko luettelo löydetään automaattisesti, tai syöttää pilkulla erotetun tunnisteluettelon manuaalisesti. Tämä toinen vaihtoehto on kätevämpi, jos työskentelet vain muutaman mallin kanssa.

Tunnisteiden on vastattava OpenRouterin käyttämiä slug-objekteja. Ne noudattavat tyypillisesti tätä rakennetta:

empresa/modelo

Yhteensopiviin ilmaisiin malleihin kuuluu tyypillisesti pääte:

empresa/modelo:free

Tunniste on parasta kopioida suoraan mallin tiedoista OpenRouterissa. Älä päättele sitä tuotemerkistä, sillä eri versioilla voi olla samankaltaisia ​​nimiä.

Voit myös aktivoida tai deaktivoida malleja yksitellen Open WebUI:ssa ja asettaa yhden niistä oletusasetukseksi uusille keskusteluille.

Miksi jotkin OpenRouter-mallit eivät toimi

Se, että malli näkyy luettelossa, ei takaa, että sitä voidaan käyttää minkä tahansa yksityisyysasetuksen kanssa. OpenRouter voi reitittää saman pyynnön eri päättelypalveluntarjoajille, ja jokaisella on omat lokikirjaus-, säilytys- ja koulutuskäytäntönsä.

Jos pyyntö palauttaa virheen, tarkista ensin:

• Että API-avain pysyy aktiivisena.
• Että tilillä on riittävästi saldoa.
• Että mallitunniste on oikein.
• Että et ole ylittänyt hakemusten enimmäismäärää.
• Että on olemassa ainakin yksi palveluntarjoaja, joka on yhteensopiva tietosuoja-asetuksesi kanssa.
• Että malli tai tarjoaja ei ole tilapäisesti kyllästynyt.

Yleisimpiä virheitä ovat koodi 401 virheellisille tunnistetiedoille, 402 riittämättömille varoille, 403 yhteensopimattomille käyttöoikeuksille tai käytännöille ja 429 pyyntörajan saavuttamiselle.

OpenRouter voi käyttää vaihtoehtoisia palveluntarjoajia, jos yksi niistä epäonnistuu ennen vastauksen alkamista. Jos virhe kuitenkin ilmenee tunnuksen lähetyksen alkamisen jälkeen, Open WebUI:ssa saattaa näkyä epätäydellinen vastaus.

OpenRouterin yksityisyyden määrittäminen

Älä ota käyttöön syötteen/tulosteen lokitietoja mallien lukituksen avaamiseksi. Tätä ominaisuutta käytetään kehotteiden ja vastausten sisällön tallentamiseen OpenRouterin yksityisiin lokeihin virheenkorjauksen helpottamiseksi.

Oletusarvoisesti OpenRouter ei tallenna kehotteiden ja vastausten sisältöä, vaikka se säilyttääkin metatietoja, kuten käytetyn mallin, tokeneiden määrän, kustannuksen ja viiveen. Pyyntö toimitetaan kuitenkin kolmannen osapuolen palveluntarjoajalle, joka saattaa soveltaa eri käytäntöä.

Tietosuoja-asetuksistasi voit estää pyyntöjen lähettämisen palveluntarjoajille, jotka käyttävät tietojasi koulutustarkoituksiin. Voit myös vaatia palveluntarjoajilta tietosuojakäytäntöä. nolla tietojen säilytystä tai ZDRNämä rajoitukset parantavat yksityisyyttä, mutta saattavat vähentää käytettävissä olevien reittien määrää ja estää tiettyjen mallien toiminnan.

OpenRouter erottaa useita päätöksiä, joita ei pidä sekoittaa keskenään:

• Yksityinen tietue: Se tallentaa kehotteet ja vastaukset, jotta voit viitata niihin.
• Tulojen ja lähtöjen käyttö: valtuuttaa OpenRouterin käyttämään sisältöä palvelunsa parantamiseen alennusta vastaan.
• Palveluntarjoajan koulutus: sallii tai estää sellaisten reittien käytön, joiden tarjoajat voivat harjoitella datan avulla.
• Ei tietojen säilytystä: Se rajoittaa pyynnön päätepisteisiin, jotka eivät säilytä sisältöään.

Jos aiot käsitellä salasanoja, luottamuksellisia asiakirjoja, lääketieteellisiä tietoja, henkilötietoja tai arkaluontoista liiketoimintamateriaalia, sinun ei tule lähettää sitä tarkistamatta ensin valitun mallin ja palveluntarjoajan käytäntöjä. Avoimen WebUI:n suorittaminen kotipalvelimella Se ei tee OpenRouterilla luotua vastausta paikalliseksi..

Kuinka hallita mallien hankintaa

Järjestelmäkehote, joka pyytää lyhyitä vastauksia, voi vähentää kulutusta, mutta se ei ole ainoa käytettävissä oleva toimenpide eikä aina tehokkain. Koko keskusteluhistoria lähetetään uudelleen jokaisen pyynnön yhteydessä, joten erittäin pitkä keskustelu voi kuluttaa enemmän syöttötokenia, vaikka vastaus olisi lyhyt.

Kustannusten hallitsemiseksi:

• Tarkista sisään- ja ulosmenohinta ennen mallin valintaa.
• Aseta API-avaimelle kulutusraja aina kun mahdollista.
• Aloita ilmaisilla tai edullisilla malleilla yksinkertaisiin tehtäviin.
• Rajoita malliparametreista saatavien lähtötokenien enimmäismäärää.
• Avaa uusi keskustelu, kun aiempaa historiaa ei enää tarvita.
• Vältä kokonaisten asiakirjojen liittämistä, jos sinun tarvitsee analysoida vain yhtä osiota.
• Tarkista OpenRouterin toiminta ja käyttö -osio säännöllisesti.
• Poista käytöstä kalliit mallit, joita et aio käyttää.

Mallin pyytäminen välttämään tarpeettomia esittelyjä, toistoja ja johtopäätöksiä auttaa myös. Muutaman emojien poistamisella on kuitenkin vain vähän vaikutusta verrattuna tuhansien kontekstitunnusten uudelleenlähettämisen kustannuksiin jokaisella vuorolla.

Onko OpenRouter-ominaisuuden asentaminen välttämätöntä?

Joissakin vanhemmissa oppaissa ehdotetaan funktion tuontia tai Putki Open WebUI:sta URL-osoitteen kautta. Tällä hetkellä tämä ei ole välttämätöntä perinteiselle yhteydelle, koska Open WebUI tukee suoraan OpenAI-rajapinnan kanssa yhteensopivia palveluntarjoajia..

Lisäksi funktion tuominen edellyttää lisäkoodin suorittamista asennuksen sisällä. Sinun tulisi tehdä tämä vain silloin, kun tarvitset ominaisuutta, jota natiiviyhteys ei tarjoa, ja vasta tarkistettuasi koodin, sen alkuperän, käyttöoikeudet ja ylläpidon.

Sillä käyttää tavallista OpenRouter-luetteloa, suora yhteys kautta:

https://openrouter.ai/api/v1

Se on riittävä ja helpompi konfiguroida, päivittää ja diagnosoida.

Mitä tehdä, jos mallit eivät näy Open WebUI:ssa

Yhteyden tallentamisen jälkeen päivitä sivu ja avaa mallivalitsin. Jos vaihtoehtoja ei näy, tarkista seuraavat:

1. Varmista, että URL-osoite päättyy täsmälleen /api/v1.
2. Varmista, että avaimen edessä tai jälkeen ei ole välilyöntejä.
3. Tarkista, ettei avainta ole deaktivoitu tai rajoitettu ilman saldoa.
4. Jätä mallikenttä tilapäisesti tyhjäksi, jotta automaattinen haku on mahdollinen.
5. Tarkista, onko käyttäjällä oikeus käyttää ulkoisia malleja.
6. Tarkista Open WebUI -lokit, jos vahvistus palauttaa virheen.
7. Käynnistä säilö tai palvelu uudelleen, jos käyttöliittymä säilyttää aiemman määrityksen.

Jos koko luettelon lataaminen kestää liian kauan, määritä manuaalisesti muutamia mallitunnisteita yhdistämisprosessin aikana. Tämä myös pitää valitsimen siistimpänä ja vähentää riskiä valita vahingossa erityisen kallis vaihtoehto.

Yhdistä OpenRouter Open WebUI:n kanssa Sen avulla voit yhdistää paikalliset mallit ja pilvipalvelut yhteen käyttöliittymään. Perusasennus sisältää erillisen avaimen luomisen, Lisää OpenAI-yhteys URL-osoitteella https://openrouter.ai/api/v1 ja valitse vain ne mallit, joita todella aiot käyttää.

Tulos tarjoaa enemmän vaihtelua ja välttää paikallisen laitteiston käytön suurten mallien suorittamisessa. Vastineeksi sinun on pidettävä silmällä kunkin mallin hintaa ja muistettava, että pyynnöt lähtevät palvelimeltasi. Kulutusrajojen asettaminen ja tietosuojakäytäntöjen tarkistaminen antavat sinun hyödyntää OpenRouterin kätevyyttä menettämättä hallintaa lähetettyihin krediitteihin ja dataan.