Complete handleiding voor het verbinden van Open WebUI met OpenAI-compatibele API's

¿Hoe verbind ik Open WebUI met een OpenAI-compatibele API? Als je Open WebUI hebt gedownload en de ervaring naar een hoger niveau wilt tillen, zul je gemerkt hebben dat je je niet hoeft te beperken tot de basis. De echte kracht zit hem in... De software koppelen aan externe API's die voldoen aan de OpenAI-standaard, waardoor je naadloos van het ene model naar het andere kunt overschakelen en kunt profiteren van de kracht van de beste beschikbare servers.

Het mooiste is dat Open WebUI niet beperkt is tot één enkele provider, maar fungeert als een protocolgebaseerd commandocentrum. Dit betekent dat zolang de externe service de taal spreekt, Open WebUI kan werken. De Chat Completions-taal van OpenAIJe kunt het met slechts een paar klikken integreren, of je nu gebruikmaakt van ultrasnelle modellen, complexe redeneeragenten of geïntegreerde oplossingen in de Amazon-cloud.

Basisconfiguratie voor een OpenAI-verbinding

Om de instellingen aan te passen, ga je naar het beheerderspaneel, vervolgens naar Instellingen en zoek je het gedeelte Verbindingen. Daar zie je dat je Nieuwe OpenAI-verbindingen toevoegen door op het plusteken te klikken. Het belangrijkste is nu om de basis-URL van de service en uw persoonlijke API-sleutel in te voeren.

Als u Azure OpenAI gebruikt, verandert het proces enigszins. U moet het providertype wijzigen naar Azure OpenAI en geef de API-versie op (bijvoorbeeld 2024-02-15-preview) samen met de URL van uw specifieke resource in Azure. Een belangrijk detail hierbij is dat u het volgende nodig hebt: Voeg de namen van de implementaties toe. in het gedeelte met model-ID's, zodat het systeem precies weet met welke instantie het moet communiceren.

Integratie van compatibele aanbieders

Er zijn tal van services die, hoewel niet van OpenAI, dezelfde structuur gebruiken om migratie te vereenvoudigen. Hieronder vindt u de meest bekende en hoe u ze kunt configureren:

• Antropisch (Claude): Gebruik de URL https://api.anthropic.com/v1Open WebUI heeft een compatibiliteitslaag die modellen automatisch detecteert, maar voor het benutten van geavanceerde functies zoals PDF-verwerking of uitgebreidere mogelijkheden, is de eigen API de betere keuze.
• Google Gemini: Het maakt verbinding via https://generativelanguage.googleapis.com/v1beta/openaiHet enige wat je nodig hebt is je AI Studio-licentiesleutel en de modellen worden automatisch geladen.
• DeepSeek en Mistral AI: Beide zijn volledig compatibel. Voor DeepSeek, gebruik https://api.deepseek.com/v1 en voor Mistral https://api.mistral.ai/v1In beide gevallen is de automatische patroondetectie Het werkt perfect.
• Groq: Als je op zoek bent naar pure snelheid, gebruik dan https://api.groq.com/openai/v1Het is ideaal voor het uitvoeren van Llama 3 of DeepSeek-R1 met minimale latency.
• Verwarring: Gebruik https://api.perplexity.aiMerk hier op dat de model-ID's (zoals sonar-pro) moet handmatig worden toegevoegd omdat ze zichzelf niet detecteren.

Bijzondere gevallen: MiniMax en Vercel AI Gateway

Als je geïnteresseerd bent in programmeren, is MiniMax een fantastische optie. Nadat je je hebt aangemeld voor hun programmeerpakket en je licentiesleutel hebt ontvangen, kun je de URL configureren. https://api.minimax.io/v1Aangezien ze geen model-eindpunt beschikbaar stellen, is dit verplicht. MiniMax-M2.5 handschrift Voeg dit toe aan het filter voor model-ID's, zodat het in het keuzemenu verschijnt.

Aan de andere kant, als u meerdere leveranciers vanaf één locatie wilt beheren, Vercel AI Gateway Dat is de oplossing. Met de URL https://ai-gateway.vercel.sh/v1Vanuit een centraal dashboard kunt u de uitgaven en de routering van verzoeken naar verschillende AI's monitoren, met behoud van compatibiliteit met het OpenAI-formaat.

Verbinding maken met Amazon Bedrock (AWS)

Het migreren van Open WebUI naar AWS Bedrock is iets complexer, maar biedt professionele robuustheid. Er zijn drie hoofdroutes, afhankelijk van uw behoeften:

1. Bedrock Access Gateway (BAG)

Het is een AWS-proxy die Bedrock-aanroepen omzet naar het OpenAI-formaat. Na implementatie met Docker is de URL die u in Open WebUI moet invoeren: http://host.docker.internal:8000/api/v1Standaard is de API-sleutel rotsbodemTenzij je dit hebt gewijzigd in het configuratiebestand.

2. stdapi.ai

Deze tool is een completere toegangspoort die het mogelijk maakt toegang tot meerdere regio's en ondersteuning voor extra services zoals Amazon Polly (tekst-naar-spraak) of Transcribe. Je kunt het implementeren op ECS Fargate of lokaal. In Open WebUI configureer je de omgevingsvariabelen of het configuratiescherm met behulp van de URL van je stdapi.ai-instantie en de geheime sleutel die je definieert.

3. Gesteentemantel

Het is de eenvoudigste optie omdat het AWS native En het vereist geen installatie van extra infrastructuur. Je hebt alleen je Bedrock API-sleutel nodig en je moet de URL configureren volgens je regio (bijvoorbeeld, us-east-1De beperking is dat het alleen chataanvullingen en één optie ondersteunt. subset van open gewichtsmodellen.

Geavanceerde tips en probleemoplossing

Soms, bij het toevoegen van meerdere API's, kunnen modellen dezelfde naam hebben en verwarring veroorzaken. Om dit te voorkomen, kunt u het volgende gebruiken: Voorvoegsel-ID in de instellingen; bijvoorbeeld, plaats groq/ zodat het model eruitziet als groq/llama3 en precies weten welke server je gebruikt.

Als u fouten tegenkomt in verbinding misluktControleer of de basis-URL correct is. Een veelgemaakte fout is proberen verbinding te maken met https://api.openai.com/v1 in het gedeelte "Externe tools" in plaats van het gedeelte OpenAI-verbindingen. Als u Ollama als backend gebruikt, houd er dan rekening mee dat Open WebUI intern met Ollama communiceert, maar voor externe API's. Je hebt een geldige sleutel nodig. en een eindpunt dat toegankelijk is vanuit de container.

De veelzijdigheid van Open WebUI schuilt in het vermogen om als brug te fungeren tussen de gebruiker en elke AI-engine die de OpenAI-standaard respecteert. Dit maakt alles mogelijk, van eenvoudige lokale configuraties met Ollama tot grootschalige bedrijfsimplementaties op AWS Bedrock of het gebruik van gespecialiseerde code en redeneermodellen via slimme proxies en gateways.