- Configuración de Ollama como motor de inferencia y despliegue de Open WebUI mediante Docker o instalación manual.
- Métodos para descargar modelos oficiales y la integración de archivos GGUF personalizados para ampliar las capacidades del chat.
- Uso de herramientas como llama-swap para alternar dinámicamente entre diversos modelos de IA dentro de una misma sesión.
¿Cómo añadir varios modelos de IA a Open WebUI y cambiar entre ellos? Si te has sumergido en el mundo de la inteligencia artificial local, seguramente habrás oído hablar de Open WebUI. Es una herramienta sencillamente brutal que nos permite tener una interfaz visualmente atractiva y funcional para interactuar con diversos modelos de lenguaje sin tener que pelearnos con la terminal todo el rato. Lo mejor de todo es que la versatilidad de este sistema permite conectar diferentes motores de IA, facilitando que podamos saltar de un modelo a otro según la tarea que tengamos entre manos.
Llevar a cabo esta configuración puede parecer un mundo al principio, pero una vez que entiendes cómo se comunican el backend y el frontend, es pan comido. Ya sea que quieras montar todo en un servidor Ubuntu, utilizar contenedores de Docker para no ensuciar tu sistema o optimizar la gestión de modelos mediante herramientas externas como llama-swap, existen rutas claras para lograr un entorno de trabajo potente y flexible.
Montando el motor: Instalación de Ollama
Antes de tener la interfaz bonita, necesitamos el cerebro que mueva todo, y ahí es donde entra Ollama. Para quienes usan distribuciones basadas en Debian o Ubuntu, el proceso es bastante directo. Si tienes una tarjeta gráfica de Nvidia, lo primero y más importante es asegurar que los controladores CUDA estén bien instalados, ya que sin ellos el rendimiento sería lamentable.
Una vez listo el hardware, se puede instalar Ollama descargando el binario y creando un servicio de sistema para que arranque solo. Un detalle clave aquí es la configuración de la red: por defecto, la API de Ollama solo escucha en el puerto 11434 para el host local. Si planeas conectar Open WebUI desde otro servidor, deberás cambiar la dirección de escucha a 0.0.0.0 en el archivo de servicio y abrir el puerto correspondiente en el firewall para que la comunicación fluya sin bloqueos.
Desplegando la interfaz Open WebUI
Hay dos caminos principales para instalar la interfaz. El camino rápido y limpio es mediante Docker. Usando un comando simple, podemos lanzar la imagen oficial, mapeando el puerto 8080 o el 3000 según nuestra preferencia. Es fundamental utilizar la bandera –add-host para que el contenedor pueda comunicarse con la API de Ollama si esta reside en la máquina host.
Para los más puristas que prefieren la instalación manual, el proceso implica clonar el repositorio, instalar las dependencias de Python y Node.js (npm), y configurar el archivo de entorno. En este caso, es vital verificar la dirección de la API de Ollama en el archivo .env para que la web sepa exactamente dónde buscar los modelos. Independientemente del método, recuerda que si tienes un firewall activo como UFW, debes habilitar los puertos TCP necesarios para no quedarte fuera de tu propia instalación.
Gestión y adición de múltiples modelos de IA
Una vez dentro de la interfaz, el primer paso es crear la cuenta de administrador. Desde el panel de configuración, en la sección de «Modelos», puedes empezar a descargar los modelos oficiales (como Llama 2 o Llama 3) simplemente escribiendo su nombre y dándole al botón de descarga. Si quieres ampliar el catálogo con modelos personalizados, puedes hacerlo subiendo archivos .gguf a través de la ruta de creación de modelos en la web o mediante comandos de terminal en el servidor de Ollama.
Para aquellos que buscan una gestión aún más avanzada, el uso de llama-swap es una opción increíble. Esta herramienta permite extender el endpoint /v1/models, lo que hace que Open WebUI reconozca automáticamente una lista de modelos con sus descripciones. Esto facilita enormemente la experiencia, ya que permite cambiar la respuesta de un chat regenerándola con un modelo diferente (por ejemplo, pasar de un modelo generalista a uno especializado en código como qwen3 coder) sin tener que reiniciar la conversación.
Trucos avanzados y resolución de problemas
Cuando hablamos de entornos empresariales, es común querer implementar RAG (Generación Aumentada por Recuperación) para que la IA conozca documentos internos en PDF, Word o Excel. No obstante, la calidad de la lectura de archivos puede variar y a veces la IA puede inventar datos si el formato del documento es complejo. Para solucionar esto en despliegues de cientos de usuarios, lo ideal es segmentar el conocimiento por departamentos y optimizar la ingesta de documentos para evitar alucinaciones.
Para alternar entre varios modelos durante una misma sesión, Open WebUI ofrece un selector en la parte superior del chat. Si has añadido varias opciones, puedes usar el signo «+» para comparar respuestas en tiempo real. Esto es especialmente útil para validar cuál de los modelos instalados ofrece la respuesta más precisa para una tarea concreta, permitiendo una transición fluida entre diferentes LLM según la necesidad del momento.
Tener un ecosistema donde Ollama gestiona el cómputo y Open WebUI la interacción permite una libertad total sobre nuestros datos y la IA que utilizamos. Desde la instalación básica en Ubuntu y la apertura de puertos en el firewall, pasando por la descarga de modelos personalizados y la integración con herramientas como llama-swap para el cambio dinámico de modelos, hasta la implementación de bases de conocimientos para empresas, el sistema es robusto y altamente escalable para cualquier entusiasta o profesional de la tecnología.
Apasionado de la tecnología desde pequeñito. Me encanta estar a la última en el sector y sobre todo, comunicarlo. Por eso me dedico a la comunicación en webs de tecnología y videojuegos desde hace ya muchos años. Podrás encontrarme escribiendo sobre Android, Windows, MacOS, iOS, Nintendo o cualquier otro tema relacionado que se te pase por la cabeza.