Langflow не се свързва с Ollama: грешки и решения

Изпълнението на модели с изкуствен интелект на вашия собствен компютър ви позволява да поддържате по-голям контрол върху данните си и да избегнете повтарящите се разходи за някои търговски API. Една от най-интересните комбинации за постигане на това е използването Ollam като сървър за модели и Langflow като визуален редактор на приложения, агенти и потоци с изкуствен интелект.

Инсталирането и на двата инструмента обаче не гарантира, че те могат да комуникират. Често срещано е да отворите компонента Ollama в Langflow и да откриете празен селектор на модел, грешка в връзката или адрес, който работи от браузъра, но не и от Docker.

Проблемът обикновено е с мрежата, адреса на сървъра или начина, по който е инсталиран Langflow. Ще разгледаме това по-нататък. Как да свържете Langflow с Ollama в Windows, Linux и Docker, в допълнение към отстраняването на най-често срещаните грешки.

Проверете дали Олама работи

Преди да модифицирате Langflow, уверете се, че Ollama работи правилно. Отворете терминал и използвайте:

ollama list

Командата ще покаже инсталираните модели. Ако списъкът е празен, ще трябва да изтеглите един, преди да можете да го изберете от Langflow.

ollama pull qwen3:4b

Горното име е само пример. Можете да изберете друг вариант в зависимост от наличната памет и функциите, от които се нуждаете.

Можете също така директно да проверите дали Ollama API отговаря, като отворите този адрес:

http://localhost:11434/api/tags

Ако Ollama работи, сървърът ще върне JSON документ с наличните модели. Когато тази стъпка е неуспешна, проблемът все още не е в Langflow: първо трябва да стартирате или поправите услугата Ollama.

Поправете празния или заключен селектор на модели

Компонентът Ollama на Langflow получава моделите чрез запитване към сървъра, посочен в полето. Базов URL адресСлед като връзката е установена, полето Име на модела Трябва да се покажат инсталираните модели. Можете също да натиснете бутона за обновяване до селектора, за да видите списъка отново.

Ако Langflow и Ollama се изпълняват директно на една и съща система, обичайният адрес е:

http://127.0.0.1:11434

В някои версии на компонента се появява опцията Моделът на инструмента е активиранКогато е активирано, Langflow филтрира списъка и показва само моделите, които Ollama идентифицира като съвместими с извиквания на инструменти.

Това означава, че активирането на опцията не отключва всички модели. Всъщност, ако използвате модел, който не декларира тази възможност, падащото меню може да остане празно. За първоначален тест, Деактивирайте модела на инструмента, обновете списъка и проверете дали моделът се появява..

Тази опция също не бива да се бърка с Режим на инструментаДостъпно в менюто на различни компоненти. Режимът на инструмент се използва за преобразуване на компонент в инструмент, който може да се свърже с агент; не се използва за възстановяване на връзката с Ollama.

Избор на правилния адрес за Олама

Една от най-честите грешки е използването localhost без да се взема предвид къде се изпълнява Langflow. В рамките на контейнер този адрес се отнася до самия контейнер, а не до хост машината.

Правилната посока зависи от инсталацията:

Конфигурация	Обичайният адрес на Олама
Langflow и Ollama, инсталирани в една и съща система	http://127.0.0.1:11434
Langflow в Docker и Ollama на Windows или macOS	http://host.docker.internal:11434
Langflow и Ollama в една и съща Docker мрежа	http://ollama:11434
Олама е в друг отбор в локалната мрежа	http://IP_DEL_SERVIDOR:11434

В третия случай, ollama трябва да съвпада с името, присвоено на услугата в Docker Compose.

Ако Langflow е в Docker контейнер на Linux и Ollama работи на хоста, може да се наложи да добавите следната конфигурация към услугата Langflow:

extra_hosts:
  - "host.docker.internal:host-gateway"

След това ще трябва да пресъздадете или рестартирате контейнера, за да приложите промяната.

Разрешаване на външни връзки с OLLAMA_HOST

Олама слуша по подразбиране 127.0.0.1:11434Това защитава сървъра от външни връзки, но може също така да попречи на Langflow да има достъп до него от друг контейнер или машина.

В инсталация на Linux, управлявана от systemd, можете да промените адреса за слушане с:

sudo systemctl edit ollama

Добавете следните редове:

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

Запазете файла и приложете промените:

sudo systemctl daemon-reload
sudo systemctl restart ollama

В Windows, Ollama ви позволява да конфигурирате променливата на средата OLLAMA_HOSTСлед като го създадете или промените, трябва напълно да затворите приложението и да го рестартирате, за да може то да прочете новата стойност.

Използвайте 0.0.0.0 Това кара Ollama да слуша на всички мрежови интерфейси. Тази конфигурация може да е необходима, но Не трябва да публикувате порт 11434 директно в интернет.Локалният API не е проектиран да бъде оставен изложен без допълнителен слой за удостоверяване и защита.

Винаги, когато е възможно, дръжте Ollama и Langflow в частна Docker мрежа или ограничете достъпа през защитната стена.

Инсталирайте Langflow и необходимите компоненти

Docker е един от най-удобните начини за стартиране на Langflow, тъй като държи зависимостите си отделно от останалата част от системата. Официалната документация предоставя предварително изградени образи и примери за Docker Compose с постоянно съхранение.

Можете също да инсталирате Langflow, използвайки Python. Ако инсталирате пълния пакет, обичайните компоненти вече са включени:

uv pip install langflow

Проектът позволява и инсталирането на lfx независимо. В този случай някои доставчици се разпространяват чрез допълнителни пакети. За да добавите само пакета Ollama, можете да използвате:

uv pip install "lfx-bundles[ollama]"

Ако трябва да инсталирате всички допълнителни пакети:

uv pip install "lfx[bundles]"

Инсталирането на всички доставчици заема повече място и добавя зависимости, които вероятно няма да използвате. Следователно, за по-компактна инсталация е за предпочитане да добавите само необходимия пакет.

След инсталиране на разширение, трябва да рестартирате Langflow. Можете също да проверите откритите компоненти с:

lfx extension list

Създайте локален агент, способен да използва инструменти

Разговорният модел не винаги е способен да генерира извиквания на инструменти в очаквания формат. За да свържете калкулатор, търсачка, MCP сървър или друг компонент към агент, ви е необходим модел, който поддържа извикване на инструмент.

Библиотеката Олама се идентифицира с етикета инструменти Моделите, които предлагат тази възможност. Наличните семейства и варианти се променят с времето, но Qwen 3 предлага различни размери, съвместими с инструменти.

Можете да изтеглите например:

ollama pull qwen3:4b

По-малкият вариант консумира по-малко памет, въпреки че може да допуска повече грешки при избора на инструменти или конструирането на аргументите си. Ако системата го позволява, по-големият модел обикновено предлага по-надеждна производителност.

За да създадете потока:

1. Добавяне на компонент Агент към платното.
2. Изберете Персонализирано като доставчик на модел, ако използваната версия показва тази опция.
3. Добавете компонента Ollama и въведете правилния адрес на сървъра.
4. Активен Моделът на инструмента е активиран за да се покажат съвместими модели.
5. Изберете модела и свържете неговия изход. Езиков модел със съответното вписване на агента.
6. Добавете калкулатор, търсачка или друг компонент и го активирайте Режим на инструмента.
7. Свържете изхода на инструмента към порта Инструменти от агента.

Модел на инструмента Активираният филтрира моделите; Режимът на инструмента превръща компонентите в инструменти. Въпреки че имената им звучат сходно, изпълняват различни функции.

Какво да направите, ако агентът игнорира инструментите

Само защото даден модел е съвместим с определени инструменти, не означава, че ще ги избира правилно във всяка заявка. Малките, локални модели могат да отговарят от паметта, дори когато би трябвало да отправят заявка към външен източник.

За да подобрите поведението, можете да:

• Ясно обяснете в системното съобщение кога да използвате всеки инструмент.
• Дайте точни имена и описания на инструментите.
• Избягвайте да имате два инструмента с почти еднакви функции.
• Опитайте по-голям модел или такъв, който е по-подходящ за агентски задачи.
• Намалете температурата, за да получите по-малко случайни реакции.
• Прегледайте стъпките за изпълнение от Детската площадка.

Температура като 0.1 Това може да увеличи съгласуваността, но само по себе си не коригира несъвместим модел или лошо описан инструмент.

За да тествате конфигурацията, започнете с недвусмислена заявка, като например математическа операция, която принуждава агента да използва калкулатора. След това можете да опитате по-отворени сценарии.

Оптимизирайте хардуера за изпълнение на локални модели

Размерът на модела, неговото квантуване и дължината на контекста до голяма степен определят консумацията на памет. Ако всички тегла се побират във видеопамята (VRAM), Ollama може да използва по-добре графичния процесор (GPU). Ако не се побират, може да прехвърли част от работата към RAM и процесора, въпреки че генерирането ще бъде по-бавно.

Не е достатъчно да се сравни размерът на файла с наличната VRAM памет. Паметта е необходима и за кеширане на контекста и други операции за извод. Много голям контекстен прозорец може значително да увеличи консумацията на памет.

Ако Ollama показва грешка, показваща, че няма достатъчно памет, опитайте тези решения:

• Използвайте по-малък квантован вариант.
• Намалете размера или параметрите на модела.
• Намалете дължината на контекста.
• Затворете други приложения, които консумират VRAM или RAM.
• Стартирайте Ollama на друг компютър и свържете Langflow чрез мрежата.

Langflow не изпълнява директно модела, когато се свързва с Ollama. Сървърът на Ollama решава как да разпредели натоварването между графичния процесор, процесора и паметта. Следователно, инсталирането на Langflow в Docker не пречи на Ollama да се възползва от ускорението, налично на хоста.

Решения за най-често срещаните грешки при свързване

Ако Langflow все още не показва моделите, проверете тези точки по ред:

• Проверете това ollama list показва поне един модел.
• Достъп /api/tags за да проверите дали API отговаря.
• Използвайте адреса, който съответства на вашата архитектура.
• Временно деактивиране Моделът на инструмента е активиран.
• Натиснете бутона за актуализиране на селектора на модел.
• Проверете дали порт 11434 не е блокиран от защитната стена.
• Проверете лог файловете на Langflow и Ollama.
• Актуализирайте и двете приложения, ако използвате по-стара версия.

Можете също така да тествате връзката от самия контейнер на Langflow. Това помага за откриване на ситуации, в които Ollama отговаря от хоста, но не е достъпен в Docker.

След като моделът се появи в компонента, създайте прост поток с вход за чат, Ollama и изход. Едва след валидиране на тази комуникация трябва да добавите агенти, инструменти, памет или извличане на документи.

Комбинирането на Langflow и Ollama ви позволява да проектирате визуални приложения, използвайки модели, работещи на вашата собствена инфраструктура. Ключът е да се разбере, че и двете програми са независими услуги. Ollama обслужва модела, а Langflow комуникира чрез неговия API.Когато адресът, мрежата и възможностите на модела са правилно конфигурирани, можете да изграждате агенти и автоматизации, без да разчитате на външен доставчик на изводи.