Як підключити Mem0 до Ollama для створення локальної пам'яті

Останнє оновлення: 27/08/2026

  • Створення екосистеми постійної пам'яті з використанням Ollama як механізму міркування та вбудовування.
  • Реалізація локальних векторних баз даних за допомогою Qdrant або ChromaDB для уникнення залежності від хмари.
  • Оптимізація вилучення фактів шляхом синхронізації певних векторних розмірів.
Як використовувати браузер з Ollama та локальними моделями

Мовні моделі не запам'ятовують автоматично, що відбувалося в попередніх розмовах. Коли ви закриваєте програму, перемикаєте сеанси або видаляєте старі повідомлення з контекстного вікна, модель втрачає цю інформацію.

Один зі способів подолати це обмеження – це Зв'яжіть Memo з OllamaOllama запускає генеративну модель та модель вбудовування локально, тоді як Mem0 витягує корисну інформацію з розмов, упорядковує її та дозволяє її отримати, коли вона знову стає актуальною.

Замість того, щоб завжди надсилати всю історію до моделі, програма може отримати кілька спогадів, пов'язаних з поточним запитом, і вставити їх у підказку. Це зменшує обсяг контексту та дозволяє зберігати налаштування, цілі або важливі факти між сеансами.

Інсталяція може повністю функціонувати в межах вашої інфраструктури, якщо ви використовуєте Ollama, Mem0 OSS та локальну базу даних. Однак максимальна конфіденційність залежатиме від усіх підключених компонентів. Якщо ви додасте зовнішню модель, реранкер, базу даних або керований сервіс, деякі дані можуть залишити вашу систему.

Що робить Mem0 і яку функцію виконує Ollama?

Що робить Mem0 і яку функцію виконує Ollama?

Mem0 та Ollama вирішують різні проблеми. Оллама відповідає за керування моделямитоді як Mem0 забезпечує операції, необхідні для додавання, пошуку, запиту, оновлення та видалення пам'яті.

Під час збереження Mem0 може аналізувати розмову та витягувати факти, які можуть бути корисними пізніше. Наприклад:

  • Користувач віддає перевагу коротким відповідям.
  • Він розробляє застосунок на Rust.
  • Він не хоче жодних рекомендацій щодо фільмів жахів.
  • Їхня мета — подолати гонку менш ніж за чотири години.

Mem0 перетворює кожен об'єкт пам'яті на числове представлення, використовуючи модель вбудовування, та зберігає його разом із вмістом і метаданими. Під час виконання пошуку він поєднує запит із фільтрами, такими як ідентифікатор користувача, та повертає найрелевантніші об'єкти пам'яті.

Поточні версії Mem0 переважно використовують адитивне вилучення. Це означає, що нову інформацію можна зберігати без автоматичного видалення попередніх даних. Якщо дані застаріли та потребують виправлення, програма може явно використовувати відповідні операції. update() o delete().

Mem0 не замінює розмовну модель. Додаток повинен отримати спогади, включити їх у системне повідомлення або контекст і попросити Ollama згенерувати відповідь.

Компоненти, необхідні для підключення Mem0 до Ollama

Для створення локальної системи вам знадобляться такі компоненти:

  • Записка OSS: керує вилученням, зберіганням та пошуком спогадів.
  • Оллама: Він виконує генеративну модель та модель вбудовування.
  • Мовна модель: Він інтерпретує розмови та генерує відповіді.
  • Модель вбудовування: перетворює спогади та запити на вектори.
  • Векторний склад: Це зберігає вектори та дозволяє шукати пов'язані спогади.
  • Заява: Він поєднує розмову, пошук інформації та збереження інформації в пам'яті.

Qdrant та Chroma – два поширені варіанти зберігання даних:

Магазин Рекомендоване використання
Квадрант Постійні сервіси, кілька програм та розгортання за допомогою Docker
Хрома Локальне тестування та невеликі програми зі сховищем у папках

Qdrant надає окремий API та спрощує відокремлення векторної бази даних від програми. Chroma може використовувати локальний маршрут, що спрощує початкове тестування.

Як встановити Mem0, Ollama та Qdrant

Спочатку встановіть Ollama та перевірте, чи сервіс працює. Потім завантажте мовну модель та модель вбудовування:

ollama pull llama3.1:latest
ollama pull nomic-embed-text:latest

llama3.1:latest Це модель, що використовується в офіційному прикладі Mem0, але ви можете замінити її іншою навчальною моделлю, сумісною з Ollama. Менші моделі споживають менше пам'яті, хоча вони можуть витягувати дані з меншою точністю або гірше дотримуватися очікуваного формату.

Ексклюзивний вміст - натисніть тут  Копіювання результатів команди Windows

Встановіть залежності Python:

pip install mem0ai qdrant-client openai ollama

Щоб запустити Qdrant у Docker та зберегти дані за допомогою тома, використовуйте:

docker volume create qdrant_storage

docker run -d \
  --name qdrant \
  -p 6333:6333 \
  -p 6334:6334 \
  -v qdrant_storage:/qdrant/storage \
  qdrant/qdrant

Порт 6333 надає HTTP API та 6334 Він використовується для gRPC. У цьому прикладі Mem0 підключається за допомогою HTTP API.

Перевірте, чи відповідає Оллама:

curl http://localhost:11434/api/tags

Ви можете перевірити Qdrant, відкривши:

http://localhost:6333/dashboard

Не підключайте ці порти безпосередньо до Інтернету. Якщо служби працюють на різних комп’ютерах, використовуйте приватну мережу, VPN або правила брандмауера, які дозволяють лише необхідні з’єднання.

Локальна конфігурація Mem0 за допомогою Ollama та Qdrant

Локальна конфігурація Mem0 за допомогою Ollama та Qdrant

У конфігурації має бути чітко зазначено, що Ollama буде використовуватися як LLM та як постачальник вбудовування. Також має бути визначено, де розташований Qdrant та які виміри створюють вбудовування.

from mem0 import Memory

OLLAMA_URL = "http://localhost:11434"
CHAT_MODEL = "llama3.1:latest"
EMBEDDING_MODEL = "nomic-embed-text:latest"

config = {
    "vector_store": {
        "provider": "qdrant",
        "config": {
            "collection_name": "memoria_agente",
            "host": "localhost",
            "port": 6333,
            "embedding_model_dims": 768,
        },
    },
    "llm": {
        "provider": "ollama",
        "config": {
            "model": CHAT_MODEL,
            "temperature": 0,
            "max_tokens": 2000,
            "ollama_base_url": OLLAMA_URL,
        },
    },
    "embedder": {
        "provider": "ollama",
        "config": {
            "model": EMBEDDING_MODEL,
            "ollama_base_url": OLLAMA_URL,
        },
    },
    "history_db_path": "./mem0_history.db",
    "custom_instructions": """
    Extrae únicamente información que pueda ser útil en conversaciones futuras:
    - Preferencias estables
    - Objetivos y proyectos
    - Restricciones importantes
    - Decisiones confirmadas

    Ignora saludos, conversación casual y hechos temporales sin importancia.
    Devuelve un objeto JSON con la clave facts y una lista de recuerdos.
    """,
}

memory = Memory.from_config(config)

Memory.from_config() Це змушує Mem0 використовувати вказані провайдери. Конструктор Memory() Він не підключається автоматично до Mem0 Cloud, але може застосовувати компоненти на основі OpenAI за замовчуванням та запитувати ключ, якщо ви їх не заміните.

custom_instructions Це дозволяє визначити, яку інформацію слід зберігати. Її необхідно включити як властивість верхнього рівня перед створенням екземпляра. Memory.

Чому розміри вбудовування повинні збігатися

Модель nomic-embed-text створює вектори 768 вимірівТаким чином, колекція Qdrant налаштовується за допомогою:

embedding_model_dims=768

Якщо сховище очікує вектори іншого розміру, Qdrant відхилить дані, і Mem0 не зможе правильно зберегти або запитати дані пам'яті.

Змінюючи модель вбудовування, перевірте її розміри перед зміною налаштувань. Вам також може знадобитися створити нову колекцію та перегенерувати всі існуючі вектори.

Не змішуйте вбудовування, створені різними моделями, в межах однієї колекції. Навіть якщо дві моделі генерують вектори з однаковими розмірностями, їхні семантичні простори можуть бути несумісними.

Як зберігати та відновлювати спогади

Абстрактне зображення цифрового синапсу, що показує нейронну мережу та центральне ядро ​​пам'яті, що символізує інтеграцію Mem0 та Ollama.

Щоб зберегти розмову, передайте список повідомлень memory.add() і вказує на стабільний ідентифікатор користувача:

mensajes = [
    {
        "role": "user",
        "content": "Estoy desarrollando una aplicación en Rust"
    },
    {
        "role": "assistant",
        "content": "Lo recordaré para adaptar los próximos ejemplos"
    }
]

resultado = memory.add(
    mensajes,
    user_id="usuario_001"
)

print(resultado)

З infer=TrueЗа замовчуванням Mem0 використовує модель для вилучення структурованих пам'ятей. Якщо ви хочете зберегти вміст без застосування цього вилучення, ви можете скористатися infer=False.

Щоб знайти пов’язану інформацію:

recuerdos = memory.search(
    "¿Qué lenguaje utiliza en su proyecto?",
    filters={"user_id": "usuario_001"},
    top_k=5
)

for recuerdo in recuerdos["results"]:
    print(recuerdo["memory"])

Фільтр за user_id Це надзвичайно важливо. Якщо програма, яку використовують кілька людей, виконує пошук без правильного застосування ідентифікатора, вона може отримати спогади, що належать іншому користувачеві.

Ви також можете використовувати agent_id розділити пам'ять різних агентів та run_id розділяти розмови, проекти чи певні процеси.

Як створити повноцінний чат з Олламою та Мем0

Як створити повноцінний чат з Олламою та Мем0

Щоб Ollama могла використовувати спогади, програма повинна виконати чотири кроки:

  1. Отримайте запитання користувача.
  2. Пошук пов'язаних спогадів за допомогою Mem0.
  3. Додайте їх до контексту, надісланого до Ollama.
  4. Збережіть запитання та відповідь як нову взаємодію.

Ollama надає API, сумісний з форматом OpenAI. Ми можемо використовувати його для створення повного циклу:

from openai import OpenAI

ollama_chat = OpenAI(
    base_url=f"{OLLAMA_URL}/v1",
    api_key="ollama"
)

def chat(mensaje_usuario, user_id):
    resultado = memory.search(
        mensaje_usuario,
        filters={"user_id": user_id},
        top_k=5
    )

    recuerdos = [
        item["memory"]
        for item in resultado["results"]
    ]

    contexto = "\n".join(
        f"- {recuerdo}" for recuerdo in recuerdos
    )

    respuesta = ollama_chat.chat.completions.create(
        model=CHAT_MODEL,
        messages=[
            {
                "role": "system",
                "content": (
                    "Eres un asistente útil. Utiliza los recuerdos "
                    "solo cuando sean relevantes.\n\n"
                    f"Recuerdos del usuario:\n{contexto}"
                ),
            },
            {
                "role": "user",
                "content": mensaje_usuario,
            },
        ],
    ).choices[0].message.content

    memory.add(
        [
            {
                "role": "user",
                "content": mensaje_usuario,
            },
            {
                "role": "assistant",
                "content": respuesta,
            },
        ],
        user_id=user_id,
    )

    return respuesta

Тепер ви можете розпочати розмову:

print(
    chat(
        "Estoy creando un programa de escritorio en Rust",
        user_id="usuario_001"
    )
)

Після перезапуску програми той самий користувач може запитати:

print(
    chat(
        "¿Qué lenguaje estoy utilizando en mi proyecto?",
        user_id="usuario_001"
    )
)

Якщо пам'ять була збережена правильно, Mem0 отримає інформацію, і Ollama зможе використати її для відповіді.

Ексклюзивний вміст - натисніть тут  Як дізнатися, чи зареєстровано моє водійське посвідчення в Мексиці

Як використовувати Chroma замість Qdrant

Для невеликого локального тесту можна замінити Qdrant на Chroma. Правильна назва постачальника на Mem0: chroma:

"vector_store": {
    "provider": "chroma",
    "config": {
        "collection_name": "memoria_agente",
        "path": "./chroma_db",
    },
}

Папка, зазначена в path Він міститиме постійні дані Chroma. Ви повинні включити їх до резервних копій та не видаляти під час оновлення програми.

Пакет Python, який використовується проєктом, продовжує називатися chromadbАле ідентифікатор, який потрібно записати в конфігурації Mem0, це chroma.

Як виправити або видалити застарілі спогади

Пам'ять асистента не слід вважати безпомилковим джерелом. Модель може зберігати неправильно інтерпретований факт, зберігати інформацію, яка більше не є актуальною, або генерувати кілька подібних спогадів.

Ви можете переглянути всі спогади, пов'язані з користувачем:

resultado = memory.get_all(
    filters={"user_id": "usuario_001"}
)

for recuerdo in resultado["results"]:
    print(recuerdo["id"], recuerdo["memory"])

Щоб виправити певний спогад:

memory.update(
    memory_id="ID_DEL_RECUERDO",
    data="El usuario está desarrollando una aplicación en Python"
)

Щоб видалити його:

memory.delete(
    memory_id="ID_DEL_RECUERDO"
)

Додаток, призначений для кінцевих користувачів, повинен забезпечувати елементи керування для перегляду, виправлення та видалення збережених спогадів. Також бажано встановити політику терміну дії для тимчасової інформації.

Як покращити якість спогадів

Якість залежить від моделі, інструкцій, розмови та обсягу надісланої інформації. Завжди використання більшої моделі не гарантує кращих результатів, хоча дуже маленькі моделі можуть пропускати нюанси або повертати неправильні формати.

Ці вправи допомагають покращити пам'ять:

  • Використовуйте низьку температуру, щоб зробити екстракцію стабільнішою.
  • Чітко визначте, які категорії варто запам'ятати.
  • Виключіть вітання, повторення та недоречні розмови.
  • Збережіть як повідомлення користувача, так і відповідь агента.
  • Використовуйте різні ідентифікатори для користувачів, агентів та проектів.
  • Обмежте кількість витягнутих спогадів, щоб не перевантажувати контекст.
  • Періодично переглядайте неправильні, дубліковані або застарілі спогади.
  • Перед запуском у виробництво протестуйте пошукові запити за допомогою реальних запитів.

Не вводьте спогади як команди найвищого пріоритету. Ставтеся до них як до контекстуальної інформації, яка може бути неповною або застарілою. Це зменшує ризик того, що маніпульована пам'ять змінить загальну поведінку агента.

Оптимізація продуктивності

Кожен дзвінок до memory.add() Ви можете запустити модель, щоб витягти факти, які потрібно зберегти. Таким чином, економія пам'яті збільшує затримку та споживання ресурсів.

У невеликій програмі ви можете зберегти розмову після генерації відповіді. У сервісах з кількома одночасними запитами краще використовувати Асинхронна пам'ятьфоновий працівник або черга завдань.

Mem0 забезпечує асинхронний інтерфейс, щоб уникнути блокування програм, побудованих за допомогою asyncio або Швидкий API:

from mem0 import AsyncMemory

memory = AsyncMemory.from_config(config)

resultado = await memory.search(
    "proyecto actual",
    filters={"user_id": "usuario_001"},
    top_k=5
)

await memory.add(
    mensajes,
    user_id="usuario_001"
)

Не передайте завдання вторинному потоку без обробки його винятків. Якщо програма закриється до завершення збереження, розмова може залишитися незаписаною. Постійна черга дозволяє повторити невдалі операції.

Ви також можете використовувати різні моделі для розмови та вилучення даних. Потужніша генеративна модель може обробляти відповіді, тоді як менша обробляє пам'ять. Перш ніж це зробити, перевірте, чи друга модель правильно дотримується інструкцій та необхідного формату.

Ексклюзивний вміст - натисніть тут  Як видалити таблицю в Excel

Типові помилки під час підключення Mem0 до Ollama

Типові помилки під час підключення Mem0 до Ollama

Mem0 запитує ключ OpenAI

Конфігурація неповна, і деякі компоненти все ще використовують свого постачальника за замовчуванням. Переконайтеся, що ви налаштували обидва llm як embedder з постачальником ollama.

Не вдається підключитися до Ollama

Перевірте, чи відповідає API:

curl http://localhost:11434/api/tags

Якщо Mem0 працює всередині Docker, localhost Це стосується контейнера, а не хост-комп'ютера. У Docker Desktop вам може знадобитися використовувати:

http://host.docker.internal:11434

Qdrant відхиляє вектори

Колекція та модель вбудовування використовують різні виміри. За допомогою nomic-embed-text, налаштовує 768 вимірів та створює нову колекцію, якщо існуюча була згенерована з іншим розміром.

Пошукові запити не повертають спогадів

Перевірте, чи використовуєте ви той самий user_id під час збереження та пошуку. Також перевірте назву моделі вбудовування, фільтри та вміст resultado["results"].

Mem0 зберігає нерелевантну інформацію

Качка custom_instructionsВін знижує температуру та визначає, які категорії включати або виключати. ​​Також перевірте, чи здатна обрана модель дотримуватися структурованих інструкцій.

Спогади суперечать новішій інформації

Поточні версії можуть зберігати попередні дані замість автоматичного перезапису. Додайте дати або метадані та використовуйте update() o delete() коли потрібно виправити інформацію.

Пам'ять зникає при заміні Qdrant

Перевірте, чи контейнер використовує змонтований том у /qdrant/storageПерезапуск контейнера не те саме, що його видалення, але його повторне створення без постійного сховища може залишити дані поза межами нового розгортання.

Конфіденційність та резервне копіювання

Локальна інсталяція дозволяє уникнути обов'язкової залежності від керованих API від Mem0, OpenAI або інших постачальників. Незважаючи на це, вам слід захищати інфраструктуру так само, як і будь-яку програму, яка зберігає особисту інформацію.

  • Не піддавайте Ollama або Qdrant безпосередньому доступу до Інтернету.
  • Шифруйте диски та резервні копії, якщо вони містять конфіденційні дані.
  • Застосуйте до програми автентифікацію та засоби контролю доступу.
  • Розділіть пам'ять, використовуючи надійні ідентифікатори користувачів.
  • Це дозволяє переглядати та видаляти збережену інформацію.
  • Не зберігайте паролі, ключі API або банківські реквізити як сувеніри.
  • Він записує помилки, не включаючи повні розмови чи спогади.
  • Перевірте, чи обробка даних має відповідати GDPR.

За допомогою Qdrant вам потрібно створити резервну копію тома qdrant_storage і файл, визначений як history_db_pathУ Chroma вам потрібно скопіювати налаштовану папку до path та база даних історії.

Підключення Mem0 до Ollama дозволяє створити помічника, який зберігає інформацію між сеансами, не обов'язково покладаючись на зовнішні сервіси. Ollama запускає моделі, Mem0 витягує та отримує дані з пам'яті, а Qdrant або Chroma забезпечує постійне сховище.

Ключ не в простому збереженні розмов. Додаток повинен отримувати відповідні спогади, надавати контекст, обмежувати їхню область дії за допомогою ідентифікаторів та пропонувати механізми для виправлення або видалення інформації. Завдяки цим запобіжним заходам ви можете створити корисну, постійну та керовану локальну пам'ять.

Альберто Наварро

Alberto Navarro

Я ентузіаст технологій, який перетворив свої гіківські інтереси на професію. Я понад 10 років використовую передові технології та експериментую з усілякими програмами з чистої цікавості. Зараз я спеціалізуюся на комп'ютерних технологіях та відеоіграх. Понад 5 років я пишу для різних веб-сайтів, присвячених технологіям та відеоіграм, створюючи статті, метою яких є надання вам необхідної інформації мовою, зрозумілою кожному.

Якщо у вас є запитання, я знаю все, що стосується операційної системи Windows, а також Android для мобільних телефонів. І я зобов’язаний перед вами, я завжди готовий витратити кілька хвилин і допомогти вам вирішити будь-які запитання, які можуть виникнути в цьому світі Інтернету.