Работа системы с данными:

Система работает с текстовыми данными, поступающими из различных источников. Это могут быть базы данных, документы, веб-страницы или другие ресурсы.

Сбор данных:

LLM Server собирает информацию из подключенных источников и подготавливает ее для дальнейшей обработки.

История сообщений:

LLM Server хранит контекст текущей сессии, что позволяет модели учитывать предыдущие запросы и ответы.

Системный промпт:

В системе задается базовый промпт, который определяет поведение языковой модели (LLM). Это позволяет настраивать модель в соответствии с конкретными задачами.

Запуск языковой модели:

Ollama отвечает за запуск и управление языковой моделью (LLM), которая генерирует ответы на запросы пользователей.

Обработка запросов:

Ollama получает запросы от LLM Server, обрабатывает их с помощью LLM и возвращает сформированные ответы обратно в LLM Server.