Как развернуть Ragflow: база знаний, ИИ-агент и MCP

Retrieval + LLM: откуда берётся цитата

RAG-система = поиск + языковая модель (LLM).

• Retrieval — найти фрагменты документов, похожие на вопрос.
• LLM — собрать из фрагментов связный ответ и показать, откуда взяла мысль.

В Ragflow поиск гибридный: полнотекстовый плюс векторный. Векторный слой строится через embedding-модель — отдельную от чат-модели.

Чем RAG-агент отличается от «просто чата с файлом»

Чат с одним загруженным файлом — разовая сессия. RAG-агент держит постоянную базу знаний, умеет ходить в retrieval как в инструмент, может звать другие tools и работать в цепочке: найти → проверить → черновик. Agentic RAG — когда нет жёсткого «всегда сначала поиск, потом ответ»: агент сам решает, когда звать retriever.

Compose, RAM/CPU и типичный vm.max_map_count

Минимум по официальному quickstart: CPU от 4 ядер (x86), RAM от 16 GB, диск от 50 GB, Docker ≥ 24.0.0, Compose ≥ v2.26.1. Официальные образы — только x86; на ARM образ собирают сами. Сжатый образ около 2 GB, после распаковки около 7 GB.

Критичная настройка Linux: vm.max_map_count ≥ 262144. Без неё Elasticsearch/Infinity не поднимутся, в логах — ошибка вроде «Can't connect to ES cluster».

UI по умолчанию на порту 80 (http://IP). HTTP API внутри — 9380. Образ без вшитых embedding: infiniflow/ragflow:v0.26.4. GPU для ускорения DeepDoc — опция DEVICE=gpu в .env; иначе парсинг идёт на CPU.

Реалии РФ. Оплата зарубежных GPU/SaaS и доступ к некоторым LLM API бывают нестабильны. Рабочие пути: свой VPS/выделенный сервер в РФ, облачный образ Ragflow у российских провайдеров (например, готовые сценарии у Selectel в их документации), локальные модели через Ollama/Xinference. Чат-модель и embedding можно подключить к доступному из РФ провайдеру или поднять локально.

Чеклист «поднялось / не поднялось»

sudo sysctl -w vm.max_map_count=262144

git checkout -f v0.26.4
docker compose -f docker-compose.yml up -d

Признак успеха. Контейнеры healthy/running, веб-интерфейс открывается, можно зайти в настройки и добавить model provider.

Типичные ошибки новичка

DeepDoc и шаблоны чанков

Dataset в Ragflow — это и есть база знаний: загрузка → парсинг (layout + chunk) → embedding и полнотекстовые индексы. Поддерживаются PDF, DOC/DOCX, TXT/MD, таблицы, картинки, презентации и др.

Шаблоны чанков (chunk templates) под тип файла: General, Q&A, Manual, Table, Paper, Book, Laws, Presentation, Picture, One, Tag и др. Неверный шаблон даёт semantic loss: ответы формально есть, смысла нет.

С версии 0.21 доступен Ingestion pipeline на Agent canvas (Parser → Transformer → Chunker → Indexer); DeepDoc — парсер по умолчанию для сложных layout.

PDF, таблицы и ручная правка чанков

После parse откройте чанки и вмешайтесь вручную (intervene): поправьте текст, добавьте keywords / questions / tags для ранжирования. Типичные сбои на PDF:

• «Success», но пустые чанки — часто image-based PDF и слабый OCR; сегменты короче ~8 токенов отбрасываются.
• Таблицы режутся слишком мелко или парсер падает — смените template (Table/Paper), попробуйте другой парсер, конвертируйте PDF→DOCX, не жмите Plain Text там, где нужен OCR.

Загружайте файлы аккуратно (через File system + link — удобный путь из документации), не сваливайте в один dataset прайсы, юридические акты и маркетинговые брифы без логики: лучше несколько узких баз.

Настройка «нет контекста — нет выдумки»

Создайте Chat assistant, привяжите один или несколько datasets, выберите chat-модель, задайте system prompt.

Заполните Empty response сразу. Это главный рубильник «отвечаем только по документам».

Кейс: FAQ и поддержка из корпоративных PDF

Сценарий на один вечер после установки:

1. Dataset «Поддержка»: регламент, FAQ, прайс, условия доставки.
2. Template под тип файлов (Manual / Q&A / Table).
3. Parse → intervene → retrieval-тест на вопросах клиентов.
4. Chat с Empty response.
5. Ответы с цитатами копируете в черновик для оператора или базы FAQ.

Тот же контур работает для контента: брифы и кейсы → агент готовит черновик поста с опорой на факты → редактор правит тон и публикует.

Что отдаёте наружу: поиск по базе, не «весь диск»

MCP-сервер Ragflow выключен по умолчанию, нужен Ragflow ≥ v0.18.0. Порт по умолчанию 9382. В Docker раскомментируют command с --enable-mcpserver, --mcp-port=9382, --mcp-base-url=http://127.0.0.1:9380, режим self-host или host, API key. Подробности — в доке launch MCP server.

Режимы:

• self-host — ключ при старте, доступ к datasets одного tenant;
• host — у каждого клиента свой API key.

Сейчас tool сфокусирован на retrieve: чанки по dataset_ids / опционально document_ids + вопрос. Это не «открой весь диск сервера», а контролируемый поиск.

Безопасность от вендора: MCP ещё зреет, API key — упрощённая авторизация. В публичной сети биндите на 127.0.0.1, не на 0.0.0.0.

API key для HTTP API берётся в UI: аватар → API.

Связка с контент-заводом без второго RAG с нуля

Схема для команды:

1. Ragflow хранит и индексирует корпоративные PDF.
2. Cursor или другой MCP-клиент вызывает retrieve.
3. Агент/редактор собирает черновик поста, FAQ, ответа лиду — с цитатами.
4. Человек правит и публикует (WordPress, Telegram и т.д.).

Внешний оркестратор (Make и аналоги) может дергать HTTP API Ragflow — без второй RAG-системы «с нуля». MCP здесь — мост в IDE и агентный контур, а не замена базе знаний.

Слабый chunk template и грязный parse

Самый частый сценарий «агент глупый»:

Тест на 5 своих вопросов до продакшена

Перед боем прогоните пять вопросов, которые реально задают клиенты или команда. Для каждого зафиксируйте: нашлись ли правильные чанки, есть ли цитата, сработала ли Empty response на провокации вне базы.

Пока 5/5 не зелёные — не подключайте автопубликацию и не открывайте MCP наружу.

• Официальный quickstart Ragflow (тег v0.26.4, железо, dataset, Chat, Empty response).
• Документация knowledge base / MCP server / tool retrieve.
• Репозиторий infiniflow/ragflow (релизы и заявленные возможности Agent/MCP).
• Обзоры и кейсы: когда Ragflow уместнее Dify; зачем HITL перед автопубликацией.