Блог · 24 сентября 2026 · 7 мин чтения
Как подключить локальный ИИ к документам компании (RAG)
Настоящая ценность ИИ в компании появляется, когда он отвечает на основе информации компании: регламентов, прайс-листов, договоров, руководств. Эта технология называется RAG. Вот как она работает и как правильно настроить её в локальном ИИ.
Коротко: RAG (retrieval-augmented generation) делит документы на небольшие фрагменты, индексирует их с помощью модели эмбеддингов и при каждом вопросе передаёт ИИ только релевантные фрагменты. В Open WebUI для этого создают Knowledge (базу знаний) и подключают её к модели. Для итальянского языка стоит заменить модель эмбеддингов по умолчанию на многоязычную, например bge-m3 или qwen3-embedding, и увеличить контекст модели.
Как это работает — без жаргона
- Подготовка: каждый документ делится на текстовые фрагменты (в Open WebUI по умолчанию около 1.000 символов с перекрытием в 100).
- Индексация: модель эмбеддингов превращает каждый фрагмент в числовой «отпечаток», отражающий его смысл.
- Поиск: когда вы задаёте вопрос, система ищет фрагменты с наиболее близким смыслом (по умолчанию 3 лучших).
- Ответ: модель получает вопрос вместе с этими фрагментами и отвечает со ссылками на источники.
Всё происходит на компьютере компании: ни документы, ни вопросы не покидают компанию.
Настройка в Open WebUI
- Скачайте многоязычную модель эмбеддингов:
ollama pull bge-m3(1,2 ГБ) илиollama pull qwen3-embedding:4b(2,5 ГБ). - В разделе Панель администратора → Настройки → Документы выберите Ollama в качестве движка эмбеддингов и укажите скачанную модель. Модель Open WebUI по умолчанию рассчитана в основном на английский язык.
- В разделе Workspace → Knowledge создайте базу знаний по каждой теме (например, «Процедуры качества», «Прайс-листы 2026») и загрузите документы.
- Подключите базу знаний к модели в Workspace → Модели или вызовите её в чате, набрав
#. - Увеличьте контекст модели (
num_ctx): при значении по умолчанию 4.096 токенов на GPU с памятью меньше 24 ГБ найденные фрагменты могут не поместиться.
Важно: если вы смените модель эмбеддингов после загрузки документов, их придётся переиндексировать. Выберите её до загрузки архива.
Почему ответы иногда бывают неверными
- Отсканированные PDF: если PDF — это изображение без текста, ИИ ничего не прочитает. Сначала нужно распознавание текста (OCR).
- Таблицы и прайс-листы: при разбиении на фрагменты они теряют структуру. Для табличных данных часто лучше прямое подключение к системе управления или базе данных, чем RAG.
- Дубликаты и устаревшие документы: если в архиве три версии одного регламента, ИИ может сослаться не на ту. Загружайте только актуальные версии.
- Слишком много документов в одной базе: небольшие тематические базы дают более точные ответы.
- Слишком общие вопросы: «расскажи всё о клиенте X» работает хуже, чем «какие условия оплаты в договоре с клиентом X?».
Права доступа: кто что видит
ИИ, подключённый к документам, видит всё, что вы ему даёте. Прежде чем загружать договоры, данные сотрудников или конфиденциальную информацию:
- создайте отдельные базы знаний для каждого отдела или уровня конфиденциальности;
- используйте группы Open WebUI, чтобы определить, кто какой базой может пользоваться;
- не загружайте лишние персональные данные: принцип минимизации данных GDPR распространяется и на ИИ.
Когда стоит обратиться за помощью
Хотите всё в PDF, чтобы распечатать или переслать коллегам? Скачайте бесплатно полное руководство: оборудование, модели, установка, безопасность и чек-лист из 20 пунктов.
Тест на компьютере можно провести за полдня. Запуск в работу для компании — совсем другая задача: учётные записи и права по отделам, безопасный удалённый доступ, резервное копирование, обновления, подключение к системам управления и обучение сотрудников (полезно и для Закона ЕС об ИИ (AI Act)).
Если тест вас убедил и вам нужна надёжная установка, напишите нам: начнём с того, что вы уже попробовали. Консультации Dabryx — от 100 € в час.
Частые вопросы
Что такое RAG?
Это технология, которая позволяет модели ИИ отвечать, используя документы, которых она не знала: система ищет релевантные фрагменты в архиве и передаёт их модели вместе с вопросом.
Нужно ли дообучать модель на документах компании?
В большинстве случаев — нет. RAG проще, дешевле и сразу обновляется при изменении документов; дообучение (fine-tuning) нужно для особых требований к стилю или формату.
Сколько документов можно подключить?
Хоть тысячи. Практическое ограничение — качество: тематические базы, актуальные документы и читаемый текст важнее количества.
Хотите получить оценку для вашей компании?
Расскажите, сколько человек будут пользоваться ИИ и для чего, и мы подскажем, какая конфигурация нужна.
Сроки ответа
В течение 2 часов в рабочие дни (9:00–18:00) для клиентов с договором поддержки.
Консультации по ИИ
От 100 € в час, на серверах или Mac вашей компании.
Где мы работаем
По всей Италии, удалённо и на месте у клиента.