Italiano English Français Español Русский
Обсудить

Блог · 24 сентября 2026 · 9 мин чтения

Как создать локальный ИИ в компании: пошаговое руководство (2026)

Локальный ИИ — это не исследовательский проект: с современными open source инструментами можно за несколько часов получить ассистента, похожего на ChatGPT, на компьютере компании. Вот шаги, которые используем и мы, с командами и ловушками, которых стоит избегать.

Коротко: нужны три компонента. 1) Ollama — программа, которая скачивает и запускает модели (стабильная версия на 24 сентября 2026 года: 0.34.4). 2) Открытая модель, подходящая под память компьютера, например Gemma 4 12B (7,6 ГБ) или Qwen3.8 27B (18 ГБ). 3) Open WebUI — чат-интерфейс с личными учётными записями (версия 0.11.4). Устанавливайте их в этом порядке и открывайте доступ коллегам только из внутренней сети или через VPN, никогда напрямую из интернета.

Бесплатно PDF-руководство · 9 страниц · обновлено в сентябре 2026

Хотите собственный ИИ внутри компании? Мы расскажем, как это сделать.

  • Какое оборудование действительно нужно (Mac или сервер) и сколько оно стоит
  • Лучшие модели для итальянского языка и пошаговая установка
  • Безопасность, GDPR и чек-лист из 20 пунктов
Скачать руководство бесплатно →

Вы получите его по email за несколько секунд. Никакого спама.

Что нужно перед началом

Самое полезное правило: модель должна целиком помещаться в память. На Mac с Apple Silicon важна унифицированная память, на ПК или сервере с видеокартой — память GPU (VRAM). Для ориентира, с моделями, сжатыми до 4 бит, которые скачивает Ollama:

Доступная памятьЧто работает хорошоПример
16 GBМалые модели, простые задачи, тестыGemma 4 12B (7,6 GB)
32 GBСредние модели, хорошее качество на итальянскомQwen3.8 27B (18 ГБ), Gemma 4 26B (19 ГБ)
64 GB и болееБольшие модели, длинные документы, больше пользователейgpt-oss 120B (65 ГБ)

Всегда оставляйте запас: помимо модели, память нужна операционной системе и контексту (тексту, который ИИ держит в уме во время разговора), а он растёт с длинными документами и одновременными пользователями. Сравнение моделей вы найдёте в руководстве по моделям для итальянского языка.

Шаг 1 – Установите Ollama

Ollama скачивает модели, загружает их в память и предоставляет к ним доступ через программный интерфейс (API) на порту 11434.

  • macOS (14 Sonoma или новее): скачайте Ollama.dmg с ollama.com/download и перетащите приложение в «Программы». На Mac с чипами M используется встроенный GPU.
  • Windows (10 22H2 или новее): скачайте и запустите OllamaSetup.exe с той же страницы.
  • Linux: официальный скрипт устанавливает Ollama как системную службу.
curl -fsSL https://ollama.com/install.sh | sh

Чтобы проверить, что всё работает, откройте терминал и введите ollama --version.

Шаг 2 – Скачайте и протестируйте модель

Начните с модели, которая с запасом помещается в вашу память. Например, на компьютере с 16 ГБ:

ollama pull gemma4:12b
ollama run gemma4:12b

В терминале откроется чат: задайте несколько вопросов на итальянском о своей работе. Другие полезные команды:

  • ollama list: загруженные модели и сколько места они занимают.
  • ollama ps: модели, загруженные в память в данный момент, и используют ли они GPU.
  • ollama rm nome-modello: удаляет модель, которой вы не пользуетесь.

Совет: протестируйте две-три модели на одних и тех же реальных вопросах (написать письмо, сделать выжимку документа). Так быстрее всего понять, какое качество вам нужно, а значит, и какое оборудование.

Шаг 3 – Установите чат-интерфейс (Open WebUI)

Чата в терминале достаточно для проверки, но коллегам нужен интерфейс как у ChatGPT, с личными аккаунтами и историей. Open WebUI устанавливается через Docker; если Ollama уже запущена на том же компьютере, команда из официальной документации такая:

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  -e WEBUI_SECRET_KEY=la-tua-chiave-segreta \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Сгенерируйте секретный ключ командой openssl rand -hex 32, а не придумывайте его сами. Затем откройте http://localhost:3000 в браузере.

  1. Первая созданная учётная запись становится администратором: создайте её сами сразу, прежде чем давать адрес кому-либо.
  2. Аккаунты, созданные позже, остаются в ожидании, пока администратор их не одобрит.
  3. С помощью групп можно решать, кто видит какие модели и какие базы документов.

Если вы не хотите использовать Docker, для личного использования есть LM Studio — десктопное приложение, бесплатное в том числе для внутреннего рабочего использования.

Шаг 4 – Откройте безопасный доступ для коллег

На этом этапе совершают больше всего ошибок. Три правила:

  1. Никогда не открывайте Ollama в интернет. В Ollama нет аутентификации: любой, кто достучится до порта 11434, сможет пользоваться вашими моделями. В феврале 2026 года исследователи LeakIX обнаружили около 12.000 экземпляров Ollama, доступных из интернета. Если Open WebUI работает на том же компьютере, Ollama может слушать только локальный адрес (это настройка по умолчанию).
  2. Пускайте коллег через Open WebUI, где есть учётные записи и права доступа, а не напрямую через API Ollama.
  3. Для доступа вне офиса используйте VPN (например, WireGuard или Tailscale), а не проброс портов на роутере.

Осторожно с Docker в Linux: порты, опубликованные Docker, могут обходить правила системного брандмауэра (например, ufw). Если у сервера есть публичный адрес, публикуйте порт только на внутреннем адресе, например -p 127.0.0.1:3000:8080 за обратным прокси, или внимательно проверьте правила.

Шаг 5 – Резервное копирование, обновления и лицензии

  • Резервное копирование: учётные записи, чаты и документы Open WebUI хранятся в томе Docker open-webui. Включите его в резервное копирование компании.
  • Обновления: новые версии Ollama и Open WebUI выходят каждые несколько недель. Обновляйтесь, прочитав примечания к выпуску и сделав свежую резервную копию.
  • Лицензии: проверяйте лицензию каждой модели перед коммерческим использованием. Gemma 4, Qwen3.8 и gpt-oss используют Apache 2.0. У Open WebUI собственная лицензия: при более чем 50 пользователях в месяц нельзя удалить бренд «Open WebUI» без корпоративной лицензии.

Самые частые ошибки

  • Слишком большая модель: если она не помещается в память, то работает крайне медленно. Лучше быстрая модель среднего размера, чем большая, которой невозможно пользоваться.
  • Слишком короткий контекст: на GPU с памятью менее 24 ГБ Ollama по умолчанию использует контекст 4 096 токенов, из-за чего длинные документы обрезаются. Увеличьте его в настройках модели (параметр num_ctx), учитывая, что это расходует память.
  • Ожидания как от ChatGPT: локальные модели отлично справляются с офисными задачами, но крупнейшие облачные модели по-прежнему сильнее в очень сложных рассуждениях. Выбирайте сценарии использования с учётом этого.
  • Нет правил использования: заранее решите, какие данные можно загружать и кто что может видеть, и сообщите об этом коллегам.

Когда стоит обратиться за помощью

Хотите всё в PDF, чтобы распечатать или переслать коллегам? Скачайте бесплатно полное руководство: оборудование, модели, установка, безопасность и чек-лист из 20 пунктов.

Тест на компьютере можно провести за полдня. Запуск в работу для компании — совсем другая задача: учётные записи и права по отделам, безопасный удалённый доступ, резервное копирование, обновления, подключение к системам управления и обучение сотрудников (полезно и для Закона ЕС об ИИ (AI Act)).

Если тест вас убедил и вам нужна надёжная установка, напишите нам: начнём с того, что вы уже попробовали. Консультации Dabryx — от 100 € в час.

Источники

Подробнее

Частые вопросы

Сколько времени нужно, чтобы создать локальный ИИ?

Для теста на одном компьютере хватит нескольких часов: установка Ollama, загрузка модели и Open WebUI. Корпоративная установка с учётными записями, VPN, резервным копированием, подключёнными документами и обучением обычно занимает несколько рабочих дней.

Нужно ли уметь программировать?

Для теста — нет: достаточно скопировать несколько команд. Для использования в компании нужны навыки системного администрирования (Docker, сеть, резервное копирование, безопасность): они могут быть у ваших сотрудников, или эту работу можно поручить подрядчику.

Можно ли использовать уже имеющийся компьютер?

Да, если у него достаточно памяти для выбранной модели. Mac с чипом M и 16 ГБ запускает небольшие модели; для более качественных моделей на итальянском нужно 32 ГБ или больше.

Хотите получить оценку для вашей компании?

Расскажите, сколько человек будут пользоваться ИИ и для чего, и мы подскажем, какая конфигурация нужна.

Email

info@dabryx.com

Сроки ответа

В течение 2 часов в рабочие дни (9:00–18:00) для клиентов с договором поддержки.

Консультации по ИИ

От 100 € в час, на серверах или Mac вашей компании.

Где мы работаем

По всей Италии, удалённо и на месте у клиента.