гаражOllama — бесплатная программа, которая запускает нейросеть прямо на вашем компьютере или сервере. Модель скачивается один раз и дальше работает без интернета и подписки. Главное, что она даёт бизнесу: вопросы и документы никуда не уходят. В официальном FAQ так и написано: когда модель работает локально, Ollama не видит ваших запросов и данных.
Дальше по порядку: какой компьютер нужен, как поставить Ollama, какую модель скачать первой, как подключить её к своим программам, чем отличается LM Studio, как запустить на сервере и не открыть его всему интернету и когда локальная модель не подходит. Всё сверено с документацией Ollama 12 октября 2026 года, актуальная версия — 0.40.
Обзор бесплатных моделей и сервисов — DeepSeek, Qwen, GLM, Kimi — есть в отдельной статье про бесплатные аналоги. Здесь — как запустить модель у себя.
Что такое Ollama и почему данные остаются у вас
Ollama — проект с открытым кодом под лицензией MIT, около 183 тысяч звёзд на GitHub. Работает на macOS, Windows и Linux.
Локально — значит у вас. Модель лежит на вашем диске и считает на вашем процессоре или видеокарте. Для документов с персональными данными это важно: российский закон запрещает хранить и обрабатывать данные граждан России в базах за рубежом.
Осторожно с моделями :cloud. У Ollama есть и облако: модели с припиской :cloud работают на её серверах, в основном в США. Например, свежие Kimi K2.6, GLM-5.3 и DeepSeek V4.1 Flash в Ollama доступны только в облачном варианте — данные с ними уходят наружу. Если облако вам не нужно, его можно выключить переменной OLLAMA_NO_CLOUD=1.
Какой компьютер нужен для локальной нейросети
Система. macOS Sonoma или новее, Windows 10 22H2 или новее, любой современный Linux. На Mac лучше процессор Apple M: на старых Mac с Intel Ollama считает только на процессоре.
Видеокарта. Не обязательна, но с ней в разы быстрее. Подходят NVIDIA с драйвером 550 и новее, AMD и видеоядро Apple.
Место на диске. Сама программа — около 4 ГБ, модели — от нескольких до сотен гигабайт.
Память и контекст. От объёма видеопамяти зависит, сколько текста модель удерживает сразу. При видеопамяти меньше 24 ГБ Ollama по умолчанию даёт контекст около 4 тысяч токенов — это пара страниц. Для работы с кодом и агентами документация советует не меньше 64 тысяч.
Как установить Ollama
На macOS и Linux — одной командой:
curl -fsSL https://ollama.com/install.sh | shНа Windows — в PowerShell:
irm https://ollama.com/install.ps1 | iexИли скачайте обычный установщик с сайта. Дальше всё делается в терминале:
ollama run gemma4Команда скачает модель и откроет чат. Выйти — /bye. Остальные команды: ollama ls — список скачанных моделей, ollama ps — какие сейчас работают, ollama rm — удалить модель.
Какую модель скачать первой
Размеры — объём скачивания с библиотеки Ollama:
| Модель | Размер | Контекст |
|---|---|---|
qwen3:8b |
5 ГБ | 40 тысяч токенов |
gemma4:e4b |
7–10 ГБ | 128 тысяч |
deepseek-r1:14b |
9 ГБ | 128 тысяч |
gpt-oss:20b |
14 ГБ | 128 тысяч |
qwen3.6:27b |
18–19 ГБ | 256 тысяч |
Для gpt-oss:20b сама Ollama пишет, что ей хватает компьютера с 16 ГБ памяти. Начните с маленькой модели и проверьте её на своей задаче: если ответы годятся, большая не нужна. Модели на 70 миллиардов параметров и выше весят 40 ГБ и больше и без мощной видеокарты почти неподъёмны.
Как подключить Ollama к своим программам
Ollama поднимает у вас сервер по адресу http://localhost:11434. Через него к модели подключаются другие программы, причём с тем же API, что у OpenAI, — по адресу http://localhost:11434/v1/.
Claude Code. Одна команда из документации Ollama: ollama launch claude. Claude Code будет работать на локальной модели. Для больших проектов нужен контекст от 64 тысяч токенов. Если сам Claude Code ещё не стоит, начните с установки Claude Code.
n8n. Узел Ollama Chat Model, адрес http://localhost:11434, ключ не нужен. Как собрать в n8n агента, разобрали в статье ИИ-агент в n8n.
OpenClaw. Ollama подключается как провайдер, адрес указывается без /v1, иначе ломаются инструменты. Но для агентов OpenClaw с доступом к вашим системам официальный ответ на вопрос о локальных моделях — «обычно нет»: нужен большой контекст, а маленькие модели легче обмануть.
LM Studio или Ollama: что выбрать
LM Studio делает то же самое, но с обычным окном вместо терминала: выбрал модель из списка, скачал, общаешься. С июля 2025 года она бесплатна и для работы, без заявок и форм. Нельзя только продавать её как сервис третьим лицам.
Ollama удобнее, когда модель нужна программам: сервер, n8n, свои скрипты. Ставится на сервер без экрана, управляется командами.
LM Studio удобнее, когда с моделью работает человек: попробовать несколько моделей, сравнить ответы. У неё тоже есть режим сервера для программ.
Для Mac LM Studio рекомендует от 16 ГБ памяти, для Windows — от 4 ГБ видеопамяти и процессор с поддержкой AVX2.
Ollama на VPS: как запустить на сервере и не открыть его всему интернету
Без видеокарты. Ollama работает и на обычном VPS на одном процессоре, но медленно. Для коротких задач по расписанию — разбор писем ночью, сводка утром — этого бывает достаточно.
С видеокартой. В России, например, у Selectel облачный сервер с видеокартой L4 на 24 ГБ стоит от 69,88 ₽ в час, выделенный с RTX 4090 — от 56 900 ₽ в месяц. Это уже бюджет компании, а не эксперимента.
Пароля нет. Документация прямо пишет: локальный API Ollama не требует авторизации. Кто достучится до порта 11434, тот пользуется вашей моделью. По умолчанию Ollama слушает только сам сервер, и так это и стоит оставить. Если доступ нужен снаружи — только через прокси с паролем или закрытую сеть, а не открытым портом.
Когда локальная модель не подходит
Агенту с инструментами. Если нейросеть сама пишет клиентам, меняет таблицы и вызывает сервисы, ей нужна сильная модель. Маленькие модели легче сбить с правил — об этом предупреждает и документация OpenClaw.
Когда нужна скорость и качество, а железа нет. Видеокарта, которая тянет большую модель, стоит десятки тысяч рублей в месяц.
Облачная альтернатива. OpenRouter даёт один ключ ко множеству моделей разных компаний, цены — как у провайдеров плюс 5,5% при покупке кредитов, больше 25 бесплатных моделей с лимитом 50 запросов в день. Но это облако: данные уходят провайдеру, а часть моделей недоступна в некоторых странах.
Частые вопросы
Ollama бесплатная?
Да. Программа с открытым кодом, локальный запуск ничем не ограничен. Платное у Ollama только облако — модели с припиской :cloud. Установка — одна команда, модель скачивается при первом запуске.
Уходят ли мои данные в интернет?
При локальном запуске — нет: модель работает на вашем компьютере, и Ollama не видит ваших запросов. Данные уходят наружу только при использовании облачных моделей :cloud, их можно отключить.
Можно ли запустить Ollama без видеокарты? Да, на процессоре, но заметно медленнее. Для небольших моделей и задач, где ответ не нужен мгновенно, этого хватает. На Mac с процессором Intel Ollama вообще работает только так.
Нужен ли пароль к API Ollama? Нет, локальный API работает без авторизации. Поэтому порт 11434 нельзя открывать в интернет: доступ снаружи — только через прокси с паролем или закрытую сеть.
Можно ли пользоваться LM Studio в компании? Да. С июля 2025 года LM Studio бесплатна и для дома, и для работы. Её нельзя только перепродавать как сервис для третьих лиц. Если с моделью работает человек, а не программа, это самый простой вариант.
OpenRouter — это локальная нейросеть? Нет. Это облачный сервис с одним ключом к моделям разных компаний. Удобно, но данные уходят провайдеру модели. Платите за запросы: цены как у провайдеров плюс 5,5% при покупке кредитов.
Локальная модель — способ работать с нейросетью, не отдавая данные наружу. Мы разворачиваем такие системы на сервере клиента: модель, агенты и доступы остаются у вас. Расскажите о задаче, разберём бесплатно и назовём цену в тот же день. Что входит в работу — на странице внедрение ИИ в бизнес под ключ.
