Как запустить DeepSeek локально — и стоит ли

DeepSeek — самое узнаваемое название среди нейросетей в русскоязычном поиске: «дипсик» ищут миллионы раз в месяц. Почти весь этот спрос ведёт в облачный чат. Но модели DeepSeek открыты, и часть из них можно держать на своём компьютере — без интернета, без лимитов и без отправки переписки на чужие серверы.

Разбираемся, что именно из DeepSeek запускается дома, сколько для этого нужно памяти и чем домашняя версия отличается от той, что в браузере.

Что вы запускаете на самом деле#

Здесь главная путаница. Флагманская модель DeepSeek-R1 — это 671 миллиард параметров. Она устроена как смесь экспертов: на каждом шаге работает около 37 миллиардов, но хранить в памяти нужно все 671. Даже в агрессивной квантизации это сотни гигабайт — уровень серверной стойки, а не домашнего компьютера.

Дома запускают дистилляты — модели поменьше, которых обучили на рассуждениях большой R1. По сути это Qwen и Llama, научившиеся думать «в стиле DeepSeek». Название у них DeepSeek, но архитектура, размер и знания — от базовой модели.

У DeepSeek регулярно выходят новые версии, но принцип сохраняется: флагман рассчитан на дата-центр, а дома работают дистилляты и компактные варианты.

Сколько нужно памяти#

Посчитано по формуле нашего калькулятора VRAM для квантизации Q4_K_M:

Обратите внимание, как быстро растёт KV-кэш — память под контекст. У модели на 14 миллиардов при длинном контексте он занимает почти столько же, сколько сами веса. Для рассуждающих моделей это особенно важно, о чём ниже.

Итог по картам:

• 8 ГБ — дистилляты 7B и 8B;
• 12 ГБ — 14B с контекстом до 16 тысяч токенов;
• 16 ГБ — 14B с длинным контекстом или в более точной квантизации Q6. Подробно — в статье RTX 5060 Ti 16GB для локального AI;
• 24 ГБ — 32B с нормальным контекстом.

Почему рассуждающей модели нужен длинный контекст#

Перед ответом R1 выводит рассуждения в блоке <think> — проверяет варианты, возвращается, пересчитывает. На непростой задаче это сотни и тысячи токенов. Все они занимают место в контексте.

Отсюда практическое правило: рассуждающей модели нужно больше контекста, чем обычной. Если выставить 4 тысячи токенов, модель может «забыть» условие задачи, пока рассуждает, или оборвать ответ на середине. Разумный минимум — 8–16 тысяч.

Установка через Ollama#

Самый простой способ — Ollama. После её установки модель скачивается и запускается одной командой:

ollama run deepseek-r1:14b

Для других размеров меняется только тег:

ollama run deepseek-r1:7b
ollama run deepseek-r1:32b

Первый запуск скачает модель — для 14B это около 9 ГБ — и откроет чат в терминале. Модель отвечает по-русски, хотя думает часто по-английски: рассуждения в <think> могут идти на английском, а итоговый ответ — на русском. Это нормально.

Чтобы увеличить контекст, внутри чата выполните:

/set parameter num_ctx 16384

Если удобнее графический интерфейс — те же модели доступны в LM Studio. А для чата в браузере, похожего на облачный, поверх Ollama ставят Open WebUI.

Как правильно пользоваться#

Разработчики DeepSeek дают для R1 конкретные рекомендации, и они работают и для дистиллятов:

• Температура 0,5–0,7, оптимально 0,6. При более высокой модель начинает повторяться или теряет связность.
• Не используйте системный промпт. Все инструкции пишите прямо в сообщении пользователя.
• Для математических задач просите рассуждать пошагово и выделять итоговый ответ отдельно.
• Не обрезайте рассуждения. Модель «додумывается» до ответа именно в блоке <think>.

Чем отличается от облачного чата#

Слабее. Дистиллят на 14 миллиардов — это не R1 на 671. На сложных задачах разрыв заметен, и делать вид, что его нет, бессмысленно. Дистиллят на 32 миллиарда ближе к оригиналу, но тоже не равен ему.

Медленнее отвечает. Рассуждающая модель тратит сотни токенов до первого слова ответа. На домашней видеокарте это секунды ожидания там, где облако отвечает почти сразу.

Не знает свежих событий. У локальной модели нет доступа к интернету — только знания на момент обучения.

Зато ваше. Переписка никуда не уходит, лимитов на количество запросов нет, интернет не нужен. Можно отдать модели рабочие документы, которые нельзя загружать в чужие сервисы.

Когда брать R1, а когда обычную модель#

Рассуждающая модель хороша на задачах, где нужно подумать: математика, логические задачи, разбор кода, планирование. На обычных задачах — написать письмо, пересказать текст, ответить на простой вопрос — она проигрывает: долго думает о том, что не требует раздумий.

Для повседневного чата и текстов на русском обычно приятнее Qwen3 той же размерности: у неё есть режим рассуждений, который можно включать и выключать, так что одна модель закрывает оба сценария. Как выбрать модель под задачу — в статье Ollama: команды и выбор модели. А для работы с документами полезен разбор нейросетей для текста и документов.

Частые вопросы#

Можно ли запустить DeepSeek без видеокарты? Можно — Ollama запустит модель на процессоре. Но скорость будет единицы токенов в секунду, а рассуждающая модель генерирует очень много токенов. На практике ждать ответа придётся минутами. Для процессора разумен предел в 7–8 миллиардов параметров.

А на Mac? Mac на Apple Silicon — хороший вариант: у него общая память для процессора и графики. На Mac с 32 ГБ комфортно работает дистиллят 14B, с 48 ГБ и больше — 32B.

Это безопасно? Модель ничего не отправляет? Локальная модель — это файл с весами, который работает у вас на компьютере. Сама по себе она в интернет не обращается. Ollama и LM Studio скачивают модели при первом запуске, но переписку не передают.

Какой размер выбрать? Самый большой, который помещается в видеопамять целиком вместе с контекстом на 8–16 тысяч токенов. Выгрузка части слоёв в оперативную память для рассуждающей модели особенно болезненна по скорости. Проверить можно в калькуляторе «Какую LLM я запущу».

Итог#

Локальный DeepSeek — это про контроль и приватность, а не способ бесплатно получить облачную модель. Если задача сложная, а данные не секретные, честнее воспользоваться облаком. Если нужен помощник с рассуждениями, которому можно доверить рабочие документы, — дистиллят на 14 миллиардов на карте с 12–16 ГБ закрывает задачу, а 32B на 24 ГБ приближается к облачному уровню.

Если локальные нейросети для вас в новинку, начните с руководства как запустить нейросеть локально.