4 материалов
Какой DeepSeek можно запустить на домашнем компьютере, сколько видеопамяти нужно дистиллятам R1 на 7, 14 и 32 миллиарда параметров, как установить через Ollama и чем локальная версия отличается от облачного чата.
Что такое Open WebUI, как установить интерфейс в Docker или Windows, подключить Ollama, загрузить локальную модель и настроить документы.
Что такое Ollama, как установить и запустить модель, выбрать вариант для русского языка, подключить Open WebUI, Docker и локальный API.
Полный маршрут от нулевой установки до работающего чата с LLM на своём компьютере: выбор софта, модели, квантизации и настройка контекста.