ДомЛаб
🧠

Local AI

Локальные нейросети: модели, софт и железо. Что запускается на вашей видеокарте и как это настроить.

Иллюстрация к статье: Как запустить DeepSeek локально — и стоит ли
Local AIИнструкция

Как запустить DeepSeek локально — и стоит ли

Какой DeepSeek можно запустить на домашнем компьютере, сколько видеопамяти нужно дистиллятам R1 на 7, 14 и 32 миллиарда параметров, как установить через Ollama и чем локальная версия отличается от облачного чата.

7 мин чтения
Иллюстрация к статье: Open WebUI: установка с Ollama в Docker и Windows
Local AIИнструкция

Open WebUI: установка с Ollama в Docker и Windows

Что такое Open WebUI, как установить интерфейс в Docker или Windows, подключить Ollama, загрузить локальную модель и настроить документы.

10 мин чтения
Иллюстрация к статье: Сколько VRAM нужно для локального AI
Local AIРазбор

Сколько VRAM нужно для локального AI

Из чего складывается потребление видеопамяти — веса, KV-кэш и накладные расходы. Таблицы по моделям от 8 до 70 миллиардов параметров, влияние квантизации и контекста, сколько гигабайт нужно под разные задачи.

7 мин чтения