
Нейросеть для генерации текста и работы с документами
Как выбрать нейросеть для генерации текста, редактирования, перевода и анализа PDF или Word: онлайн-сервисы, локальные модели и RAG.
Локальные нейросети: модели, софт и железо. Что запускается на вашей видеокарте и как это настроить.

Как выбрать нейросеть для генерации текста, редактирования, перевода и анализа PDF или Word: онлайн-сервисы, локальные модели и RAG.

Какой DeepSeek можно запустить на домашнем компьютере, сколько видеопамяти нужно дистиллятам R1 на 7, 14 и 32 миллиарда параметров, как установить через Ollama и чем локальная версия отличается от облачного чата.

Что такое ComfyUI, как установить Desktop или Portable на Windows, добавить модель Stable Diffusion или FLUX и собрать первый workflow.

Что такое Open WebUI, как установить интерфейс в Docker или Windows, подключить Ollama, загрузить локальную модель и настроить документы.

Как установить LM Studio на Windows, macOS или Linux, скачать GGUF-модель, запустить локальный чат и API. Требования, настройка и аналоги.

Что такое Ollama, как установить и запустить модель, выбрать вариант для русского языка, подключить Open WebUI, Docker и локальный API.

Как текст превращается в вектор, зачем локальному AI нужна векторная база данных и как устроен RAG на домашнем сервере.

Полный маршрут от нулевой установки до работающего чата с LLM на своём компьютере: выбор софта, модели, квантизации и настройка контекста.

Из чего складывается потребление видеопамяти — веса, KV-кэш и накладные расходы. Таблицы по моделям от 8 до 70 миллиардов параметров, влияние квантизации и контекста, сколько гигабайт нужно под разные задачи.