ДомЛаб
🧠

Local AI

Локальные нейросети: модели, софт и железо. Что запускается на вашей видеокарте и как это настроить.

Иллюстрация к статье: Сколько VRAM нужно для локального AI
Local AIРазбор

Сколько VRAM нужно для локального AI

Разбираем, из чего складывается потребление видеопамяти — веса, KV-кэш и накладные расходы — и сколько гигабайт реально нужно под разные задачи.

2 мин чтения