Local AI Toolkit

Зависимости

Оглавление · English version

Установщик проверяет каждую. Git, Ollama, GitHub CLI, .NET SDK, Node.js и Python он предлагает поставить через WinGet, а оба SCIP-индексатора — через npm, когда Node.js уже стоит; если WinGet нет, он называет официальную страницу загрузки каждой.

Без чего не работает вовсе:

  Зачем
Windows Windows 10 или 11 на x64; всё остальное установщик отмечает как неподдерживаемое
Git репозиторий опознаётся по git-каталогу; на нём же держатся хуки
Ollama на ней крутятся все модели; Local AI обращается к ней только через брокер
Видеокарта, куда влезает модель при политике по умолчанию, RequireFullVram, модель, не помещающаяся в видеопамять целиком, отклоняется, а не работает медленно. Политику можно смягчить — см. ниже

Нужно для отдельных языков — без них поиск работает, но грубее:

  Зачем
.NET SDK 10 семантический индекс C#, на котором стоит точная навигация, строится загрузкой решения через установленный SDK. Нарезке C# на типы и члены он не нужен: её Roslyn делает внутри Local AI
Node.js 20 + SCIP TypeScript нарезка TypeScript и JavaScript по объявлениям
Python 3.10+ + SCIP Python нарезка Python по объявлениям

Необязательно:

  Зачем
GitHub CLI нужен, только если анонимная загрузка релиза по HTTPS не удалась: репозиторий приватный или до хоста релизов не достучаться, а до API — да. Сначала установщик пробует HTTPS без учётной записи, а установке из папки не нужно ни то, ни другое

Политику размещения модели можно смягчить осознанно: localai policy set --residency AllowPartialOffload или AllowCpu. Модель, которая при этом работает частично или полностью вне видеопамяти, помечается [partial_offload] или [cpu] рядом с её именем в строке отчёта о вызове.


← Как это устроено · Оглавление · Как установить →