Local AI Toolkit

Как установить

Оглавление · English version

Установите пакет с ECDSA-подписью манифеста из GitHub Releases. Для установки опубликованного релиза не нужны ни .NET SDK, ни закрытый ключ подписи релизов.

Подпись издателя Windows: опубликованный сейчас установщик не подписан Authenticode. Манифест защищает целостность пакета, но не подтверждает издателя Windows для начального установщика. Проверяйте политику подписи и заметки конкретного релиза.

1. Скачать релиз. Из одного и того же релиза скачайте LocalAi.Installer.exe, release-manifest.json, release-manifest.sig и localai-package.zip. Положите три файла пакета в одну папку и укажите её на странице пакета в установщике. Прежде чем принять пакет, установщик проверяет манифест встроенным ключом релизов.

Разработка из исходников: собрать и протестировать решение можно без GPU и закрытого ключа подписи; см. правила участия.

Необязательно: собрать официальный устанавливаемый релиз. Этот путь предназначен для сопровождающих проект, у которых есть ключ подписи релизов. Нужны pwsh 7 и .NET 10 SDK версии 10.0.302 или новее (закреплено в global.json). Вместо версии в примере укажите нужную версию:

pwsh scripts/publish-localai-release-win-x64-self-contained.ps1 -ReleaseVersion 0.2.2 -SignManifest

Установщик окажется в publish/LocalAi.Installer/LocalAi.Installer.exe, а папка релиза — в publish/release: пакет, а рядом манифест и подпись, которые -SignManifest пишет ключом подписи релизов. Без -SignManifest манифеста нет, и такую папку установщик не примет. На странице пакета в установщике укажите папку publish/release.

Добавьте -CompressBinaries, чтобы уменьшить размер исполняемых файлов на диске, учитывая возможное замедление запуска; по умолчанию сжатие выключено. Оба режима остаются автономными: встроенная среда .NET, состав пакета, нативные библиотеки и правила проверки сохраняются. Существующие требования к инструментам языков программирования не меняются.

Первый пилот Windows x64 (2026-09-23, SDK 10.0.401, исходный коммит ac6b47fc3dd0) сравнивал одинаковые в остальном сборки 0.0.0-size. Файлы runtime вместе с launcher и нативными библиотеками уменьшились 573,57 → 287,31 МиБ (49,9%). Комплект для установки из папки (установщик + ZIP, без небольших файлов манифеста и подписи) уменьшился 386,27 → 308,75 МиБ (20,1%); сам ZIP — 249,54 → 244,87 МиБ. Пять чередующихся запусков каждого варианта выполнялись в новом процессе, с пустым каталогом распаковки, PATH только с System32 и недоступным глобальным корнем .NET:

Сценарий запуска Медиана без сжатия Медиана со сжатием
localai --help 168,606 мс 228,417 мс
codesearch --help 161,615 мс 208,985 мс
справка-отказ launcher 31,951 мс 66,372 мс
справка-отказ брокера 38,803 мс 78,899 мс
инициализация CodeSearch MCP 226,948 мс 290,966 мс

Вывод справки, ответы инициализации MCP и описания инструментов совпали; эти точки входа запускались без глобальных SDK/runtime. Файловый кэш ОС не очищался: это холодный старт процесса и кэша распаковки, а не замер после перезагрузки. Запуск UI установщика и офлайн-установка на чистую машину остаются в финальной приёмке (#618); пилот с явным включением сжатия её не заменяет. Оба ZIP прошли штатный проверяющий модуль пакетов с временным тестовым ключом доверия, без изменения установленной среды и использования ключа подписи релизов. Замеры и хеши файлов сохранены в results.json; сравнение воспроизводится через compare.py после публикации в два разных каталога с одинаковыми аргументами версии, добавив -CompressBinaries только для второго варианта. Это соотношение размера и времени запуска, а не измерение экономии облачных токенов.

На чём это будет считать

Продукт рассчитан на видеокарту, но не требует её. Что именно у Вас — решаете при установке Вы, выбрав политику размещения модели; поменять её можно и потом, командой localai policy set --residency.

Политика Где живёт модель Скорость
RequireFullVram — по умолчанию целиком в видеопамяти измерено на машине разработки при полной сборке индекса этого репозитория: эмбеддинг 12,4–12,9 чанков/с (#389)
AllowPartialOffload часть в видеопамяти, часть в системной словами самого продукта — медленнее. Нужен адаптер, вмещающий хотя бы часть модели: загрузка принимается, только если Ollama сообщает, что часть модели в видеопамяти
AllowCpu целиком на процессоре намного медленнее, но работает без пригодного адаптера вовсе

Числа в первой строке — замер, записанный в #389. Для двух других строк у меня измерений нет, и придумывать я их не стал: там стоят слова, которыми продукт сам описывает эти режимы в справке localai policy — её он печатает в ответ на нераспознанный аргумент. localai policy show называет текущую политику и, если она смягчена, предупреждает, что ответы могут быть значительно медленнее, чем при полной загрузке в видеопамять.

Потолок — одна карта, а не сумма. Прикидывая, влезет ли модель в видеопамять, — на странице моделей в установщике и в localai hardware plan — Local AI берёт в расчёт только карту с наибольшей собственной видеопамятью и никогда не складывает карты: две карты по 4 ГБ считаются одной на 4 ГБ. Загрузив модель, брокер сверяет с её размером одну цифру от Ollama — сколько модели лежит в видеопамяти — и не смотрит, на какой карте она лежит.

2. Запустить установщик. Мастер проведёт по шагам:

Клиентам он пропишет MCP-серверы и добавит блок инструкций в ~/.claude/CLAUDE.md и ~/.codex/AGENTS.md, чтобы агент знал, что эти инструменты есть и когда за ними тянуться.

Перед продолжением проверьте итоговый экран: установка пакета, проверка моделей и настройка каждого клиента имеют отдельные результаты. Установленный пакет сам по себе не означает, что модели и клиенты готовы. После отмены или частичного сбоя экран объясняет следующий шаг и доступность отката записанных изменений. Технический лог сохраняет исходный текст; перед закрытием окна сохраните отчёт, а если запись не удалась — скопируйте лог.

Удаление тоже сохраняет результат вне runtime. При остановке на полпути отчёт по журналу различает выполненные действия, ошибки, неизвестный итог, не начатые действия и сохранённые данные. Можно открыть папку отчёта, сохранить другую копию или скопировать сведения. Удалённые данные автоматически не восстанавливаются; переход к чистой установке доступен после успешного удаления.

3. Подключить репозиторий. Индексация включается для каждого отдельно — пока не попросите, ничего не читается.

& "$env:LOCALAPPDATA\LocalAi\bin\launcher\localai-launcher.exe" run localai sync --root <repo>
& "$env:LOCALAPPDATA\LocalAi\bin\launcher\localai-launcher.exe" run localai hooks install --root <repo>

Первая сборка читает репозиторий целиком и показывает ход работы цифрами. Хуки дальше держат индекс свежим после коммита, checkout, merge и rebase.

4. Убедиться, что всё встало.

& "$env:LOCALAPPDATA\LocalAi\bin\launcher\localai-launcher.exe" run localai doctor

← Зависимости · Оглавление · Как пользоваться с облачным агентом →