Local AI Toolkit

Два способа использования

Оглавление · English version

Как субагентов для облачного агента. Claude Code, Codex и любой другой MCP-клиент вызывают инструменты Local AI напрямую. Агент отдаёт им простую рутину и работает уже с подготовленными данными, вместо того чтобы делать эту грязную работу самостоятельно, тратя облачные токены.

Без облачного агента, из командной строки. Те же возможности, но как помощники для Вас: искать по коду по смыслу, разобрать лог, прочитать картинку, перевести документ. Индекс и модели те же самые, так что начать отсюда и подключить агента позже ничего не стоит.

Как устроен Local AI: к его инструментам ведут два пути — через облачного агента по MCP и напрямую из командной строки, а сами инструменты обращаются к брокеру с локальными моделями и к индексу кода

Зачем в середине брокер. Он один на каталог рантайма — %LOCALAPPDATA%\LocalAi, то есть один на пользователя Windows, — и держит очередь. Поэтому Claude, Codex и командная строка работают одновременно, не мешая друг другу, а в видеопамяти лежит одна модель, а не четыре, дерущиеся за место.

Модели по умолчанию работают локально. Брокер отправляет код и построенные по нему запросы Ollama по адресу http://127.0.0.1:11434/, то есть на эту же машину; брокер, запущенный с другим адресом, отправляет их по этому адресу. На каких сетевых интерфейсах слушает сама Ollama, решают её собственные настройки. Проверка обновлений выключена по умолчанию. Модели и недостающие программы качаются тогда, когда Вы об этом просите.

Локальные инструменты возвращают результаты вызвавшему их клиенту, включая ответы модели и выбранные фрагменты исходников. Облачный агент может включить эти результаты в запросы своему облачному провайдеру. Поэтому локальное выполнение модели не гарантирует, что возвращённое содержимое останется на Вашем компьютере: такую передачу определяют настройки и политика обработки данных клиента.


Оглавление · Что доступно облачному агенту →