Два способа использования
Как субагентов для облачного агента. Claude Code, Codex и любой другой MCP-клиент вызывают инструменты Local AI напрямую. Агент отдаёт им простую рутину и работает уже с подготовленными данными, вместо того чтобы делать эту грязную работу самостоятельно, тратя облачные токены.
Без облачного агента, из командной строки. Те же возможности, но как помощники для Вас: искать по коду по смыслу, разобрать лог, прочитать картинку, перевести документ. Индекс и модели те же самые, так что начать отсюда и подключить агента позже ничего не стоит.
Зачем в середине брокер. Он один на каталог рантайма — %LOCALAPPDATA%\LocalAi, то есть
один на пользователя Windows, — и держит очередь. Поэтому Claude, Codex
и командная строка работают одновременно, не мешая друг другу, а в видеопамяти лежит одна
модель, а не четыре, дерущиеся за место.
Модели по умолчанию работают локально. Брокер отправляет код и построенные по нему
запросы Ollama по адресу http://127.0.0.1:11434/, то есть на эту же машину; брокер,
запущенный с другим адресом, отправляет их по этому адресу. На каких сетевых интерфейсах
слушает сама Ollama, решают её собственные настройки. Проверка обновлений выключена по
умолчанию. Модели и недостающие программы качаются тогда, когда Вы об этом просите.
Локальные инструменты возвращают результаты вызвавшему их клиенту, включая ответы модели и выбранные фрагменты исходников. Облачный агент может включить эти результаты в запросы своему облачному провайдеру. Поэтому локальное выполнение модели не гарантирует, что возвращённое содержимое останется на Вашем компьютере: такую передачу определяют настройки и политика обработки данных клиента.