Як використовувати локальні моделі з ШІ-агентами

Використовуй локальні моделі з ШІ-агентами, якщо модель на твоєму комп’ютері краще підходить для роботи, ніж хмарна. Prostir Worker підключає цей комп’ютер до Prostir. Він може виконувати окреме завдання або надавати модель для наявного Agent. Ще один варіант — підтримувані інструменти програмування, як-от Claude Code, Codex, Gemini та GitHub Copilot, якщо їх установлено, налаштовано вхід і підтверджено придатність для запиту. Вони можуть і далі звертатися до хмари свого провайдера: запуск інструмента на комп’ютері не робить кожну модель локальною.

Відкрий Workers у Prostir і дотримуйся інструкцій зі встановлення. Запусти dotnet prostir у потрібній папці. Під час першого запуску вхід через браузер дає змогу обрати чи створити Worker і підключити комп’ютер. Наступні запуски використовують підключення, збережене в захищеному сховищі облікових даних операційної системи. Робочою буде папка, у якій запущено команду; якщо завдання потребує окремої папки, обери її свідомо. Щоб комп’ютер отримував завдання, він і CLI мають залишатися ввімкненими.

Prostir показує провайдерів і моделі, про які повідомляє сам комп’ютер. Увімкни потрібного провайдера та перевір його готовність. Уже встановлені підтримувані інструменти програмування можуть визначатися автоматично, але їм усе одно потрібні сумісна версія та чинний власний обліковий запис. Локальні сервіси Ollama, llama.cpp чи MLX та підтримувані папки моделей ONNX потрібно налаштувати окремо. Вибір моделі не завантажує її ваги, не запускає відсутній рушій і не додає можливостей роботи з інструментами. Доступність залежить від платформи, встановленого середовища й моделі.

У налаштуваннях моделі Agent обери Worker, а потім конкретний комп’ютер, провайдера й модель. Це ще одне джерело моделі поряд із кредитами ШІ Prostir і власним ключем провайдера. Інструкціями Agent, контекстом розмови, доступом до знань і дозволеними діями інструментів керує Prostir; Worker отримує лише окреме звернення до моделі з обмеженим контекстом, потрібним для запиту. Flow може викликати цей Agent або містити окремий крок із завданням Worker. Послідовністю та станом виконання Flow і далі керує Prostir. Worker — інфраструктура виконання, а не сьомий продукт маркетплейсу.

Підключай лише комп’ютер, який контролюєш, і вмикай лише потрібних провайдерів. Локальна робоча папка, облікові дані й права операційної системи залишаються важливими. Доступ до продукту та дозволи інструментів у Prostir також діють. Не вважай, що вибір локальної моделі залишає всі дані продукту на комп’ютері: Agent працює в Prostir, а запит може містити дозволений контекст. Переглядай перебіг, результат і помилки. Втрата з’єднання чи невизначене завершення процесу не означають успіху; повторне підключення не запускає завдання знову непомітно.

Локальна модель використовує твоє обладнання, місце на диску й електроенергію. Інструмент програмування чи хмарний провайдер може вимагати власну підписку або оплату використання — перевір його умови. Якщо обрана модель недоступна, Worker не переходить непомітно на модель у Prostir чи іншого провайдера. Звичайні тарифні обмеження Agent і Flow залишаються чинними. Моделі відрізняються розміром контексту, підтримкою інструментів і можливостями відповіді. Вимкнений комп’ютер або несумісна модель можуть зупинити роботу. Цей варіант не підходить для постійно доступного сервісу, якщо ти не можеш забезпечити доступність комп’ютера.

Почни із запиту, результат якого можеш перевірити. Підключи Worker, переконайся, що провайдер і модель готові, та надішли невелике завдання. Переглянь перебіг у реальному часі й кінцевий результат, перш ніж обирати цю модель для Agent. Перевір справжні знання та інструменти Agent, а потім Flow, якщо він потрібен процесу. Workers доступні лише тоді, коли це дозволяють твій обліковий запис і налаштування функції. Сумісність залежить від провайдера та платформи; саме підключення комп’ютера не доводить, що працюватиме кожна модель чи дія. Розширюй використання за результатами перевірок.