Använd lokala modeller med AI-agenter

Använd lokala modeller med AI-agenter när en modell på din egen dator passar arbetet bättre än en driftad modell. En Prostir Worker kopplar datorn till Prostir. Den kan utföra en uttrycklig uppgift eller leverera modellen åt en befintlig Agent. Programmeringsverktyg som Claude Code, Codex, Gemini och GitHub Copilot är också möjliga när de stöds, är installerade, inloggade och lämpade för begäran. Verktygen kan fortfarande använda leverantörens moln: att köra ett verktyg på datorn gör inte alla modeller lokala.

Öppna Workers i Prostir och följ installationsanvisningarna. Starta dotnet prostir i mappen du vill arbeta i. Första gången loggar du in i webbläsaren, väljer eller skapar en Worker och ansluter datorn. Senare starter återanvänder anslutningen från operativsystemets säkra lagring för inloggningsuppgifter. Arbetsmappen är den mapp där du startar kommandot. Välj medvetet en separat mapp om uppgiften kräver det. Datorn och kommandoradsverktyget måste fortsätta köras för att ta emot arbete.

Prostir visar de leverantörer och modeller som datorn faktiskt rapporterar. Aktivera leverantören du vill använda och kontrollera att den är redo. Befintliga programmeringsverktyg som stöds kan upptäckas, men behöver fortfarande rätt version och ett eget fungerande konto. Lokala tjänster som Ollama, llama.cpp och MLX samt ONNX-modellmappar som stöds behöver egen lokal installation. Att välja en modell hämtar inte modellvikter, startar ingen saknad motor och ger inga extra verktygsförmågor. Tillgängligheten beror på plattform, installation och modell.

Välj Worker i modellinställningarna för Agent och välj sedan exakt dator, leverantör och modell. Det är ett val av modellkälla vid sidan av Prostirs AI-kredit och din egen leverantörsnyckel. Instruktioner, samtalskontext, kunskapsåtkomst och tillåtna verktygsåtgärder styrs fortfarande av Prostir. Worker får det avgränsade modellanrop som begäran behöver. Ett Flow kan anropa denna Agent eller använda ett uttryckligt Worker-uppgiftssteg. Flow styr fortfarande ordningen och körningens tillstånd i Prostir. En Worker är körinfrastruktur, inte en sjunde produkt på marknadsplatsen.

Anslut bara en dator du kontrollerar och aktivera bara de leverantörer du vill använda. Datorns lokala arbetsmapp, inloggningsuppgifter och systembehörigheter spelar fortfarande roll. Produktåtkomst och verktygsrättigheter i Prostir gäller även här. Ett lokalt modellval innebär inte att alla produktuppgifter stannar på datorn: Agent finns kvar i Prostir och begäran kan innehålla tillåten kontext. Granska framsteg, resultat och fel. En förlorad anslutning eller osäker processavslutning är inte ett lyckat arbete. Återanslutning upprepar inte uppgiften i tysthet.

En lokal modell använder din hårdvara, lagring och el. Ett programmeringsverktyg eller en modellleverantör kan kräva eget abonnemang eller betalning för användning; kontrollera villkoren. Om den valda modellen är otillgänglig byter Worker inte i tysthet till en modell hos Prostir eller en annan leverantör. De vanliga plangränserna för Agent och Flow gäller fortfarande. Modeller skiljer sig i kontextlängd, verktygsstöd och svarsförmåga. En frånkopplad dator eller inkompatibel modell kan stoppa arbetet. Det passar därför dåligt för en tjänst som alltid måste fungera om du inte kan hålla datorn tillgänglig.

Börja med en begäran vars resultat du kan kontrollera. Anslut Worker, bekräfta att leverantör och modell är redo och skicka en liten uppgift. Granska pågående arbete och slutresultat innan du väljer modellen för en Agent. Prova sedan den kunskap och de verktyg som Agent faktiskt använder, följt av ett Flow om processen behöver det. Workers är bara tillgängligt där ditt konto och funktionsinställningarna tillåter det. Stödet varierar mellan leverantörer och plattformar. En ansluten dator bevisar inte att alla modeller och åtgärder fungerar. Utöka utifrån det beteende du har kontrollerat.