Lokale modellen gebruiken met AI-agents

Gebruik lokale modellen met AI-agents als een model op je eigen computer beter bij het werk past dan een gehost model. Een Prostir Worker verbindt die computer met Prostir. Hij kan een expliciete taak uitvoeren of het model leveren voor een bestaande Agent. Ondersteunde programmeerhulpmiddelen zoals Claude Code, Codex, Gemini en GitHub Copilot zijn ook mogelijk als ze geïnstalleerd, aangemeld en geschikt voor het verzoek zijn. Ze kunnen nog steeds de cloud van hun provider gebruiken: een hulpmiddel op je computer uitvoeren maakt niet ieder model lokaal.

Open Workers in Prostir en volg de installatie-instructies. Start dotnet prostir in de map waarin je wilt werken. De eerste keer meld je je aan in de browser, kies of maak je de Worker en verbind je de computer. Volgende keren wordt de verbinding uit de beveiligde opslag voor aanmeldgegevens van je besturingssysteem hergebruikt. De werkmap is de map waarin je de opdracht start. Kies bewust een aparte map als de taak die nodig heeft. De computer en het opdrachtregelprogramma moeten blijven draaien om werk te ontvangen.

Prostir toont de providers en modellen die de computer daadwerkelijk meldt. Schakel de gewenste provider in en controleer of die gereed is. Bestaande ondersteunde programmeerhulpmiddelen kunnen worden gevonden, maar hebben nog steeds een geschikte versie en een bruikbaar eigen account nodig. Lokale diensten zoals Ollama, llama.cpp en MLX en ondersteunde ONNX-modelmappen vragen een eigen lokale installatie. Een model kiezen downloadt geen modelgewichten, start geen ontbrekende motor en geeft geen extra mogelijkheden voor hulpmiddelen. Beschikbaarheid hangt af van platform, installatie en model.

Kies Worker in de modelinstellingen van een Agent en selecteer daarna de precieze computer, provider en het model. Dit is een keuze van modelbron, naast Prostir AI-tegoed en je eigen providersleutel. Prostir blijft de instructies, gesprekscontext, kennistoegang en toegestane hulpmiddelacties van de Agent beheren. De Worker krijgt alleen de afgebakende modelaanroep die het verzoek nodig heeft. Een Flow kan die Agent aanroepen of een expliciete Worker-taakstap gebruiken. De Flow blijft zijn volgorde en uitvoeringsstatus in Prostir beheren. Een Worker is uitvoeringsinfrastructuur, geen zevende marktplaatsproduct.

Verbind alleen een computer die je beheert en schakel alleen de gewenste providers in. De lokale werkmap, aanmeldgegevens en systeemrechten blijven van belang. Toegangsrechten voor producten en hulpmiddelen in Prostir blijven gelden. Ga er niet van uit dat een lokaal model alle productgegevens op de computer houdt: de Agent blijft in Prostir en het verzoek kan toegestane context bevatten. Bekijk voortgang, resultaat en eventuele fouten. Een verbroken verbinding of onzekere procesafsluiting is geen geslaagde taak. Opnieuw verbinden herhaalt die taak niet ongemerkt.

Een lokaal model gebruikt je hardware, opslag en stroom. Een programmeerhulpmiddel of aanbieder van gehoste modellen kan een eigen abonnement of betaling per gebruik vragen; lees de voorwaarden. Als het gekozen model niet beschikbaar is, schakelt de Worker niet ongemerkt over op een door Prostir gehost model of andere provider. De gewone planlimieten voor Agent en Flow blijven gelden. Modellen verschillen in contextlengte, hulpmiddelen en antwoordmogelijkheden. Een offline computer of ongeschikt model kan het werk stoppen. Dit past slecht bij een dienst die altijd beschikbaar moet zijn als je de computer niet beschikbaar kunt houden.

Begin met een verzoek waarvan je het resultaat kunt beoordelen. Verbind de Worker, bevestig dat provider en model gereed zijn en stuur een kleine taak. Bekijk de voortgang en het eindresultaat voordat je het model voor een Agent kiest. Probeer de echte kennis en hulpmiddelen van die Agent en daarna een Flow als je proces die nodig heeft. Workers is alleen beschikbaar als je account en de functie-instellingen het toestaan. De geschiktheid verschilt per provider en platform. Een verbonden computer bewijst niet dat ieder model of iedere actie werkt. Breid uit op basis van wat je hebt vastgesteld.