Brug lokale modeller med AI-agenter

Brug lokale modeller med AI-agenter, når en model på din egen computer passer bedre til arbejdet end en hostet model. En Prostir Worker forbinder computeren med Prostir. Den kan udføre en bestemt opgave eller levere modellen til en eksisterende Agent. Understøttede kodeværktøjer som Claude Code, Codex, Gemini og GitHub Copilot er også en mulighed, når de er installeret, logget ind og opfylder kravene til forespørgslen. De kan stadig bruge udbyderens cloud. At værktøjet kører på din computer, gør ikke alle modeller lokale.

Åbn Workers i Prostir, og følg installationsvejledningen. Start dotnet prostir i den mappe, du vil arbejde i. Første gang logger du ind i browseren, vælger eller opretter en Worker og forbinder computeren. Senere bruges forbindelsen, som er gemt i operativsystemets beskyttede lager til legitimationsoplysninger. Arbejdsmappen er den mappe, hvor du starter kommandoen. Vælg bevidst en anden mappe, hvis opgaven kræver det. Computeren og CLI skal køre, for at arbejdet kan nå frem.

Prostir viser de udbydere og modeller, computeren faktisk rapporterer. Aktivér den udbyder, du vil bruge, og kontrollér, at den er klar. Eksisterende understøttede kodeværktøjer kan findes automatisk, men kræver stadig en kompatibel version og en brugbar konto hos udbyderen. Lokale tjenester som Ollama, llama.cpp og MLX samt understøttede mapper med ONNX-modeller kræver egen lokal opsætning. At vælge en model henter ikke modelvægte, starter ikke en manglende motor og giver ikke ekstra værktøjsfunktioner. Mulighederne afhænger af platform, installation og model.

Vælg Worker i din Agents modelindstillinger og derefter den præcise computer, udbyder og model. Det er et valg af modelkilde på linje med Prostir AI Credits og din egen udbydernøgle. Prostir styrer stadig instruktioner, samtalens sammenhæng, adgang til viden og tilladte værktøjshandlinger. Worker modtager kun den afgrænsede modelopgave, forespørgslen kræver. En Flow kan kalde agenten eller bruge et udtrykkeligt Worker-opgavetrin. Flow styrer fortsat rækkefølge og kørslens tilstand i Prostir. En Worker er infrastruktur til udførelse, ikke et syvende produkt på markedspladsen.

Tilslut kun en computer, du selv styrer, og aktivér kun de ønskede udbydere. Computerens lokale arbejdsområde, legitimationsoplysninger og egne adgangsrettigheder gælder stadig. Det gør produktadgang og værktøjstilladelser i Prostir også. En lokal model betyder ikke, at alle produktdata bliver på computeren: Agent findes stadig i Prostir, og forespørgslen kan indeholde oplysninger, der er givet adgang til. Følg fremdrift, resultat og eventuelle fejl. En tabt forbindelse eller uvished om, hvordan en proces sluttede, er ikke en vellykket opgave. Genforbindelse gentager den ikke stiltiende.

En lokal model bruger din hardware, lagerplads og strøm. Kodeværktøjer og hostede udbydere kan kræve eget abonnement eller betaling efter forbrug; læs deres vilkår. Hvis den valgte model ikke er tilgængelig, skifter Worker ikke stiltiende til en model hos Prostir eller en anden udbyder. Abonnementets almindelige grænser for Agent og Flow gælder stadig. Modellerne har forskellige grænser for kontekst, værktøjer og svar. En slukket computer eller en inkompatibel model kan stoppe arbejdet. Derfor passer løsningen dårligt til en tjeneste, der altid skal være tilgængelig, hvis du ikke kan holde computeren kørende og forbundet.

Begynd med én forespørgsel, hvis resultat du kan kontrollere. Tilslut Worker, kontrollér udbyder og model, og send en lille opgave. Se den løbende fremdrift og slutresultatet, før du vælger den til en Agent. Prøv derefter agentens faktiske viden og værktøjer og en Flow, hvis processen kræver det. Workers kan kun bruges, når din konto og funktionsindstillingerne tillader det. Understøttelsen varierer mellem udbydere og platforme. En tilsluttet computer beviser ikke, at alle modeller og handlinger virker. Udvid ud fra det, du har afprøvet.