Bruk lokale modeller med AI-agenter

Bruk lokale modeller med AI-agenter når en modell på egen datamaskin passer bedre til jobben enn en driftet modell. En Prostir Worker kobler datamaskinen til Prostir. Den kan utføre en bestemt oppgave eller levere modellen til en eksisterende Agent. Støttede kodeverktøy som Claude Code, Codex, Gemini og GitHub Copilot er også mulige når de er installert, innlogget og oppfyller kravene for forespørselen. De kan fortsatt bruke leverandørens sky. At verktøyet kjører på datamaskinen din, gjør ikke alle modeller lokale.

Åpne Workers i Prostir og følg installasjonsveiledningen. Start dotnet prostir i mappen du vil jobbe i. Første gang logger du inn i nettleseren, velger eller oppretter en Worker og kobler til datamaskinen. Senere brukes forbindelsen som er lagret i operativsystemets beskyttede lager for påloggingsopplysninger. Arbeidsmappen er mappen der du starter kommandoen. Velg en annen mappe bevisst hvis oppgaven trenger det. Datamaskinen og CLI må kjøre for at arbeidet skal nå frem.

Prostir viser leverandørene og modellene datamaskinen faktisk rapporterer. Aktiver ønsket leverandør og sjekk at den er klar. Eksisterende støttede kodeverktøy kan oppdages automatisk, men trenger fortsatt en kompatibel versjon og en fungerende konto hos leverandøren. Lokale tjenester som Ollama, llama.cpp og MLX samt støttede mapper med ONNX-modeller krever eget lokalt oppsett. Å velge en modell laster ikke ned modellvekter, starter ikke en manglende motor og gir ikke flere verktøyfunksjoner. Mulighetene avhenger av plattform, installasjon og modell.

Velg Worker i modellinnstillingene til Agent, deretter den bestemte datamaskinen, leverandøren og modellen. Dette er et valg av modellkilde på linje med Prostir AI Credits og egen leverandørnøkkel. Prostir styrer fortsatt instruksjoner, samtalekontekst, kunnskapstilgang og tillatte verktøyhandlinger. Worker mottar bare den avgrensede modelloppgaven forespørselen trenger. En Flow kan kalle agenten eller bruke et uttrykkelig Worker-oppgavesteg. Flow styrer fortsatt rekkefølge og kjøretilstand i Prostir. Worker er infrastruktur for utførelse, ikke et sjuende produkt på markedsplassen.

Koble bare til en datamaskin du styrer, og aktiver bare leverandørene du ønsker. Det lokale arbeidsområdet, påloggingsopplysningene og datamaskinens egne rettigheter gjelder fortsatt. Det samme gjør produkttilgang og verktøytillatelser i Prostir. En lokal modell betyr ikke at alle produktdata forblir på datamaskinen: Agent ligger fortsatt i Prostir, og forespørselen kan inneholde autorisert kontekst. Se fremdrift, resultat og eventuelle feil. En mistet forbindelse eller en usikker prosessavslutning er ikke en vellykket oppgave. Ny tilkobling gjentar den ikke i det stille.

En lokal modell bruker maskinvare, lagringsplass og strøm hos deg. Kodeverktøy og driftede leverandører kan kreve egne abonnementer eller bruksbetaling; sjekk vilkårene deres. Worker bytter ikke i det stille til en modell hos Prostir eller en annen leverandør hvis den valgte modellen er utilgjengelig. Vanlige Agent- og Flow-grenser i abonnementet gjelder fortsatt. Modellene har ulike muligheter for kontekst, verktøy og svar. En frakoblet datamaskin eller en inkompatibel modell kan stoppe jobben. Dette passer derfor dårlig for en tjeneste som alltid må være tilgjengelig, hvis du ikke kan holde datamaskinen i gang og tilkoblet.

Start med én forespørsel der du kan kontrollere resultatet. Koble til Worker, sjekk at leverandør og modell er klare, og send en liten oppgave. Se den løpende fremdriften og sluttresultatet før du velger den til en Agent. Prøv agentens faktiske kunnskap og verktøy, deretter en Flow hvis prosessen trenger det. Workers kan bare brukes når kontoen og funksjonsinnstillingene tillater det. Støtten varierer mellom leverandører og plattformer. En tilkoblet datamaskin beviser ikke at alle modeller og handlinger virker. Utvid fra det du har testet.