Usare modelli locali con gli agenti IA

Usa modelli locali con gli agenti IA quando un modello sul tuo computer è più adatto al lavoro di uno ospitato. Un Worker Prostir collega quel computer a Prostir. Può eseguire un compito preciso o fornire il modello a un Agent esistente. Un’altra opzione sono gli strumenti di programmazione compatibili come Claude Code, Codex, Gemini e GitHub Copilot, se installati, autenticati e adatti alla richiesta. Possono comunque usare il cloud del fornitore: avviare uno strumento sul computer non rende locali tutti i suoi modelli.

Apri Workers in Prostir e segui le istruzioni di installazione. Esegui dotnet prostir nella cartella da usare. Al primo avvio, l’accesso nel browser permette di scegliere o creare il Worker e collegare il computer. Gli avvii successivi riutilizzano la connessione salvata nell’archivio protetto delle credenziali del sistema operativo. La cartella di lavoro è quella da cui lanci il comando; scegline un’altra consapevolmente se il compito lo richiede. Computer e CLI devono restare in esecuzione per ricevere lavoro.

Prostir mostra fornitori e modelli effettivamente segnalati dal computer. Abilita il fornitore desiderato e controlla che sia pronto. Gli strumenti di programmazione compatibili già installati possono essere rilevati, ma servono una versione compatibile e un account proprio utilizzabile. Servizi locali come Ollama, llama.cpp o MLX e cartelle di modelli ONNX supportate richiedono una configurazione locale. Scegliere un modello non scarica i suoi pesi, non avvia un motore mancante e non aggiunge capacità di usare strumenti. La disponibilità dipende da piattaforma, installazione e modello.

Nelle impostazioni del modello dell’Agent scegli Worker, poi computer, fornitore e modello precisi. È un’altra fonte del modello, accanto ai crediti IA Prostir e alla tua chiave del fornitore. Prostir mantiene il controllo su istruzioni, contesto della conversazione, accesso alle conoscenze e azioni autorizzate dell’Agent; il Worker riceve solo la chiamata al modello, con il contesto limitato necessario alla richiesta. Un Flow può chiamare quell’Agent o usare un passaggio esplicito con un compito Worker. Sequenza e stato di esecuzione del Flow restano in Prostir. Un Worker è infrastruttura di esecuzione, non un settimo prodotto del marketplace.

Collega solo un computer che controlli e abilita soltanto i fornitori desiderati. La cartella di lavoro locale, le credenziali e i permessi del sistema restano importanti. Continuano a valere accessi al prodotto e permessi degli strumenti in Prostir. Non presumere che un modello locale mantenga tutti i dati del prodotto sul computer: l’Agent resta in Prostir e la richiesta può includere contesto autorizzato. Esamina avanzamento, risultato ed errori. Una connessione persa o una conclusione incerta del processo non equivalgono a un successo; riconnettersi non ripete il compito di nascosto.

Un modello locale usa hardware, spazio e corrente tuoi. Uno strumento di programmazione o un fornitore ospitato può richiedere abbonamento o pagamento a consumo: controlla le condizioni. Se il modello scelto è indisponibile, il Worker non passa in silenzio a un modello ospitato da Prostir o a un altro fornitore. Restano i normali limiti del piano per Agent e Flow. I modelli differiscono per contesto, strumenti e capacità di risposta. Un computer offline o un modello incompatibile può bloccare il lavoro: non è una buona scelta per un servizio sempre disponibile se non puoi mantenere accessibile quel computer.

Parti da una richiesta di cui sai verificare il risultato. Collega il Worker, conferma che fornitore e modello siano pronti e invia un piccolo compito. Controlla avanzamento in diretta e risultato finale prima di sceglierlo per un Agent. Prova conoscenze e strumenti reali dell’Agent e poi un Flow, se serve al processo. Workers è disponibile solo quando account e configurazione della funzione lo consentono. La compatibilità varia per fornitore e piattaforma: un computer collegato non dimostra che ogni modello o azione funzioni. Amplia l’uso in base al comportamento verificato.