Lokale Modelle mit KI-Agenten nutzen

Nutze lokale Modelle mit KI-Agenten, wenn ein Modell auf deinem Computer besser zur Arbeit passt als ein gehostetes Modell. Ein Prostir Worker verbindet diesen Computer mit Prostir. Er kann eine konkrete Aufgabe ausführen oder einem vorhandenen Agent das Modell bereitstellen. Unterstützte Programmierwerkzeuge wie Claude Code, Codex, Gemini und GitHub Copilot sind eine weitere Möglichkeit, wenn sie installiert, angemeldet und für die Anfrage geeignet sind. Sie können weiterhin die Cloud ihres Anbieters nutzen: Ein Werkzeug auf deinem Computer macht nicht jedes Modell lokal.

Öffne Workers in Prostir und folge der Installationsanleitung. Starte dotnet prostir im gewünschten Ordner. Beim ersten Start kannst du dich im Browser anmelden, den Worker wählen oder erstellen und den Computer verbinden. Spätere Starts nutzen die Verbindung aus dem geschützten Anmeldedatenspeicher des Betriebssystems. Arbeitsordner ist der Ordner, in dem du den Befehl startest. Wähle bewusst einen anderen, falls die Aufgabe das braucht. Computer und CLI müssen weiterlaufen, damit Arbeit sie erreicht.

Prostir zeigt Anbieter und Modelle, die der Computer tatsächlich meldet. Aktiviere den gewünschten Anbieter und prüfe seine Bereitschaft. Vorhandene unterstützte Programmierwerkzeuge können erkannt werden, brauchen aber eine passende Version und ein eigenes nutzbares Konto. Lokale Dienste wie Ollama, llama.cpp oder MLX und unterstützte ONNX-Modellordner brauchen eine eigene Einrichtung. Eine Modellauswahl lädt keine Gewichte herunter, startet keine fehlende Laufzeit und verleiht keine zusätzlichen Werkzeugfähigkeiten. Die Verfügbarkeit hängt von Plattform, Installation und Modell ab.

Wähle in den Modelleinstellungen des Agent zuerst Worker und dann den konkreten Computer, Anbieter und das Modell. Das ist eine weitere Modellquelle neben Prostir-KI-Guthaben und deinem eigenen Anbieterschlüssel. Anweisungen, Gesprächskontext, Wissenszugriff und erlaubte Werkzeugaktionen des Agent bleiben unter Kontrolle von Prostir. Der Worker erhält den begrenzten Modellaufruf, den die Anfrage benötigt. Ein Flow kann diesen Agent aufrufen oder einen ausdrücklichen Schritt für eine Worker-Aufgabe verwenden. Reihenfolge und Ausführungszustand des Flow bleiben in Prostir. Ein Worker ist Ausführungsinfrastruktur und kein siebtes Marktplatzprodukt.

Verbinde nur einen Computer unter deiner Kontrolle und aktiviere nur gewünschte Anbieter. Lokaler Arbeitsbereich, Zugangsdaten und Systemrechte bleiben wichtig. Produktzugriff und Werkzeugrechte in Prostir gelten weiterhin. Ein lokales Modell bedeutet nicht, dass alle Produktdaten auf dem Computer bleiben: Der Agent bleibt in Prostir, und die Anfrage kann erlaubten Kontext enthalten. Prüfe Fortschritt, Ergebnis und Fehler. Eine verlorene Verbindung oder ein unklarer Prozessabschluss ist kein erfolgreicher Auftrag; erneutes Verbinden wiederholt ihn nicht unbemerkt.

Ein lokales Modell nutzt deine Hardware, Speicher und Strom. Ein Programmierwerkzeug oder gehosteter Anbieter kann ein eigenes Abo oder verbrauchsabhängige Zahlung verlangen. Prüfe seine Bedingungen. Ist das gewählte Modell nicht verfügbar, wechselt der Worker nicht unbemerkt zu einem Prostir-Modell oder anderen Anbieter. Die normalen Tarifkontingente für Agent und Flow gelten weiter. Modelle unterscheiden sich bei Kontext, Werkzeugen und Antwortfähigkeiten. Ein nicht erreichbarer Computer oder ein inkompatibles Modell kann den Auftrag stoppen. Das passt schlecht zu einem ständig verfügbaren Dienst, wenn du den Computer nicht verfügbar halten kannst.

Beginne mit einer Anfrage, deren Ergebnis du prüfen kannst. Verbinde den Worker, bestätige die Bereitschaft von Anbieter und Modell und sende eine kleine Aufgabe. Prüfe den laufenden Fortschritt und das Endergebnis, bevor du das Modell für einen Agent wählst. Teste dessen echtes Wissen und Werkzeuge und danach einen Flow, falls nötig. Workers ist nur verfügbar, wenn dein Konto und die Funktionskonfiguration es erlauben. Die Eignung hängt von Anbieter und Plattform ab; ein verbundener Computer beweist nicht, dass jedes Modell und jede Aktion funktioniert. Erweitere anhand überprüften Verhaltens.