AI 에이전트에서 로컬 모델 사용하기

AI 에이전트에서 로컬 모델을 사용하면 호스팅 모델보다 자기 컴퓨터의 모델이 일에 잘 맞을 때 다른 선택을 할 수 있어요. Prostir Worker는 그 컴퓨터를 Prostir에 연결해요. 명시한 작업을 실행하거나 기존 Agent에 모델을 제공할 수 있어요. Claude Code, Codex, Gemini, GitHub Copilot 같은 지원 개발 도구도 설치와 인증을 마치고 요청의 조건을 충족하면 쓸 수 있어요. 다만 이런 도구는 여전히 제공업체의 클라우드를 사용할 수 있어요. 도구가 내 컴퓨터에서 실행된다고 모든 모델이 로컬이 되는 것은 아니에요.

Prostir에서 Workers를 열고 설치 안내를 따르세요. 사용할 폴더에서 dotnet prostir를 실행해요. 처음에는 브라우저로 로그인해 Worker를 선택하거나 만들고 컴퓨터를 연결해요. 다음부터는 운영체제의 자격 증명 보관소에 저장된 연결을 재사용해요. 작업 폴더는 명령을 실행한 폴더예요. 별도 폴더가 필요한 일이라면 의도해서 다른 곳을 선택하세요. 작업을 받으려면 컴퓨터와 CLI가 계속 실행 중이어야 해요.

Prostir는 컴퓨터가 실제로 보고한 제공업체와 모델을 보여 줘요. 사용할 제공업체를 켜고 준비 상태를 확인하세요. 설치된 지원 개발 도구는 감지할 수 있지만 호환 버전과 해당 도구에서 쓸 수 있는 계정이 필요해요. Ollama, llama.cpp, MLX 같은 로컬 서비스와 지원 ONNX 모델 폴더는 별도로 준비해야 해요. 모델을 선택해도 가중치를 내려받거나 없는 실행 엔진을 시작하거나 도구 기능을 추가로 주지는 않아요. 사용 가능 여부는 플랫폼, 설치 상태, 모델에 따라 달라요.

Agent의 모델 설정에서 Worker를 고르고 정확한 컴퓨터, 제공업체, 모델을 선택하세요. Prostir AI Credits나 직접 발급받은 제공업체 키와 나란히 고르는 모델 공급원이에요. Agent의 지침, 대화 맥락, 지식 접근, 허용 도구 작업은 계속 Prostir가 관리해요. Worker에는 해당 요청에 필요한 범위로 한정한 모델 처리만 전달돼요. Flow는 그 Agent를 호출하거나 명시적인 Worker 작업 단계를 사용할 수 있어요. 순서와 실행 상태는 Flow가 Prostir 안에서 관리해요. Worker는 실행 기반이지 마켓플레이스의 일곱 번째 제품이 아니에요.

직접 관리하는 컴퓨터만 연결하고 쓰려는 제공업체만 켜세요. 컴퓨터의 로컬 작업 공간, 인증 정보, 운영체제 권한도 계속 중요해요. Prostir의 제품 접근과 도구 권한도 그대로 적용돼요. 로컬 모델을 골랐다고 모든 제품 데이터가 컴퓨터에만 남는다고 생각하면 안 돼요. Agent는 Prostir에 있고 요청에는 허용된 맥락이 포함될 수 있어요. 진행, 결과, 실패를 확인하세요. 연결이 끊겼거나 프로세스가 어떻게 끝났는지 불확실하다면 성공한 작업이 아니에요. 다시 연결해도 작업을 몰래 반복하지 않아요.

로컬 모델은 내 하드웨어, 저장 공간, 전기를 써요. 개발 도구나 호스팅 제공업체는 별도 구독이나 사용료가 필요할 수 있으니 해당 약관을 확인하세요. 선택한 모델이 없다고 Worker가 Prostir의 모델이나 다른 제공업체로 조용히 바꾸지는 않아요. Agent와 Flow의 일반 요금제 한도도 계속 적용돼요. 맥락, 도구, 응답 기능은 모델마다 달라요. 컴퓨터가 오프라인이거나 모델이 호환되지 않으면 일이 멈출 수 있어요. 항상 켜진 서비스가 필요한데 컴퓨터를 계속 사용할 수 있게 유지하지 못한다면 맞지 않는 방식이에요.

결과를 확인할 수 있는 요청 하나로 시작하세요. Worker를 연결하고 선택한 제공업체와 모델이 준비됐는지 본 뒤 작은 작업을 보내세요. 실시간 진행과 최종 결과를 확인한 후 Agent의 모델로 선택해요. 실제 지식과 도구를 시험하고 필요하면 Flow로 이어 가세요. Workers는 계정과 기능 설정이 허용하는 경우에만 사용할 수 있어요. 지원 조건은 제공업체와 플랫폼마다 달라요. 컴퓨터가 연결됐다는 것만으로 모든 모델과 작업이 된다고 판단할 수는 없어요. 확인한 동작에 맞춰 범위를 넓히세요.