에이전트 모드 모델 설정
Prometheus에서 에이전트 모드(Agent Mode)용 모델을 설정하는 방법을 알아보세요. 최적의 성능을 위한 권장 모델 및 구성 옵션도 포함되어 있습니다. 채팅 모드(Chat Mode)용으로 설정한 모델은 해당 모델이 도구 호출을 지원하는 경우 에이전트 모드(Agent Mode)에서도 사용됩니다. 권장 모델 및 설정 방법은 여기에서 확인할 수 있습니다.시스템 메시지 도구(System Message Tools) 작동 방식
Prometheus는 시스템 메시지 도구라는 혁신적인 접근 방식을 구현하여 모델의 기본 기능에 관계없이 모든 모델에서 일관된 도구 기능을 보장합니다. 이를 통해 에이전트 모드는 더 넓은 범위의 모델 및 공급자와 원활하게 작동할 수 있습니다.시스템 메시지 도구의 기능
공급업체마다 다른 네이티브 도구 호출 API에만 의존하는 대신, Prometheus는 도구를 XML 형식으로 변환하여 시스템 메시지에 포함합니다. 모델은 응답 내에 구조화된 XML 형식으로 도구 호출을 생성하고, Prometheus는 이를 구문 분석하여 실행합니다. 이 접근 방식은 다음과 같은 이점을 제공합니다:- 범용 호환성 - 지침을 따를 수 있는 모든 모델은 네이티브 도구 지원 여부와 관계없이 도구를 사용할 수 있습니다.
- 일관된 동작 - 도구 호출은 OpenAI, Anthropic, 로컬 모델 및 기타 모델에서 동일하게 작동합니다.
- 더 나은 안정성 - 네이티브 도구 사용에 어려움을 겪는 모델도 시스템 메시지 도구를 사용할 때 더 나은 성능을 보이는 경우가 많습니다.
- 원활한 전환 - 워크플로우를 수정하지 않고도 공급업체 간에 자유롭게 전환할 수 있습니다.
권장 에이전트 모델
| 모델 역할 | 최고의 오픈 소스 모델 | 최고의 폐쇄형(기성) 모델 | 비고 |
|---|---|---|---|
| Agent Plan | 폐쇄형 모델이 오픈 소스 모델보다 약간 더 우수합니다. | ||
| Chat Edit | 폐쇄형 모델과 오픈 소스 모델의 성능이 거의 비슷합니다. | ||
| Autocomplete | 폐쇄형 모델이 오픈 소스 모델보다 약간 더 우수합니다. | ||
| Apply | 폐쇄형 모델이 오픈 소스 모델보다 더 우수합니다. | ||
| Embed | Qwen3 Embedding | Codestral Embed | 폐쇄형 모델이 오픈 소스 모델보다 약간 더 우수합니다. |
| Rerank | zerank-1 zerank-1-small Qwen3 Reranker | Relace Code Rerank | 이 모델 역할에 대해 오픈 소스 모델이 등장하기 시작했습니다. |
| Next Edit | 폐쇄형 모델이 오픈 소스 모델보다 더 우수합니다. |