公司动态
04-模型与Provider-300+模型自由切换
04 · 模型与Provider——300+模型自由切换开场场景:一个任务,需要不同的脑子上午写代码时,你需要逻辑严谨、代码生成质量高的模型;下午写文档时,你需要文字优美、表达清晰流畅的模型;通宵调试时,你希望有一个快的模型能快速反馈;做安全审计时,你可能需要用本地部署的模型确保数据不出内网。不同任务,对模型的要求截然不同。传统AI工具把你锁定在一个模型上——要么只能用它自家的,要么换模型就要退出重新配置。但 Hermes 不一样。它让你在 300+ 个模型中自由切换,甚至可以同时配置多个 Provider 自动做故障转移。一、支持的Provider全景Hermes 设计了一套通用的 Provider 接口,理论上任何符合 OpenAI API 兼容格式的模型服务都可以接入。目前官方支持的 Provider 包括:Nous PortalNous Research 官方提供的模型服务。如果你是第一次使用 Hermes,Nous Portal 是最省心的选择——注册即送试用额度,开箱即用,不需要自己申请任何 API Key。支持模型:Nous 系列开源模型(Hermes 3、Nous 微调系列等)、以及精选的第三方开源模型。OpenRouter支持数百个模型的一站式 API 接口。OpenRouter 整合了来自各大模型提供商的开源和商业模型。支持模型:300+,包括 LLama、Mistral、DeepSeek、Qwen、GPT 系列、Claude 系列等。支持按次付费和按 token 计费两种方式。Anthropic官方 Claude 模型接入。支持 Claude 3.5 Sonnet、Claude 3 Opus 等所有 Claude 系列模型。OpenAI官方 GPT 模型接入。支持 GPT-4o、GPT-4 Turbo、GPT-3.5 Turbo 等所有 OpenAI 模型。DeepSeekDeepSeek 系列模型接入。DeepSeek-V2、DeepSeek-Coder 等模型在代码生成方面表现优异,且性价比极高。GoogleGoogle Gemini 系列模型接入。Gemini 1.5 Pro、Gemini 1.5 Flash 等,特别擅长大上下文处理(100万 token)。GroqGroq 提供极低延迟的推理服务。如果你追求"打字时的即时响应"体验,Groq 是最佳选择。自定义兼容端点任何兼容 OpenAI API 的服务都可以接入——包括 vLLM、Ollama、LocalAI 等自托管方案。二、配置方法方式一:交互式配置最推荐新手使用的方式:hermes model这个命令会启动一个交互式菜单:第一步:选择 Provider(Nous Portal / OpenRouter / Anthropic / OpenAI / …)第二步:如果 Provider 需要 API Key,提示输入(输入内容会被隐藏)第三步:选择该 Provider 下的具体模型第四步:确认配置并保存全程不需要手动编辑任何配置文件。方式二:手动编辑 Config.yaml对于更复杂的配置需求,直接编辑~/.hermes/config.yaml:provider:default:openrouteropenrouter:api_key:${OPENROUTER_API_KEY}model:openai/gpt-4oanthropic: