AI 模型配置 — 在线模型与本地模型详解
模型平台选择
NoteGen 支持两类模型:
| 类型 | 来源 | 优点 | 缺点 |
|---|---|---|---|
| 在线模型 | 你自己的 API Key 服务商 | 能力强、GPT-4/Claude 级别 | 有成本、内容发出去了 |
| 本地模型 | Ollama、LM Studio 等 | 免费、不联网、隐私好 | 能力受限于本地硬件 |
内置免费模型可以直接体验基础能力。想升级或更精准控制,就需要配置自己的模型。
配置在线模型
Step 1:选择或添加平台
设置 → AI → 模型服务:
- 平台列表从 NoteGen CDN 获取主流服务商(OpenAI、Anthropic、DeepSeek、Moonshot、阿里通义等)
- 也可以选"添加自定义平台"填一个 OpenAI 兼容的 API
Step 2:填平台信息
每个平台需要:
- Base URL——API 根地址,通常只填到版本号(如
https://api.openai.com/v1),不要加/chat/completions - API Key——你的密钥
- 模型名称——具体用哪个模型(如
gpt-4o、claude-3.5-sonnet) - 模型类型——对话/嵌入/重排/STT/TTS
Step 3:连接检测
填完后一定要点连接检测。连接失败说明:
- Base URL 不对
- API Key 不对或过期
- 模型名称错误(服务商没这个模型)
- 网络问题(国内访问部分海外服务商可能需要代理)
- 供应商级代理设置有问题(NoteGen 设置中可以配置"继承、直连、自定义")
Step 4:在各功能中使用
模型配置好后,在对话/写作/记录整理等功能的模型下拉中选择即可。每个功能可以用不同的模型。
配置本地模型(Ollama 示例)
本地模型零成本、零网络请求,但需要你自己在本机运行模型服务。
Ollama 步骤
- 安装 Ollama(
ollama.com) - 命令行下载模型:
ollama pull qwen2.5:7b(中文好,适合笔记场景) - 启动服务后默认监听
http://localhost:11434 - NoteGen 中添加"自定义平台",Base URL 填
http://localhost:11434/v1 - API Key 可以留空
- 模型名称填你下载的模型名(
qwen2.5:7b) - 连接检测
本地模型的局限
- 能力不如 GPT-4/Claude 3.5——复杂任务(Agent 规划、长文本理解)可能出错
- 需要较好的硬件(至少 8GB 内存才能跑 7B 模型)
- 适合简单问答、润色、翻译、日常整理
- 敏感内容优先用本地模型,普通任务用在线模型平衡
多模型策略
一个典型的配置方案:
| 功能 | 用什么模型 | 原因 |
|---|---|---|
| 简单整理、润色、翻译 | Ollama qwen2.5(本地) | 免费够用,不发外网 |
| 复杂 Agent 任务 | 在线强模型 | 规划能力和工具调用更准 |
| 知识库存入嵌入 | 嵌入模型(小而快) | 嵌入任务不需要强对话能力 |
| STT 录音转写 | STT 模型 | 专门的语音识别模型效果好 |
兼容旧接口
部分旧的 OpenAI 兼容服务商只接受 max_tokens 而不是 max_completion_tokens。在 NoteGen 模型设置里可以切换这个参数名。
模型切换
不同功能默认使用你配置的"默认对话模型"。可以在各功能工具栏单独切换——比如整理用本地模型,但 Agent 用在线强模型。