大模型服务
翻译、总结、问答、术语抽取和知识图谱都通过你配置的大模型服务完成。FreeRead 本身不提供模型。
添加服务
设置 › 大模型服务 › 添加服务:
| 类型 | 说明 |
|---|---|
| OpenAI 兼容 | OpenAI、DeepSeek、通义、Moonshot、vLLM 等兼容 OpenAI 接口的服务。Base URL 一般以 /v1 结尾,如 https://api.openai.com/v1 |
| Anthropic(兼容端点) | 提供 Anthropic Messages 接口的服务 |
| Ollama(本地) | 本机运行的 Ollama,内容不出本机 |
填写名称、Base URL 后,输入 API Key 并点 保存 Key:Key 保存到 Windows 凭据管理器(系统钥匙串),不写入设置文件。已保存的 Key 显示为"已保存,输入新值可替换",也可以 删除 Key。点 测试连接 检查配置是否正确。
可以添加多个服务,比如便宜的模型用于翻译、强一些的模型用于总结和问答。
最大并发
每个服务卡片上有 最大并发(默认 4,范围 1–32):这个服务同时进行的请求数,所有任务共享。翻译、总结和图谱抽取的并行度都跟随它;遇到限流(429)时调小,服务商额度高时可以调大。改完立即对新请求生效。
按任务选择
设置 › 翻译、总结、问答与图谱:
- 目标语言、翻译使用的服务和模型
- 展开“按任务指定服务、自动抽取图谱”后:
- 总结使用的服务 / 模型(默认与翻译相同)
- 问答使用的服务 / 模型(默认与总结相同)
- 图谱抽取使用的服务 / 模型(默认与总结相同),以及“建立语义索引后自动抽取图谱”
语义索引(嵌入)默认用内置本地模型,也可以改用大模型服务的嵌入接口,见 检索与语义索引。
费用与缓存
相同内容、相同提示词的请求会命中本地缓存,不会重复调用;已翻译的段落、已生成的总结都保存在本机。翻译默认只翻可视区域,点"翻译全文"时才翻整篇。
发送前确认
第一次把文档内容发给某个服务前,会弹框请你确认,见 隐私与数据。