AudioNotes项目连接本地Ollama模型的配置指南

在AudioNotes项目中，用户经常需要连接本地运行的Ollama模型进行文本处理。本文将详细介绍如何正确配置AudioNotes与本地Ollama服务的连接，特别是针对qwen2模型的配置方法。

基础环境准备

首先需要确保本地已经正确安装并运行了Ollama服务。可以通过访问http://localhost:11434来验证服务是否正常运行，如果返回"Ollama is running"则表示服务已启动。

模型拉取与验证

对于qwen2模型，用户需要执行特定的拉取命令。值得注意的是，即使本地已有类似模型，也需要使用完整模型名称进行拉取：

ollama pull qwen2:7b

这个步骤确保了模型版本的准确性，避免了因模型名称不匹配导致的连接问题。

配置参数详解

AudioNotes项目通过环境变量来配置与Ollama的连接，主要包含以下三个关键参数：

1. OLLAMA_BASE_URL：指定Ollama服务的API地址。对于Docker环境，需要使用特殊的host.docker.internal地址来访问宿主机服务。

2. OLLAMA_MODEL：指定要使用的模型名称，必须与本地拉取的模型名称完全一致。

3. OLLAMA_API_KEY：虽然Ollama本地服务通常不需要API密钥，但某些实现中仍需要设置一个占位值。

Docker环境配置示例

对于使用Docker部署AudioNotes的用户，可以在docker-compose.yml文件中添加以下配置：

environment:
  - OLLAMA_BASE_URL=http://host.docker.internal:11434/v1
  - OLLAMA_MODEL=qwen2:7b
  - OLLAMA_API_KEY=ollama

这种配置方式确保了容器内的应用能够正确访问宿主机上的Ollama服务。

常见问题排查

如果遇到连接问题，可以按照以下步骤排查：

1. 确认Ollama服务是否正常运行
2. 验证模型是否已正确拉取
3. 检查环境变量配置是否正确
4. 对于Docker环境，确认网络配置允许容器访问宿主机服务

通过以上配置和验证步骤，用户可以确保AudioNotes项目能够顺利连接并使用本地Ollama模型进行文本处理。