Ollama项目环境变量配置指南

环境变量概述

Ollama作为一款基于Docker的应用程序，提供了丰富的环境变量配置选项，允许用户根据实际需求对系统行为进行灵活调整。这些环境变量覆盖了日志级别、模型参数、网络配置等多个方面，为用户提供了细粒度的控制能力。

核心环境变量解析

日志相关配置

OLLAMA_LOG_LEVEL变量控制着系统的日志输出级别，可设置为以下值之一：

• debug：输出最详细的调试信息
• info：记录常规运行信息（默认级别）
• warn：仅记录警告信息
• error：仅记录错误信息

调试时建议设置为debug级别，生产环境则推荐使用info或更高级别。

模型参数配置

OLLAMA_CONTEXT_SIZE变量允许用户全局设置所有模型的上下文窗口大小。这个参数直接影响模型处理输入文本的能力，数值越大，模型能处理的上下文信息越多，但同时也会增加内存消耗。默认值为2048，可根据硬件配置适当调整。

其他重要配置

1. 主机与端口配置：

   • OLLAMA_HOST：指定服务监听的主机地址
   • OLLAMA_PORT：设置服务监听的端口号

2. 存储路径配置：

   • OLLAMA_MODELS：自定义模型存储目录
   • OLLAMA_TMP：设置临时文件目录

3. 性能相关配置：

   • OLLAMA_NUM_GPU：指定使用的GPU数量
   • OLLAMA_MAX_LOADED_MODELS：控制同时加载的模型最大数量

配置建议

在实际部署中，建议根据以下原则进行配置：

1. 开发环境可启用debug日志级别便于问题排查
2. 生产环境应适当限制日志级别以减少I/O开销
3. 上下文大小需根据可用内存合理设置
4. 存储路径应指向具有足够空间的磁盘分区

通过合理配置这些环境变量，用户可以优化Ollama的性能表现，使其更好地适应不同的使用场景和硬件环境。