首页
/ Ollama项目模型存储路径修改指南

Ollama项目模型存储路径修改指南

2025-04-28 04:07:08作者:裴麒琰

在部署Ollama大型语言模型时,系统默认会将模型文件存储在用户主目录下。然而在实际生产环境中,/home目录的存储空间往往有限,特别是当需要部署多个大型模型时,这一问题尤为突出。本文将详细介绍如何修改Ollama的模型存储路径,以满足不同存储需求。

存储路径修改原理

Ollama采用环境变量控制模型存储位置的设计,这种设计模式在机器学习工具中十分常见。通过修改环境变量,用户可以灵活地将模型数据存储在具有充足空间的存储设备上,如外接硬盘、NAS或企业级存储阵列。

具体操作步骤

  1. 确定目标存储路径 首先需要选择一个具有足够空间的目标路径,例如:

    /mnt/ssd/ollama_models
    
  2. 设置环境变量 在Linux/macOS系统中,可以通过以下命令设置环境变量:

    export OLLAMA_MODELS=/mnt/ssd/ollama_models
    

    为了使设置永久生效,建议将上述命令添加到shell配置文件中(如.bashrc或.zshrc)

  3. Windows系统设置 对于Windows用户,可以通过系统属性→高级→环境变量进行设置,或者使用PowerShell:

    [System.Environment]::SetEnvironmentVariable('OLLAMA_MODELS', 'D:\ollama_models', 'User')
    
  4. 验证设置 设置完成后,可以通过运行Ollama并观察模型下载位置来验证设置是否生效。

高级配置建议

  1. 分布式存储方案 对于企业级部署,可以考虑将模型存储在NFS或S3兼容存储上,这需要额外的挂载或配置工作。

  2. 权限管理 确保Ollama进程对目标路径具有读写权限,特别是在使用非标准用户运行服务时。

  3. 性能优化 将模型存储在SSD上可以显著提升加载速度,特别是对于大型模型而言。

注意事项

  • 修改存储路径后,原有模型不会被自动迁移,需要手动复制或重新下载
  • 确保目标文件系统支持大文件存储(如超过100GB的单个模型文件)
  • 在多用户环境中,需要协调好存储路径的访问权限

通过合理配置存储路径,用户可以充分利用现有存储资源,优化Ollama模型的部署和管理效率。这种灵活性使得Ollama能够适应从个人开发到企业部署的各种应用场景。

登录后查看全文

项目优选

收起
Cangjie-ExamplesCangjie-Examples
本仓将收集和展示高质量的仓颉示例代码,欢迎大家投稿,让全世界看到您的妙趣设计,也让更多人通过您的编码理解和喜爱仓颉语言。
Cangjie
281
567
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
465
378
leetcodeleetcode
🔥LeetCode solutions in any programming language | 多种编程语言实现 LeetCode、《剑指 Offer(第 2 版)》、《程序员面试金典(第 6 版)》题解
Java
51
14
cherry-studiocherry-studio
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
358
37
openGauss-serveropenGauss-server
openGauss kernel ~ openGauss is an open source relational database management system
C++
56
128
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
104
187
CangjieMagicCangjieMagic
基于仓颉编程语言构建的 LLM Agent 开发框架,其主要特点包括:Agent DSL、支持 MCP 协议,支持模块化调用,支持任务智能规划。
Cangjie
571
40
HarmonyOS-ExamplesHarmonyOS-Examples
本仓将收集和展示仓颉鸿蒙应用示例代码,欢迎大家投稿,在仓颉鸿蒙社区展现你的妙趣设计!
Cangjie
350
252
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
93
246
ruoyi-airuoyi-ai
RuoYi AI 是一个全栈式 AI 开发平台,旨在帮助开发者快速构建和部署个性化的 AI 应用。
Java
100
28