3大核心优势!神农中医药大模型开源:从数据到部署的全流程指南
2026-04-02 09:18:33作者:俞予舒Fleming
神农中医药大模型(ShenNong-TCM-LLM)是华东师范大学在Awesome-Chinese-LLM项目中开源的垂直领域模型,基于70亿参数中文底座,通过11万条中医药指令数据微调,实现中药查询、方剂推荐、辨证论治等核心功能,为开发者提供低成本私有化部署的中医AI解决方案。
快速了解:为什么选择神农大模型
中医药AI落地面临三大痛点:高质量数据稀缺、部署成本高昂、知识体系复杂。神农大模型通过三大创新解决这些问题:采用实体中心自指令方法构建2.6万条专属数据集,基于LoRA技术实现消费级GPU训练,提供从数据处理到应用部署的全流程开源工具链。
图1:医学类大模型的应用架构图,展示神农中医药大模型在医疗领域的技术定位与应用场景
核心资源解析:数据集与技术方案
中医药专属数据集详解
ShenNong_TCM_Dataset包含三大模块,覆盖中医药知识全领域:
- 中药知识模块(8,236条):涵盖性味归经、功效主治、现代研究等核心信息
- 方剂配伍模块(5,641条):包含君臣佐使、加减化裁、临床应用等配伍规律
- 辨证论治模块(7,123条):集成四诊合参、证型判断、治则治法等诊疗逻辑
数据集采用JSON格式存储,每条数据包含instruction(指令)、input(输入)、output(输出)三部分,可直接用于模型微调。
高效微调技术方案
项目采用参数高效微调方案,核心配置如下:
- 底座模型:Chinese-Alpaca-Plus-7B(中文优化LLaMA变体)
- LoRA参数:rank=16,lora_alpha=32,target_modules=["q_proj", "v_proj"]
- 训练环境:4×NVIDIA 3090 GPU(24GB显存),10 epochs约28小时
- 量化技术:4-bit量化,显存占用降低75%,消费级GPU即可部署
快速部署指南:三步搭建中医AI助手
环境准备
推荐配置:
- 操作系统:Ubuntu 20.04
- Python版本:3.8+
- CUDA版本:11.7+
- 显存要求:至少10GB(量化版模型)
基础依赖安装:
pip install torch transformers peft accelerate bitsandbytes
项目获取与模型加载
获取项目代码:
git clone https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM
cd Awesome-Chinese-LLM
加载量化模型:
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("./ShenNong-TCM-LLM")
model = AutoModelForCausalLM.from_pretrained(
"./ShenNong-TCM-LLM",
load_in_4bit=True,
device_map="auto"
)
典型应用场景演示
中药对比查询
prompt = "请比较当归与白芍在补血方面的异同点"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=200, temperature=0.7)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
症状辨证推荐
针对"面色苍白,头晕心悸,月经量少,舌淡苔白,脉细弱"等症状,模型可推荐八珍汤等方剂,并提供组成、用法及加减建议。
项目价值与未来规划
三大核心价值
1.** 知识传承 :将分散的中医药典籍转化为结构化AI知识,助力传统医学现代化 2. 临床辅助 :基层医疗机构可低成本部署,提升中医诊疗效率与规范性 3. 科研加速 **:为中药现代化研究提供数据挖掘工具,加速新药研发与机制研究
未来发展路线
项目计划推出13B参数增强版,融合VisualGLM-6B实现舌诊图像分析功能,同时扩展针灸、推拿等中医特色疗法的AI应用模块。
行动指南与资源获取
- 克隆项目仓库获取完整资源:
git clone https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM - 查阅项目文档:doc/Medical.md
- 数据集位置:项目根目录下的
ShenNong_TCM_Dataset文件夹 - 下期预告:《神农模型与电子病历系统的集成实践》
通过神农中医药大模型,开发者可以快速构建中医AI应用,推动中医药智能化发展,为传统医学注入新的活力。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0187
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0112
Step-3.7-FlashStep-3.7-Flash是一个拥有 1980 亿参数的稀疏混合专家(MoE)视觉语言模型,由 1960 亿参数的语言主干网络和 18 亿参数的视觉编码器组合而成,具备原生图像理解能力。Python00
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
omega-aiOmega-AI:基于java打造的深度学习框架,帮助你快速搭建神经网络,实现模型推理与训练,引擎支持自动求导,多线程与GPU运算,GPU支持CUDA,CUDNN。Java03
llm-universe本项目是一个面向小白开发者的大模型应用开发教程,在线阅读地址:https://datawhalechina.github.io/llm-universe/Jupyter Notebook08
热门内容推荐
最新内容推荐
项目优选
收起
deepin linux kernel
C
32
16
暂无描述
Dockerfile
759
4.94 K
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
1.78 K
187
暂无简介
Dart
1 K
259
Ascend Extension for PyTorch
Python
716
866
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
854
1.91 K
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.07 K
1.09 K
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.72 K
1.02 K
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
674
1.32 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
454
436