3步构建中医药知识图谱:基于ShenNong-LLM的实体关系抽取实践
中医药作为我国传统医学的瑰宝,其文献中蕴含着丰富的知识。然而,面对海量的古籍文本和现代研究文献,如何快速准确地提取"中药-功效"、"症状-方剂"等关键关系,一直是中医药信息化领域的难题。本文将介绍如何利用华东师范大学开源的ShenNong-LLM模型,从零开始构建中医药知识图谱,为中医药的现代化应用提供有力支持。
破解中医药知识挖掘难题:ShenNong-LLM的核心价值
在中医药研究领域,知识的获取和整理一直面临着诸多挑战。传统的人工标注方式不仅耗时费力,而且难以应对日益增长的文献数量。知识图谱(Knowledge Graph)作为一种结构化的知识表示方法,能够将中医药领域的实体(如中药、病症、方剂)和关系(如"治疗"、"配伍")进行有效组织,为知识的高效检索与推理提供基础。
ShenNong-LLM作为专为中医药领域优化的大语言模型,基于Chinese-Alpaca-Plus-7B基座训练,内置11万+中医药指令数据。该模型在中医药知识挖掘方面具有以下独特优势:
首先,它具备深度的古文理解能力,能够精准解析"君臣佐使"、"四气五味"等中医药专业概念,这对于处理古籍文献至关重要。其次,在中医药实体识别任务上,ShenNong-LLM的F1值达到0.89,远超通用模型,显示出卓越的领域适配性。最后,7B参数规模使得该模型能够支持单机GPU运行,满足私有化部署需求,为医疗机构和研究单位提供了数据安全保障。
图:医学类大模型的应用架构图,展示了ShenNong-LLM在中医药知识图谱构建中的核心位置
构建中医药知识图谱的实践路径
数据预处理:为模型输入高质量文本
数据预处理是知识图谱构建的基础步骤,直接影响后续模型抽取的效果。首先,需要从各种中医药文献中收集文本数据,包括古籍、现代研究论文、临床报告等。然后,对这些文本进行清洗和标准化处理,去除噪声和无关信息,统一术语表达。
import re
import jieba
from zhon.hanzi import punctuation
def preprocess_text(text):
# 移除标点符号
text = re.sub(r'[{}]+'.format(punctuation), '', text)
# 分词处理
words = jieba.cut(text)
# 过滤停用词(需准备中医药领域停用词表)
stopwords = set(open('stopwords.txt', 'r', encoding='utf-8').read().splitlines())
filtered_words = [word for word in words if word not in stopwords]
return ' '.join(filtered_words)
# 示例文本预处理
raw_text = "金银花,性甘寒,归肺心胃经,具有清热解毒、凉血消肿之功效。"
processed_text = preprocess_text(raw_text)
print(processed_text) # 输出:金银花 性甘寒 归肺心胃经 具有 清热解毒 凉血 消肿 功效
模型调优:提升实体关系抽取精度
在数据预处理完成后,需要对ShenNong-LLM进行微调,以进一步提升其在特定中医药任务上的性能。微调过程中,我们可以使用标注好的中医药实体关系数据,通过迁移学习的方式,使模型更好地适应中医药领域的语言特点和知识结构。
from transformers import TrainingArguments, Trainer
from datasets import Dataset
# 假设已准备好标注数据集
train_dataset = Dataset.from_pandas(pd.read_csv('train_data.csv'))
training_args = TrainingArguments(
output_dir="./shennong-finetuned",
num_train_epochs=3,
per_device_train_batch_size=4,
learning_rate=2e-5,
weight_decay=0.01,
logging_steps=100,
)
trainer = Trainer(
model=model,
args=training_args,
train_dataset=train_dataset,
)
trainer.train() # 开始微调模型
图谱构建:从抽取结果到可视化知识网络
完成模型调优后,我们可以使用训练好的模型进行实体关系抽取,并将结果存储到图数据库中,构建完整的中医药知识图谱。
def extract_and_store_relations(text, kg_handler):
prompt = f"""从以下文本中提取实体关系,格式为(实体1, 关系, 实体2):
文本:{text}
结果:"""
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(
**inputs,
max_new_tokens=200,
temperature=0.3
)
result = tokenizer.decode(outputs[0], skip_special_tokens=True)
# 解析抽取结果并存储到知识图谱
triples = parse_result(result) # 自定义解析函数
for triple in triples:
kg_handler.add_relation(*triple)
# 初始化知识图谱处理器
kg = KGHandler("bolt://localhost:7687", "neo4j", "password")
# 处理文本并构建知识图谱
extract_and_store_relations(processed_text, kg)
中医药知识图谱的场景落地
中医药知识图谱构建完成后,可以在多个领域发挥重要作用。在智能问答系统中,用户可以查询"哪些中药可治疗风热感冒",系统基于知识图谱快速返回准确答案。在方剂推荐方面,根据患者的症状实体,系统能够自动匹配经典方剂,如"咳嗽痰多"可推荐"二陈汤"。此外,知识图谱还可以应用于古籍数字化,批量处理《本草纲目》等典籍,构建历代名医经验图谱,为中医药传承和创新提供支持。
图:中文大语言模型分类体系图,展示了ShenNong-LLM在医学领域模型中的位置与关联
进阶探索:优化与扩展
常见问题解决
在中医药知识图谱构建过程中,可能会遇到一些技术难点。例如,实体识别准确率不高的问题,可以通过增加领域语料、优化标注数据质量来解决。关系抽取歧义问题,可以结合领域规则和上下文信息进行消歧。知识图谱存储性能问题,则可以考虑使用分布式图数据库或进行数据分片处理。
行业应用对比
与其他中医药知识处理工具相比,基于ShenNong-LLM构建的知识图谱具有明显优势。传统的基于规则的方法难以应对复杂的语言表达,而通用的大语言模型在领域知识深度上不足。ShenNong-LLM则结合了领域知识和深度学习的优势,能够更精准地处理中医药文本,构建高质量的知识图谱。
总结
本文介绍了基于ShenNong-LLM构建中医药知识图谱的完整流程,包括数据预处理、模型调优和图谱构建三个核心步骤。通过这一流程,我们可以高效地从中医药文献中提取有价值的知识,为中医药的现代化应用提供有力支持。未来,随着模型技术的不断进步和数据资源的积累,中医药知识图谱将在更多领域发挥重要作用,推动中医药事业的创新发展。
核心资源:
- 官方代码:ShenNong-TCM-LLM(项目内已收录)
- 数据集:ShenNong_TCM_Dataset(11万+中医药指令数据)
- 扩展资源:医学类模型汇总(包含19个中文医疗LLM对比)
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust060
Kimi-K2.6Kimi K2.6 是一款开源的原生多模态智能体模型,在长程编码、编码驱动设计、主动自主执行以及群体任务编排等实用能力方面实现了显著提升。Python00- QQwen3.5-397B-A17BQwen3.5 实现了重大飞跃,整合了多模态学习、架构效率、强化学习规模以及全球可访问性等方面的突破性进展,旨在为开发者和企业赋予前所未有的能力与效率。Jinja00
MiniMax-M2.7MiniMax-M2.7 是我们首个深度参与自身进化过程的模型。M2.7 具备构建复杂智能体应用框架的能力,能够借助智能体团队、复杂技能以及动态工具搜索,完成高度精细的生产力任务。Python00
GLM-5.1GLM-5.1是智谱迄今最智能的旗舰模型,也是目前全球最强的开源模型。GLM-5.1大大提高了代码能力,在完成长程任务方面提升尤为显著。和此前分钟级交互的模型不同,它能够在一次任务中独立、持续工作超过8小时,期间自主规划、执行、自我进化,最终交付完整的工程级成果。Jinja00
Hy3-previewHy3 preview 是由腾讯混元团队研发的2950亿参数混合专家(Mixture-of-Experts, MoE)模型,包含210亿激活参数和38亿MTP层参数。Hy3 preview是在我们重构的基础设施上训练的首款模型,也是目前发布的性能最强的模型。该模型在复杂推理、指令遵循、上下文学习、代码生成及智能体任务等方面均实现了显著提升。Python00

