3步构建中医药知识图谱:基于ShenNong-LLM的实体关系抽取实践
中医药作为我国传统医学的瑰宝,其文献中蕴含着丰富的知识。然而,面对海量的古籍文本和现代研究文献,如何快速准确地提取"中药-功效"、"症状-方剂"等关键关系,一直是中医药信息化领域的难题。本文将介绍如何利用华东师范大学开源的ShenNong-LLM模型,从零开始构建中医药知识图谱,为中医药的现代化应用提供有力支持。
破解中医药知识挖掘难题:ShenNong-LLM的核心价值
在中医药研究领域,知识的获取和整理一直面临着诸多挑战。传统的人工标注方式不仅耗时费力,而且难以应对日益增长的文献数量。知识图谱(Knowledge Graph)作为一种结构化的知识表示方法,能够将中医药领域的实体(如中药、病症、方剂)和关系(如"治疗"、"配伍")进行有效组织,为知识的高效检索与推理提供基础。
ShenNong-LLM作为专为中医药领域优化的大语言模型,基于Chinese-Alpaca-Plus-7B基座训练,内置11万+中医药指令数据。该模型在中医药知识挖掘方面具有以下独特优势:
首先,它具备深度的古文理解能力,能够精准解析"君臣佐使"、"四气五味"等中医药专业概念,这对于处理古籍文献至关重要。其次,在中医药实体识别任务上,ShenNong-LLM的F1值达到0.89,远超通用模型,显示出卓越的领域适配性。最后,7B参数规模使得该模型能够支持单机GPU运行,满足私有化部署需求,为医疗机构和研究单位提供了数据安全保障。
图:医学类大模型的应用架构图,展示了ShenNong-LLM在中医药知识图谱构建中的核心位置
构建中医药知识图谱的实践路径
数据预处理:为模型输入高质量文本
数据预处理是知识图谱构建的基础步骤,直接影响后续模型抽取的效果。首先,需要从各种中医药文献中收集文本数据,包括古籍、现代研究论文、临床报告等。然后,对这些文本进行清洗和标准化处理,去除噪声和无关信息,统一术语表达。
import re
import jieba
from zhon.hanzi import punctuation
def preprocess_text(text):
# 移除标点符号
text = re.sub(r'[{}]+'.format(punctuation), '', text)
# 分词处理
words = jieba.cut(text)
# 过滤停用词(需准备中医药领域停用词表)
stopwords = set(open('stopwords.txt', 'r', encoding='utf-8').read().splitlines())
filtered_words = [word for word in words if word not in stopwords]
return ' '.join(filtered_words)
# 示例文本预处理
raw_text = "金银花,性甘寒,归肺心胃经,具有清热解毒、凉血消肿之功效。"
processed_text = preprocess_text(raw_text)
print(processed_text) # 输出:金银花 性甘寒 归肺心胃经 具有 清热解毒 凉血 消肿 功效
模型调优:提升实体关系抽取精度
在数据预处理完成后,需要对ShenNong-LLM进行微调,以进一步提升其在特定中医药任务上的性能。微调过程中,我们可以使用标注好的中医药实体关系数据,通过迁移学习的方式,使模型更好地适应中医药领域的语言特点和知识结构。
from transformers import TrainingArguments, Trainer
from datasets import Dataset
# 假设已准备好标注数据集
train_dataset = Dataset.from_pandas(pd.read_csv('train_data.csv'))
training_args = TrainingArguments(
output_dir="./shennong-finetuned",
num_train_epochs=3,
per_device_train_batch_size=4,
learning_rate=2e-5,
weight_decay=0.01,
logging_steps=100,
)
trainer = Trainer(
model=model,
args=training_args,
train_dataset=train_dataset,
)
trainer.train() # 开始微调模型
图谱构建:从抽取结果到可视化知识网络
完成模型调优后,我们可以使用训练好的模型进行实体关系抽取,并将结果存储到图数据库中,构建完整的中医药知识图谱。
def extract_and_store_relations(text, kg_handler):
prompt = f"""从以下文本中提取实体关系,格式为(实体1, 关系, 实体2):
文本:{text}
结果:"""
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(
**inputs,
max_new_tokens=200,
temperature=0.3
)
result = tokenizer.decode(outputs[0], skip_special_tokens=True)
# 解析抽取结果并存储到知识图谱
triples = parse_result(result) # 自定义解析函数
for triple in triples:
kg_handler.add_relation(*triple)
# 初始化知识图谱处理器
kg = KGHandler("bolt://localhost:7687", "neo4j", "password")
# 处理文本并构建知识图谱
extract_and_store_relations(processed_text, kg)
中医药知识图谱的场景落地
中医药知识图谱构建完成后,可以在多个领域发挥重要作用。在智能问答系统中,用户可以查询"哪些中药可治疗风热感冒",系统基于知识图谱快速返回准确答案。在方剂推荐方面,根据患者的症状实体,系统能够自动匹配经典方剂,如"咳嗽痰多"可推荐"二陈汤"。此外,知识图谱还可以应用于古籍数字化,批量处理《本草纲目》等典籍,构建历代名医经验图谱,为中医药传承和创新提供支持。
图:中文大语言模型分类体系图,展示了ShenNong-LLM在医学领域模型中的位置与关联
进阶探索:优化与扩展
常见问题解决
在中医药知识图谱构建过程中,可能会遇到一些技术难点。例如,实体识别准确率不高的问题,可以通过增加领域语料、优化标注数据质量来解决。关系抽取歧义问题,可以结合领域规则和上下文信息进行消歧。知识图谱存储性能问题,则可以考虑使用分布式图数据库或进行数据分片处理。
行业应用对比
与其他中医药知识处理工具相比,基于ShenNong-LLM构建的知识图谱具有明显优势。传统的基于规则的方法难以应对复杂的语言表达,而通用的大语言模型在领域知识深度上不足。ShenNong-LLM则结合了领域知识和深度学习的优势,能够更精准地处理中医药文本,构建高质量的知识图谱。
总结
本文介绍了基于ShenNong-LLM构建中医药知识图谱的完整流程,包括数据预处理、模型调优和图谱构建三个核心步骤。通过这一流程,我们可以高效地从中医药文献中提取有价值的知识,为中医药的现代化应用提供有力支持。未来,随着模型技术的不断进步和数据资源的积累,中医药知识图谱将在更多领域发挥重要作用,推动中医药事业的创新发展。
核心资源:
- 官方代码:ShenNong-TCM-LLM(项目内已收录)
- 数据集:ShenNong_TCM_Dataset(11万+中医药指令数据)
- 扩展资源:医学类模型汇总(包含19个中文医疗LLM对比)
GLM-5智谱 AI 正式发布 GLM-5,旨在应对复杂系统工程和长时域智能体任务。Jinja00
GLM-5-w4a8GLM-5-w4a8基于混合专家架构,专为复杂系统工程与长周期智能体任务设计。支持单/多节点部署,适配Atlas 800T A3,采用w4a8量化技术,结合vLLM推理优化,高效平衡性能与精度,助力智能应用开发Jinja00
jiuwenclawJiuwenClaw 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。Python0233- QQwen3.5-397B-A17BQwen3.5 实现了重大飞跃,整合了多模态学习、架构效率、强化学习规模以及全球可访问性等方面的突破性进展,旨在为开发者和企业赋予前所未有的能力与效率。Jinja00
AtomGit城市坐标计划AtomGit 城市坐标计划开启!让开源有坐标,让城市有星火。致力于与城市合伙人共同构建并长期运营一个健康、活跃的本地开发者生态。01- IinulaInula(发音为:[ˈɪnjʊlə])意为旋覆花,有生命力旺盛和根系深厚两大特点,寓意着为前端生态提供稳固的基石。openInula 是一款用于构建用户界面的 JavaScript 库,提供响应式 API 帮助开发者简单高效构建 web 页面,比传统虚拟 DOM 方式渲染效率提升30%以上,同时 openInula 提供与 React 保持一致的 API,并且提供5大常用功能丰富的核心组件。TypeScript05

