3步快速部署中医大语言模型仲景：专业医疗AI助手实战指南

【免费下载链接】CMLM-ZhongJing 首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪，专为传统中医领域打造的预训练大语言模型。 The first-ever Traditional Chinese Medicine large language model - "CMLM-ZhongJing". Inspired by the profound wisdom of the ancient Chinese medical master Zhang Zhongjing, it is a pre-trained large language model designed specifically for the field of Traditional Chinese Medicine. 项目地址: https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing

还在为寻找专业的中医AI助手而烦恼吗？仲景中医大语言模型将古老的中医智慧与现代人工智能完美融合，为你提供专业的辨证论治支持。作为首个专为传统中医领域设计的大型语言模型，仲景不仅继承了张仲景的医学精髓，更通过深度学习技术实现了对中医药知识的精准理解与生成。

项目亮点速览

多任务诊疗分解 - 借鉴人类记忆学习机制，通过15种诊疗场景任务构建高质量指令数据，覆盖从诊断分析到随访的全流程。

海量专业数据 - 基于13.5万+条专业指令数据训练，涵盖中医古籍、方药、证候、舌脉象等多维度知识，确保模型的专业准确性。

跨专科泛化能力 - 基于多专科数据训练，在中医内科、妇科、儿科等多个学科领域展现出优秀的诊断与处方能力。

轻量级高效部署 - 1.8B参数版本可在单张Tesla T4显卡上实现高速推理，让专业中医AI助手触手可及。

图：仲景模型采用的人类医生参与的多任务治疗行为分解指令构建策略，将复杂的中医诊疗过程拆解为标准化任务

准备工作清单

在开始部署前，请确保你的系统满足以下基本要求：

• Python环境：Python 3.7或更高版本
• Git工具：用于克隆项目代码库
• GPU支持（可选但推荐）：NVIDIA GPU并安装CUDA工具包以获得更好的推理性能
• 存储空间：至少10GB可用空间用于模型权重和依赖包
• 内存要求：建议8GB以上RAM

核心部署流程

获取项目代码

首先从GitCode克隆项目到本地，这是获取仲景模型源代码的最直接方式：

git clone https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing.git
cd CMLM-ZhongJing

安装Python依赖

创建并激活虚拟环境是保持项目依赖隔离的最佳实践：

# 创建虚拟环境
python -m venv venv

# 激活虚拟环境（Linux/macOS）
source venv/bin/activate

# 激活虚拟环境（Windows）
venv\Scripts\activate

安装核心依赖包，这些是运行仲景模型所必需的基础组件：

pip install transformers torch gradio

下载模型权重

仲景模型提供了两个不同规模的版本供选择：

• ZhongjingGPT1_13B：基于Baichuan2-13B-Chat微调，性能强大但需要高性能GPU
• ZhongJing-2-1_8b：基于Qwen1.5-1.8B-Chat微调，轻量级版本，单张T4显卡即可运行

模型权重会自动通过Hugging Face库下载，无需手动操作。首次运行时，transformers库会自动从Hugging Face Model Hub获取对应的模型文件。

启动Web交互界面

项目内置了基于Gradio的Web演示界面，提供直观的交互体验：

python WebDemo.py

启动后，浏览器会自动打开http://localhost:7860地址，你可以在这里与仲景模型进行单轮或多轮对话。界面简洁直观，支持实时响应，特别适合中医专业学习和研究使用。

实际应用示例

中医症状咨询场景

当用户询问"心痛彻背，背痛彻心，怎么治疗"时，仲景模型能够准确识别这属于"胸痹"范畴，并提供专业的辨证分析：

"心痛彻背、背痛彻心的患者，多属于胸痹的范畴。中医认为，胸痹是由于正气亏虚，导致痰浊、瘀血等邪气阻滞心脉而引起的。治疗上以活血化瘀、祛痰通络为主。"

模型会推荐经典方剂如丹参饮和血府逐瘀汤，并提供详细的药物组成和功效说明，展现出与传统中医师相似的辨证思维。

复杂病例诊疗推理

面对慢性肾炎合并肾功能不全的复杂病例，仲景模型能够综合分析患者病史、症状、舌脉象，准确诊断为"湿热内蕴，日久耗伤气阴"，并给出与国医大师思路高度吻合的处方建议，体现其在复杂诊疗决策中的专业能力。

表：不同规模语言模型在中医诊疗行为分解任务中的性能对比，仲景模型在有限参数下展现出优秀的专业表现

进阶配置指南

调整推理参数

如果需要调整模型的生成参数，可以修改WebDemo.py中的相关设置：

# 调整生成参数
generated_ids = model.generate(
    model_inputs.input_ids,
    max_new_tokens=512,      # 最大生成长度
    temperature=0.7,         # 温度参数，控制随机性
    top_p=0.9,              # 核采样参数
    repetition_penalty=1.1   # 重复惩罚系数
)

使用不同模型版本

项目支持切换不同规模的模型。如果需要使用13B版本，只需修改模型路径：

# 切换到13B版本
peft_model_id = "CMLM/ZhongjingGPT1_13B"
base_model_id = "Baichuan2-13B-Chat"

优化GPU内存使用

对于显存有限的设备，可以启用内存优化设置：

# 启用4位量化减少内存占用
from transformers import BitsAndBytesConfig

bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_compute_dtype=torch.float16,
    bnb_4bit_quant_type="nf4"
)
model = AutoModelForCausalLM.from_pretrained(
    base_model_id, 
    quantization_config=bnb_config,
    device_map="auto"
)

常见问题解答

模型响应速度慢怎么办？

如果模型推理速度较慢，可以尝试以下优化措施：

1. 确保使用GPU进行推理，CPU模式会显著降低速度
2. 对于1.8B版本，至少需要8GB显存；13B版本需要24GB以上显存
3. 降低max_new_tokens参数值，减少生成文本长度
4. 启用量化技术减少模型内存占用

如何提高回答的专业性？

仲景模型已经过专业中医数据训练，但你可以通过以下方式获得更精准的回答：

1. 提供详细的症状描述，包括舌象、脉象等信息
2. 明确说明患者的年龄、性别、病史等背景信息
3. 在问题中指定需要中医辨证还是西医诊断
4. 对于复杂病例，建议分步骤提问，先辨证后论治

模型输出不符合预期怎么办？

如果模型输出质量不理想，可以考虑：

1. 检查输入的格式是否符合模型预期
2. 确保问题表述清晰，避免歧义
3. 尝试调整温度参数（temperature）降低随机性
4. 对于专业医疗问题，建议结合临床医师意见使用

能否在无GPU环境下运行？

可以，但性能会受到影响。模型支持CPU推理，不过生成速度会显著降低。建议至少使用16GB内存的CPU环境，并做好等待较长时间的准备。

结语

仲景中医大语言模型代表了传统医学与现代人工智能技术的完美结合。通过简单的三步部署，你就能拥有一个专业的中医AI助手，为学习、研究和临床决策提供有力支持。无论是中医学生、从业医师还是对传统医学感兴趣的研究者，仲景都能成为你探索中医智慧的得力伙伴。

记住，模型输出仅供学术研究和参考使用，真实的医疗诊断仍需由经验丰富的专业医师完成。让我们共同期待人工智能为中医药传承与发展带来的新可能！

【免费下载链接】CMLM-ZhongJing 首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪，专为传统中医领域打造的预训练大语言模型。 The first-ever Traditional Chinese Medicine large language model - "CMLM-ZhongJing". Inspired by the profound wisdom of the ancient Chinese medical master Zhang Zhongjing, it is a pre-trained large language model designed specifically for the field of Traditional Chinese Medicine. 项目地址: https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing