【CCS Chem.】ECNU-ChemGPT:面向化学知识问答与逆合成推理的大语言模型

近日,华东师范大学何晓教授研究团队开发了化学领域专用大语言模型——ECNU-ChemGPTEast China Normal University Chemistry GPT)。该工作围绕化学知识理解、逆合成推理以及多模型协同调度等关键问题展开,提出了结合领域知识蒸馏、大规模数据构建与动态模型调度的新型化学大模型框架,为人工智能在化学领域中的深度应用提供了新的技术路径


背景介绍:

人工智能正在快速重塑现代科学研究范式。尤其是近年来,以 GPTDeepSeekQwen 等为代表的大语言模型(Large Language Models, LLMs)在自然语言处理、知识推理以及复杂问题求解等方面展现出前所未有的能力,使 AI for Science 成为当前国际科研领域的重要发展方向。然而,尽管通用大语言模型在开放领域任务中表现优异,其在化学等专业科学领域中的应用仍然面临诸多挑战。

化学是一门高度依赖专业知识与结构化推理的学科。与普通文本不同,化学信息通常包含分子结构、反应方程式、化学符号以及 SMILES 等特殊表示形式,同时还涉及复杂的逻辑推导与机理分析。因此,通用大模型在化学场景中往往容易出现专业知识错误、反应预测不合理以及幻觉(hallucination等问题。在药物研发、逆合成规划和化学反应设计等任务中,这些问题会显著影响模型的可靠性与实际应用价值。

本文亮点

化学领域大模型的关键挑战

尽管大语言模型在通用任务中表现突出,但化学领域存在许多区别于自然语言处理的特殊问题。首先,化学知识本身具有多模态特征。除了自然语言描述外,化学信息还包括二维结构式、三维分子结构、化学反应方程式以及 SMILES 等符号化表示。这些信息之间存在复杂映射关系,对模型的表示学习能力提出了更高要求。其次,逆合成分析等任务需要严格的多步逻辑推理能力。在真实化学研究中,一个目标分子的合成往往涉及多步反应设计、官能团保护与反应条件选择,而现有通用大模型通常缺乏稳定可靠的结构化推理能力。此外,化学领域还普遍存在高质量数据稀缺的问题。尽管互联网上存在大量文本数据,但真正经过人工验证、适用于模型训练的高质量化学数据相对有限,尤其是在复杂反应、药物分子以及交叉学科领域中更为明显。更重要的是,通用大模型在化学问题中容易产生幻觉。例如,模型可能会生成不存在的化学反应、错误的分子性质,或者给出违背基本化学原理的推理结果。这种现象在科学研究场景中尤为危险,因为其可能误导实验设计与理论分析。针对上述问题,研究团队构建了 ECNU-ChemGPT 多模块协同框架,希望通过化学知识蒸馏、高质量数据构建与动态模型调度,实现更加可靠的化学智能推理系统。


400 余本化学教材中构建专业知识体系

为了让模型真正掌握系统性的化学知识,研究团队首先从基础化学教育与专业教材出发,构建大规模化学知识问答数据集。团队系统整理了 400 余本中英文化学教材,覆盖有机化学、无机化学、分析化学、物理化学和生物化学等多个方向。这些教材不仅包含基础概念,还涉及大量反应机理、结构分析与实验知识。随后,研究团队利用结构化 Prompt 工程与 GPT-4o API,对教材内容进行知识蒸馏,将传统教材中的叙述性内容转化为适合大模型学习的高质量问答数据。最终构建了包含 848,176 条问答对的化学知识数据集。这一策略使模型不仅能够学习化学知识本身,还能够学习化学问题的表达方式、推理逻辑以及专业术语体系。研究团队指出,相比直接使用互联网语料训练,基于权威教材构建的数据能够显著提高模型在专业领域中的知识准确性与推理稳定性。


关键词驱动的数据扩展与幻觉抑制

在化学领域,大模型幻觉问题是制约其实际应用的重要因素之一。为降低模型生成错误化学知识的概率,研究团队进一步提出了关键词驱动的数据扩展框架。该方法首先构建基础化学概念词汇库,涵盖无机化学、有机化学、分析化学、物理化学以及生物化学等核心领域。随后,通过 Prompt 引导大模型围绕这些概念自动扩展相关知识与子概念,并进一步生成高质量问题与答案。最终,该策略构建了超过 40 万条化学指令数据,超过 117 万条化学问题,大规模高质量化学问答数据集。研究团队同时使用“Hallucination RateHR指标,用于量化模型生成错误化学知识的比例。实验结果表明,相比基础模型Qwen2-72B-InstructECNU-ChemGPT 在两种独立评测模型(GPT-4o DeepSeek-R1)下均表现出更低的幻觉率。研究人员认为,这说明领域知识扩展与高质量数据蒸馏能够有效提升模型生成结果的科学可靠性。


基于 378 万条反应数据的逆合成模型训练

逆合成分析(Retrosynthesis)是有机化学与药物研发中的核心问题,其目标是从目标分子反向推导可能的反应前体与合成路径。传统逆合成方法通常依赖人工经验与反应模板,难以应对复杂化学空间中的大规模搜索问题。而大语言模型则为无模板逆合成提供了新的可能性。为了提升模型的逆合成能力,研究团队基于 Pistachio 专利反应数据库,对超过 2400 万条反应记录进行了标准化处理与去重清洗。在数据清洗过程中,研究团队利用 RDKit 对不同形式的 SMILES 表达进行统一标准化,同时移除低质量与重复反应数据,最终获得约 378 万条高质量反应数据。随后,团队基于 T5-Large 模型进行逆合成训练。在经典 USPTO-50K benchmark 上,ECNU-ChemGPT 取得了优异表现:已知反应类别条件下,Top-1 Accuracy 达到 68.3%;未知反应类别条件下,Top-1 Accuracy 达到 50.1%。研究团队进一步收集了近年来真实药物研发文献与专利中的完整合成路线进行验证,共涉及 262 条药物合成路线与 1448 个单步反应。结果表明,模型能够成功复现多个真实药物分子的逆合成路径。这说明,经过领域数据训练后的大语言模型已经具备一定程度的真实化学推理能力。


BrainGPT:实现多模型动态协同

除了单一化学模型外,研究团队还提出了 BrainGPT 动态调度框架。传统工具调用系统通常依赖固定 Prompt 或规则匹配,但随着任务数量增加,其性能会快速下降。为解决这一问题,BrainGPT 被设计为中央调度器,能够根据用户问题自动选择对应的专业模型。BrainGPT 支持:化学知识问答、逆合成推理、化学知识检索、图像生成等多种功能模块。研究团队通过真实用户数据对 BrainGPT 进行了测试。结果显示,其任务路由准确率达到 96.5%,显著优于传统基于规则的方法。研究人员指出,这种动态协同架构能够显著提升科学大模型的可扩展性与多任务能力。


多项化学 Benchmark 中取得优异表现

为了系统评估模型性能,研究团队在多个化学 benchmark 数据集上进行了测试,包括:C-Eval ChemistryMMLU ChemistryC-MHChemGAOKAO-Bench Chemistry。结果显示,ECNU-ChemGPT 在多个数据集上均优于基础模型 Qwen2-72B-Instruct,并在复杂化学推理与化学公式分析任务中表现突出。特别是在开放式化学问答任务中,ECNU-ChemGPT 能够给出更加准确、结构更加合理的化学解释,并显著降低逻辑错误与知识幻觉。值得注意的是,在增强化学专业能力的同时,模型在 GSM8K 等通用推理 基准测试数据集上仍保持良好表现,说明领域微调并未削弱其通用推理能力。

总结与展望:

ECNU-ChemGPT展示了领域专用大语言模型在化学研究中的巨大潜力。该工作不仅构建了一个能够同时支持化学知识问答与逆合成规划的化学 AI 系统,也提出了一条具有普适性的科学大模型构建路线:领域知识蒸馏 + 高质量数据构建 + 专业模型训练+ 动态多模型协同。这一框架未来有望进一步拓展至药物发现、材料科学与自动化科研等多个方向,为 AI for Science 提供新的技术路径


文章详情:

ECNU-ChemGPT: A Large Language Model for Chemistry and Retrosynthesis Prediction

Yueqing Zhang, Wentao Liu, Yan Zhang, Danyang Xiong, Jihang Zhai, Hao Hao, Jiaxi Zhuang, Hui Wang, Yucheng Gu, Haibo Yang, Shuanhu Gao, Lianrui Hu*, Aimin Zhou* and Xiao He*

Cite this by DOI: 10.31635/ccschem.026.202607359

https://doi.org/10.31635/ccschem.026.202607359