清华系团队 DeepSeek 版多模态生物医药大模型 BioMedGPT-R1 发布,后续计划开源
2025-02-23 08:05:21 AI 43观看
摘要 2 月 21 日消息,清华大学人工智能产业研究院(AIR)和北京水木分子生物科技有限公司(简称:水木分子)昨日宣布推出升级版的生物医药多模态开源基础大模型 BioMedGPT-R1。此前,在 2023 年,双方合作发布了开源可商用、生物

2 月 21 日消息,清华大学人工智能产业研究院(AIR)和北京水木分子生物科技有限公司(简称:水木分子)昨日宣布推出升级版的生物医药多模态开源基础大模型 BioMedGPT-R1。fE628资讯网——每日最新资讯28at.com

此前,在 2023 年,双方合作发布了开源可商用、生物医药多模态百亿参数开源基础大模型 BioMedGPT,水木分子发布了自研千亿参数多模态生物医药专业大模型 ChatDDFM 和新一代 AI 驱动药物发现工具 ChatDD。这次 DeepSeek 版 ChatDD-R1 基座模型也已同步上线 ChatDD,用于生物医药企业的药物研发。fE628资讯网——每日最新资讯28at.com

BioMedGPT 是清华大学智能产业研究院(AIR)携手水木分子开源的全球首个可商用多模态生物医药百亿参数大模型,该模型在生物医药专业领域问答能力号称“比肩人类专家水平”,发布时在自然语言、分子、蛋白质跨模态问答任务上达到 SOTA。fE628资讯网——每日最新资讯28at.com

在 BioMedGPT 的基础上,清华大学 AIR 与水木分子推出了 BioMedGPT-R1,用 DeepSeek R1 蒸馏版本模型更新了 BioMedGPT 中现采用的文本基座模型,从而引入了更优的文本推理能力。fE628资讯网——每日最新资讯28at.com

通过跨模态特征对齐,BioMedGPT-R1 实现了生物模态与自然语言文本模态在同一个特征空间的统一融合,探索了生物多模态场景下的模型深度推理能力。fE628资讯网——每日最新资讯28at.com

通过训练对齐翻译层(Translator),BioMedGPT-R1 将生物模态编码器(Molecule Encoder 与 Protein Encoder)输出映射到自然语言表征空间,从而在 DeepSeek R1 基础上增加了生物模态数据的理解能力。fE628资讯网——每日最新资讯28at.com

fE628资讯网——每日最新资讯28at.com

fE628资讯网——每日最新资讯28at.com

BioMedGPT-R1 模型框架和主要训练步骤

BioMedGPT-R1 的训练分为两个主要步骤:fE628资讯网——每日最新资讯28at.com

首先,仅训练对齐翻译层 Translator,使其能将编码后的生物模态表征映射到语义表征空间;fE628资讯网——每日最新资讯28at.com

然后,同时微调对齐翻译层 Translator 和基座大语言模型,激发其在下游任务上的多模态深度推理能力。fE628资讯网——每日最新资讯28at.com

清华大学 AIR 和水木分子研究团队表示,将长期持续维护 OpenBioMed 开源平台,团队现阶段探索方向是如何在强推理语言模型的基础上更好地适应性地实现跨模态对齐,团队正在以 BioMedGPT-R1 为基础进行系统性研究与综合评估,目前已经观察到其在化学分子理解任务上的性能提升,如在 CheBI-20化学分子描述任务上相比上一版本效果提升超 15%,后续也将依托 OpenBioMed 平台开源 BioMedGPT-R1 模型和生物医药研发 Agent 系统框架。fE628资讯网——每日最新资讯28at.com

fE628资讯网——每日最新资讯28at.com

附开源地址如下,当前新版本还未开源:fE628资讯网——每日最新资讯28at.com

https://github.com/PharMolix/OpenBioMedfE628资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-45-11002-0.html清华系团队 DeepSeek 版多模态生物医药大模型 BioMedGPT-R1 发布,后续计划开源

声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

显示全文

上一篇:DeepSeek引爆AI热潮:技术信仰重塑,AGI元年将至?

下一篇:DeepSeek 还在发力:官宣下周陆续开源 5 个代码库,毫无保留、推翻象牙塔

最新热点