DeepSeek-R1的成功引发业界热议,标志着AI前景从训练转向推论,推论算力需求随之增大。NVIDIA等芯片巨头因此受益,中国本土AI芯片业者也看到了机遇,纷纷主动接入DeepSeek模型。
然而,尽管中国多家AI芯片厂商在短时间内完成了对DeepSeek模型的兼容,但与NVIDIA相比仍有较大差距。开源中国董事长马越指出,本土芯片兼容开源模型的数量远少于NVIDIA。
上海交通大学副教授戴国浩解释,DeepSeek通过PTX语言优化,让系统和模型能够释放底层硬件效能,而这是大部分深度学习或大模型演算法工程师不会接触的层面。
中国本土AI芯片业者竞相接入DeepSeek背后,关键在于AI芯片是否兼容CUDA。沐曦技术长杨建表示,能兼容CUDA的厂商间兼容程度也有不同。完成兼容和优化速度对LLM能否及时上线并完成商业转化至关重要。
本文链接:http://www.28at.com/showinfo-27-130748-0.htmlDeepSeek引领AI推论算力需求,中国本土AI芯片业者积极接入
声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。