近期，杭州深度求索人工智能基础技术研究有限公司，作为deepseek的关联企业，在人工智能领域取得了新的技术突破。据天眼查信息显示，该公司成功申请并公布了一项名为“一种大语言模型的部署方法及系统”的专利。
该专利的核心创新点在于，它提出了一种创新的部署策略，将大语言模型的预填充阶段和解码阶段进行分离，并分别部署在具备高性能计算能力和大内存的机器上。这一策略旨在优化资源分配，实现负载的均衡。
具体而言，通过将预填充阶段部署在高性能计算设备上，可以充分利用其强大的计算能力，快速完成模型的初始化工作。而解码阶段则部署在大内存机器上，以确保在处理大量数据时能够保持高效和稳定。这种部署方式不仅实现了硬件资源的最大化利用，还显著减少了闲置算力，进一步降低了系统的整体延迟。
该专利还带来了吞吐量的提升，使得系统能够在单位时间内处理更多的请求。这对于提升用户体验和满足日益增长的数据处理需求具有重要意义。同时，该方案还增强了系统的扩展性和容错性，为未来的技术升级和故障应对提供了坚实的基础。
从公布的专利摘要中，我们可以更直观地了解到这一创新技术的具体实现和所带来的积极效果。这一专利的公布，标志着杭州深度求索人工智能基础技术研究有限公司在大语言模型部署领域取得了重要的技术进展。
随着人工智能技术的不断发展和应用领域的不断拓展，对于大语言模型的部署效率和性能要求也越来越高。杭州深度求索人工智能基础技术研究有限公司的这一专利成果，无疑为行业提供了新的思路和技术支持，有望推动人工智能技术的进一步发展和应用。
举报 0收藏 0打赏 0评论 0分享 2 更多>同类资讯2025年：中国芯片企业借AI浪潮，破局重生2025年是AI应用的爆发年，也是关乎国产算力企业兴衰存亡的关键之年。现在真正做到了芯片、模型助力场景应用，场景反馈回来的数据，又增加了模型跟芯片进一步地迭代，形成了一个非常良性的正向循环。”我们从芯片厂商的…08-04
企业数字化转型新指南：深度解读IOMM成熟度模型中国建设银行构建了以"龙舟"运维PaaS平台为基础的工具体系，涵盖18个公共组件和35个运维业务应用，通过云计算风险管理框架抵御百万次网络攻击，同时面向客户提供多元化金融科技服务，实现了IT部门向价值中心的转…08-04
AI+安全：赋能与风险并存，安全大模型一体机成厂商新赛道以ChatGPT 为代表的生成式人工智能技术在网络安全领域是一把“双刃剑”，一方面，AI可以赋能网络安全，提升风险检测与防护能力；另一方面，AI 的滥用将对国家、社会、公众带来负面影响，同时，AI 新技术的…08-04
浙大发布“悟空”类脑计算机：神经元规模超20亿，模拟猕猴大脑快科技8月2日消息，浙江大学脑机智能全国重点实验室正式发布了新一代神经拟态类脑计算机——Darwin Monkey，中文名 “悟空”。整台计算机支持的脉冲神经元规模超过20亿，数量已接近猕猴大脑规模。 达尔…08-04
沈阳新注册低空经济公司，注册资本高达1.1亿，或将引领产业新风向08-03
新石器无人车公司注册资本大幅提升，增至3705万元！08-03
华为哈勃携手入股清程极智，国产算力软件服务商再添新动力08-03
软通动力携手芯粒微，共探芯片研发新领域08-03
科大讯飞布局AI领域，新商标“AI星朋友”引发关注08-03
科大讯飞携手上海云休信息科技，云享智慧第二大股东迎新伙伴08-03
软通动力海南布局，新设国际科技公司注册资本高达5亿08-03
优必选布局衢州，新科技公司成立注册资本达3000万08-03
2025人工智能大会亮点：上半年AI企业激增50余万家，新趋势何在？08-03
重庆10亿级半导体私募股权投资基金“两江芯徵程”正式成立08-03
天津艾锐人工智能创业投资基金成立，2亿资金助力人才创新08-03点击查看更多 +全站最新
2025世界机器人大会启幕在即：智慧机器人，共筑智能未来
中国科研团队突破：用“蒸笼法”制造高性能硒化铟晶体管材料
小米ChinaJoy打造“人车家”智能生态展，全方位演绎科技生活新图景
小米电竞新机曝光：玄戒处理器+165Hz屏+9千毫安电池，游戏党福音？
智界R7改款座椅大升级，余承东预告8月8日开启小订
小米自研玄戒处理器电竞手机曝光：165Hz屏+9千毫安电池，性能对标顶尖热门内容企业数字化转型新指南：深度解读IOMM成熟度模型AI+安全：赋能与风险并存，安全大模型一体机成厂商新赛道浙大发布“悟空”类脑计算机：神经元规模超20亿，模拟猕猴大脑沈阳新注册低空经济公司，注册资本高达1.1亿，或将引领产业新风向新石器无人车公司注册资本大幅提升，增至3705万元！华为哈勃携手入股清程极智，国产算力软件服务商再添新动力
本文链接：http://www.28at.com/showinfo-45-25772-0.htmlDeepSeek公布：大语言模型高效部署新方案专利
声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
