杭州灵汐类脑科技有限公司携手中国电信、中国电子科技南湖研究院及脑启社区，于七月底成功启动了“杭州灵汐类脑智算集群”的企业服务试运行，标志着大模型快速推理API正式步入商业化测试阶段。该集群由杭州电信负责集成建设，落户于中国电信杭州智算中心，算力规模突破200POPS大关，成为全球首个以支持大模型快速推理方式投入商用的类脑智算集群。
作为类脑智能技术的创新实践，“杭州灵汐类脑智算集群”凭借其独特的“存算一体、众核并行、稀疏计算、事件驱动”特性，在计算效率与能耗控制上实现了质的飞跃。这一技术革新不仅大幅提升了大语言模型的推理速度，将单用户推理延迟缩短至毫秒级，相较于传统方案，其速度性能优势显著，能够流畅应对实时交互与深度推理需求，彻底告别卡顿现象。同时，首token延迟也显著降低，达到百毫秒乃至十毫秒级别。该智算集群的功耗较业界同等推理算力水平降低了二分之一至三分之二以上，展现了极高的能效比。
图：灵汐智算平台大模型登录界面
异构融合类脑芯片是该集群的另一大亮点，其内置的类CUDA软件栈兼容PyTorch框架，使得多类开源大模型无需转换类脑算法即可直接享受快速推理服务。这一特性极大地拓宽了类脑智算集群的应用范围，为行业提供了更为便捷、高效的解决方案。
图：灵汐智算平台大模型快速推理界面
当前，大模型推理领域普遍面临吞吐速度慢、高延迟等挑战，这对众多行业应用场景构成了严重制约。针对这一问题，灵汐科技凭借类脑智能技术，推出了“高实时、高吞吐、低延迟”的推理服务解决方案。该方案在金融应用、情感陪聊、快速导览、大规模数据标注以及无人机实时航拍处理、灾害预警与应急处置等多个领域展现出巨大潜力，有望推动这些行业向更高效、更智能的方向发展。
举报 0收藏 0打赏 0评论 0分享 0 更多>同类资讯
广东探索AI赋能家校协同，打造特色家庭教育新模式比如，《课程纲要》中提出家校社协同推进人工智能教育，鼓励有条件的学校配置和升级相应软硬件设备，搭建数字化教学环境，支持线上线下混合学习、个性化学习、虚拟仿真学习等，为学生提供更多人工智能技术体验、应用、探究…08-15
成都无人机产业迎新机遇：发布146条机会清单，四大重点项目成功签约同时，8家科研院所、无人/反无人装备相关企业瞄准未来战场、应急救援、空域管理三大场景开展供需推介，群体智能、低空安全领域专家进行专题研讨，与会各方积极推动群体智能技术在集群控制、战术编队、无人机反制等领域的应…08-15
英伟达SIGGRAPH 2025：发布7B世界基础模型，两款全新GPU助力物理AI发展在SIGGRAPH 2025期间，NVIDIA展示了包括NVIDIA Omniverse库、NVIDIA Cosmos世界基础模型、RTXPRO Blackwell GPU及服务器在内的一系列软硬件基础设…08-14
DeepSeek App新版上线：对话内容可一键生成分享图片IT之家 8 月 14 日消息，DeepSeek App 应用昨日（8 月 13 日）更新至 1.3.0 版本，在修复部分已知问题，优化选择 / 复制文本体验之外，本次更新最大的亮点，就是新增了对话内容生成分…08-14
苹果AI大动作：桌面机器人、智能音箱、家用摄像头齐上阵智东西8月14日消息，知名苹果爆料人、彭博社记者马克·古尔曼（MarkGurman）最新爆料称，苹果正计划推出包括机器人、带显示屏的智能音箱和家庭安全摄像头在内的新设备，当然还有全新升级的Siri。 此次…08-14
2025上半年中国智能平板线上市场排行：苹果领跑，华为紧随其后具体来看，苹果在线上市场的销量份额为31.5%，同比增加3.1个百分点。可以看到，虽然在消费级的线上公开零售市场，苹果同样受到青睐，但华为的MatePad Pro系列在整体出货量和OLED技术等方面具有优势…08-14
苹果加速AI布局：2027年拟推桌面机器人，打造高端智能生态新核心【环球网科技综合报道】8月14日消息，据外媒报道，知情人士透露，苹果公司正加速布局人工智能领域，计划推出包括桌面机器人、拟人化Siri、带屏智能音箱及家用安防摄像头在内的多款AI硬件。其中，2027年面世的桌…08-14
AMD苏姿丰：专注自身发展，不急于与英伟达争高低虽然AMD在多个领域与英特尔或英伟达展开正面交锋，但苏姿丰并不希望外界将AMD与这两家公司直接比较——AMD在CPU、AI加速器、个人计算、数据中心等领域都有布局，她认为这些领域在未来三四年有超过5000亿…08-14
热力学计算芯片CN101流片成功，AI训练能效大幅提升千倍IT之家注：热力学计算（Thermodynamic Computing）是一种利用物理系统热噪声和随机性进行计算的新型计算范式，通过系统达到热平衡状态来获得计算结果，适用于非确定性算法；流片是指芯片设计完成…08-14
DeepSeek App更新升级：对话内容可一键生成分享图，用户体验再提升8月14日，根据手机应用商店显示，DeepSeek App发布了1.3.0版本更新，支持对话内容生成分享图功能。近日有市场传言称，国产大模型公司深度求索旗下DeepSeek R2有望在8月15日至30日期间…08-14
DeepSeek App新版上线：对话内容可一键生成分享图片IT之家 8 月 14 日消息，DeepSeek App 应用昨日（8 月 13 日）更新至 1.3.0 版本，在修复部分已知问题，优化选择 / 复制文本体验之外，本次更新最大的亮点，就是新增了对话内容生成分…08-14
DeepSeek App更新：对话内容一键生成分享图，提升用户体验8月14日，根据手机应用商店显示，DeepSeek App发布了1.3.0版本更新，支持对话内容生成分享图功能。 QuestMobile数据显示，DeepSeek在1月28日的日活跃用户数首次超越豆包，随后…08-14
苹果将发布AI新品：2027年上市桌面机器人领衔8月14日，据知名科技记者马克·古尔曼（MarkGurman）透露，苹果公司正计划通过一系列新设备在AI领域强化自身的竞争力，其中包括机器人、拟人化升级版Siri、带显示屏的智能音箱及家用安防摄像头等。 …08-14寒武纪股价飙升，国产算力领头羊市值跃升至4000亿新高度08-14Gartner 2025 AI技术成熟度曲线：多模态AI与AI智能体等引领创新潮流08-14点击查看更多 +全站最新
中兴通讯：5G领航，6G前瞻，大规模阵列技术引领通信新时代广东探索AI赋能家校协同，打造特色家庭教育新模式
从丰田混动到比亚迪插混，我体验到的不仅是速度，更是未来
复古与未来碰撞，iCAR V23电动SUV引领夏季旅行新风尚
2025中国氢博会：聚焦氢能产业，共促全球化发展
氢燃料卡车：应用现状、挑战与未来展望深度调研热门内容成都无人机产业迎新机遇：发布146条机会清单，四大重点项目成功签约英伟达SIGGRAPH 2025：发布7B世界基础模型，两款全新GPU助力物理AI发展DeepSeek App新版上线：对话内容可一键生成分享图片苹果AI大动作：桌面机器人、智能音箱、家用摄像头齐上阵2025上半年中国智能平板线上市场排行：苹果领跑，华为紧随其后苹果加速AI布局：2027年拟推桌面机器人，打造高端智能生态新核心
本文链接：http://www.28at.com/showinfo-45-26769-0.html类脑智算集群实现大模型快速推理，杭州灵汐引领商用试运行新篇章
声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
