近日，面壁智能公司正式揭晓了其最新研发成果——端侧大模型MiniCPM 4.0，这一发布在科技圈内引起了广泛关注。据官方消息，该模型在6月6日晚间正式亮相，通过其自主研发的CPM.cu推理框架，实现了前所未有的性能提升。
此次发布的MiniCPM 4.0系列包含两款不同规格的LLM模型，分别为8B和0.5B参数规模。其中，8B版本被命名为“闪电稀疏版”，采用了创新的稀疏架构，旨在提供高效且强大的处理能力。而0.5B版本则以其小巧灵活著称，被形象地称为“最强小小钢炮”。
面壁智能在解决长、短文本处理难题上取得了显著进展。MiniCPM 4.0-8B版本引入了“高效双频换挡”机制，能够根据任务特性自动调整注意力模式。在处理复杂的长文本和深度思考任务时，该模型会启用稀疏注意力模式以降低计算成本；而在处理短文本时，则切换至稠密注意力模式，以确保结果的准确性。这一机制使得MiniCPM 4.0在长、短文本处理之间切换自如，实现了高效响应。
MiniCPM 4.0还凭借其内置的CPM.cu推理框架，在模型压缩、量化以及端侧部署等方面实现了重大创新。据官方介绍，这些创新使得模型体积缩小了90%，同时提升了运行速度。特别是在极限场景下，MiniCPM 4.0的推理速度甚至达到了之前的220倍，而在常规场景下也有5倍的提升。这一突破性的性能提升，使得MiniCPM 4.0在端侧推理领域具备了显著的竞争优势。
MiniCPM 4.0还支持在多个开源框架上部署，包括vLLM、SGLang、LlamaFactory和XTuner等。这一兼容性使得用户能够根据自己的需求选择合适的框架，进一步拓展了MiniCPM 4.0的应用场景。
本文链接：http://www.28at.com/showinfo-45-13521-0.html面壁智能MiniCPM 4.0端侧大模型发布，性能跃升能否称王？
声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
