加拿大初创公司推出 Command A 轻量级 AI 模型,号称仅需两块英伟达 A100 H100 GPU 即可部署
2025-03-18 11:19:24 AI 47观看
摘要 3 月 14 日消息,加拿大 AI 初创公司 Cohere昨日发布了一款名为“Command A”的 AI模型,该模型主打轻量化应用,号称只需要两块英伟达 A100 或 H100 GPU 即可轻松部署,号称“表现能和 GPT-4o 相媲美”,实现“用最少

3 月 14 日消息,加拿大 AI 初创公司 Cohere昨日发布了一款名为“Command A”的 AI模型,该模型主打轻量化应用,号称只需要两块英伟达 A100 或 H100 GPU 即可轻松部署,号称“表现能和 GPT-4o 相媲美”,实现“用最少的硬件发挥最大的性能”。Ook28资讯网——每日最新资讯28at.com

Ook28资讯网——每日最新资讯28at.com

Cohere 表示,Command A 专门为中小型企业环境设计,其支持 256k 的上下文长度和 23 种语言,作为比较,其他竞争对手的“同类模型”需要 32 块 GPU 才能部署。Ook28资讯网——每日最新资讯28at.com

在性能测试中,Command A 最快每秒可以输出 156 个 Token,据称比 GPT-4o 快 1.75 倍。而在指令追踪、SQL、代理程序和工具任务的基准测试上,Command A 也表现出色。Ook28资讯网——每日最新资讯28at.com

Ook28资讯网——每日最新资讯28at.com

Cohere 援引相应性能数据,声称业界的大语言模型如果“规模过大”,反而在输出结果时可能会出现严重的延迟问题;如果只是想快速得到正确答案,Command A 相对是个不错的选择。Ook28资讯网——每日最新资讯28at.com

目前,Cohere 已将相应 Command A 发布在Hugging Face 平台(点此访问),对学术界开放使用,未来还会登陆其他云服务平台。Ook28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-45-11558-0.html加拿大初创公司推出 Command A 轻量级 AI 模型,号称仅需两块英伟达 A100 H100 GPU 即可部署

声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

显示全文

上一篇:Google Assistant 停用倒计时,谷歌 AI 助手开启迁移至 Gemini

下一篇:【IT之家评测室】讯飞晓医体验评测:星火医疗大模型 X1 加持,更懂你的 AI 健康助手

最新热点