科大讯飞华为发布大模型一体机对标A100，昇腾910B悄然商用

8月15日，科大讯飞在星火认知大模型发布会上，与华为共同发布一款用于企业构建专属大模型的软硬件一体化设备“星火一体机”，让所有企业都可以在国产自主创新的平台上自主、安全、可控地私有化部署大模型。

(相关资料图)

科大讯飞董事长刘庆峰在发布会上介绍称：“星火一体机可用于大模型的训练和推理，企业拎回去，开箱即可用。每一家企业，每一个行业、每一个学校、每个医院都可以有机会构建自己的专属大模型。”

他还表示，正在与华为打造面向超大规模参数大模型训练的国产算力的集群，对标英伟达的A100芯片。A100是目前在大模型训练市场上应用最广泛的芯片。

另据第一财经记者独家证实，星火一体机使用的是华为尚未官方对外发布的昇腾910B人工智能芯片。今年8月1日，华为在官网上公布了昇腾910B NPU驱动和固件升级指南。

一位业内人士告诉第一财经记者：“华为昇腾910B芯片的性能从未对外公布，但最近华为在业内大力推广这一平台，而且它的性能与上一代的910相比，应该绝对不是一个量级。”

第一财经记者了解到，星火一体机也是910B芯片首个对外商业化应用产品。上个月，科大讯飞就与华为宣布，打造基于中国自主创新的通用智能新底座。一方面，讯飞星火认知大模型基于训练推理一体化设计，实现大模型稀疏化、低精度量化的技术突破，能高效适配昇腾AI，加速大模型的行业落地应用和迭代；另一方面，以昇腾AI为核心，软硬件协同优化，构建算力集中、性能优越、供给稳定、数据安全的大模型训练集群。

据介绍，星火一体机提供从底层算力、AI框架、训练算法、推理能力、应用成效等全栈AI能力，可用于问答系统、对话生成、知识图谱构建、智能推荐等多个领域的应用，具备大模型预训练、多模态理解与生成、多任务学习和迁移等能力。

刘庆峰表示：“华为与科大讯飞将共同在生成式软硬件平台上，把高算力、高性能的算子库，多卡的高速互联以及分布式存储结合起来，尤其是我们联合针对人工智能所需要的最重要的算子库进行甄别和打磨，在此基础上架构科大讯飞的训练和数据闭环的全流程设计，以及训练和推理一体化设计的自研的大模型训练平台。”

刘庆峰称，目前该平台在单卡算力上已经能够对标英伟达的A100芯片。“现在我们基本按照国产的芯片来规划了，因为我们已经不能买美国芯片了，除了早期有的那些（英伟达）的算力外，我们现在必须全部国产化。”他表示。

讯飞星火大模型拥有130亿、650亿和1750亿三个版本的模型参数可选，围绕星火大模型，科大讯飞也在构建开发者生态，目前已经有4000多个助手开发者团队加入星火平台。

在媒体采访中谈及星火大模型未来是否会走向开源时，刘庆峰说道：“我们会做一部分开源，但是肯定不会全部开源，开源的部分主要是为了推动科研、高校研发这些目的，我们会给他们一份开源。”

科大讯飞华为发布大模型一体机对标A100，昇腾910B悄然商用

相关推荐