BetVictor Sports(伟德体育)国际官网科大讯飞：大模型训练与推理均在国产算力平台上进行优化效率达85%-95%

　　BetVictor Sports(伟德体育)国际官网(访问: hash.cyou 领取999USDT）

　　公司回答表示：1、科大讯飞过去几年在受限的有限算力资源条件下，关于星火大模型训练和推理成本效率的持续优化也做了大量投入，和直接使用英伟达卡上开展的各种工程优化不同，科大讯飞选择了更难的全国产算力路线 月起科大讯飞就联合华为先后攻克了万卡高速互联组网、计算通信隐藏、训练推理强交互、高吞吐推理优化以及国产算子优化等一系列难题，将通用大模型、类 o1 的深度推理模型等的训练效率对标 A100 均从最初的 30%-50%优化达到了 85%-95%以上。随着国产算力在底层能力上进一步提升，讯飞星火的训练成本还有较大的下降空间。2、需要特别说明的是，大模型对算力的需求为训练和推理两个方面，而训练实现的难度远大于推理。这就是虽然陆续有公司宣布可以在国产算力平台上提供大模型的推理服务，但仍只有讯飞星火一家是训练和推理均在国产算力上进行的，并且仅用 1 万张 910B 国产算力卡，科大讯飞不仅用比友商少一个数量级的算力取得了大模型研发上的第一梯队成果，而且做了大量国产算力平台上的无人区的适配和效率优化，追求国产算力的极致效率，这比在英伟达上的实现更需要技术实力和战略勇气。