当前位置: 当前位置:首页 > 综合 > 巨头加码,AI泡沫来袭? 正文

巨头加码,AI泡沫来袭?

2025-05-07 11:39:33 来源:瞭望风向特辑 作者:热搜 点击:121次

2025年2月24-28日,巨头加码DeepSeek陆续开源FlashMLA、泡沫DeepEP、巨头加码DeepGEMM、泡沫3FS项目,巨头加码以及DualPipe、泡沫EPLB等代码库,巨头加码并在其“开源周”收尾时,泡沫又放了一枚深水炸弹。巨头加码

3月1日,泡沫DeepSeek发布《DeepSeek-V3/R1推理系统概览》,巨头加码公开其模型理论成本利润率可达545%。泡沫

DeepSeek-V3/R1推理系统的巨头加码优化目标是更大的吞吐、更低的泡沫延迟。为此,巨头加码DeepSeek使用大规模跨节点专家并行(Expert Parallelism/EP):首先EP使得batch size增加,从而提高GPU矩阵乘法的效率,提高吞吐;其次EP使得专家分散在不同的GPU上,每个GPU只需对应很少的专家(因此访存的需求更少),从而降低延迟。

在2月27日12:00-2月28日12:00的24小时内,DeepSeek V3和R1推理服务占用节点的总和峰值为278个节点,平均

作者:金融
------分隔线----------------------------
头条新闻
图片新闻
新闻排行榜