马上注册，结交更多好友
您需要 登录 才可以下载或查看，没有账号？立即注册
x
3月1日，DeepSeek于知乎开设官方账号，发布《DeepSeek-V3/R1推理系统概览》技术文章，首次公布模型推理系统优化细节，并披露成本利润率关键信息。
文章写道：“DeepSeek-V3 / R1 推理系统的优化目标是：更大的吞吐，更低的延迟。”为实现这两个目标，DeepSeek的方案是使用大规模跨节点专家并行（EP），但该方案也增加了系统复杂性。文章的主要内容就是关于如何使用EP增长批量大小（batch size）、隐藏传输耗时以及进行负载均衡。
文章还率先披露了DeepSeek的理论成本和利润率等关键信息。“假定GPU租赁成本为2美金/小时，总成本为$87,072/天。……如果所有 tokens全部按照DeepSeek R1的定价计算，理论上一天的总收入为$562,027，成本利润率545%。”（一财科技） |
|
/1 
扫码添加微信客服
