跳到正文
实时信息流

#DeepSeek

全部动态
  1. Latent Space

    DeepSeek 开源 DeepInfer 推理引擎,公布 155T tokens/day 产量与 $38/卡·小时收入

    DeepSeek 在 PyTorch Conf 开源 DeepInfer,作为 V4.1 Flash 的推理引擎,提供分布式推理、推测解码、SWA Bounded Replay 等功能,并兼容 NVIDIA SM100 和华为 Ascend 950 等平台。

    阅读原文 来源:Latent Space

    推荐理由DeepSeek 在 PyTorch Conf 开源 DeepInfer,这是其 V4.1 Flash 推理引擎的核心组件,提供分布式推理、推测解码、SWA Bounded Replay 等功能,并公布了 155T tokens/day 的产量数据和每卡每小时 $38 的离峰收入。文章通过对比 vLLM 的复现结果,揭示了 DeepInfer 架构细节(如 KV 缓存、专家并行、调度策略)以及其开源与闭源组件的边界,同时引发了业界对推理成本、硬件效率和模型可移植性的深度讨论。

  1. Decrypt

    美国要求民用机构清除DeepSeek,FCC将于10月29日投票限制中资实验室

    美国国土安全部周一指令民用政府机构清除DeepSeek并停止采购,理由是可能将敏感数据转移至中国并产生可操作情报。多个州和部门(纽约、田纳西、弗吉尼亚等)已先前限制使用,FCC将于10月29日投票决定禁止中资实验室测试电子产品。

    阅读原文 来源:Decrypt

    推荐理由美国政府对DeepSeek的禁令延伸至民用机构,涉及数据外传和情报风险,多州和部门已先行限制,本次指令统一了禁令范围。

已经到底了