跳到正文
10月22日周四
10月21日周三
  1. Latent Space

    DeepSeek 开源 DeepInfer 推理引擎,公布 155T tokens/day 产量与 $38/卡·小时收入

    DeepSeek 在 PyTorch Conf 开源 DeepInfer,作为 V4.1 Flash 的推理引擎,提供分布式推理、推测解码、SWA Bounded Replay 等功能,并兼容 NVIDIA SM100 和华为 Ascend 950 等平台。

    阅读原文 来源:Latent Space

    推荐理由DeepSeek 在 PyTorch Conf 开源 DeepInfer,这是其 V4.1 Flash 推理引擎的核心组件,提供分布式推理、推测解码、SWA Bounded Replay 等功能,并公布了 155T tokens/day 的产量数据和每卡每小时 $38 的离峰收入。文章通过对比 vLLM 的复现结果,揭示了 DeepInfer 架构细节(如 KV 缓存、专家并行、调度策略)以及其开源与闭源组件的边界,同时引发了业界对推理成本、硬件效率和模型可移植性的深度讨论。

  2. CryptoSlate

    美国命令联邦系统清除DeepSeek,中资AI开源DeepInfer推理框架

    美国政府于10月20日下令联邦机构立即清除DeepSeek技术并禁止未来采购,限制范围扩展至第三方使用其模型的产品。同日,DeepSeek宣布开源推理框架DeepInfer和组件库deepseek-recipe,支持其552亿参数模型DeepSeek-V4.1-Flash,并兼容Nvidia和华为芯片,旨在降低AI运营成本。但私有部署并不自动豁免联邦禁令,该禁令明确覆盖第三方实现。

    阅读原文 来源:CryptoSlate
10月20日周二
  1. The Decoder

    美国禁止联邦民用机构使用Deepseek技术

    美国国土安全部依据2018年供应链安全法令,禁止联邦民用机构使用Deepseek技术及相关系统。该禁令涵盖已部署产品和新采购,但未明确执行期限或具体安全担忧,且未明确'built with'定义是否涵盖AI网关。此前政府曾考虑对中国开源模型实施制裁,但因主要科技公司反对而暂搁置。

    阅读原文 来源:The Decoder
  2. Latent Space

    AINews 周报:DeepSeek V4.1 Flash 发布、MiniMax M3.1 Flash、Mercury 3、OpenCode DHS 禁令、Harness² 开源、Anthropic 公募基金等行业动态

    DeepSeek V4.1 Flash 1017 成为开源价值领先模型,总参数 552B、激活 16B、1M 上下文窗口、MIT 许可证,价格不变 $0.30/$1.20/百万 tokens,通过 DeepSeek API、Fireworks、Baseten 等平台提供;AA 智能指数 45,非幻觉率从 4% 跃升至 33%。

    阅读原文 来源:Latent Space
  3. Decrypt

    美国要求民用机构清除DeepSeek,FCC将于10月29日投票限制中资实验室

    美国国土安全部周一指令民用政府机构清除DeepSeek并停止采购,理由是可能将敏感数据转移至中国并产生可操作情报。多个州和部门(纽约、田纳西、弗吉尼亚等)已先前限制使用,FCC将于10月29日投票决定禁止中资实验室测试电子产品。

    阅读原文 来源:Decrypt

    推荐理由美国政府对DeepSeek的禁令延伸至民用机构,涉及数据外传和情报风险,多州和部门已先行限制,本次指令统一了禁令范围。