跳到正文

关注领域

算力与 AI 成本 最新动态

算力供给、推理成本与商业化

26 条精选近 30 天 26 条共收录 84 条

RSS
更新

算力与 AI 成本的精选

今天10月31日周六第 1–20 条
  1. AWS Machine Learning Blog一手

    利用 Amazon Bedrock AgentCore runtime 预览 coding agent 构建的网页

    Amazon Bedrock AgentCore runtime 允许 coding agent 在会话内保持 Vite 网站运行,通过 Session endpoint 认证的 URL 将会话端口转发至本地浏览器。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了如何利用 Amazon Bedrock AgentCore runtime 的 Session endpoint 功能,在浏览器中实时预览由 coding agent 生成的网页,并演示了在不重新部署的情况下通过 agent 进行主题切换等交互的完整流程。

  2. AWS Machine Learning Blog一手

    Amazon Bedrock 助力 Worldwide Express 自动化处理运输异常

    Worldwide Express 借助 Amazon Bedrock 构建多智能体系统,自动化处理运输异常。系统检测到约 14% 的发票在三单匹配失败后进入异常处理,通过三类专用智能体(Invoice Matching、Pricing Variance、Accessorial Validation)分别核对运单、对比合同价格和验证附加费。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了 Amazon Bedrock 多智能体系统如何将 1500 万美元冻结的现金流释放,并将处理时间从数周缩短至分钟级,读者可据此评估 agentic AI 在异常处理场景下的实际落地价值。

10月30日周五
  1. AWS Machine Learning Blog一手

    亚马逊 Nova Act 实现意图驱动的 UI 测试平台服务

    亚马逊 Nova Act 与 Amazon Bedrock AgentCore Browser Tool 联合发布,旨在为企业提供意图驱动的 UI 测试能力。Epsilon 作为 Publicis Groupe 的一部分,利用该方案将 UI 测试转化为平台级管理服务。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文详细展示了 Epsilon 如何利用 Amazon Nova Act 和 Amazon Bedrock AgentCore Browser Tool 构建 UI 测试平台服务,提供了 18 步测试工作流、成本对比和最佳实践,读者可直接获取实施思路和技术细节。

  2. AWS Machine Learning Blog一手

    MoEngage 利用 AgentCore Gateway 将 400 个 API 转换为智能体工具

    MoEngage 利用 Amazon Bedrock AgentCore Gateway 将 400 个内部 REST API 转换为智能体工具,无需每个团队部署 MCP 服务器。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了 AgentCore Gateway 如何将 400 个私有 API 映射为权限范围的智能体工具,解决了 MCP 服务器运维、跨域授权和上下文窗口膨胀三大难题,并提供了从 OpenAPI 到工具的自动化映射、基于 Cedar 的服务端策略过滤以及 VPC Lattice 管理的私有连接三个关键技术细节,读者可直接学习其架构模式和实施要点。

10月29日周四
  1. NVIDIA Blog一手

    NVIDIA RTX Spark 笔记本发布新模型、Agent 工具与游戏

    NVIDIA RTX Spark 笔记本现已由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 等厂商发布,搭载 Blackwell RTX GPU 与 Grace CPU 组成超级芯片,最高 128GB 统一内存,最高 1 petaflop FP4 AI 性能。

    阅读原文 来源:NVIDIA Blog

    推荐理由RTX Spark 笔记本新增语音转写模型、LFM3 系列开放模型和 GPU 资源管理功能,同时发布 Phantom Blade Zero 等游戏和 RTX Remix 1.6 更新,展示了 Blackwell 架构在移动端的性能提升与生态扩展。

10月28日周三
  1. Hugging Face Blog一手

    NVIDIA Nemotron 3.5 Transcribe 与 Granary v2 发布:可提示适配的多语言转写模型

    NVIDIA Nemotron 3.5 Transcribe 为开放权重模型,支持转写 40 种语言、翻译 31 种语言并标记 13 种语言的说话人,单 GPU 即可运行。

    阅读原文 来源:Hugging Face Blog

    推荐理由Nemotron 3.5 Transcribe 与 Granary v2 同时发布,开放转写、翻译、说话人标记及音频问答功能,并提供可适配的数据管线与微调方案。

  2. AWS Machine Learning Blog一手

    亚马逊云科技:通过修正评估偏差在Amazon Bedrock上解锁更优模型

    Property Finder发现其评估标签有96.8%来自单一模型预测而非人工验证,导致任何替代模型都处于结构性劣势。团队通过手工标注356张阿联酋房产图建立无偏地面真值,并从单标签转向多标签分类以消除歧义。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了如何通过重新构建人工标注数据集、引入多标签分类以及使用提示词优化,在成本大幅降低的情况下实现模型性能的显著提升,读者可直接学到构建无偏评估框架的实践方法。

  3. AWS Machine Learning Blog一手

    AWS 发布 SOCI-indexed 镜像,SageMaker AI 作业启动速度提升

    AWS 宣布 Seekable OCI (SOCI) 索引技术将上线 SageMaker AI 训练和处理作业。SOCI 索引通过元数据实现容器镜像的懒加载,仅在启动时下载启动所需文件,其余按代码运行时流式传输,使作业启动从分钟级降至秒级。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了 SOCI-indexed 容器镜像在 SageMaker AI 训练和处理作业中的下载时间从分钟级降至秒级,GPU 空闲时间下降 90%,读者可直接通过 -soci 后缀的镜像标签或自行创建索引来实现零代码改造的加速。

  4. Hugging Face Blog一手

    Liquid AI 发布 LFM3 系列专用多模态模型

    Liquid AI 发布 LFM3 系列,包括 LFM3-1.7B、LFM3-VL-2B、LFM3-Audio-2B、LFM3-Omni-2B 等四款 2B 参数专用模型,均基于 LFM3-1.7B-Base backbone 构建。

    阅读原文 来源:Hugging Face Blog

    推荐理由LFM3 发布一系列 2B 参数的专用模型,在单 GPU 上即可微调部署,并提供从文本到视频、音频的多模态能力,读者可通过对比了解参数效率与上下文窗口的提升。

  5. Google DeepMind一手

    DeepMind 发布 Genie 4:原生音频交互的世界模型

    DeepMind 于2026年10月发布 Genie 4,作为首个原生音频交互的世界模型。该模型原生支持音频生成,可同时产出音乐、环境音和交互式对话。Genie 4 基于 Gemini 家族模型,利用 Gemini Omni 确保现实外观与行为,其他 Gemini 模型提供复杂推理以保持连贯性。

    阅读原文 来源:Google DeepMind

    推荐理由DeepMind 发布 Genie 4,作为首个原生音频交互的世界模型,展示了在实时模拟、物理推理和多模态生成上的重大进展,标志着交互式世界模型进入新阶段。

10月27日周二
  1. NVIDIA Blog一手

    AI 如何加速数百万痴呆症患者的发现进程

    C-BRAIN 联盟与 NVIDIA 合作,利用 AI 加速痴呆症研究。该系统整合了此前未公开的“暗数据”,包括未公开的发现、阴性结果及受管控的专有数据。

    阅读原文 来源:NVIDIA Blog

    推荐理由原文展示了 C-BRAIN 如何利用 AI 加速痴呆症研究,通过 OpenScientist 与 InsightEngine 两款开源工具实现从数周到分钟级的分析速度提升,并给出了多模态基础模型的路线图,读者可了解 AI 在医学研究中的具体落地路径与技术挑战。

10月24日周六
  1. Latent Space

    Kimi 3.1 Pro发布2.8T开源权重,独立评估显示智能指数55,超越Fable 5.1

    Moonshot发布Kimi K3.1 Pro,定位3T-class MoE模型,总参数2.8万亿,1040亿活跃参数,100万token上下文窗口。模型在Artificial Analysis智能指数上得分55,位居第四,超越Fable 5.1(53)和K3,独立编码Arena排名第8,1692分。

    阅读原文 来源:Latent Space

    推荐理由Kimi 3.1 Pro发布了2.8T开源权重,独立评估显示其智能指数55,位居第四,显著超越K3,且高速API推理速度提升2-3倍。该模型在编码、3D、金建模等领域有具体演示,但开源权重发布仍待11月4日,且存在推理成本与闭源模型相比的经济争议。

10月23日周五
  1. AWS Machine Learning Blog一手

    使用 Kokoro TTS 在 Amazon SageMaker AI 上流式传输低延迟语音

    文章展示了如何通过在 SageMaker AI 上流式传输 Kokoro-82M TTS 模型,在代理生成完整响应前即开始语音合成,将首个音频字节的延迟从 329.3ms 降至 156.7ms,并在部署运行时实现 2.4-3.5 倍的加速。文章详细介绍了 WebSocket 双向流传输、增量句子切分、基于二进制音频与 JSON 控制帧的传输方式以及基准测试结果。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了如何通过在 SageMaker AI 上流式传输 Kokoro-82M TTS 模型,在代理生成完整响应前即开始语音合成,将首个音频字节的延迟从 329.3ms 降至 156.7ms,并在部署运行时实现 2.4-3.5 倍的加速,读者可直接获取流式 TTS 的实现细节和成本对比。

10月22日周四
  1. NVIDIA Blog一手

    NVIDIA 发布 Earth-2 开放模型,助力全球天气与气候预测

    NVIDIA 发布 Earth-2 开放模型套件,提供全球天气预测、区域预报和环境研究工具。StormScope EU 模型利用 EUMETSAT 卫星观测预测 16 条 Meteosat 通道的云条演变,每 10 分钟更新一次。

    阅读原文 来源:NVIDIA Blog

    推荐理由NVIDIA 发布 Earth-2 开放模型套件,提供全球天气预测、区域预报和环境研究工具,开发者可自定义模型以应对区域需求。

  2. NVIDIA Blog一手

    NVIDIA Cosmos 发布新工具训练评估部署世界模型

    NVIDIA 发布 Cosmos 平台新工具,提供训练、评估和部署世界模型的全套方案。Cosmos Data Factory 新增五大云原生蓝图,涵盖自动驾驶数据生成。

    阅读原文 来源:NVIDIA Blog

    推荐理由NVIDIA 发布 Cosmos 平台新工具,提供训练、评估和部署世界模型的全套方案,包括数据工厂蓝图和模型微调优化能力,可帮助开发者加速物理 AI 的训练和部署。

  3. Hugging Face Blog一手

    NVIDIA Kumo Relational 发布:预训练关系基础模型在关系数据上无需训练即可预测

    NVIDIA 发布 Kumo Relational,这是一个预训练的关系基础模型,可直接在企业数据库上进行预测。它无需任务特定训练、特征工程或表展平,通过单次前向传递即可预测流失率、需求或欺诈等结果。

    阅读原文 来源:Hugging Face Blog

    推荐理由原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  4. Hugging Face Blog一手

    SLM 词汇专门化可在实际应用中将推理成本降低 77%

    文章介绍了 VocabX 方法,通过专门化词汇将 SLM 推理成本降低 77%。在 Portuguese essay grader 实验中,模型的平均输出 token 数从 350 降至 101,基于 Qwen3-4B 的基座模型在不改变权重的情况下实现成本大幅下降。

    阅读原文 来源:Hugging Face Blog

    推荐理由文章展示了如何通过专门化词汇显著降低 SLM 推理成本,并提供了具体的实验数据和方法论,读者可直接了解成本优化的关键技术点。

10月21日周三
  1. NVIDIA Blog一手

    NVIDIA在GTC Berlin发布RTX Spark、DGX Spark与DGX Station本地AI硬件

    NVIDIA在GTC Berlin发布了RTX Spark、DGX Spark和DGX Station三款本地AI硬件。RTX Spark于10月16日发布,面向Windows PC运行个人智能体,支持1440p 100fps游戏和内容创作,并提供Underdog Desktop Agent等本地AI应用。

    阅读原文 来源:NVIDIA Blog

    推荐理由NVIDIA在GTC Berlin发布了RTX Spark、DGX Spark和DGX Station三款本地AI硬件,并同步发布多款新模型和工具,直接影响个人开发者、小团队和企业的本地AI部署能力。

  2. Mistral AI一手

    Mistral 与 NVIDIA 联手推进工程 AI

    Mistral 与 NVIDIA 合作推出工程 AI 解决方案,发布 Mistral Large 4(Le Chonk)模型并提供公开基准。新模型拥有 1 万亿总参数、490 亿活跃参数,支持多模态理解和代理工作流。双方计划将模型与 NVIDIA Omniverse 结合,用于 3D 场景生成和仿真资产创建,并计划在 2030 年前在欧洲部署 1 GW AI 基础设施。

    阅读原文 来源:Mistral AI

    推荐理由原文发布了 Mistral Large 4 并与 NVIDIA 合作推出工程 AI 能力,提供了开放基准和基础设施,读者可以了解新模型能力和产业化进程。

  3. NVIDIA Blog一手

    NVIDIA Vera CPU 发布,助力欧洲本地基础设施构建

    NVIDIA Vera CPU 面向欧洲市场发布,Nebius、Nscale 等技术合作伙伴将其用于构建下一代基础设施。Vera 专为智能体计算设计,可加速信息检索、软件工具调用、代码执行及结果评估等步骤,每个步骤均依赖快速 CPU 处理。

    阅读原文 来源:NVIDIA Blog

    推荐理由NVIDIA Vera CPU 发布,提供了加速智能体工作负载的硬件基础,帮助数据中心在大规模并发下保持响应速度。