跳到正文

研究与解释

数据分析 最新动态

方法、指标和数据来源

29 条精选近 30 天 29 条共收录 105 条

RSS
更新

精选归档 · 第 2 页

10月20日周二第 21–29 条
  1. AWS Machine Learning Blog一手

    vLLM 引入双向 KV 传输以提升多轮代理工作负载 TTFT

    vLLM 在 P-D 分布式部署中引入双向 KV 传输机制,通过 decode 节点保留跨轮 KV 缓存并传回 prefill 节点复用,避免了重复计算。基准测试显示,在 Qwen3-32B 上最长提示词下 TTFT 可降低 1.6 倍,在 GLM-5-FP8 上可降低 3.3 倍。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了 vLLM 中双向 KV 传输机制,通过保留和重用跨轮的 KV 缓存,显著降低了多轮对话场景下的 TTFT,提供了具体的性能提升数据和实现指南。

  2. AWS Machine Learning Blog一手

    AWS发布基于NIXL的推模式KV转移功能,提升vLLM分布式推理TTFT和TPOT

    AWS发布了基于NIXL的推模式KV转移功能,用于提升vLLM分布式推理的TTFT和TPOT。在使用Amazon EC2 P5en实例连接EFA的基准测试中,该功能对Qwen3-32B模型实现了最多3倍的TTFT提升和30%的TPOT改进,相比传统的拉模式显著降低了关键路径延迟。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

10月19日周一
  1. BIS 研究论文一手

    BIS研究:利用LLM测量地缘经济压力下企业响应

    研究利用大语言模型阅读财报,测量企业如何响应地缘经济压力。出口管制促使目标企业在国内加大研发以建立本土替代技术,尤其受美国半导体和人工智能管制的中国企业。对俄罗斯实施的制裁导致联盟国(欧美)收入损失和资产减记,欧洲面临能源成本冲击,而中国和印度等第三方国家因填补市场真空而受益,获得折扣油价和重新路由的贸易。

    阅读原文 来源:BIS 研究论文

    推荐理由原文通过 LLM 读取财报,系统性测量了地缘经济压力下企业的响应与行动,提供了从出口管制到制裁、关税三种压力手段的实证对比,揭示了供应链重组与国内研发投入的关键变化。

  2. BIS 研究论文一手

    BIS研究:三种跨境支付渠道成本对比与稳定币局限性分析

    该研究实证比较了传统银行、金融科技MTO及稳定币三种跨境支付渠道的成本。研究发现,金融科技MTO相对银行显著降低了小额支付成本,但稳定币跨境转账仍依赖法币兑换,受交易所费用和流动性制约;稳定币在发达市场到部分新兴市场的转账中提供较优的FX定价,但这反映了资本控制扭曲而非技术优势,且市场深度有限、定价波动大。

    阅读原文 来源:BIS 研究论文

    推荐理由研究通过实证数据对比了银行、金融科技MTO和稳定币跨境支付的成本,揭示了稳定币在FX定价上的优势受资本控制影响,且流动性受限,为读者提供了跨渠道成本对比的实证依据。

10月13日周二
  1. BIS 研究论文一手

    BIS研究:稳定币与银行存款是部分替代品

    研究实证表明稳定币与银行存款部分替代,存款利率上升会抑制稳定币增长,USDC 受影响显著强于 USDT,结果对银行资金条件和货币政策传导有影响。

    阅读原文 来源:BIS 研究论文

    推荐理由研究实证表明稳定币与银行存款部分替代,存款利率上升会抑制稳定币增长,USDC 受影响显著强于 USDT,结果对银行资金条件和货币政策传导有影响。

10月8日周四
  1. Google Research一手

    Google Research:AI辅助是否增强或侵蚀专业专长?

    Google Research在专利起草领域进行三个月田野实验,随机分配AI工具访问权给133名专利律师。实验发现:在10天和90天的起草任务中,AI工具均显著提升了 drafting scores(0.34 SD和0.38 SD),主要通过减少差评和增加良好评分实现,但优秀评分无变化。

    阅读原文 来源:Google Research

    推荐理由实证研究通过三个月田野实验,揭示了AI辅助在专业领域提升短期产出与长期技能形成的冲突:初学者短期表现提升但未转化为持久专业判断,资深者则通过AI作为‘逻辑审计员’强化了基础专业知识。

10月5日周一
  1. GitHub Blog: AI & ML一手

    ReviewBench:AI 代码评実开放基准

    ReviewBench 是一个基于 1.039 亿真实 Pull Request 的 AI 代码评実基准,包含 219 个跨语言的公开 PR,提供 grounded 与 augmented 等六项评估指标,支持按严重程度和类别切片评估。GitHub 利用该基准评估 Copilot 代码评実,预测了线上实验结果,展现出良好的线下线上一致性,并公开发布基准与评估方法,供社区自行评估与迭代。

    阅读原文 来源:GitHub Blog: AI & ML

    推荐理由ReviewBench 作为一个新的 AI 代码评� benchmark,提供了多维度的评估指标和可复用的评估方法,帮助开发者评估和对比代码宐�智能体的性能,是一篇值得阅读的技术解析。

10月4日周日
  1. Hugging Face Blog一手

    The Agent Said It Was Done. The Database Disagreed.

    Microsoft 和 Hugging Face 联合发布 ThinkingBox 基准,用于评估 AI 代理在业务工作流中的可靠性。基准通过在 507 个 stateful 工作流中各重复运行 20 次,测量代理留下的数据库状态和副作用,而非仅依赖其生成的文本。

    阅读原文 来源:Hugging Face Blog

    推荐理由ThinkingBox 基准揭示了 AI 代理在 507 个业务工作流中 20 次重复运行后的可靠性差异,展示了 pass@1 与 pass@20 的巨大落差,并提供可直接在 OpenEnv 上运行的基准工具。

10月2日周五
  1. Google Research一手

    谷歌研究:联邦数据可验证私有学习

    谷歌发布联邦学习新系统,利用可信执行环境(TEE)实现可验证的数据匿名化。系统通过TEE协调数据上传、密钥管理和训练执行,仅在TEE内部处理加密数据,并将访问策略发布至公开透明日志。Gboard已采用该系统,实现英日语下一词预测模型的训练速度显著提升和隐私保证增强。该架构将计算从设备卸载至服务器,并支持可重现的构建和外部审计。未来将探索结合加速器和LLM推理等更复杂的工作负载。

    阅读原文 来源:Google Research

    推荐理由原文介绍了利用TEE技术实现联邦学习可验证隐私保护的技术架构,展示了如何在保证隐私的同时提升训练效率,读者可了解该技术在实际产品中的落地实践。