研究与解释
机制解释而非复述新闻
12 条精选近 30 天 12 条共收录 37 条
原文介绍了在 Amazon EKS 上使用 Ray Train DLC 和 EFA 实现分布式 PyTorch 训练的完整流程。该方法无需手动构建训练镜像，直接使用 AWS 发布的 Ray Train DLC（public.ecr.aws/deep-learning-containers/ray:train-ml-cuda-v1.1）即可启动包含 EFA 网络堆栈的训练作业。
推荐理由原文提供了完整的分布式训练配置细节，读者可以直接参考 Ray Train DLC 和 KubeRay 实现多节点 FSDP 训练，无需手动构建镜像。
谷歌研究院提出睡眠框架，旨在通过交替的唤醒与休眠阶段，让LLM在持续学习中保持知识并自我提升。该框架模拟人类大脑休眠过程，包含记忆巩固与做梦两个阶段。记忆巩固通过参数扩展和知识向上蒸馏将短期记忆转化为长期参数，做梦则通过随机专家激活和基于梯度的样本筛选进行自改进。
推荐理由原文介绍了睡眠框架，展示了LLM在持续学习中通过交替的唤醒与休眠阶段实现知识保持和推理提升，读者可了解该方法在长上下文保持、事实整合和数学推理方面的技术细节与实验结果。
原文构建了一个完整的企业智能体检索解决方案，展示了如何使用 AWS CDK 部署一个基于 Amazon Bedrock Managed Knowledge Base 的智能体系统。
推荐理由原文提供了完整的 CDK 部署方案，展示了如何利用 Amazon Bedrock Managed Knowledge Base 构建企业级智能体检索系统，读者可以学到语义路由、多轮检索、七层观测指标和自动评估的完整实现细节。
Amazon SageMaker 发布 training session APIs，让用户在本地 Python 进程中驱动 GPU-backed 会话，用于自定义 LLM 训练循环。
推荐理由原文介绍了 SageMaker training session APIs 的编程模型和三大 SDK 客户端，并通过 GRPO 示例展示了自定义训练循环的四步操作，读者可直接获取无服务器 GPU 基础设施下的算法控制与运维分离的具体实现方式。
原文详细介绍了在 Amazon SageMaker AI 上部署 Kokoro-82M TTS 模型的自动扩缩容配置方法。文章通过两次实际测量（Q_max 和 T_total）替代传统的猜测式配置，Q_max 为单实例在 SLO 约束下可承受的最大并发请求数（测得 50），T_total 为从请求扩容到流量恢复的总耗时（测得 320.2 秒）。
推荐理由原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
AWS发布Deep Insight，一个将复杂数据分析自动化的多智能体系统。系统通过协调者、规划者、监督者和专业执行者（码农、验证者、报告者、追踪者）层层协作，从CSV数据生成带图表的DOCX报告。
推荐理由原文列出了5大生产挑战及Deep Insight的架构解法，读者可以学到分层协作、模型角色分配和安全沙箱等可迁移的技术要点。
i14 在 AWS Trainium2 上训练并推理 Laplace 3B 线性注意力模型。训练阶段在单节点单实例上实现约 120,000 tokens/秒的吞吐量，损失平滑下降至 2.3729；推理阶段通过未修改的 vLLM 引擎在 1,280 并发序列下实现 11,544 output tokens/秒。
推荐理由原文展示了Laplace 3B在Trainium2上训练和推理的具体结果，读者可以了解到线性注意力模型在大规模训练和高并发推理下的性能表现及其固定状态带来的内存优势。
Amazon Quick与Amazon Bedrock AgentCore通过MCP协议将供应链业务系统转化为可对话的智能体工具，实现从检测中断、评估影响到生成紧急RFQ的全流程自动化。
推荐理由原文展示了Amazon Quick与Amazon Bedrock AgentCore如何通过MCP协议实现供应链跨系统对话，提供从检测到行动的全流程自动化，读者可直接获取部署思路和实际效果对比。
文章介绍了在 AWS 上使用 AtScale 语义层和 Amazon Bedrock AgentCore 构建智能体 AI 的完整流程。首先，文章说明了 AtScale 采用维度模型而非图模型，并使用开放的 Semantic Modeling Language（SML）定义模型，支持 SQL、XMLA 和 MCP 三种协议同时对外提供。
推荐理由原文展示了如何使用 AtScale 的语义层、Amazon Bedrock AgentCore 和 Semantic Modeling Language 构建统一的语义层，读者可学到模型定义、查询下推、身份传播和部署全流程。
文章介绍了 Strategy Mosaic 作为语义层在 AWS 上为 Agentic AI 构建统一语义层的完整实现流程。Mosaic 通过两个链接模型（Purchase 模型覆盖 Amazon Redshift，Customer 模型覆盖 Amazon Aurora）实现跨源数据关联，无需 ETL。
推荐理由原文详细介绍了 Strategy Mosaic 语义层在 AWS 上为 Agentic AI 构建语义层的完整技术实现，涵盖了模型链接、指标定义、身份认证和跨源查询执行，读者可直接学习如何将语义层部署到 Bedrock AgentCore 并实现统一的安全与数据访问。
Deepgram将Nova-3语音模型移植至AWS Trainium2并进行了内核级优化，单设备配置处理音频每美元提升11%-70%。团队使用TorchNeuron完成PyTorch迁移，通过NKILib和自定义内核提升吞吐量，并开发Rust数据并行运行时消除Python开销。
推荐理由原文展示了Deepgram如何通过在Trainium2上优化Nova-3模型，在离线批处理工作负载中实现11%-70%音频每美元的成本提升，并提供了从模型移植到数据并行运行的完整技术路径，读者可直接获取模型优化和成本降低的可复用方法。
谷歌发布联邦学习新系统，利用可信执行环境（TEE）实现可验证的数据匿名化。系统通过TEE协调数据上传、密钥管理和训练执行，仅在TEE内部处理加密数据，并将访问策略发布至公开透明日志。Gboard已采用该系统，实现英日语下一词预测模型的训练速度显著提升和隐私保证增强。该架构将计算从设备卸载至服务器，并支持可重现的构建和外部审计。未来将探索结合加速器和LLM推理等更复杂的工作负载。
推荐理由原文介绍了利用TEE技术实现联邦学习可验证隐私保护的技术架构，展示了如何在保证隐私的同时提升训练效率，读者可了解该技术在实际产品中的落地实践。