跳到正文
实时信息流

#OpenAI

全部动态
  1. AWS Machine Learning Blog一手

    在 EKS 上使用 Ray Train DLC 和 EFA 进行分布式训练

    原文介绍了在 Amazon EKS 上使用 Ray Train DLC 和 EFA 实现分布式 PyTorch 训练的完整流程。该方法无需手动构建训练镜像,直接使用 AWS 发布的 Ray Train DLC(public.ecr.aws/deep-learning-containers/ray:train-ml-cuda-v1.1)即可启动包含 EFA 网络堆栈的训练作业。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文提供了完整的分布式训练配置细节,读者可以直接参考 Ray Train DLC 和 KubeRay 实现多节点 FSDP 训练,无需手动构建镜像。

  1. AWS Machine Learning Blog一手

    Amazon SageMaker training session APIs:无服务器 GPU 基础设施下的自定义训练循环实现

    Amazon SageMaker 发布 training session APIs,让用户在本地 Python 进程中驱动 GPU-backed 会话,用于自定义 LLM 训练循环。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文介绍了 SageMaker training session APIs 的编程模型和三大 SDK 客户端,并通过 GRPO 示例展示了自定义训练循环的四步操作,读者可直接获取无服务器 GPU 基础设施下的算法控制与运维分离的具体实现方式。

  2. Hugging Face Blog一手

    OlmoEarth v1.3:全球卫星嵌入模型发布

    Hugging Face 发布 OlmoEarth v1.3,这是一个全球卫星嵌入模型,可将一年卫星时间压缩为每 10 米像素 128 维向量。该模型在 27 项评估中以 128 维嵌入在 20 项任务中得分最高,64 维嵌入在 18 项任务中领先。

    阅读原文 来源:Hugging Face Blog

    推荐理由OlmoEarth v1.3 发布全球卫星嵌入模型并开放预计算嵌入,提供交互式浏览器工具,读者可直接获取跨年份变化分析方法和具体案例。

  1. Hugging Face Blog一手

    NVIDIA Kumo Relational 发布:预训练关系基础模型在关系数据上无需训练即可预测

    NVIDIA 发布 Kumo Relational,这是一个预训练的关系基础模型,可直接在企业数据库上进行预测。它无需任务特定训练、特征工程或表展平,通过单次前向传递即可预测流失率、需求或欺诈等结果。

    阅读原文 来源:Hugging Face Blog

    推荐理由原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  1. AWS Machine Learning Blog一手

    AWS 发布从加拿大通过跨区域推理访问 OpenAI GPT-5.6、GPT-6、GPT-6.1 的技术指南

    AWS 宣布从加拿大 (Central) 和 Canada West (Calgary) 地区通过跨区域推理访问 OpenAI GPT-5.6、GPT-6、GPT-6.1 系列模型。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文提供了从加拿大通过跨区域推理访问 OpenAI GPT-5.6、GPT-6、GPT-6.1 的完整技术指南,包括模型定位、配额管理、权限设置及 API 调用示例,读者可直接用于部署和配置。

  2. AWS Machine Learning Blog一手

    Octave 在 Amazon Bedrock 上构建安全多租户 AI 基础设施

    Octave 利用 Amazon Bedrock 和 Cohere Embed v4 构建了支持 20 亿文档的多租户 AI 基础设施。系统在嵌入时统一处理文本和图像,通过 AgentCore runtime 在微 VM 层面实现租户隔离,并使用 Guardrails 进行内容过滤。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了如何在多租户 SaaS 平台上用 Amazon Bedrock 构建安全的 AI 基础设施,提供了从数据准备、隔离到内容防护的完整技术路线,读者可直接学习其多模态嵌入、微服务隔离和 Guardrails 等实践方法。

  3. AWS Machine Learning Blog一手

    Eon 利用 Amazon Bedrock AgentCore MCP Gateway 实现跨云调查工具统一访问

    Eon 利用 Amazon Bedrock AgentCore MCP Gateway 统一了跨云(AWS、GCP、Azure)的调查工具访问。该方案通过单一认证网关替代了每个工具的凭证和本地 MCP 进程,开发者和自治代理仅凭企业 SSO 即可在两分钟内访问数百种工具,此前需配置两天。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了如何用 Amazon Bedrock AgentCore MCP Gateway 统一跨云工具访问,通过 Cedar 策略实现身份分离和最小权限控制,并将开发者和代理的入门时间从两天缩短至两分钟,提供了具体的技术实现路径和成果。

  1. AWS Machine Learning Blog一手

    Amazon Bedrock 为 Anthropic Claude 模型提供结构化输出功能

    Amazon Bedrock 为所有 Anthropic Claude 模型提供结构化输出功能,通过 JSON Schema 约束模型输出,无需自行解析即可获取合法 JSON。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由Amazon Bedrock 为所有 Anthropic Claude 模型提供了结构化输出功能,通过 JSON Schema 约束模型输出,无需自行解析即可获取合法 JSON,显著降低了数据提取和 Agent 工作流的运维成本。

  2. Hugging Face Blog一手

    TorchNeuran:在 AWS Trainium 上更轻松运行 Hugging Face 模型

    TorchNeuron 作为 PyTorch 的新原生后端,现已在 AWS Trainium 上原生支持 Transformers、Diffusers 等 Hugging Face 库,用户只需传入 device_map=neuron 参数即可直接运行,相比 Optimum Neuron 覆盖的模型架构从 46% 提升至 89%。

    阅读原文 来源:Hugging Face Blog

    推荐理由原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  1. AWS Machine Learning Blog一手

    Muse Spark Open 现已上线 SageMaker JumpStart,提供两种量化方案和 1 亿 token 上下文窗口

    Muse Spark Open,Meta 的代码优化开权模型,现已上线 Amazon SageMaker JumpStart。模型支持 1 亿 token 上下文窗口,可处理文本、图片、音频和音频视频,输出文本。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文提供了模型部署步骤、实例规格和推理能力展示,读者可以据此快速上手并对比两种量化方案的性能差异。

  1. GitHub Blog: AI & ML一手

    GitHub 发布新的秘密检测模型,实现更少噪音的更多秘密检测

    GitHub 发布基于 ModernBERT 的秘密检测新模型,相比上一 LLM 管道实现 11.5% 更高的用户接受率、86% 更快的中位数后推执行时间以及 98% 更低的服务成本,并给出了开放入口和主要能力变化。

    阅读原文 来源:GitHub Blog: AI & ML

    推荐理由原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

已经到底了