在 Amazon Bedrock 上用 NVIDIA NeMo Switchyard 为编码智能体请求路由模型
AWS 发布教程,演示用 AWS CDK 在 Amazon Bedrock 上部署带 NVIDIA NeMo Switchyard 路由插件的 LiteLLM 网关,为编码智能体请求选择模型。
AWS 发布教程,演示用 AWS CDK 在 Amazon Bedrock 上部署带 NVIDIA NeMo Switchyard 路由插件的 LiteLLM 网关,为编码智能体请求选择模型。
AWS 官方博客介绍 Amazon Bedrock AgentCore runtime V2 的会话启动机制,把容器初始化移到快照构建阶段,新会话直接恢复快照。
Google 将 Antigravity 的 /teamwork 多智能体工作流连同 /boost 等智能体开放给外部研究者和开发者,可搭配 Gemini 4 Argon、Carbon、Hydrogen 使用。
推荐理由:Google 公开 /teamwork 多智能体工作流在数学证明、形式化验证与内核优化上的具体结果,并说明外部用户可用的入口。
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的 GPU 集群运行语音转文字推理,通过 SQS 队列重试机制在 Spot 中断时把任务重新入队。架构跨 g4dn、g5、g6 三类 NVIDIA GPU 实例族分散 Spot 容量,并在 us-west-2 与 eu-west-2 区域部署以满足数据驻留合规。
Amazon Bedrock 提供零埋点的成本归因能力,可将每次推理调用追溯到发起调用的 IAM 主体,并连同组织标签写入 CUR 2.0 与 Cost Explorer。
Amazon SageMaker HyperPod 的 Data Capture 能在端点、负载均衡器、模型 Pod 三个独立层级把线上推理输入输出写入 Amazon S3,且对模型可用性零影响。以 Qwen2.5-3B-Instruct 家电客服路由为例,演示采集、Athena 分析、SQL 标注、微调、再部署五步飞轮,微调约一分钟即可完成。
llama.cpp 与 ggml 发布 v1.0.0,并明确今后以主版本号变更标示公共 C API 的破坏性改动。项目方称 llama.cpp 目前支持超过 150 种模型架构及主流投机解码方法,发行渠道覆盖 Linux、macOS、Windows、Android、iOS 及 Docker、Homebrew、conda-forge 等。
推荐理由:llama.cpp 发布 v1.0.0 并确立语义化版本规则,下游依赖其 API 的开发者可据此判断升级边界。
Codex 0.169.0 发布,可选启用的终端工作区支持多个侧聊标签页,重启后可恢复本地侧聊。用户可按名称、提示词预览或工作目录搜索旧任务,并能在终端添加或编辑自定义模型提供商。macOS 和 Linux 的可选启用 Cloud 连接支持在终端发送图片、选择模型与推理强度,并归档或恢复 Cloud 对话。
亚马逊宣布 SGLang-Neuron 通过 AWS Deep Learning Container 开放使用,由 RadixArk 与 Annapurna Labs 合作发布,可在 AWS Trainium 上用现有 SGLang 接口部署模型并生成强化学习 rollout。
Natera 团队基于 Amazon Bedrock AgentCore 构建了实验室运维智能体系统 SWARM,把支持工单的首次响应时间从 17.4 小时降到约 8 分钟,自动化覆盖率达到 96.2%。
AWS 官方博客梳理了 Amazon Bedrock 中四项影响推理成本的请求级设置,分别是提示词缓存时长、服务层级、推理强度和 maxTokens。文中给出实测数据,例如 Claude Opus 5 的智能体任务把推理强度从 low 提到 high 后输出 token 中位数增加 169%,Nova 2 Lite 的 Flex 层级费率为 Standard 费率的一半。
AWS 宣布更新 Amazon Bedrock AgentCore runtime,每个会话仍在独立的 Firecracker MicroVM 中运行,会话启动最高快 15 倍、算力扩至 4 倍、内存消耗最多减少 68%。
推荐理由:官方给出会话启动速度、算力上限与内存效率的具体倍数变化,可对照上一代运行时评估迁移成本。
AWS 官方博客介绍如何用 Amazon Bedrock Application Inference Profiles 配合运行在 AWS Fargate 上的 LiteLLM,构建面向开发者的自助式 LLM 网关,把 Bedrock 封装成 OpenAI 兼容 API。
AWS 发布 Amazon Bedrock 成本优化与智能体 ROI 度量指南,主张按单任务成本而非 token 单价比较模型。文章拆解 tokenizer 效率、输出冗余、智能体循环轮次和推理开销四项隐性成本,并给出一个示例:单价高 2 倍的模型因 token 更少、一次完成,单任务成本反而低 65%。
OpenAI 在开发者博客中说明其内部部署数百个 OpenClaw 常驻智能体时采用的安全控制,包括隔离可信网关与不可信 LLM 执行环境、用沙箱限制网络和文件访问、以第二个模型做 Auto-review 审批。
推荐理由:OpenAI 公开内部数百个常驻智能体的沙箱、身份与审批配置,可作为企业部署 Agent 时的安全基线参考。
AWS 提出 Agent Development Lifecycle(Agent DLC),围绕 Define、Build、Evaluate、Release、Observe、Feed Back 六个活动和一个明确的 gold standard 组织智能体交付。
AWS 发布教程,介绍如何让共享同一智能体和知识库的员工只检索到自己有权查看的文档。
推荐理由:原文给出可复用的多层防御架构与完整 CDK 示例,读者可据此为共享知识库的智能体设计按用户隔离的检索权限。
AWS 发布教程,演示如何在两个 AWS 账号间用 A2A 协议搭建跨组织多智能体系统:企业侧 LangChain 编排器通过 A2A 调用 SaaS 侧基于 Strands Agents SDK 的合规智能体,双方各自使用 Amazon Cognito 身份池完成双向 OAuth 鉴权,不共享密钥也不依赖对方框架。
AWS 发文介绍如何用 Spring AI 与 Amazon Bedrock 在 Java 中构建自主 AI 智能体,并给出基于 spring-ai-agentcore 的实现模式。
AWS 发布指南,讲解如何让运行在开发者工作站上的 OpenAI Codex 通过 Amazon Bedrock 调用受支持的 OpenAI 模型,示例使用 GPT-5.6 Sol。
AWS 发布 Amazon Bedrock AgentCore 的 Web Search API,开发者用一次 InvokeWebSearch 调用即可检索 Amazon 自运营网页索引,返回带文本摘录及标题、URL、发布时间的有序结果。
推荐理由:原文给出独立 API 的调用方式、与 Gateway 的分工和计费口径,便于判断何时绕过网关直接接入搜索。
AWS 发布教程,介绍如何在 Amazon SageMaker HyperPod 上通过训练循环内的三项检查检测静默数据损坏,并把可疑 GPU 定位到节点后替换。三项检查分别是梯度 NaN/Inf 检查、环形重放审计和权重指纹比对,作者在 32 块 H100 上用注入故障做了验证。文中测得每 100 步做一次确定性审计约增加 10% 单步耗时,并给出定位、隔离、确认与替换节点的完整流程。
AWS 博客介绍 DXC Technology 如何在 Amazon Bedrock 上为 DXC OASIS 搭建多模型底座,统一接入 Anthropic Claude、Amazon Nova、Meta Llama 和开放权重模型。
AWS 提供 23 个生产级开源可复用资产,覆盖 RAG、文档处理和智能体脚手架,可将生成式 AI 开发周期从数月缩短到数周。DoorDash 用 Contact Center GenAI Agent 实现每天超 100,000 通电话、2.5 秒响应,测试容量提升 50 倍。Ricoh 用文档处理资产实现 7 倍吞吐,部署工程小时从 80 降至 5 以下。
AWS 发布开源框架 UAEF(Universal Agent Evaluation Framework),通过适配器把 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的执行轨迹统一为 AgentTrace,再用 7 个维度下的 36 项内置指标打分。
推荐理由:原文给出跨框架统一评测的适配器设计与 36 项指标清单,可据此判断多框架智能体如何做版本对比。
AWS 发布博客,介绍如何在 AWS Quick 中配置由 Orchestrator 统筹的六个智能体,覆盖 Discover、Decide、Design、Prototype 四个上游阶段,每个关卡都需人工审批。
Amazon Bedrock AgentCore 的 Web Search API 现已可用,开发者可用 LangGraph 构建每日依赖监控器,并行检查 npm、PyPI 和容器基础镜像。测试中三个分支并行耗时 36 秒,串行需 99 秒;每次运行最多 12 次搜索。请求用 AWS SigV4 签名,结果含标题、URL、发布日期和摘录,并支持域名与日期范围过滤。
Amazon Bedrock AgentCore Evaluations 支持三类评估器:AWS 内置评估器(如 Builtin.GoalSuccessRate、Builtin.Helpfulness 等 15 个)、DeepEval 与 AutoEval 托管开源指标,以及可替换模型和提示词的自定义评估器。
AWS 发布 Amazon Bedrock 调用日志可观测性数据湖方案,将各账户的模型调用日志经 CloudWatch、Data Firehose 汇聚到中心账户,转成 Parquet 后用 Athena 统一查询。
NVIDIA 在 KubeCon + CloudNativeCon 上宣布把用于保障和治理自主智能体的开源运行时 NVIDIA OpenShell 捐赠给 CNCF,作为 Sandbox 项目由社区治理。
推荐理由:原文给出 OpenShell 捐赠 CNCF 与 NVKE、NVKR、Snapshot 三个组件的具体能力,可据此判断 Kubernetes 上智能体治理与推理扩容的落地方式。
Hugging Face 发文介绍决策模型,这类模型接收 state 和 questions,直接返回带概率的结构化决策而不生成文本。
推荐理由:Hugging Face 把决策模型统一成 state 加 questions 的接口,并给出 Transformers 与 llama.cpp 的调用方式,便于判断这类非生成式输出能否接入现有服务。
Amazon Bedrock Managed Knowledge Base 通过 AgenticRetrieveStream 新增单次 RAG 与仅检索两种模式,与原有智能体检索共用同一 API。
NVIDIA Nemotron 3.5 Super VL 已在 Amazon SageMaker JumpStart 上线,可通过 SageMaker Studio 或 Python SDK 部署。
CrossnoKaye 用 Amazon Bedrock AgentCore 的代码解释器,让 AURA 智能体在隔离 microVM 中运行 Python,把 ATLAS 的工厂数据与闭环控制打通。
NVIDIA 在 CoRL 大会上发布开放世界动作模型 GR00T 2,以及 Isaac Lab 3.0、DexBench 和 VABAR 等仿真工具与评测基准。
推荐理由:文中给出 GR00T 2 的任务成功率与 Isaac Lab 3.0 的训练吞吐对比,可据此判断仿真训练在机器人工业落地中的位置。
OpenAI 介绍 Control Room,一套可跨其研究基础设施追踪模型工作负载、并在出现安全或安保问题时快速叫停这些负载的中央系统。
Amazon SageMaker Inference 新增 GPU 分区能力,基于 NVIDIA MIG 把单块 GPU 划分为硬件隔离的多个分区,每个分区可部署不同模型。
NVIDIA 公布 Vera CPU 的对比测试结果,称在 100 兆瓦数据中心场景下,其智能体速度与每瓦可承载的智能体数量同时优于最快的 x86 CPU 和最节能的 x86 CPU。
Mistral 发布 Mistral Large 4(代号 Le Chonk),主打编码、防御性网络安全和复杂文档推理,同时扩展企业平台 Mistral Studio,新增托管智能体、应用、工作流、企业上下文、智能体可观测性与评估能力。
推荐理由:原文给出 Studio 新增托管智能体、工作流与可观测能力,以及 ABANCA、BNP Paribas 等客户的生产使用情况,可据此判断企业自建智能体的落地路径。
IBM 研究团队发布 Palette,把做幻灯片拆成设计师写 JSON 简报、编码器写 pptxgenjs 代码两个角色,用单个 LoRA 适配器微调 20B 模型,训练数据为约 1000 份幻灯片、约 1 万页的合成数据。