在 Amazon Bedrock 上用 NVIDIA NeMo Switchyard 为编码智能体请求路由模型
AWS 发布教程,演示用 AWS CDK 在 Amazon Bedrock 上部署带 NVIDIA NeMo Switchyard 路由插件的 LiteLLM 网关,为编码智能体请求选择模型。
AWS 发布教程,演示用 AWS CDK 在 Amazon Bedrock 上部署带 NVIDIA NeMo Switchyard 路由插件的 LiteLLM 网关,为编码智能体请求选择模型。
AWS 官方博客介绍 Amazon Bedrock AgentCore runtime V2 的会话启动机制,把容器初始化移到快照构建阶段,新会话直接恢复快照。
Google 将 Antigravity 的 /teamwork 多智能体工作流连同 /boost 等智能体开放给外部研究者和开发者,可搭配 Gemini 4 Argon、Carbon、Hydrogen 使用。
推荐理由:Google 公开 /teamwork 多智能体工作流在数学证明、形式化验证与内核优化上的具体结果,并说明外部用户可用的入口。
AssemblyAI 在 AWS 上以 Amazon ECS 搭配 EC2 Spot 与 On-Demand 混合的 GPU 集群运行语音转文字推理,通过 SQS 队列重试机制在 Spot 中断时把任务重新入队。架构跨 g4dn、g5、g6 三类 NVIDIA GPU 实例族分散 Spot 容量,并在 us-west-2 与 eu-west-2 区域部署以满足数据驻留合规。
Amazon Bedrock 提供零埋点的成本归因能力,可将每次推理调用追溯到发起调用的 IAM 主体,并连同组织标签写入 CUR 2.0 与 Cost Explorer。
Amazon SageMaker HyperPod 的 Data Capture 能在端点、负载均衡器、模型 Pod 三个独立层级把线上推理输入输出写入 Amazon S3,且对模型可用性零影响。以 Qwen2.5-3B-Instruct 家电客服路由为例,演示采集、Athena 分析、SQL 标注、微调、再部署五步飞轮,微调约一分钟即可完成。
llama.cpp 与 ggml 发布 v1.0.0,并明确今后以主版本号变更标示公共 C API 的破坏性改动。项目方称 llama.cpp 目前支持超过 150 种模型架构及主流投机解码方法,发行渠道覆盖 Linux、macOS、Windows、Android、iOS 及 Docker、Homebrew、conda-forge 等。
推荐理由:llama.cpp 发布 v1.0.0 并确立语义化版本规则,下游依赖其 API 的开发者可据此判断升级边界。
Codex 0.169.0 发布,可选启用的终端工作区支持多个侧聊标签页,重启后可恢复本地侧聊。用户可按名称、提示词预览或工作目录搜索旧任务,并能在终端添加或编辑自定义模型提供商。macOS 和 Linux 的可选启用 Cloud 连接支持在终端发送图片、选择模型与推理强度,并归档或恢复 Cloud 对话。
美国联邦航空管理局(FAA)将 AI 空管建议工具 SMART 从华盛顿特区扩展至全美 22 个空管中心的空域。FAA 称该系统自 9 月 21 日在华盛顿特区空域启用以来已帮助改航 180 架次航班,平均每架次节省 10 分钟和近 80 加仑燃油,项目耗资 8.75 亿美元。代表空管人员的工会表示未参与该系统的设计与测试,航空公司高管则对推广表示支持。
亚马逊宣布 SGLang-Neuron 通过 AWS Deep Learning Container 开放使用,由 RadixArk 与 Annapurna Labs 合作发布,可在 AWS Trainium 上用现有 SGLang 接口部署模型并生成强化学习 rollout。
Natera 团队基于 Amazon Bedrock AgentCore 构建了实验室运维智能体系统 SWARM,把支持工单的首次响应时间从 17.4 小时降到约 8 分钟,自动化覆盖率达到 96.2%。
Nebius 在第三季度财报电话会上公布 2027 年 400 亿美元支出计划,规模超出华尔街预期。其最大客户之一微软的合同价值最高 194 亿美元,但新泽西 Vineland 数据中心延期数月,仅略超一半容量计划年底前交付,其余推迟到 2027 年第二季度。Nebius 将 2026 年营收预期下调 2 亿美元至 30 亿美元,当日股价下跌 17%。
AWS 官方博客梳理了 Amazon Bedrock 中四项影响推理成本的请求级设置,分别是提示词缓存时长、服务层级、推理强度和 maxTokens。文中给出实测数据,例如 Claude Opus 5 的智能体任务把推理强度从 low 提到 high 后输出 token 中位数增加 169%,Nova 2 Lite 的 Flex 层级费率为 Standard 费率的一半。
AWS 宣布更新 Amazon Bedrock AgentCore runtime,每个会话仍在独立的 Firecracker MicroVM 中运行,会话启动最高快 15 倍、算力扩至 4 倍、内存消耗最多减少 68%。
推荐理由:官方给出会话启动速度、算力上限与内存效率的具体倍数变化,可对照上一代运行时评估迁移成本。
AWS 官方博客介绍如何用 Amazon Bedrock Application Inference Profiles 配合运行在 AWS Fargate 上的 LiteLLM,构建面向开发者的自助式 LLM 网关,把 Bedrock 封装成 OpenAI 兼容 API。
AWS 发布 Amazon Bedrock 成本优化与智能体 ROI 度量指南,主张按单任务成本而非 token 单价比较模型。文章拆解 tokenizer 效率、输出冗余、智能体循环轮次和推理开销四项隐性成本,并给出一个示例:单价高 2 倍的模型因 token 更少、一次完成,单任务成本反而低 65%。
OpenAI 在开发者博客中说明其内部部署数百个 OpenClaw 常驻智能体时采用的安全控制,包括隔离可信网关与不可信 LLM 执行环境、用沙箱限制网络和文件访问、以第二个模型做 Auto-review 审批。
推荐理由:OpenAI 公开内部数百个常驻智能体的沙箱、身份与审批配置,可作为企业部署 Agent 时的安全基线参考。
AWS 提出 Agent Development Lifecycle(Agent DLC),围绕 Define、Build、Evaluate、Release、Observe、Feed Back 六个活动和一个明确的 gold standard 组织智能体交付。
AWS 发布教程,介绍如何让共享同一智能体和知识库的员工只检索到自己有权查看的文档。
推荐理由:原文给出可复用的多层防御架构与完整 CDK 示例,读者可据此为共享知识库的智能体设计按用户隔离的检索权限。
AWS 发布教程,演示如何在两个 AWS 账号间用 A2A 协议搭建跨组织多智能体系统:企业侧 LangChain 编排器通过 A2A 调用 SaaS 侧基于 Strands Agents SDK 的合规智能体,双方各自使用 Amazon Cognito 身份池完成双向 OAuth 鉴权,不共享密钥也不依赖对方框架。
ElevenLabs 发布两款语音转文字模型 Scribe v3 和 Scribe v3 Live,前者面向录音文件,后者面向低延迟实时场景,均已通过 ElevenAPI 和 ElevenAgents 平台开放。
AWS 发文介绍如何用 Spring AI 与 Amazon Bedrock 在 Java 中构建自主 AI 智能体,并给出基于 spring-ai-agentcore 的实现模式。
AWS 发布指南,讲解如何让运行在开发者工作站上的 OpenAI Codex 通过 Amazon Bedrock 调用受支持的 OpenAI 模型,示例使用 GPT-5.6 Sol。
AWS 发布 Amazon Bedrock AgentCore 的 Web Search API,开发者用一次 InvokeWebSearch 调用即可检索 Amazon 自运营网页索引,返回带文本摘录及标题、URL、发布时间的有序结果。
推荐理由:原文给出独立 API 的调用方式、与 Gateway 的分工和计费口径,便于判断何时绕过网关直接接入搜索。
AWS 发布教程,介绍如何在 Amazon SageMaker HyperPod 上通过训练循环内的三项检查检测静默数据损坏,并把可疑 GPU 定位到节点后替换。三项检查分别是梯度 NaN/Inf 检查、环形重放审计和权重指纹比对,作者在 32 块 H100 上用注入故障做了验证。文中测得每 100 步做一次确定性审计约增加 10% 单步耗时,并给出定位、隔离、确认与替换节点的完整流程。
AWS 博客介绍 DXC Technology 如何在 Amazon Bedrock 上为 DXC OASIS 搭建多模型底座,统一接入 Anthropic Claude、Amazon Nova、Meta Llama 和开放权重模型。
CoreWeave 在第三季度财报中表示,正越来越多要求客户预付、以具体合同为抵押借款,并承接可抬高价格的短期合约。公司三季度营收 36.6 亿美元,同比增长 168%,但净亏损 7.09 亿美元,季度利息支出 8.46 亿美元;未来三个月预计获得约 90 亿美元客户预付款和押金,未偿订单达 1325 亿美元。
AWS 提供 23 个生产级开源可复用资产,覆盖 RAG、文档处理和智能体脚手架,可将生成式 AI 开发周期从数月缩短到数周。DoorDash 用 Contact Center GenAI Agent 实现每天超 100,000 通电话、2.5 秒响应,测试容量提升 50 倍。Ricoh 用文档处理资产实现 7 倍吞吐,部署工程小时从 80 降至 5 以下。
AWS 发布开源框架 UAEF(Universal Agent Evaluation Framework),通过适配器把 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的执行轨迹统一为 AgentTrace,再用 7 个维度下的 36 项内置指标打分。
推荐理由:原文给出跨框架统一评测的适配器设计与 36 项指标清单,可据此判断多框架智能体如何做版本对比。
AWS 发布博客,介绍如何在 AWS Quick 中配置由 Orchestrator 统筹的六个智能体,覆盖 Discover、Decide、Design、Prototype 四个上游阶段,每个关卡都需人工审批。
Plurai 获 1300 万美元种子轮融资,由 Team8 领投,U&I、Velocity 和 Mercer 参投。该公司用基于企业自有数字系统的合成数据仿真,为 Claude Code、Codex、Copilot、Cursor 等智能体工具构建数字孪生并覆盖边缘案例,再据此后训练小型开源权重模型。
Anthropic 在投资人材料中称,今年首次使用 AMD GPU 时由其前沿模型 Mythos 完成移植工作,Claude 仅三天就在 AMD 上运行,几乎无需人工介入,模型自行编写了近 100% 的 kernel。
Amazon Bedrock AgentCore 的 Web Search API 现已可用,开发者可用 LangGraph 构建每日依赖监控器,并行检查 npm、PyPI 和容器基础镜像。测试中三个分支并行耗时 36 秒,串行需 99 秒;每次运行最多 12 次搜索。请求用 AWS SigV4 签名,结果含标题、URL、发布日期和摘录,并支持域名与日期范围过滤。
Amazon Bedrock AgentCore Evaluations 支持三类评估器:AWS 内置评估器(如 Builtin.GoalSuccessRate、Builtin.Helpfulness 等 15 个)、DeepEval 与 AutoEval 托管开源指标,以及可替换模型和提示词的自定义评估器。
Nvidia 在新研究报告中介绍 GR00T 2,这一世界-动作模型会同时计算下一步动作和未来短片段的画面,从而把人类视频中的动作迁移到机械臂。模型用超过一千块 GB300 芯片训练,包含约 40 万小时佩戴头戴摄像头的人类操作视频;实验室中五指机器人无需针对任务遥操作即可点蜡烛、切香蕉或把包裹抛上传送带,成功率随任务在 10% 到 80% 之间。
亚马逊旗下 Ring 宣布成立 Ring Robotics,推出家用安防无人机 Ring Drone Cam 和商用巡逻机器人 Ring Rover Cam。
AWS 发布 Amazon Bedrock 调用日志可观测性数据湖方案,将各账户的模型调用日志经 CloudWatch、Data Firehose 汇聚到中心账户,转成 Parquet 后用 Athena 统一查询。
NVIDIA 在 KubeCon + CloudNativeCon 上宣布把用于保障和治理自主智能体的开源运行时 NVIDIA OpenShell 捐赠给 CNCF,作为 Sandbox 项目由社区治理。
推荐理由:原文给出 OpenShell 捐赠 CNCF 与 NVKE、NVKR、Snapshot 三个组件的具体能力,可据此判断 Kubernetes 上智能体治理与推理扩容的落地方式。
Google 发布两款 TPU 新变体 TPU 8tx 和 TPU 8i Max,均属今年 4 月推出的第八代芯片系列。
Hugging Face 发文介绍决策模型,这类模型接收 state 和 questions,直接返回带概率的结构化决策而不生成文本。
推荐理由:Hugging Face 把决策模型统一成 state 加 questions 的接口,并给出 Transformers 与 llama.cpp 的调用方式,便于判断这类非生成式输出能否接入现有服务。