跳到正文
11月14日周六
11月13日周五
  1. Hugging Face Blog62

    llama.cpp 与 ggml 发布 v1.0.0,确立语义化版本规则

    llama.cpp 与 ggml 发布 v1.0.0,并明确今后以主版本号变更标示公共 C API 的破坏性改动。项目方称 llama.cpp 目前支持超过 150 种模型架构及主流投机解码方法,发行渠道覆盖 Linux、macOS、Windows、Android、iOS 及 Docker、Homebrew、conda-forge 等。

    推荐理由:llama.cpp 发布 v1.0.0 并确立语义化版本规则,下游依赖其 API 的开发者可据此判断升级边界。

  2. Hugging Face Blog62

    IBM 发布 LLMON 标记语言及 Granite 4.1 3B/8B 预览模型

    IBM 在 Hugging Face 发布 LLMON(LLM Object Notation)标记语言,并推出基于 Granite 4.1 基座训练的 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 两个实验性预览模型。

    推荐理由:原文给出 LLMON 标记语言的设计动机、两个预览模型和提示注入基准对比,可了解结构化上下文对注入攻击的抑制思路。

11月12日周四
11月10日周二
  1. Hugging Face Blog62

    Hugging Face 介绍决策模型:用 Transformers 和 llama.cpp 输出概率化决策

    Hugging Face 发文介绍决策模型,这类模型接收 state 和 questions,直接返回带概率的结构化决策而不生成文本。

    推荐理由:Hugging Face 把决策模型统一成 state 加 questions 的接口,并给出 Transformers 与 llama.cpp 的调用方式,便于判断这类非生成式输出能否接入现有服务。

11月9日周一
11月6日周五
11月5日周四
11月3日周二