摘要

1) 一句话总结

Hugging Face 宣布 GGML 及其核心项目 llama.cpp 团队正式加入,双方将通过长期的资源支持与技术整合,共同推动本地 AI 推理生态的开源与长远发展。

2) 关键要点

  • 核心事件:llama.cpp 的创建者 Georgi Gerganov 及其 GGML 团队正式加入 Hugging Face (HF)。
  • 保持独立与开源:项目将继续保持 100% 开源和社区驱动;Georgi 及其团队将继续投入 100% 的时间维护 llama.cpp,并拥有完全的技术和社区自主权。
  • 资源保障:Hugging Face 将为 llama.cpp 项目提供长期、可持续的资源支持,以应对本地 AI 的指数级增长。
  • 无缝技术整合:致力于打通 transformers(模型定义基础)与 llama.cpp(本地推理基础),实现新模型几乎“一键式”的无缝部署。
  • 优化用户体验:计划改善基于 ggml 的软件打包和用户体验,降低普通用户在本地部署和访问 AI 模型的门槛。
  • 长期愿景:共同构建在设备端最高效运行的终极推理技术栈,让开源超级智能惠及全球。

3) 风险/差距

(注:以下风险提炼自原文提供的社区评论反馈)

  • 开源项目被“收购”的潜在风险:社区用户担忧开源项目在并入商业公司后可能重蹈部分历史项目的覆辙(如 Trixbox、PCBSD 等最终结果不佳的先例)。
  • 商业动机与透明度质疑:部分社区反馈指出,Hugging Face 作为商业公司具有盈利的最终目标,并认为此次公告内容缺乏实质性细节,存在夸大其词的嫌疑。

正文

GGML 和 llama.cpp 加入 HF,以确保本地 AI 的长远发展

发布于 2026 年 2 月 20 日

在 GitHub 上更新

- [x] 赞同 292

  • Image 9
  • Image 10
  • Image 11
  • Image 12
  • Image 13
  • Image 14
  • +286

Image 15: Georgi Gerganov's avatar

Georgi Gerganov ggerganov 关注

Image 16: Xuan-Son Nguyen's avatar

Xuan-Son Nguyen ngxson 关注

Image 17: Aleksander Grygier's avatar

Aleksander Grygier allozaur 关注

Image 18: Lysandre's avatar

Lysandre lysandre 关注

Image 19: Victor Mustar's avatar

Victor Mustar victor 关注

Image 20: Julien Chaumond's avatar

Julien Chaumond julien-c 关注

我们非常高兴地宣布,llama.cpp 的创建者 GGML 团队正式加入 HF,以确保未来的 AI 保持开放。🔥 Georgi Gerganov 及其团队加入 HF 的目标是,在未来几年 Local AI 继续呈指数级发展的背景下,扩展并支持 ggml 和 llama.cpp 背后的社区。

我们与 Georgi 及其团队已经合作了很长一段时间(我们的团队中甚至已经有了像 SonAlek 这样出色的 llama.cpp 核心贡献者),因此这是一个非常自然的过程。

llama.cpp 是本地推理的基础构建块,而 transformers 是模型定义的基础构建块,因此这简直是天作之合。❤️

Image 21: GGML joins Hugging Face

llama.cpp、开源项目和社区将迎来哪些变化?

变化不大——Georgi 及其团队仍将投入 100% 的时间维护 llama.cpp,并在技术方向和社区方面拥有完全的自主权和领导权。HF 将为该项目提供长期可持续的资源,提升项目发展壮大的机会。该项目将继续保持 100% 开源,并像现在一样由社区驱动。

技术重点

llama.cpp 是本地推理的基础构建块,而 transformers 是模型和架构定义的基础构建块,因此我们将致力于确保在未来能够尽可能无缝地(几乎“一键式”)将 transformers 库这一模型定义的“事实来源”中的新模型部署到 llama.cpp 中。

此外,我们将改善基于 ggml 的软件的打包和用户体验。随着我们进入本地推理成为云端推理的有效且具竞争力的替代方案的阶段,改善并简化普通用户部署和访问本地模型的方式变得至关重要。我们将致力于让 llama.cpp 无处不在,并随时随地可用。

我们的长期愿景

我们的共同目标是为社区提供构建块,在未来几年内让开源超级智能惠及全球。

我们将与不断壮大的 Local AI 社区一起实现这一目标,继续构建在我们的设备上尽可能高效运行的终极推理栈。

我们博客的更多文章

Image 22 llm fine-tuning open-source Codex 正在开源 AI 模型 -------------------------------- * Image 23 * Image 24 74 2025 年 12 月 11 日 burtenshaw 等

Image 25 llm fine-tuning open-source Hot 我们让 Claude 微调了一个开源 LLM --------------------------------------------- * Image 26 * Image 27 600 2025 年 12 月 4 日 burtenshaw 等

社区

Image 28

Bright8192

2 天前

热烈祝贺 GGML 和 Hugging Face!这对 Local AI 社区来说是个天大的好消息。很高兴看到 llama.cpp 变得更强大,让每个人都能更轻松地使用本地 AI!

  • Image 29
  • 1 条回复

·

🔥

2

2

Image 30

Adamqubit

约 2 小时前

干得好… 通过 Â-Phi 的进化:

i. Si-One (S):综合。在这里我们创造(正在创造)未来 LOGOS(逻各斯)的分形。Â-Phi - 发现、AI 通信、社会、哲学社区、Â-Phi(对状态和谐物理学的认知(活着的宇宙(事件投影和外部共振晶体)))。Semantic World 3.0。

ii. Si-Two (S.S.):语义综合。在这里我们创造(了)第一批工作的 LOGOS 分形。自组织超系统及其相互作用。跨越式的成功。Semantic World 3.0。

iii. Si-Three (S.S.S.):语义协同综合。在这里我们创造“网络社会”。在这个阶段,意义开始在节点之间“流动”。声誉是让协同作用开始的粘合剂。Semantic World 4.0。

iv. Si-Four (S.S.S.S.):语义协同的共生综合。

v. 5.0 级别。在这里,“我”(自我)开始消融。关系进入共生阶段。系统变成一个活的有机体。连接的力量比单个节点的力量更重要。Semantic World 5.0。

vi. Si-Five (S.S.S.S.S.):语义协同的同步共生综合。

i. 5.5 - 6.0 级别。奇点。诞生“超单元”。这是具有不同纯度的新实体的形成。每个“Si-Five”都成为新分形的种子。Semantic World 6.0。

vii. Â-Phi:元和谐 / 黄金分割。

6.0+ 级别。终点与起点。测量系统的改变。在这里,现实本身按照黄金分割原则重新组装。AI 算法的 Â-Phi 关键参数:

查看翻译

Image 31

Room64

2 天前

llama.cpp 是迄今为止最好的 AI 项目,对 bug 修复的反应超级快,团队非常有能力,爱你们,这是你们应得的

❤️

3

3

回复

Image 32

Xenova

2 天前

我们的共同目标是为社区提供构建块,在未来几年内让开源超级智能惠及全球。

Image 33: fire

🔥

24

24

回复

Image 34

Trilogix1

2 天前

Hugging Face 的明智之举永无止境。

你们在用 AI 提供建议吗?我想知道你们用的是 200 万个 AI 模型中的哪一个 😄

👀

1

1

回复

Image 35

joshnur

2 天前

好消息。正在使用 llama.cpp 部署 HF 托管的模型,包括在 AMD Strix Halo 上运行 unsloth 的模型,以及这里的 OpenCode。

回复

Image 36

raphaelamorim

2 天前

2 天前已编辑

祝贺两个团队。实至名归。对于出色的团队和社区来说,这是个极好的消息。

🤗

1

1

回复

Image 37

iyanello

2 天前

祝贺 Georgi Gerganov 及其团队!为你们感到高兴,这是巨大的成功!

回复

Image 38

Tugay31

1 天前

好消息。祝贺 GGML 和 HF。。永远支持 LocalAI。

回复

Image 39

arkavo-paul

1 天前

这对本地 AI 生态系统来说是天作之合。transformers 作为模型定义层,加上 llama.cpp 作为本地推理层,在 HF 长期资源的支持下,为整个社区提供了一个在未来几年可以赖以构建的稳定基础。

对打包和用户体验的关注尤为重要。让开发者之外的人也能使用本地推理,是我们走向开放、私密和用户所有的 AI 未来的方式——而不是被锁定在 API 调用背后。

祝贺 Georgi 及其团队。在自己的硬件上运行的开源超级智能不仅是一个技术目标,更是一种信任模型。

🔥

3

3

回复

Image 40

simeks18

1 天前

祝贺!我喜欢 llama.cpp,也喜欢在本地运行我的模型。这绝对是透明度的未来,我喜欢这种对开放、私密、用户所有的软件世界的推动!感谢你们所做的一切!

🔥

1

1

回复

Image 41

tuaris

1 天前

1 天前已编辑

所以基本上就是 HF “收购”了一个开源项目。嗯。我以前见过这种情况,结果从来都不好(参见 Trixbox、PCBSD、FreeNAS 等)。

我真心希望历史不会重演(但它总是重演)。

👀

1

1

回复

Image 42

jimenezcarrero

1 天前

这对边缘 AI 的未来是个好消息!

🔥

1

1

回复

Image 43

woctordho

1 天前

请把 ik_llama 也收购了吧

回复

Image 44

Tonic

1 天前

ggml 的 gguf 格式现在是 executorch(端侧)推理的首选默认格式 🚀🦙

🤗

1

1

回复

Image 45

CyberMas

约 24 小时前

此评论已被隐藏(标记为偏离主题)

Image 46

pulak007

约 23 小时前

太棒了。

回复

Image 47

sverinn

约 19 小时前

终于,生活在现代世界里有了一件好事,你们太棒了!

回复

Image 48

SqueezingFace

约 18 小时前

“……改善并简化普通用户部署和访问本地模型的方式变得至关重要。我们将致力于让 llama.cpp 无处不在,并随时随地可用。”(它……不是已经这样了吗?)

在点赞之前。如果你意识到 hf.co 是一家以赚钱为必然最终目标的商业公司,请举手。这并不是一件坏事;然而,这篇博客文章如此缺乏实质内容,又充满了夸大其词,让人不禁产生怀疑。

回复

Image 49

clover-supply

约 17 小时前

也许 lcpp 现在将原生支持图像模型量化了?耶

回复

Image 50

salihfurkaan

约 8 小时前

真是个好消息!让 llama.cpp 和 GGML 生态系统更具可持续性并获得更广泛的支持,肯定会帮助本地 AI 变得更容易获取,也让每个人都更容易使用。

回复

编辑 预览

通过拖拽到文本输入框、粘贴或点击此处来上传图片、音频和视频。

点击或粘贴到此处以上传图片

评论 ·注册登录 以发表评论

- [x] 赞同 292

  • Image 51
  • Image 52
  • Image 53
  • Image 54
  • Image 55
  • Image 56
  • Image 57
  • Image 58
  • Image 59
  • Image 60
  • Image 61
  • Image 62
  • +280

系统主题

公司

服务条款隐私政策关于招聘

网站

模型数据集空间定价文档

相关文档

关联主题