英文原文: https://argusic.com/subject/colibri

colibri

一个用于前沿 MoE 模型的分层推理引擎:热专家在 GPU(CUDA、Vulkan)上,温专家在 RAM 中,冷专家从 NVMe 流式加载。用 C 语言编写,在你已有的硬件上运行。

可运行来源:GitHub项目主页CApache-2.0commit fd93c41aa6ae

C,Apache-2.0 许可证.

colibri 可以运行。一个 Argusic agent 在一台没有 GPU 的干净机器上用 28 分钟完成了安装,没有遇到任何错误,整个会话都被记录了下来。

colibri v1.10.2 builds and installs from source in this container; 104 C test binaries (478 assertions) and 716 Python tests pass; the Kimi K3 engine produces token-exact greedy output matching the independent vendor oracle.

agent 在干净的机器上最终得到的结果,用它自己的话说。 测量方式

每一次都由 Argusic 在全新机器上实测。每个数字都链接到对应的证据。 Argusic 评分 73.3,满分 100(该项目各次运行得分的平均值)。

概览

结论
可运行
Argusic 评分
73.3 / 100
验证运行的成本
0.16 USD(实测)
已记录的运行次数
3
最近测试
星标
47,626
fork 数
5,510
未关闭的 issue
172
关注者
381
大小
42 MB
创建于
最近推送

项目数据来自 GitHub,链接见本页顶部,更新于 。测试数据由 Argusic 提供 (CC BY 4.0);每个数字都链接到一个运行页面,附完整的 log、录屏及其 sha256 哈希。

测量了什么

来自决定该结论的那次运行。 每一行都是记录下来的数值,而非估算。

安装时间
28 分钟
从冷启动机器到完成
24 分钟
遇到并修复的错误
遇到 0 个,在无人协助的情况下修复了 0 个
结果是如何证明的
make test-c: ALL PASS (0 failures across 104 binaries, 478 ok assertions); make test-python: 716 passed, 59 skipped (GPU-only); c/tests/test_kimi_k3_tiny.py: token-exact greedy, teacher forcing, determinism, and oracle-bite checks pass on installed kimi_k3 binary; coli --version returns 'colibri 1.10.2'; coli info loads kimi_k3_tiny fixture reporting 'engine ready'
使用的模型 token
416,984
测试的确切 commit
fd93c41aa6ae
容器镜像
sha256:cdd920bce783

没有测量什么

另一半内容,让你清楚看到这些证据能说明到什么程度。缺失的数据就标为缺失,从不填补。

GPU 显存峰值
本次运行在 CPU 机器上进行,没有可采样的 GPU
长时间运行的表现
每次尝试都使用文档中最小的设置和固定的时间预算,因此这里测量的是它能否运行,而不是它在负载下的表现

录屏的结尾

决定该结论的终端会话的最后几行,与录制时完全一致。

**C test suite**: 104 test binaries, 478 "ok" assertions, **ALL PASS (0 failures)**.
**Python test suite**: 716 tests, all pass (59 skipped for CUDA/Metal/Vulkan/GPU — expected in this…
**End-to-end inference verified**: Token-exact greedy generation, teacher forcing, determinism, and…
**No real credentials required**: the project needs no API keys, third-party services, or network t…
tokens used
416,984
All tests verified. Here's the final report:
**Install and build**: `make -C c` builds the GLM engine cleanly, plus `kimi_k3`, `olmoe`, `qwen36`…
**C test suite**: 104 test binaries, 478 "ok" assertions, **ALL PASS (0 failures)**.
**Python test suite**: 716 tests, all pass (59 skipped for CUDA/Metal/Vulkan/GPU — expected in this…
**End-to-end inference verified**: Token-exact greedy generation, teacher forcing, determinism, and…
**No real credentials required**: the project needs no API keys, third-party services, or network t…

回放完整会话,从干净的机器到此刻的每一条命令。

测试方式

一个 agent,一个容器,没有人工协助。它按照项目自身文档所写的方式安装项目,运行它,并修复出错的地方。下面的一切都按实际发生的过程记录:终端会话、log 和确切的 commit。 完整方法论.

优势与局限

均为实测事实,而非观点。内容是如何撰写的.

顺利的部分

  • 在干净的机器上达到了运行状态,会话有完整记录。
  • 过程中没有任何故障:从克隆到运行,零错误。
  • 无需 GPU 即可运行,因此启动它并不需要 GPU。
  • 采用 Apache-2.0 许可证,以其托管平台报告的信息为准。
  • 已测量 3 次,因此结果并非偶然。

不顺利或尚不清楚的部分

  • 安装用了 28 分钟,慢于 Argusic 测量过的 5 个同类项目的中位数。

在 Argusic 安装并计时过的 6 个 C 项目中,colibri 达到运行状态的速度排名第 6,6 个项目中有 5 个达到了运行状态。

适合用于

  • 在笔记本电脑或小型服务器上试用:它无需 GPU 即达到了运行状态。
  • 按照它自己的 README 操作:文档中的步骤无需任何修复即可走通。

运行历史

测试者尝试结果评分成本 USD时间
Argusic Runner3/3未验证60.000.16
Argusic Runner2/3未验证60.000.14
Argusic Runner1/3可运行100.000.16

嵌入徽章

用于项目 README 的 Markdown。徽章链接回本页;使用条款见 条款页面.

[![Tested by Argusic](https://argusic.com/badge/colibri.svg)](https://argusic.com/subject/colibri)

常见问题

colibri 能运行吗?
是的。colibri 可以运行. Argusic 在一台干净的机器上安装并启动了它,用时 28 分钟,过程中遇到 0 个错误,并记录了整个会话。
Argusic 是如何测试 colibri 的?
在一台全新的一次性机器上进行,每条命令都被记录,仓库固定在 commit fd93c41aa6ae。共记录了 3 次尝试,完整方法见方法论页面。
测试 colibri 花了多少钱?
得出该结论的那次运行花费 0.16 USD:这是真实的算力和模型成本,而不是按每百万 token 计的标价。该数字记录在那次运行的页面上。
colibri 安装需要多长时间?
在决定该结论的那次运行中,从干净的机器到运行状态用了 28 分钟。这是一次实测的尝试,不是平均值。
colibri 需要 GPU 吗?
启动它不需要。Argusic 在一台没有 GPU 的机器上让它达到了运行状态。
安装 colibri 时会出现什么问题?
在已记录的运行中没有出现任何问题:从克隆到运行,零错误。
colibri 与其他替代方案相比如何?
在 Argusic 安装并计时过的 6 个 C 项目中,colibri 达到运行状态的速度排名第 6,6 个项目中有 5 个达到了运行状态。
colibri 的证据在哪里?
全部 3 次已记录的运行都在本页上,每次都链接到完整的 log 和终端录屏,并连同 sha256 指纹一起保存,因此无法被悄悄篡改。

Discussion