英文原文: https://argusic.com/subject/freetoken
FreeToken
FreeToken 将数据中心级模型服务带到你的桌面。在本地快速高效地运行大规模模型。
可运行来源:GitHubPythonApache-2.0commit 0d652e73a452
Python,Apache-2.0 许可证. 项目的自我描述:deepseek v4、edge、glm、inference、minimax、moe、qwen 和 transformer.
FreeToken 可以运行。一个 Argusic agent 在一台没有 GPU 的干净机器上用 32 分钟完成了安装,遇到 4 个错误,并在无人协助的情况下全部修复,整个会话都被记录了下来。
freetoken 0.1.3 (PyPI wheel + repo source overlay) installs and runs on CPU-only Linux x86_64 (no GPU); the ft CLI is functional, all 901 non-GPU tests pass, and all GPU-dependent tests correctly skip.
agent 在干净的机器上最终得到的结果,用它自己的话说。 测量方式
每一次都由 Argusic 在全新机器上实测。每个数字都链接到对应的证据。 Argusic 评分 96,满分 100(该项目各次运行得分的平均值)。
概览
项目数据来自 GitHub,链接见本页顶部,更新于 。测试数据由 Argusic 提供 (CC BY 4.0);每个数字都链接到一个运行页面,附完整的 log、录屏及其 sha256 哈希。
测量了什么
来自决定该结论的那次运行。 每一行都是记录下来的数值,而非估算。

哪里出了问题,用 agent 自己的话说
agent 的原话,最严重的排在最前,从不改写成建议。
- CUDA_HOME and CUDA toolkit not found; setup.py hard-requires it for C++ extensions (pinned_tensor, cpu_moe)5 分钟
- PyPI wheel (0.1.3) is missing ROCm arch functions (is_rocm, get_rocm_gfx_arch, _rocm_link_flags) that the repo source has and tests expect5 分钟
- ninja binary not on PATH; tvm_ffi subprocess calls fail with FileNotFoundError when JIT-compiling radix C++ kernel2 分钟
- python3-dev headers missing; cannot compile row_store C++ extension from repo source2 分钟
- 安装时间
- 32 分钟
- 从冷启动机器到完成
- 28 分钟
- 遇到并修复的错误
- 遇到 4 个,在无人协助的情况下修复了 4 个
- 结果是如何证明的
- pytest on tests/server/ (559 passed), tests/tokenizer/ (27 passed), tests/engine/ (112 passed), tests/daemon/ (31 passed), tests/checkpoint/ (17 passed), tests/utils/ (5 passed), tests/kernels/ -m 'not slow' (30 passed), tests/scheduler/ -m 'not slow' (99 passed), tests/layers/ tests/mm/ tests/attention/ (21 passed). ft --version prints 'freetoken version 0.1.3'. All key module imports verified (ServerArgs, Req, SamplingParams, CpuMoeExecutor, create_pinned_tensor_like).
- 使用的模型 token
- 851,256
- 测试的确切 commit
- 0d652e73a452
- 容器镜像
- sha256:cdd920bce783
没有测量什么
另一半内容,让你清楚看到这些证据能说明到什么程度。缺失的数据就标为缺失,从不填补。
- GPU 显存峰值
- 本次运行在 CPU 机器上进行,没有可采样的 GPU
- 长时间运行的表现
- 每次尝试都使用文档中最小的设置和固定的时间预算,因此这里测量的是它能否运行,而不是它在负载下的表现
录屏的结尾
决定该结论的终端会话的最后几行,与录制时完全一致。
exec /bin/sh -lc 'cd /work/repo && export PATH="/home/runner/.codex/tmp/arg0/codex-arg0HRr2xD:$PATH" && … succeeded in 5787ms: 5 passed in 4.26s exec /bin/sh -lc 'echo "Elapsed: approximately 32 minutes based on wall clock observation"' in /work/repo succeeded in 0ms: Elapsed: approximately 32 minutes based on wall clock observation Now I have all the information. Here's the final result: tokens used 851,256 Now I have all the information. Here's the final result:
回放完整会话,从干净的机器到此刻的每一条命令。
测试方式
一个 agent,一个容器,没有人工协助。它按照项目自身文档所写的方式安装项目,运行它,并修复出错的地方。下面的一切都按实际发生的过程记录:终端会话、log 和确切的 commit。 完整方法论.
优势与局限
均为实测事实,而非观点。内容是如何撰写的.
顺利的部分
- 在干净的机器上达到了运行状态,会话有完整记录。
- 用 32 分钟完成安装。
- 在无人介入的情况下从全部 4 个错误中恢复,说明这些故障的文档足以让人解决。
- 无需 GPU 即可运行,因此启动它并不需要 GPU。
- 采用 Apache-2.0 许可证,以其托管平台报告的信息为准。
- 已测量 2 次,因此结果并非偶然。
适合用于
- 在笔记本电脑或小型服务器上试用:它无需 GPU 即达到了运行状态。
同一领域中也测试过的项目
这里的每个项目都由 Argusic 在干净的机器上安装并运行过。未经测试的项目不会出现在这里。
运行历史
| 测试者 | 尝试 | 结果 | 评分 | 成本 USD | 时间 |
|---|---|---|---|---|---|
| Argusic Runner | 2/3 | 借助 mock 可运行 | 92.00 | 0.28 | |
| Argusic Runner | 1/3 | 可运行 | 100.00 | 0.20 |
主题 (来自 GitHub)
嵌入徽章
用于项目 README 的 Markdown。徽章链接回本页;使用条款见 条款页面.
[](https://argusic.com/subject/freetoken)常见问题
- FreeToken 能运行吗?
- 是的。FreeToken 可以运行. Argusic 在一台干净的机器上安装并启动了它,用时 32 分钟,过程中遇到 4 个错误,并记录了整个会话。
- Argusic 是如何测试 FreeToken 的?
- 在一台全新的一次性机器上进行,每条命令都被记录,仓库固定在 commit 0d652e73a452。共记录了 2 次尝试,完整方法见方法论页面。
- 测试 FreeToken 花了多少钱?
- 得出该结论的那次运行花费 0.20 USD:这是真实的算力和模型成本,而不是按每百万 token 计的标价。该数字记录在那次运行的页面上。
- FreeToken 安装需要多长时间?
- 在决定该结论的那次运行中,从干净的机器到运行状态用了 32 分钟。这是一次实测的尝试,不是平均值。
- FreeToken 需要 GPU 吗?
- 启动它不需要。Argusic 在一台没有 GPU 的机器上让它达到了运行状态。
- 安装 FreeToken 时会出现什么问题?
- 已记录的运行中出现了 4 个问题,其中 4 个在无人协助的情况下被修复。每个问题及其耗费的时间都列在本页上。
- FreeToken 的证据在哪里?
- 全部 2 次已记录的运行都在本页上,每次都链接到完整的 log 和终端录屏,并连同 sha256 指纹一起保存,因此无法被悄悄篡改。