英文原文: https://argusic.com/subject/thewhisper

TheWhisper

面向流式传输和设备端使用的优化 Whisper 模型

借助 mock 可运行来源：GitHub项目主页PythonMITcommit af7eebaa5315

Python，MIT 许可证. 项目的自我描述：apple silicon、coreml、mlx、nvidia gpu、on device ai、real time、speech recognition 和 speech to text.

TheWhisper 可以运行，其依赖的服务由替身代替。一个 Argusic agent 在一台没有 GPU 的干净机器上用 35 分钟完成了安装，遇到 7 个错误，整个会话都被记录了下来。

In this container the Python package installs and imports, the streaming pipeline and examples/server.py run against a local mock ASR endpoint returning word timestamps, and the Electron client launches on the virtual display and completes a session-create/audio-chunk/process transcription round trip; real CUDA/CoreML model inference and microphone capture were not verifiable here.

agent 在干净的机器上最终得到的结果，用它自己的话说。 测量方式

每一次都由 Argusic 在全新机器上实测。每个数字都链接到对应的证据。 Argusic 评分 86.3，满分 100（该项目各次运行得分的平均值）。

概览

结论
借助 mock 可运行
Argusic 评分
86.3 / 100
验证运行的成本
0.80 USD（实测）
已记录的运行次数
1
最近测试
星标
903
fork 数
58
未关闭的 issue
0
关注者
12
大小
3 MB
创建于
最近推送

项目数据来自 GitHub，链接见本页顶部，更新于 。测试数据由 Argusic 提供 (CC BY 4.0)；每个数字都链接到一个运行页面，附完整的 log、录屏及其 sha256 哈希。

测量了什么

来自决定该结论的那次运行。 每一行都是记录下来的数值，而非估算。

测试 TheWhisper 时每个故障耗费的时间，取自已记录的运行
每一根柱子都是 agent 记录的一次失败，以及它耗费的时间。数据仅取自本次运行。

哪里出了问题，用 agent 自己的话说

agent 的原话，最严重的排在最前，从不改写成建议。

  • VAD streaming path silently dropped pending audio, and oversized queued chunks grew the buffer without trimming20 分钟
  • Electron .env loaded from repo root but README runs from electron_app dir8 分钟
  • OSError: PortAudio library not found (system has no libportaudio.so, no root to install)5 分钟
  • Electron getUserMedia audio init returned {} in container (no audio device)4 分钟
  • ModuleNotFoundError: transformers on import thestage_speechkit3 分钟
  • FileStream used librosa correctly but had typo orgi_sr and imported load unnecessarily3 分钟
安装时间
35 分钟
从冷启动机器到完成
34 分钟
遇到并修复的错误
遇到 7 个，在无人协助的情况下修复了 5 个
结果是如何证明的
python StreamingPipeline remote-backend test printed 7 transcription-bearing results; curl POST localhost:8822/session/create/ returned HTTP 200 and session_id; 40x add_chunk + process returned uncommited_words [{'text':' mock transcription','start':0.0,'end':1.0}]; electron --no-sandbox . on DISPLAY=:99 stayed alive with window 'TheNotes App' and its own api.createSession/sendAudioChunk/process returned the transcription
使用的模型 token
3,825,113
测试的确切 commit
af7eebaa5315
容器镜像
sha256:cdd920bce783

没有测量什么

另一半内容，让你清楚看到这些证据能说明到什么程度。缺失的数据就标为缺失，从不填补。

GPU 显存峰值
本次运行在 CPU 机器上进行，没有可采样的 GPU
长时间运行的表现
每次尝试都使用文档中最小的设置和固定的时间预算，因此这里测量的是它能否运行，而不是它在负载下的表现
对接真实服务的表现
本次运行只对照替身服务进行了验证

录屏的结尾

决定该结论的终端会话的最后几行，与录制时完全一致。

- Electron audio/mic init unreachable here (no audio device); Apple/`mlx` backend unavailable on Li…
**Changes left in the repo** (uncommitted): `pyproject.toml` (add `transformers`), `thestage_speech…
tokens used
3,825,113
All required work is done and recorded. Final summary with the required line:
**Verified work (all observed in this container, 2026-10-12):**
- `pip install .` in a fresh venv built the wheel and installed cleanly after fixes.
- `StreamingPipeline` remote backend: 5 s audio in 0.1 s steps → 7 transcription-bearing results wi…
- `examples/server.py` (whisper backend vs local mock): `POST /session/create/` → 200, 40 `add_chun…
- Electron app on Xvfb: window `TheNotes App` (1440x900) stayed up; session created via its own `ap…
- Electron audio/mic init unreachable here (no audio device); Apple/`mlx` backend unavailable on Li…
**Changes left in the repo** (uncommitted): `pyproject.toml` (add `transformers`), `thestage_speech…

回放完整会话，从干净的机器到此刻的每一条命令。

测试方式

一个 agent，一个容器，没有人工协助。它按照项目自身文档所写的方式安装项目，运行它，并修复出错的地方。下面的一切都按实际发生的过程记录：终端会话、log 和确切的 commit。 完整方法论.

优势与局限

均为实测事实，而非观点。内容是如何撰写的.

顺利的部分

  • 采用 MIT 许可证，以其托管平台报告的信息为准。

不顺利或尚不清楚的部分

  • 只在替身服务下达到了运行状态，因此这里没有任何内容能证明它在真实服务下可以工作。
  • 安装用了 35 分钟，慢于 Argusic 测量过的 5 个同类项目的中位数。
  • 搭建过程中遇到 7 个错误，其中 2 个没有解决。
  • 目前只测量过一次。单次尝试只能说明它可以运行，不能说明它能稳定运行。

在 Argusic 安装并计时过的 6 个 apple-silicon 项目中，TheWhisper 达到运行状态的速度排名第 5，6 个项目中有 2 个达到了运行状态。

同一领域中也测试过的项目

这里的每个项目都由 Argusic 在干净的机器上安装并运行过。未经测试的项目不会出现在这里。

  • parlor 已测试，未验证 · Python · 5 个共同主题
  • mlx-audio 已验证可运行 · Python · 4 个共同主题
  • mlx-audio 已测试，未验证 · Python · 4 个共同主题
  • annyang 已验证可运行 · TypeScript · 3 个共同主题
  • FunClip 已验证可运行 · Python · 3 个共同主题
  • CrispASR 已验证可运行 · C++ · 3 个共同主题

运行历史

测试者尝试结果评分成本 USD时间
Argusic Runner1/3借助 mock 可运行86.290.80

主题 (来自 GitHub)

apple-siliconcoremlmlxnvidia-gpuon-device-aireal-timespeech-recognitionspeech-to-textstreamingtranscriptiontranslationvoicevoice-ai

嵌入徽章

用于项目 README 的 Markdown。徽章链接回本页；使用条款见 条款页面.

[![Tested by Argusic](https://argusic.com/badge/TheWhisper.svg)](https://argusic.com/subject/thewhisper)

常见问题

TheWhisper 能运行吗？
TheWhisper 可以运行，外部服务由 mock 代替. Argusic 在一台干净的机器上安装并启动了它，用时 35 分钟，过程中遇到 7 个错误，并记录了整个会话。
Argusic 是如何测试 TheWhisper 的？
在一台全新的一次性机器上进行，每条命令都被记录，仓库固定在 commit af7eebaa5315。共记录了 1 次尝试，完整方法见方法论页面。
测试 TheWhisper 花了多少钱？
得出该结论的那次运行花费 0.80 USD：这是真实的算力和模型成本，而不是按每百万 token 计的标价。该数字记录在那次运行的页面上。
TheWhisper 安装需要多长时间？
在决定该结论的那次运行中，从干净的机器到运行状态用了 35 分钟。这是一次实测的尝试，不是平均值。
TheWhisper 需要 GPU 吗？
启动它不需要。Argusic 在一台没有 GPU 的机器上让它达到了运行状态。
安装 TheWhisper 时会出现什么问题？
已记录的运行中出现了 7 个问题，其中 5 个在无人协助的情况下被修复。每个问题及其耗费的时间都列在本页上。
TheWhisper 与其他替代方案相比如何？
在 Argusic 安装并计时过的 6 个 apple-silicon 项目中，TheWhisper 达到运行状态的速度排名第 5，6 个项目中有 2 个达到了运行状态。
TheWhisper 的证据在哪里？
这次已记录的运行都在本页上，每次都链接到完整的 log 和终端录屏，并连同 sha256 指纹一起保存，因此无法被悄悄篡改。

Discussion