英語の原文: https://argusic.com/subject/devvm

devvm

すべてのプロジェクトに One VM。あなたのプロジェクトのツールチェーンを備えた隔離されたサンドボックスは、あなたまたはコーディングエージェントがコーディングを開始する準備ができています。

モックで動作するソース: GitHubホームページGoMITコミット eaa170696605

Go、MIT ライセンス. プロジェクト自身の表記: coding agent、coding agents、developer tools、development、lima、lima vm、linux、sandbox.

devvm は、依存するサービスを代わりのものに置き換えたうえで動作します。Argusic のエージェントが GPU のないクリーンなマシンで 3 分でインストールし、5 件のエラーに遭遇し、セッション全体が記録されました。

devvm builds from source and runs on Linux x86_64 with Go 1.27.3; all 35 Go unit-test packages pass, CLI tests pass, 46 of 48 testscript integration tests pass (2 fail due to missing ssh-keygen and nc); binary reports version 0.0.0 and lists 34 commands via --help; doctor reports expected missing runtime deps (Lima, QEMU, KVM) which require system-package installs outside this container

クリーンなマシンでエージェントが最終的に得た結果 (エージェント自身の言葉)。 計測方法

Argusic が毎回新しいマシンで計測しています。 すべての数値はその証拠にリンクしています。 Argusic スコア 100 点中 72 点 (このプロジェクトの実行スコアの平均)。

概要

判定
モックで動作する
Argusic スコア
72 / 100
検証した実行のコスト
0.29 USD (実測)
記録された実行
1
最終テスト
スター
396
フォーク
18
未解決の Issue
9
ウォッチャー
1
サイズ
17 MB
作成日
最終プッシュ

プロジェクトのデータは GitHub から取得 (このページの冒頭にリンクあり)、更新日 。テストデータは Argusic によるもので (CC BY 4.0)、すべての数値は、完全なログ、録画、それらの sha256 ハッシュを含む実行ページにリンクしています。

計測した内容

この判定を決めた実行から取得しています。 各行は記録された値であり、推定値ではありません。

うまくいかなかった点 (エージェント自身の言葉)

エージェント自身の言葉を、深刻なものから順に掲載しています。助言に書き換えることはありません。

  • desktop script test fails: nc (netcat) not installed (no apt install without root)
  • release script test fails: ssh-keygen not installed (needs openssh-client, no root)
  • 4 internal/vm move/adopt tests fail: require interactive terminal (non-TTY environment)
  • 3 opencode tests skipped: sqlite3 binary not installed (no root)
  • Lima, QEMU, KVM not available (no root, no nested virt)
インストール時間
3 分
クリーンなマシンから完了まで
35 分
遭遇したエラーと修正したエラー
5 件に遭遇、0 件を人の手を借りずに修正
結果の証明方法
go test -race -timeout 30m passed for all 35 Go unit-test packages (shell, vmname, redact, jsonc, state, msg, fetch, project, gitprotect, hostsafety, sshconfig, sshagent, trust, netpolicy, secrets, from, agents, agentlogin, backend, build, image, daemon, desktop, devcontainer, hostgit, ports, proxy, settings, tools, platform, structure, upgrade, cli: all OK). CLI tests: 13/13 passed. Script tests: 46/48 passed (desktop needs nc, release needs ssh-keygen). build: 'go build -o devvm ./cmd/devvm' succeeded; ./devvm --version returned '0.0.0-20261108022655-eaa170696605'; ./devvm --help displays 34 commands
使用したモデルのトークン
119,572
テストした正確なコミット
eaa170696605
コンテナイメージ
sha256:cdd920bce783

計測していない内容

残りの半分です。この証拠がどこまでを示すのかを正確に確認できます。欠けている部分は欠けているものとして表示し、埋めることはありません。

GPU メモリのピーク
CPU マシンで実行したため、サンプリングする GPU がありませんでした
長時間の実行での振る舞い
各試行はドキュメントにある最小の設定と決まった時間予算を使うため、計測しているのは動作するかどうかであり、負荷のもとでどう持ちこたえるかではありません
実際のサービスに対する振る舞い
この実行は代わりのサービスに対してのみ検証されました

録画の最後

この判定を決めたターミナルセッションの最後の行を、記録されたとおりに表示しています。

 succeeded in 0ms:
1794124222
All core unit tests pass, the CLI tests pass, and most script tests pass. The only failures are due…
exec
/bin/sh -lc "echo \"ARGUSIC_RESULT: {\\\"install_succeeded\\\": true, \\\"launch_succeeded\\\": tru…
 succeeded in 0ms:
All verified. Here's the final report:
**ARGUSIC_RESULT: {"install_succeeded": true, "launch_succeeded": true, "install_minutes": 3, "erro…
tokens used
119,572
All verified. Here's the final report:
**ARGUSIC_RESULT: {"install_succeeded": true, "launch_succeeded": true, "install_minutes": 3, "erro…

セッション全体を再生 (クリーンなマシンからこの時点までのすべてのコマンド)。

テスト方法

1 つのエージェント、1 つのコンテナで、人の手は借りません。エージェントはプロジェクト自身のドキュメントに書かれた方法でインストールし、実行し、壊れた部分を修正します。以下はすべて、実際に起きたとおりに記録されています: ターミナルセッション、ログ、そして正確なコミットです。 評価方法の全文.

強みと限界

意見ではなく、計測された事実です。コンテンツの作成方法.

うまくいった点

  • 3 分でインストールでき、Argusic が計測した比較可能な 5 件のプロジェクトの中央値より速い結果です。
  • ホストの報告によると、ライセンスは MIT です。

うまくいかなかった点、または不明な点

  • 代わりのサービスに対してのみ実行状態に達したため、実際のサービスで動作することはここでは証明されていません。
  • セットアップ中に 5 件のエラーに遭遇しました。そのうち 5 件は解決されていません。
  • これまでの計測は 1 回です。1 回の試行は動作し得ることを示すだけで、安定して動作することは示しません。

Argusic がインストールして時間を計測した coding-agent のプロジェクト 6 件のうち、devvm は実行状態に達するまでの速さが 2 番目で、6 件中 1 件がそもそも実行状態に達しました。

同じ分野でテストしたプロジェクト

ここに挙げたものはすべて、Argusic がクリーンなマシンにインストールして実行しました。テストしていないものは表示されません。

実行履歴

テスト担当試行結果スコアコスト (USD)日時
Argusic Runner1/3モックで動作した72.000.29

トピック (出典: GitHub)

coding-agentcoding-agentsdeveloper-toolsdevelopmentlimalima-vmlinuxsandboxsandbox-environmentubuntuvirtual-machinevm

バッジを埋め込む

プロジェクトの README に貼る Markdown です。バッジはこのページにリンクします。利用条件: 利用規約ページ.

[![Tested by Argusic](https://argusic.com/badge/devvm.svg)](https://argusic.com/subject/devvm)

質問

devvm は動作しますか?
devvm は、外部サービスの代わりにモックを使って動作します. Argusic はクリーンなマシンで 3 分でインストールして起動し、途中で 5 件のエラーに遭遇し、セッションを記録しました。
Argusic は devvm をどのようにテストしましたか?
新しい使い捨てのマシンで、すべてのコマンドを記録しながらテストしました (リポジトリはコミット eaa170696605 に固定)。記録された試行は 1 回で、手順の全体は評価方法のページに掲載しています。
devvm のテストにはいくらかかりましたか?
この判定を出した実行のコストは 0.29 USD です: 100 万トークンあたりの定価ではなく、実際の計算資源とモデルのコストです。その実行のページに記録されています。
devvm のインストールにはどのくらい時間がかかりますか?
この判定を決めた実行では、クリーンなマシンから実行状態まで 3 分でした。これは 1 回の計測された試行であり、平均ではありません。
devvm には GPU が必要ですか?
起動には必要ありません。Argusic は GPU のないマシンで実行状態に達しました。
devvm のインストールでは何がうまくいきませんか?
記録された実行では 5 件の問題が発生しました。それぞれの問題と、かかった時間をこのページに掲載しています。
devvm は代替のプロジェクトと比べてどうですか?
Argusic がインストールして時間を計測した coding-agent のプロジェクト 6 件のうち、devvm は実行状態に達するまでの速さが 2 番目で、6 件中 1 件がそもそも実行状態に達しました。
devvm の証拠はどこにありますか?
記録された実行をこのページに掲載しており、それぞれが完全なログとターミナル録画にリンクしています。録画は sha256 フィンガープリントとともに保存されているため、こっそり改変することはできません。

Discussion