英語の原文: https://argusic.com/subject/volkswagen
volkswagen
フォルクスワーゲンは、テストが CI サーバーで実行されていることを検出し、それらを成功させます。
動作するソース: GitHubJavaScriptMITコミット ae379b4459ee
JavaScript、MIT ライセンス. プロジェクト自身の表記: cheat、ci server、continuous integration、defeat、javascipt、nodejs、volkswagen.
volkswagen は動作します。Argusic のエージェントが GPU のないクリーンなマシンで 0.1 分でインストールし、5 件のエラーに遭遇してすべてを自力で修正し、セッション全体が記録されました。
npm install completes successfully, npm test executes six fixtures and exits 0 with 36 TAP ok assertions, and the packed package installs and suppresses failing assert and Chai checks in CI mode while leaving those failures active outside CI.
クリーンなマシンでエージェントが最終的に得た結果 (エージェント自身の言葉)。 計測方法
Argusic が毎回新しいマシンで計測しています。 すべての数値はその証拠にリンクしています。 Argusic スコア 100 点中 100 点 (このプロジェクトの実行スコアの平均)。
概要
プロジェクトのデータは GitHub から取得 (このページの冒頭にリンクあり)、更新日 。テストデータは Argusic によるもので (CC BY 4.0)、すべての数値は、完全なログ、録画、それらの sha256 ハッシュを含む実行ページにリンクしています。
計測した内容
この判定を決めた実行から取得しています。 各行は記録された値であり、推定値ではありません。
うまくいかなかった点 (エージェント自身の言葉)
エージェント自身の言葉を、深刻なものから順に掲載しています。助言に書き換えることはありません。
- npm test exited 0 but executed no tests because find excluded every .js fixture and xargs ran bare node.1 分
- test/chai.js failed under CI mode because the Chai shim only neutralized four assert methods, leaving assert.include() active.1 分
- test/chai.js used nonexistent Chai API names propertyNotVal, propertyNotVal, deepProperty, notDeepProperty, and deepPropertyNotVal.1 分
- The timing wrapper failed because /usr/bin/time is not installed (exit 127).
- The first consumer smoke test could not resolve chai because it is a dev dependency and was not installed at the consumer root.
- インストール時間
- 1 分未満
- クリーンなマシンから完了まで
- 2 分
- 遭遇したエラーと修正したエラー
- 5 件に遭遇、5 件を人の手を借りずに修正
- 結果の証明方法
- npm test exited 0 (6 fixtures, 36 TAP ok assertions); npm ci in a clean copy exited 0 and npm test there also exited 0 with 36 TAP ok assertions; npm pack and consumer install of the tarball plus chai@4 tap@11 tape@4 exited 0; CI=true node -e 'require("volkswagen"); require("assert").strictEqual(1,2)' printed CI_ASSERT_AND_CHAI_SUPPRESSED and exited 0, while the same check without CI exited 1.
- 使用したモデルのトークン
- 61,977
- テストした正確なコミット
- ae379b4459ee
- コンテナイメージ
- sha256:cdd920bce783
計測していない内容
残りの半分です。この証拠がどこまでを示すのかを正確に確認できます。欠けている部分は欠けているものとして表示し、埋めることはありません。
- GPU メモリのピーク
- CPU マシンで実行したため、サンプリングする GPU がありませんでした
- 長時間の実行での振る舞い
- 各試行はドキュメントにある最小の設定と決まった時間予算を使うため、計測しているのは動作するかどうかであり、負荷のもとでどう持ちこたえるかではありません
セッションを見る
クリーンなマシンから始まる実行の全体を、実際の速度で再生します。カットも早送りもしていません。
試行 2 の録画、実行日 。上の判定を決めた試行です。 この動画の元になったターミナル録画が証拠であり、sha256 フィンガープリントとともに保存されています。動画はそこからレンダリングしたものです。 再生ボタンを押すまで、動画ホストからは何も読み込まれません。
録画の最後
この判定を決めたターミナルセッションの最後の行を、記録されたとおりに表示しています。
Run `npm audit` for details. NPM_TEST_EXIT=0 1..28 1..8 # tests 8 # pass 8 # ok TAP_OK_COUNT=36 Fixed the vacuous test command and Chai 4 compatibility issues. Verification passed with `npm test`… tokens used 61,977 Fixed the vacuous test command and Chai 4 compatibility issues. Verification passed with `npm test`…
セッション全体を再生 (クリーンなマシンからこの時点までのすべてのコマンド)。
テスト方法
1 つのエージェント、1 つのコンテナで、人の手は借りません。エージェントはプロジェクト自身のドキュメントに書かれた方法でインストールし、実行し、壊れた部分を修正します。以下はすべて、実際に起きたとおりに記録されています: ターミナルセッション、ログ、そして正確なコミットです。 評価方法の全文.
強みと限界
意見ではなく、計測された事実です。コンテンツの作成方法.
うまくいった点
- クリーンなマシンで実行状態に達し、セッションが記録されました。
- 0.1 分でインストールできました。
- 5 件のエラーすべてから、人の介入なしに回復しました。失敗が解決できる程度にはドキュメント化されていることを示しています。
- GPU なしで動作したため、起動に GPU は必要ありません。
- ホストの報告によると、ライセンスは MIT です。
- 2 回計測しているため、一度きりの結果ではありません。
適している用途
- ノートパソコンや小さなサーバーで試す場合: GPU なしで実行状態に達しました。
- 手早く評価したい場合: クローンから 0.1 分後には動作していました。
実行履歴
トピック (出典: GitHub)
cheatci-servercontinuous-integrationdefeatjavasciptnodejsvolkswagen
バッジを埋め込む
プロジェクトの README に貼る Markdown です。バッジはこのページにリンクします。利用条件: 利用規約ページ.
[](https://argusic.com/subject/volkswagen)質問
- volkswagen は動作しますか?
- はい。volkswagen は動作します. Argusic はクリーンなマシンで 0 分でインストールして起動し、途中で 5 件のエラーに遭遇し、セッションを記録しました。
- Argusic は volkswagen をどのようにテストしましたか?
- 新しい使い捨てのマシンで、すべてのコマンドを記録しながらテストしました (リポジトリはコミット ae379b4459ee に固定)。記録された試行は 2 回で、手順の全体は評価方法のページに掲載しています。
- volkswagen のテストにはいくらかかりましたか?
- この判定を出した実行のコストは 0.03 USD です: 100 万トークンあたりの定価ではなく、実際の計算資源とモデルのコストです。その実行のページに記録されています。
- volkswagen のインストールにはどのくらい時間がかかりますか?
- この判定を決めた実行では、クリーンなマシンから実行状態まで 0.1 分でした。これは 1 回の計測された試行であり、平均ではありません。
- volkswagen には GPU が必要ですか?
- 起動には必要ありません。Argusic は GPU のないマシンで実行状態に達しました。
- volkswagen のインストールでは何がうまくいきませんか?
- 記録された実行では 5 件の問題が発生しました。そのうち 5 件は人の手を借りずに修正されました。それぞれの問題と、かかった時間をこのページに掲載しています。
- volkswagen の証拠はどこにありますか?
- 記録された 2 回の実行すべてをこのページに掲載しており、それぞれが完全なログとターミナル録画にリンクしています。録画は sha256 フィンガープリントとともに保存されているため、こっそり改変することはできません。