英語の原文: https://argusic.com/subject/flashrank

FlashRank

Lite & Super-fast な検索・検索パイプライン向けの再ランキングツールです。LLM やクロスエンコーダーなどに基づく SoTA の Listwise および Pairwise の再ランキングをサポートしています。Prithivi Da によって作成され、プルリクエストやコラボレーションを受け付けています。

動作するソース: GitHubPythonApache-2.0コミット 11f7a40d625f

Python、Apache-2.0 ライセンス. プロジェクト自身の表記: cross encoder、full text search、hybrid search、lexical search、rag、ranking、reranking、retrieval augmented generation.

FlashRank は動作します。Argusic のエージェントが GPU のないクリーンなマシンで 6 分でインストールし、3 件のエラーに遭遇してすべてを自力で修正し、セッション全体が記録されました。

FlashRank 0.2.9 is installed in .venv and the README reranking example runs end to end against the real TinyBERT model, printing the same ranked output as the README.

クリーンなマシンでエージェントが最終的に得た結果 (エージェント自身の言葉)。 計測方法

Argusic が毎回新しいマシンで計測しています。 すべての数値はその証拠にリンクしています。 Argusic スコア 100 点中 100 点 (このプロジェクトの実行スコアの平均)。

概要

判定
動作する
Argusic スコア
100 / 100
検証した実行のコスト
0.01 USD (実測)
記録された実行
1
最終テスト
スター
1,015
フォーク
74
未解決の Issue
11
ウォッチャー
6
サイズ
3 MB
作成日
最終プッシュ

プロジェクトのデータは GitHub から取得 (このページの冒頭にリンクあり)、更新日 。テストデータは Argusic によるもので (CC BY 4.0)、すべての数値は、完全なログ、録画、それらの sha256 ハッシュを含む実行ページにリンクしています。

計測した内容

この判定を決めた実行から取得しています。 各行は記録された値であり、推定値ではありません。

FlashRank のテスト中に各失敗で失われた時間 (記録された実行から作成)
各バーはエージェントが記録した失敗と、それにかかった時間です。この実行のデータのみから描いています。

うまくいかなかった点 (エージェント自身の言葉)

エージェント自身の言葉を、深刻なものから順に掲載しています。助言に書き換えることはありません。

  • onnxruntime 1.31.0 repeatedly logs 'pthread_setaffinity_np failed ... error code: 22 Invalid argument' in this container during session creation3 分
  • pip install refused because system Python 3.12 is externally managed (PEP 668, externally-managed-environment)1 分
  • The library downloads its reranker model from HuggingFace (prithivida/flashrank) at first use; a motivated user must be online to fetch the ~4.8MB zip1 分
インストール時間
6 分
クリーンなマシンから完了まで
2 分
遭遇したエラーと修正したエラー
3 件に遭遇、3 件を人の手を借りずに修正
結果の証明方法
.venv/bin/python /tmp/fr_example.py (README getting-started example) exited 0 and printed reranked scores: 4 0.015651, 5 0.011419, 1 0.000615, 2 0.000246, 3 8.8e-05; direct onnxruntime inference over the downloaded model returned the expected input/output graph
使用したモデルのトークン
74,319
テストした正確なコミット
11f7a40d625f
コンテナイメージ
sha256:cdd920bce783

計測していない内容

残りの半分です。この証拠がどこまでを示すのかを正確に確認できます。欠けている部分は欠けているものとして表示し、埋めることはありません。

GPU メモリのピーク
CPU マシンで実行したため、サンプリングする GPU がありませんでした
長時間の実行での振る舞い
各試行はドキュメントにある最小の設定と決まった時間予算を使うため、計測しているのは動作するかどうかであり、負荷のもとでどう持ちこたえるかではありません

録画の最後

この判定を決めたターミナルセッションの最後の行を、記録されたとおりに表示しています。

I have everything observed. Here is my final report.
**Mission summary**
- FlashRank is a Python re-ranking library (not a server or desktop app). The README's install (`pi…
- The system Python is externally managed (PEP 668), so I installed into a project venv at `/work/r…
- Ran the README example end-to-end with the real model: the Ranker auto-downloaded `ms-marco-TinyB…
- No test suite or CLI exists in the repo, so "its test suite executed" does not apply.
**Errors encountered**
1. `pip install` refused: system Python is externally managed (PEP 668). Fix: installed into a proj…
2. `pthread_setaffinity_np failed ... error code: 22` spam emitted by ONNXRuntime 1.31.0 during ses…
**Notes on verification**
- `launch_succeeded: true` covers the library being importable and the README example executing suc…
- `errors[2]` records the known third-party dependency gap (HuggingFace model download), which is p…

セッション全体を再生 (クリーンなマシンからこの時点までのすべてのコマンド)。

テスト方法

1 つのエージェント、1 つのコンテナで、人の手は借りません。エージェントはプロジェクト自身のドキュメントに書かれた方法でインストールし、実行し、壊れた部分を修正します。以下はすべて、実際に起きたとおりに記録されています: ターミナルセッション、ログ、そして正確なコミットです。 評価方法の全文.

強みと限界

意見ではなく、計測された事実です。コンテンツの作成方法.

うまくいった点

  • クリーンなマシンで実行状態に達し、セッションが記録されました。
  • 6 分でインストールできました。
  • 3 件のエラーすべてから、人の介入なしに回復しました。失敗が解決できる程度にはドキュメント化されていることを示しています。
  • GPU なしで動作したため、起動に GPU は必要ありません。
  • ホストの報告によると、ライセンスは Apache-2.0 です。

うまくいかなかった点、または不明な点

  • これまでの計測は 1 回です。1 回の試行は動作し得ることを示すだけで、安定して動作することは示しません。

適している用途

  • ノートパソコンや小さなサーバーで試す場合: GPU なしで実行状態に達しました。
  • 手早く評価したい場合: クローンから 6 分後には動作していました。

同じ分野でテストしたプロジェクト

ここに挙げたものはすべて、Argusic がクリーンなマシンにインストールして実行しました。テストしていないものは表示されません。

  • SeekStorm 動作を検証済み · Rust · 共通のトピック 6 件
  • knowledge-rag 動作を検証済み · Python · 共通のトピック 6 件
  • txtai 動作を検証済み · Python · 共通のトピック 5 件
  • infinity 動作を検証済み · C++ · 共通のトピック 5 件
  • vearch 動作を検証済み · Python · 共通のトピック 5 件
  • xerj 動作を検証済み · Rust · 共通のトピック 4 件

実行履歴

テスト担当試行結果スコアコスト (USD)日時
Argusic Runner1/3動作した100.000.01

トピック (出典: GitHub)

cross-encoderfull-text-searchhybrid-searchlexical-searchragrankingrerankingretrieval-augmented-generationsemantic-searchvector-databasevector-search

バッジを埋め込む

プロジェクトの README に貼る Markdown です。バッジはこのページにリンクします。利用条件: 利用規約ページ.

[![Tested by Argusic](https://argusic.com/badge/FlashRank.svg)](https://argusic.com/subject/flashrank)

質問

FlashRank は動作しますか?
はい。FlashRank は動作します. Argusic はクリーンなマシンで 6 分でインストールして起動し、途中で 3 件のエラーに遭遇し、セッションを記録しました。
Argusic は FlashRank をどのようにテストしましたか?
新しい使い捨てのマシンで、すべてのコマンドを記録しながらテストしました (リポジトリはコミット 11f7a40d625f に固定)。記録された試行は 1 回で、手順の全体は評価方法のページに掲載しています。
FlashRank のテストにはいくらかかりましたか?
この判定を出した実行のコストは 0.01 USD です: 100 万トークンあたりの定価ではなく、実際の計算資源とモデルのコストです。その実行のページに記録されています。
FlashRank のインストールにはどのくらい時間がかかりますか?
この判定を決めた実行では、クリーンなマシンから実行状態まで 6 分でした。これは 1 回の計測された試行であり、平均ではありません。
FlashRank には GPU が必要ですか?
起動には必要ありません。Argusic は GPU のないマシンで実行状態に達しました。
FlashRank のインストールでは何がうまくいきませんか?
記録された実行では 3 件の問題が発生しました。そのうち 3 件は人の手を借りずに修正されました。それぞれの問題と、かかった時間をこのページに掲載しています。
FlashRank の証拠はどこにありますか?
記録された実行をこのページに掲載しており、それぞれが完全なログとターミナル録画にリンクしています。録画は sha256 フィンガープリントとともに保存されているため、こっそり改変することはできません。

Discussion