Bản gốc tiếng Anh: https://argusic.com/subject/semif-openjev
SemIf-OpenJev
Câu lệnh if ngữ nghĩa từ các mô hình mở, chạy trên 3090 tại nhà. Độc lập; không liên kết với Jev hoặc TypeSafe.
Chạy được với mocknguồn: GitHubPythonMITcommit 23cf1f39fc95
Python, giấy phép MIT.
SemIf-OpenJev chạy được, với dịch vụ giả lập thay cho các dịch vụ nó phụ thuộc. Trên một máy sạch không có GPU, một agent của Argusic đã cài đặt nó trong 6,5 phút, không gặp lỗi nào, và toàn bộ phiên làm việc được ghi lại.
SemIf installs cleanly from pyproject.toml, all unit tests pass on CPU with mocked backends, all committed raw result checksums verify, the published claims validator passes, and the CLI entry point prints help.
Kết quả agent đạt được trên máy sạch, bằng chính lời của nó. Cách đo
Argusic đo trên một máy mới mỗi lần. Mỗi con số đều link tới bằng chứng của nó. Điểm Argusic 92 trên 100 (trung bình điểm các lần chạy của dự án này).
Tóm tắt
Dữ liệu dự án lấy từ GitHub, có link ở đầu trang, cập nhật . Dữ liệu test của Argusic (CC BY 4.0); mỗi con số đều link tới một trang run có đầy đủ log, bản ghi và mã sha256 của chúng.
Những gì đã đo
Lấy từ lần chạy quyết định kết luận này. Mỗi dòng là một giá trị được ghi lại, không phải ước tính.
- Thời gian cài đặt
- 7 phút
- Từ máy sạch đến khi xong
- 9 phút
- Lỗi gặp và đã sửa
- gặp 0, tự sửa 0 mà không cần người giúp
- Cách chứng minh kết quả
- pytest -q tests/ webgpu-demo/ returned 67 passed, 3 skipped; cd results/raw && sha256sum -c SHA256SUMS returned 23 OK; python benchmarks/verify_published.py returned status ok; semif-score --help printed usage
- Số token model đã dùng
- 78.034
- Commit chính xác đã test
- 23cf1f39fc95
- Container image
- sha256:cdd920bce783
Những gì chưa đo
Nửa còn lại, để bạn thấy rõ bằng chứng này đi xa tới đâu. Chỗ trống được ghi là chỗ trống và không bao giờ được lấp vào.
- Bộ nhớ GPU cao nhất
- lần này chạy trên máy CPU, nên không có GPU để đo
- Hoạt động khi chạy lâu
- mỗi lần thử dùng cấu hình nhỏ nhất có trong tài liệu và một khoảng thời gian cố định, nên đây là đo xem nó có chạy hay không, không đo nó chịu tải ra sao
- Hoạt động với dịch vụ thật
- lần chạy này chỉ được kiểm chứng với dịch vụ giả lập
Đoạn cuối của bản ghi
Những dòng cuối của phiên terminal đã quyết định kết luận này, đúng như khi được ghi lại.
- llama.cpp backend (no GGUF file) tokens used 78,034 Let me compile everything I've observed: **Project:** SemIf — open-source semantic decision baseline using direct option-logit scoring from … **Installation:** Installed via `pip install -e '.[test]'` in a fresh Python 3.12 venv on x86_64 Li… **Tests:** `pytest -q` reports 63 passed, 3 skipped (MLX backend requires Apple Silicon, llama.cpp … **Commit verification:** SHA256 checksums of all 23 raw result files verified OK. `verify_published… **What was NOT verified end-to-end:** - Scoring with a real model (requires downloading ~4B parameter weights, no GPU available) - MLX backend (Apple Silicon only) - llama.cpp backend (no GGUF file)
Xem lại toàn bộ phiên, mọi lệnh từ máy sạch tới thời điểm này.
Cách test
Một agent, một container, không có người giúp. Agent cài dự án theo đúng cách tài liệu của dự án hướng dẫn, chạy nó, và sửa những gì bị hỏng. Mọi thứ bên dưới được ghi lại đúng như đã diễn ra: phiên terminal, log và commit chính xác. Toàn bộ phương pháp.
Điểm mạnh và giới hạn
Dữ kiện đo được, không phải ý kiến. Cách viết nội dung.
Những gì suôn sẻ
- Không có gì hỏng trên đường đi: không lỗi nào từ lúc clone đến lúc chạy.
- Giấy phép MIT, theo thông tin từ nơi lưu trữ dự án.
Những gì không suôn sẻ, hoặc chưa biết
- Chỉ đạt trạng thái chạy được với dịch vụ giả lập, nên ở đây không có gì chứng minh nó chạy với dịch vụ thật.
- Mất 6,5 phút để cài đặt, chậm hơn trung vị của 46 dự án tương đương mà Argusic đã đo.
- Mới đo một lần. Một lần thử cho thấy nó có thể chạy, chưa cho thấy nó chạy ổn định.
Trong 47 dự án Python mà Argusic đã cài đặt và bấm giờ, SemIf-OpenJev đứng thứ 35 về tốc độ đạt trạng thái chạy được, và 28 trên 47 dự án đạt được trạng thái đó.
Lịch sử chạy
| test bởi | lần thử | kết quả | điểm | chi phí USD | thời điểm |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Chạy được với mock | 92,00 | 0,03 |
Nhúng badge
Markdown cho README của dự án. Badge link về trang này; điều khoản ở trang điều khoản.
[](https://argusic.com/subject/semif-openjev)Câu hỏi
- SemIf-OpenJev có chạy được không?
- SemIf-OpenJev chạy được, với mock thay cho các dịch vụ bên ngoài. Argusic đã cài đặt và khởi chạy nó trên một máy sạch trong 7 phút, gặp 0 lỗi trên đường đi, và ghi lại phiên làm việc.
- Argusic đã test SemIf-OpenJev như thế nào?
- Trên một máy mới, dùng một lần, mọi lệnh đều được ghi lại và repo được ghim ở commit 23cf1f39fc95. Có một lần thử được ghi lại, và toàn bộ phương pháp nằm ở trang phương pháp.
- Test SemIf-OpenJev tốn bao nhiêu?
- Lần chạy đưa ra kết luận này tốn 0,03 USD: chi phí máy và model thật, không phải giá niêm yết theo triệu token. Con số được ghi trên trang của lần chạy đó.
- Cài đặt SemIf-OpenJev mất bao lâu?
- 6,5 phút trong lần chạy quyết định kết luận này, từ máy sạch đến trạng thái chạy được. Đó là một lần thử đo được, không phải số trung bình.
- SemIf-OpenJev có cần GPU không?
- Không cần để khởi động. Argusic đã đạt trạng thái chạy được trên một máy không có GPU.
- Cài đặt SemIf-OpenJev thì gặp lỗi gì?
- Không có lỗi nào trong lần chạy được ghi lại: không lỗi nào từ lúc clone đến lúc chạy.
- SemIf-OpenJev so với các lựa chọn khác thế nào?
- Trong 47 dự án Python mà Argusic đã cài đặt và bấm giờ, SemIf-OpenJev đứng thứ 35 về tốc độ đạt trạng thái chạy được, và 28 trên 47 dự án đạt được trạng thái đó.
- Bằng chứng cho SemIf-OpenJev ở đâu?
- Lần chạy được ghi lại nằm trên trang này, mỗi lần link tới log đầy đủ và terminal recording, được lưu kèm dấu vân tay sha256 để không thể bị sửa lén.