Bản gốc tiếng Anh: https://argusic.com/subject/tecli

tecli

Trong một thế giới mà mọi thứ đều là Terraform, các đội ngũ sử dụng Terraform Cloud API để quản lý khối lượng công việc của họ. TECLI tăng năng suất của các đội ngũ bằng cách tạo điều kiện thuận lợi cho sự tương tác đó và cung cấp các lệnh dễ dàng có thể thực thi trên terminal hoặc trên các hệ thống CI/CD.

Chạy được với mocknguồn: GitHubtrang chủ dự ánGoApache-2.0commit eafed26c0bea

Go, giấy phép Apache-2.0. Dự án tự gắn nhãn: amazon web services, command line, continuous delivery, continuous integration, devops, terraform và terraform cloud.

tecli chạy được, với dịch vụ giả lập thay cho các dịch vụ nó phụ thuộc. Trên một máy sạch không có GPU, một agent của Argusic đã cài đặt nó trong 13,3 phút, gặp 8 lỗi và tự sửa hết mà không cần trợ giúp, và toàn bộ phiên làm việc được ghi lại.

TECLI builds from source, version and help commands display correctly, and 24 Go tests pass without real TFC credentials using a mocked API token

Kết quả agent đạt được trên máy sạch, bằng chính lời của nó. Cách đo

Argusic đo trên một máy mới mỗi lần. Mỗi con số đều link tới bằng chứng của nó. Điểm Argusic 56 trên 100 (trung bình điểm các lần chạy của dự án này).

Tóm tắt

kết luận
Chạy được với mock
Điểm Argusic
56 / 100
chi phí của lần chạy kiểm chứng
0,12 USD (đo thực tế)
số lần chạy đã ghi
2
test gần nhất
lượt star
219
fork
24
issue đang mở
8
người theo dõi
10
dung lượng
2 MB
ngày tạo
push gần nhất

Dữ liệu dự án lấy từ GitHub, có link ở đầu trang, cập nhật . Dữ liệu test của Argusic (CC BY 4.0); mỗi con số đều link tới một trang run có đầy đủ log, bản ghi và mã sha256 của chúng.

Những gì đã đo

Lấy từ lần chạy quyết định kết luận này. Mỗi dòng là một giá trị được ghi lại, không phải ước tính.

Thời gian mất cho từng lỗi khi test tecli, vẽ từ lần chạy được ghi lại
Mỗi cột là một lỗi agent đã ghi lại, kèm thời gian nó tốn. Vẽ từ lần chạy này, không lấy từ nguồn nào khác.

Những gì trục trặc, bằng chính lời của agent

Lời của chính agent, lỗi nặng nhất trước, không bao giờ viết lại thành lời khuyên.

  • apply/plan/run tests passed --organization flag that doesn't exist on those subcommands, and used invalid arguments like 'list'/'create'/'delete' for apply/plan3 phút
  • Go 1.27.3 not installed in container2,5 phút
  • SSH key tests passed --organization flag that doesn't exist on ssh-key subcommand2 phút
  • TFC_TEAM_TOKEN env var required to initialize go-tfe client, causing TestGetFFEClient and API-calling tests to fatally exit1,5 phút
  • os.Chdir() in test helpers leaked CWD into temp dirs, crashing subsequent os.Getwd() calls1 phút
  • configure controller used fmt.Println instead of cmd.Println, bypassing test output buffer in all configure tests1 phút
Thời gian cài đặt
13 phút
Từ máy sạch đến khi xong
14 phút
Lỗi gặp và đã sửa
gặp 8, tự sửa 8 mà không cần người giúp
Cách chứng minh kết quả
go test -count=1 ./tests/commands/ ./tests/ passed 24/24 tests (PASS, 0 failures); go build -o tecli . built binary; ./tecli version printed 'tecli v0.4.2-alpha'; ./tecli --help printed usage
Số token model đã dùng
829.706
Commit chính xác đã test
eafed26c0bea
Container image
sha256:cdd920bce783

Những gì chưa đo

Nửa còn lại, để bạn thấy rõ bằng chứng này đi xa tới đâu. Chỗ trống được ghi là chỗ trống và không bao giờ được lấp vào.

Bộ nhớ GPU cao nhất
lần này chạy trên máy CPU, nên không có GPU để đo
Hoạt động khi chạy lâu
mỗi lần thử dùng cấu hình nhỏ nhất có trong tài liệu và một khoảng thời gian cố định, nên đây là đo xem nó có chạy hay không, không đo nó chịu tải ra sao
Hoạt động với dịch vụ thật
lần chạy này chỉ được kiểm chứng với dịch vụ giả lập

Xem phiên làm việc

Toàn bộ lần chạy, từ máy sạch, đúng tốc độ thực tế. Không cắt và không tua nhanh đoạn nào.

Bản ghi của lần thử 2, chạy ngày , lần thử đã quyết định kết luận ở trên. Bản terminal recording dùng để làm video này là bằng chứng, được lưu với dấu vân tay sha256; video chỉ là bản dựng từ nó. Không có gì tải từ trang chứa video cho tới khi bạn bấm phát.

Đoạn cuối của bản ghi

Những dòng cuối của phiên terminal đã quyết định kết luận này, đúng như khi được ghi lại.

PASS
ok    github.com/awslabs/tecli/tests  2.324s
All 24 tests pass across both packages. Let me compute timing and produce the result
exec
/bin/sh -lc 'echo "Install started at: $(date -d @$(stat -c %Y /work/repo/go.mod) '"'+%H:%M:%S' 2>/…
 succeeded in 0ms:
Install started at: 22:25:52
Current: 22:39:09
All 24 tests pass without any external dependencies. Here's the summary:
tokens used
829,706
All 24 tests pass without any external dependencies. Here's the summary:

Xem lại toàn bộ phiên, mọi lệnh từ máy sạch tới thời điểm này.

Cách test

Một agent, một container, không có người giúp. Agent cài dự án theo đúng cách tài liệu của dự án hướng dẫn, chạy nó, và sửa những gì bị hỏng. Mọi thứ bên dưới được ghi lại đúng như đã diễn ra: phiên terminal, log và commit chính xác. Toàn bộ phương pháp.

Điểm mạnh và giới hạn

Dữ kiện đo được, không phải ý kiến. Cách viết nội dung.

Những gì suôn sẻ

  • Cài đặt trong 13,3 phút.
  • Tự khắc phục cả 8 lỗi mà không cần người can thiệp, cho thấy các lỗi được ghi trong tài liệu đủ rõ để giải quyết.
  • Giấy phép Apache-2.0, theo thông tin từ nơi lưu trữ dự án.
  • Đã đo 2 lần, nên kết quả không phải của một lần duy nhất.

Những gì không suôn sẻ, hoặc chưa biết

  • Chỉ đạt trạng thái chạy được với dịch vụ giả lập, nên ở đây không có gì chứng minh nó chạy với dịch vụ thật.

Cũng đã test, cùng lĩnh vực

Mỗi dự án ở đây đều được Argusic cài đặt và chạy trên máy sạch. Không có dự án nào chưa test xuất hiện ở đây.

Lịch sử chạy

test bởilần thửkết quảđiểmchi phí USDthời điểm
Argusic Runner2/3Chạy được với mock92,000,12
Argusic Runner1/3Không chạy20,000,04

Chủ đề (từ GitHub)

amazon-web-servicescommand-linecontinuous-deliverycontinuous-integrationdevopsterraformterraform-cloud

Nhúng badge

Markdown cho README của dự án. Badge link về trang này; điều khoản ở trang điều khoản.

[![Tested by Argusic](https://argusic.com/badge/tecli.svg)](https://argusic.com/subject/tecli)

Câu hỏi

tecli có chạy được không?
tecli chạy được, với mock thay cho các dịch vụ bên ngoài. Argusic đã cài đặt và khởi chạy nó trên một máy sạch trong 13 phút, gặp 8 lỗi trên đường đi, và ghi lại phiên làm việc.
Argusic đã test tecli như thế nào?
Trên một máy mới, dùng một lần, mọi lệnh đều được ghi lại và repo được ghim ở commit eafed26c0bea. Có 2 lần thử được ghi lại, và toàn bộ phương pháp nằm ở trang phương pháp.
Test tecli tốn bao nhiêu?
Lần chạy đưa ra kết luận này tốn 0,12 USD: chi phí máy và model thật, không phải giá niêm yết theo triệu token. Con số được ghi trên trang của lần chạy đó.
Cài đặt tecli mất bao lâu?
13,3 phút trong lần chạy quyết định kết luận này, từ máy sạch đến trạng thái chạy được. Đó là một lần thử đo được, không phải số trung bình.
tecli có cần GPU không?
Không cần để khởi động. Argusic đã đạt trạng thái chạy được trên một máy không có GPU.
Cài đặt tecli thì gặp lỗi gì?
8 lỗi xảy ra trong lần chạy được ghi lại, và 8 lỗi đã được sửa mà không cần người giúp. Từng lỗi, cùng thời gian nó tốn, được liệt kê trên trang này.
Bằng chứng cho tecli ở đâu?
Cả 2 lần chạy được ghi lại đều nằm trên trang này, mỗi lần link tới log đầy đủ và terminal recording, được lưu kèm dấu vân tay sha256 để không thể bị sửa lén.

Discussion