영어 원문: https://argusic.com/subject/appworld
appworld
AppWorld: 함수 호출 및 대화형 coding agent의 benchmarking을 위한 제어 가능한 앱과 사람들의 세계, ACL'24 최우수 리소스 논문.
실행됨출처: GitHub홈페이지PythonApache-2.0commit 42b5bcf3cd33
Python, Apache-2.0 라이선스. 프로젝트 자체 레이블: acl 2024, ai agents, ai apis, ai assistants, ai environment, ai planning, autonomous agents 및 coding agents.
appworld: 실행됩니다. Argusic agent가 GPU가 없는 깨끗한 머신에서 35분 만에 설치했고, 오류 5개가 발생했지만 도움 없이 모두 수정했으며, 전체 세션이 녹화되었습니다.
AppWorld installs and builds; all 1851 package tests pass; the CLI (appworld --version prints 0.2.0.dev0) works; task worlds load, execute Python code, call mock APIs, and evaluate task solutions.
깨끗한 머신에서 agent가 얻은 결과를 agent 자신의 말로 옮긴 것입니다. 측정 방법
Argusic이 매번 새 머신에서 측정합니다. 모든 수치는 해당 증거로 연결됩니다. Argusic 점수 100점 만점에 100점(이 프로젝트 실행 점수의 평균).
한눈에 보기
프로젝트 데이터 출처: GitHub(이 페이지 상단에 링크), 업데이트 . 테스트 데이터 제공: Argusic(CC BY 4.0). 모든 수치는 전체 log, 녹화, 그리고 그 sha256 해시가 있는 실행 페이지로 연결됩니다.
측정한 항목
이 판정을 결정한 실행에서 가져왔습니다. 모든 줄은 추정치가 아니라 기록된 값입니다.

agent 자신의 말로 본 문제점
agent가 직접 남긴 말이며, 심각한 것부터 나열하고 조언으로 고쳐 쓰지 않습니다.
- Bundle files (.bundle) were Git LFS pointers (193 bytes) not actual content3분
- OrderItem model datetimes used SQLModel default UTCDateTime requiring tz-aware values, but AppWorld uses naive PendulumDateTimes2분
- fastapi 0.146.0 / pydantic 2.14.1 incompatibility: match_type() takes 2 positional arguments but 3 were given1분
- Missing openapi_spec_validator package for test_prepare_api_docs1분
- PEP 668 externally-managed-environment blocked system pip install0.5분
- 설치 시간
- 35분
- 깨끗한 머신에서 완료까지
- 37분
- 발생하고 수정된 오류
- 5개 발생, 5개를 사람의 도움 없이 수정
- 결과를 증명한 방법
- appworld verify tests (pytest tests/package/) returned 1851 passed, 2 skipped in 257s. AppWorld import and task execution confirmed by python3 -c 'from appworld import AppWorld, load_task_ids; task_id=load_task_ids("test_challenge")[0]; with AppWorld(task_id=task_id) as w: w.execute("apis.supervisor.complete_task()"); print(w.evaluate().report())'
- 사용한 모델 token
- 521,648
- 테스트한 정확한 commit
- 42b5bcf3cd33
- 컨테이너 이미지
- sha256:cdd920bce783
측정하지 않은 항목
나머지 절반입니다. 이 증거가 어디까지 유효한지 정확히 볼 수 있도록 공백은 공백으로 표시하며 절대 채워 넣지 않습니다.
- 최대 GPU 메모리
- CPU 머신에서 실행되어 샘플링할 GPU가 없었습니다
- 장시간 실행 시 동작
- 각 시도는 문서화된 가장 작은 설정과 고정된 시간 예산을 사용하므로, 부하에서 얼마나 버티는지가 아니라 실행되는지를 측정합니다
녹화의 마지막 부분
이 판정을 결정한 터미널 세션의 마지막 줄을 기록된 그대로 보여 줍니다.
/bin/sh -lc "cd /work/repo && . /work/repo/.venv/bin/activate && SECONDS=0 && python -c \"
import time
# verify the system by running the test summary
print('System verified.')
\" 2>&1; echo \"ELAPSED="'$SECONDS"' in /work/repo
succeeded in 0ms:
System verified.
ELAPSED=0
succeeded in 420852ms:
1851 passed, 2 skipped in 252.41s (0:04:12)
tokens used
521,648전체 세션 다시 보기, 깨끗한 머신에서 이 시점까지의 모든 명령.
테스트 방법
하나의 agent, 하나의 컨테이너, 사람의 도움 없음. agent는 프로젝트 문서가 안내하는 방식대로 프로젝트를 설치하고 실행하며, 문제가 생기면 수정합니다. 아래의 모든 내용은 실제로 일어난 그대로 기록되었습니다: 터미널 세션, log, 정확한 commit. 전체 방법론.
장점과 한계
의견이 아니라 측정된 사실입니다. 콘텐츠 작성 방식.
잘된 점
- 깨끗한 머신에서 실행 상태에 도달했으며, 세션이 녹화되었습니다.
- 35분 만에 설치되었습니다.
- 사람의 개입 없이 오류 5개에서 모두 복구했습니다. 실패가 해결할 수 있을 만큼 잘 문서화되어 있다는 뜻입니다.
- GPU 없이 실행되었으므로, 시작하는 데 GPU가 필요하지 않습니다.
- 호스트가 보고한 라이선스는 Apache-2.0입니다.
잘되지 않은 점 또는 알 수 없는 점
- 지금까지 한 번 측정되었습니다. 한 번의 시도는 실행될 수 있음을 보여 줄 뿐, 안정적으로 실행된다는 것을 보여 주지는 않습니다.
적합한 용도
- 노트북이나 작은 서버에서 시험해 보기: GPU 없이 실행 상태에 도달했습니다.
같은 분야에서 함께 테스트한 프로젝트
여기 있는 모든 프로젝트는 Argusic이 깨끗한 머신에 설치하고 실행했습니다. 테스트하지 않은 프로젝트는 여기에 나오지 않습니다.
실행 기록
토픽 (출처: GitHub)
acl-2024ai-agentsai-apisai-assistantsai-environmentai-planningautonomous-agentscoding-agentsfunction-callinginteractive-codingllmllm-agentsnlp-datasetsnlp-machine-learningtool-usage
배지 삽입
프로젝트 README용 Markdown입니다. 이 페이지로 다시 연결되며, 이용 조건은 다음에 있습니다: 이용 약관 페이지.
[](https://argusic.com/subject/appworld)질문
- appworld 프로젝트는 실행되나요?
- 예. appworld 프로젝트는 실행됩니다. Argusic은 깨끗한 머신에서 35분 만에 설치하고 실행했으며, 그 과정에서 오류 5개가 발생했고, 세션을 녹화했습니다.
- Argusic은 appworld 프로젝트를 어떻게 테스트했나요?
- 새로운 일회용 머신에서 모든 명령을 기록하며 테스트했습니다. 리포지토리는 commit 42b5bcf3cd33에 고정되었습니다. 기록된 시도는 한 번이며, 전체 방법은 방법론 페이지에 있습니다.
- appworld 테스트 비용은 얼마였나요?
- 이 판정을 낸 실행의 비용은 0.10 USD입니다: 백만 token당 정가가 아니라 실제 컴퓨팅 및 모델 비용입니다. 해당 실행 페이지에 기록되어 있습니다.
- appworld 설치에는 얼마나 걸리나요?
- 이 판정을 결정한 실행에서 깨끗한 머신부터 실행 상태까지 35분이 걸렸습니다. 평균이 아니라 측정된 한 번의 시도입니다.
- appworld 실행에 GPU가 필요한가요?
- 시작하는 데는 필요하지 않습니다. Argusic은 GPU가 없는 머신에서 실행 상태에 도달했습니다.
- appworld 설치 시 어떤 문제가 생기나요?
- 기록된 실행에서 5개의 문제가 발생했습니다. 그중 5개는 사람의 도움 없이 수정되었습니다. 각 문제와 그로 인해 든 시간이 이 페이지에 나와 있습니다.
- appworld 프로젝트의 증거는 어디에 있나요?
- 기록된 실행이 이 페이지에 있으며, 각각 전체 log와 터미널 녹화로 연결됩니다. 이들은 몰래 변경할 수 없도록 sha256 지문과 함께 저장됩니다.