英文原文: https://argusic.com/subject/sqlancer

sqlancer

自动化测试,用于发现数据库系统中的逻辑和性能错误

可运行来源:GitHub项目主页JavaMITcommit 9eb1db82e16f

Java,MIT 许可证. 项目的自我描述:cockroachdb、dbms、dbms testing、fuzzing、mariadb、mysql、postgresql 和 sql.

sqlancer 可以运行。一个 Argusic agent 在一台没有 GPU 的干净机器上用 38 分钟完成了安装,遇到 4 个错误,并在无人协助的情况下全部修复,整个会话都被记录了下来。

SQLancer 2.0.0 successfully built with Maven, 51/51 unit tests passed (0 failures, 0 errors), and the fat JAR ran against SQLite executing thousands of queries via the NoREC test oracle with 96% statement success rate

agent 在干净的机器上最终得到的结果,用它自己的话说。 测量方式

每一次都由 Argusic 在全新机器上实测。每个数字都链接到对应的证据。 Argusic 评分 100,满分 100(该项目各次运行得分的平均值)。

概览

结论
可运行
Argusic 评分
100 / 100
验证运行的成本
0.17 USD(实测)
已记录的运行次数
2
最近测试
星标
1,772
fork 数
405
未关闭的 issue
144
关注者
30
大小
6 MB
创建于
最近推送

项目数据来自 GitHub,链接见本页顶部,更新于 。测试数据由 Argusic 提供 (CC BY 4.0);每个数字都链接到一个运行页面,附完整的 log、录屏及其 sha256 哈希。

测量了什么

来自决定该结论的那次运行。 每一行都是记录下来的数值,而非估算。

测试 sqlancer 时每个故障耗费的时间,取自已记录的运行
每一根柱子都是 agent 记录的一次失败,以及它耗费的时间。数据仅取自本次运行。

哪里出了问题,用 agent 自己的话说

agent 的原话,最严重的排在最前,从不改写成建议。

  • Java 11+ and Maven not pre-installed in container18 分钟
  • First Maven 3.9.16 download from dlcdn incomplete (lib/ missing most JARs)15 分钟
  • Maven 3.9.9/3.8.8 URLs on dlcdn.apache.org returned 4042 分钟
  • PKIX cert warnings for maven.java.net repos (non-blocking)
安装时间
38 分钟
从冷启动机器到完成
39 分钟
遇到并修复的错误
遇到 4 个,在无人协助的情况下修复了 4 个
结果是如何证明的
mvn test -Dtest=... returned 51 tests run, 0 failures, 0 errors; java -jar target/sqlancer-2.0.0.jar --num-threads 1 --timeout-seconds 15 sqlite3 --oracle NoREC ran and executed 7294 queries with 96% success rate
使用的模型 token
232,603
测试的确切 commit
9eb1db82e16f
容器镜像
sha256:cdd920bce783

没有测量什么

另一半内容,让你清楚看到这些证据能说明到什么程度。缺失的数据就标为缺失,从不填补。

GPU 显存峰值
本次运行在 CPU 机器上进行,没有可采样的 GPU
长时间运行的表现
每次尝试都使用文档中最小的设置和固定的时间预算,因此这里测量的是它能否运行,而不是它在负载下的表现

录屏的结尾

决定该结论的终端会话的最后几行,与录制时完全一致。

4. PKIX certificate warnings for java.net repos → non-blocking warnings, build succeeded anyway
tokens used
232,603
Here's a summary of what was done:
**Installation**: Java 11 (Adoptium Temurin) and Maven 3.9.16 were downloaded from the archive dire…
**Tests**: `mvn test` was run for all non-DBMS unit tests (`TestRandomly`, `TestExpectedErrors`, `T…
**Runtime verification**: `java -jar target/sqlancer-2.0.0.jar --num-threads 1 --timeout-seconds 15…
**Issues encountered and resolved**:
1. Java 11+ and Maven not pre-installed → downloaded Temurin JDK 11 and Apache Maven 3.9.16
2. Maven download from dlcdn.apache.org was incomplete (missing JARs) → re-downloaded from archive.…
3. Maven 3.9.9/3.8.8 URLs returning 404 → used 3.9.16 from archive
4. PKIX certificate warnings for java.net repos → non-blocking warnings, build succeeded anyway

回放完整会话,从干净的机器到此刻的每一条命令。

测试方式

一个 agent,一个容器,没有人工协助。它按照项目自身文档所写的方式安装项目,运行它,并修复出错的地方。下面的一切都按实际发生的过程记录:终端会话、log 和确切的 commit。 完整方法论.

优势与局限

均为实测事实,而非观点。内容是如何撰写的.

顺利的部分

  • 在干净的机器上达到了运行状态,会话有完整记录。
  • 用 38 分钟完成安装。
  • 在无人介入的情况下从全部 4 个错误中恢复,说明这些故障的文档足以让人解决。
  • 无需 GPU 即可运行,因此启动它并不需要 GPU。
  • 采用 MIT 许可证,以其托管平台报告的信息为准。
  • 已测量 2 次,因此结果并非偶然。

适合用于

  • 在笔记本电脑或小型服务器上试用:它无需 GPU 即达到了运行状态。

同一领域中也测试过的项目

这里的每个项目都由 Argusic 在干净的机器上安装并运行过。未经测试的项目不会出现在这里。

运行历史

测试者尝试结果评分成本 USD时间
Argusic Runner2/3可运行100.000.17
Argusic Runner1/3可运行100.000.14

主题 (来自 GitHub)

cockroachdbdbmsdbms-testingfuzzingmariadbmysqlpostgresqlsqlsqlitetestingtidb

嵌入徽章

用于项目 README 的 Markdown。徽章链接回本页;使用条款见 条款页面.

[![Tested by Argusic](https://argusic.com/badge/sqlancer.svg)](https://argusic.com/subject/sqlancer)

常见问题

sqlancer 能运行吗?
是的。sqlancer 可以运行. Argusic 在一台干净的机器上安装并启动了它,用时 38 分钟,过程中遇到 4 个错误,并记录了整个会话。
Argusic 是如何测试 sqlancer 的?
在一台全新的一次性机器上进行,每条命令都被记录,仓库固定在 commit 9eb1db82e16f。共记录了 2 次尝试,完整方法见方法论页面。
测试 sqlancer 花了多少钱?
得出该结论的那次运行花费 0.17 USD:这是真实的算力和模型成本,而不是按每百万 token 计的标价。该数字记录在那次运行的页面上。
sqlancer 安装需要多长时间?
在决定该结论的那次运行中,从干净的机器到运行状态用了 38 分钟。这是一次实测的尝试,不是平均值。
sqlancer 需要 GPU 吗?
启动它不需要。Argusic 在一台没有 GPU 的机器上让它达到了运行状态。
安装 sqlancer 时会出现什么问题?
已记录的运行中出现了 4 个问题,其中 4 个在无人协助的情况下被修复。每个问题及其耗费的时间都列在本页上。
sqlancer 的证据在哪里?
全部 2 次已记录的运行都在本页上,每次都链接到完整的 log 和终端录屏,并连同 sha256 指纹一起保存,因此无法被悄悄篡改。

Discussion