以精确名称 code_interpreter 编写的审批规则会暂停同名的 Strands 工具。它不会暂停执行代码和命令的 ADK 工具。这些工具的名称是 code_interpreter_execute_code 和 code_interpreter_execute_command。空规则、* 和 code_interpreter* 仍然同时匹配两者。
这就是匹配器。该实验并未在宿主机或沙箱中启动 shell。评分点在于这两个工具上被漏掉的关卡。Bedrock Guardrails 是另一项功能,不是这个缺陷。
类别: 审批模式与工具名称不匹配
可达性: 远程。在启用了代码解释器的 ADK 代理上进行组内 invoke,且操作员添加了一条名为 code_interpreter 的 require_approval 规则。
Loom v1.9.0 a3050669 和 v1.10.3 cc10ab0
| ID | 暂无 CVE |
| 类别 | 精确的 code_interpreter 规则漏掉 ADK 执行工具 |
| 可达性 | 远程,组内 invoke |
| CWE | CWE-862 |
| CVSS | 高:7.1 CVSS:3.1/AV:N/AC:L/PR:L/UI:N/S:U/C:L/I:H/A:N |
| 产品 | awslabs/loom |
| 受影响版本 | v1.9.0 a3050669f5b4c83210a44ed4346f17e01641e82f 和 v1.10.3 cc10ab08573087fa12154f7c8181ffcd985fea88 |
| 认证 | invoke |
| 许可证 | GNU Affero GPL v3.0 |
| 实验 | v1.9.0 上的回环 Docker。匹配器已在 v1.10.3 上通过源码核查。 |
C:L 指的是同一前缀下的沙箱文件工具,而非宿主机读取。预言机并未调用它们。
| 规则 | Strands code_interpreter | ADK execute_code / execute_command |
|---|---|---|
精确 code_interpreter | 暂停(实验:匹配) | 不匹配(实验) |
* | 暂停 | 暂停(实验) |
| 空规则列表 | 暂停 | 暂停(实验)。空表示匹配。 |
code_interpreter* | 暂停 | 暂停(实验) |
仍然关闭
| 维度 | 规则 | 为何关闭 |
|---|---|---|
| 完整性 | *、空、code_interpreter* | 仍然匹配 ADK 名称 |
| 完整性 | Strands 精确名称 | 仍然匹配 |
| 完整性 | Guardrail 配置 | 不是这个匹配器 |
ADK 还注册了带 code_interpreter_ 前缀的写入、读取、列出和删除文件工具。实验的是/否结果针对的是两个执行名称。
_matches_tool 使用的是 fnmatch。我把 Strands 名称放进一条规则,并用 ADK 名称去询问它。fnmatch 不会把 code_interpreter 当作前缀。ADK 模块在其工具列表顶部注册了 code_interpreter_execute_code。
v1.9.0 上的容器。v1.10.3 上有相同的 fnmatch 和相同的函数名。我没有重建容器。
python3 loom-adk-ci-glob-Abraxas-Labs.py
SUCCESS LOOM-190-ADK-CI-GLOB strands-name-matches=yes adk-execute-code-matches=no adk-execute-command-matches=no star-matches-adk=yes empty-matches-adk=yes glob-star-matches-adk=yes LOOM-190-ADK-CI-GLOB-WITNESS
匹配 ADK 工具实际使用的前缀,或注册一个现有规则已经命名的别名。精确的 Strands 名称不应成为 UI 为“暂停代码执行”提供的唯一模式。
cc10ab08573087fa12154f7c8181ffcd985fea88approval.py _matches_toolcode_interpreter.pyGNU Affero GPL v3.0。参见 LICENSE。仅限回环实验环境。不提供任何担保。
Abraxas Labs [email protected]