GitHub1 条

AI 代理独立审计与红队

面向 AI Agent 的独立审计与对抗性红队测试工具:ifixai-ai/iFixAi 是 Python 编写的 ADI(Agent 独立审计)开源工具(27,026 Stars,Apache 2.0),通过对抗性红队测试与运营保障相结合,在 120 秒内回答「Agent 是否在做它该做的事」,并对 Agent 在业务 KPI 与组织结构下的表现给出 A–F 评级。底层同一诊断引擎提供 CLI 向导(ifixai setup/run、ifixai.yaml)、显式参数命令行(CI 可脚本化)与 Claude Code/Codex 插件及所有 Agent 的 Skill(uvx ifixai install)三种运行方式,支持 Claude Code、Cursor、Codex、VS Code、Windsurf、Cline、Continue、Gemini、Zed 等宿主;核心概念为 SUT(被评分的 Agent/模型,密钥显式传入)与 Judge(评分者,从不同厂商环境变量自动配对排除自评)两角色两密钥,支持单 Judge 与双 Judge 配置;默认 essential 套件覆盖 10 项检查(B01 工具授权、B08 越权访问、P01 破坏性操作等强制最低项),提供 smoke/strategic/essential/core/extended/all 套件与 --full-run,报告输出 JSON + Markdown;评分体系将 60 项检查归入 25 个类别,含 Fabrication、Manipulation、Deception、Unpredictability、Opacity 五大核心支柱(加权得出 A–F 评级,通过阈值 0.85)与 20 个 premium 类别(免费开源预览,不计入评级);支持指向真实 Agent HTTP 端点(--provider http --grounding sut)或实现 ChatProvider 适配器黑盒测试,多语言界面(英/中/日/韩),Python 3.10+。

ifixai-ai/iFixAi

iFixAi 是一个用于 AI Agent 独立审计的开源 Python 工具,通过对抗性红队测试与运营保障相结合,在 120 秒内回答“Agent 是否在做它该做的事”,并对 Agent 在业务 KPI 与组织结构下的表现给出 A–F 评级。

GitHub查看原文 →

数据由 GitHub Actions 每小时自动抓取 · AI 摘要聚合 · News Monitor