品玩5月13日讯,据 TechCrunch 报道,英国 AI 安全机构英国安全研究所今日发布了一款安全工具集 Inspect,旨在加强人工智能安全。
该工具集名为 Inspect,现已提供开源许可。该工具集旨在评估人工智能模型的某些能力,包括模型的核心知识和推理能力,并根据结果生成评分。英国安全研究所声称,Inspect 标志着 "由国家支持的机构率先推出的人工智能安全测试平台首次得到广泛应用"。
Inspect 由三个基本部分组成:数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器负责评估求解器的工作,并将测试得分汇总为指标。 Inspect 的内置组件可以通过用 Python 编写的第三方软件包进行扩展。
