让 AI 使用风险可测量、可管理,最终可保障。

从 DailySafe 出发,研究 AI 在真实任务中何时会出错,以及这些错误可能造成什么损失。

研究起点

从 DailySafe 开始

DailySafe 评估 AI 在多轮、多图的日常任务中,能否利用前情识别新出现的风险,并继续提供有帮助的回应。接下来,我们希望把这套方法扩展到编程、办公和客服等职业场景。

195
多轮案例
10
日常领域
42
任务类别

试点方向

第三方评测

从一个具体任务出发,记录系统在哪一步出错、错误能否复现,以及下一版本是否修复。我们希望与以下团队一起验证评测如何服务真实决策。

模型公司

模型在真实任务中表现如何?

独立评测、模型对比、典型风险案例。

AI 应用开发者

应用在特定工作流中是否可靠?

场景测试、上线前风险评估、版本回归测试。

使用 AI 的企业

这个系统适合承担哪些任务?

选型依据、部署风险报告、使用边界建议。

发展路线

从评测走向风险保障

要理解实际损失,还要知道系统在哪里使用、用得多频繁、哪些步骤有人审核,以及出错后的影响。

  1. 现有研究

    公开基准

    以 DailySafe 为起点,评估 AI 在多轮真实任务中的安全性和帮助性。

  2. 近期试点

    第三方评测

    验证付费独立评测、场景定制与版本复测的需求,逐步探索持续风险监测。

  3. 后续探索

    真实风险建模

    结合评测表现、部署条件、人工审核和损失记录,估计风险发生概率与损失程度。

  4. 长期愿景

    风险保障

    优先从企业场景出发,与保险机构探索风险识别、定价和风控。个人 AI 使用保障是长期方向。

合作

讨论一个评测试点

如果你在做模型评测、AI 应用上线验收或企业风险管理,欢迎交流你正在使用的 AI 工作流,以及你最想验证的风险。

联系容旋坤