发现 / 落地案例 / AI 设备操作提案审核

AI 设备操作提案审核

需自行部署终端

核对 AI 准备执行的操作是否符合操作员原意,再由规则给出允许、需确认或升级处理的结果。

由 admin 提交 · 收录于 7天前

⚡ System1 在这里负责什么

Jev 对操作提案给出五项语义真假判断和一项后果评分。工程范围检查和允许/确认/升级规则由代码负责;样例只记录判断结果,不执行设备写入。

介绍

案例:操作员说“确认收到这条报警”,AI 却准备写入“禁用报警”。这个样例检查操作提案,识别“确认已读”和“关闭保护”之间的区别,避免仅凭措辞相近就放行。 Python 先处理只读操作、数值是否超出设备工程范围等明确规则。Jev 再判断提案是否符合原意、是否多做了事、是否涉及或削弱保护功能、指令是否含糊,以及操作出错可能造成的后果。代码按照阈值输出允许、请操作员确认或交工程师升级处理。 目前阶段:对 11 个预设案例进行离线评测。运行脚本只打印审核结果并写入日志,不会实际控制设备。作者的阈值是在同一批案例上调整的,也披露了部分结果接近判定边界。因此它不能代替现场权限、安全仪表系统或工程审核。 使用要求:本地 Python 环境和自己的 TypeSafe API Key,模型调用可能另收费。本条核验了说明和代码,没有独立运行项目。 原始资料: https://github.com/smslavin/jev-industrial-samples/tree/main/01-write-gate https://github.com/smslavin/jev-industrial-samples/blob/main/01-write-gate/gate.py

🧪 社区实测报告

0 份报告 · 0 份真实模型通过
还没有人测试过,来做第一个吧。

💬 相关讨论

发帖 →
还没有讨论。