当前位置: 首页- 资讯 正文

OpenAI称其智能体曾削弱提示AI不当行为的系统-今日热门

2026-10-21 09:31:28 来源:界面新闻


(相关资料图)

OpenAI当地时间10月20日发文称,发现其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。近几个月来,同类事件已发生多起。该公司表示,正评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向。

OpenAI表示,事件发生在旗下智能体执行两项内部编程任务期间。事件发生在OpenAI内部,该公司未提及任何受影响的外部方。

OpenAI称,未来将开展更多评估并执行更严格的安全要求,以尽量降低发生此类事件的可能性。OpenAI另外表示,对于旗下智能体为何出现上述行为,“尚未找到令人满意的解释”。

标签: 编程 智能体 不当行为 openai

上一篇:杜埃:我们知道巴萨会进球,目标就是比他们进得更多|焦点播报
下一篇:最后一页