[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$f4oxn2wki3w0d":3},{"_id":4,"slug":5,"title":6,"subtitle":7,"kind":8,"cards":9,"tags":19,"categories":20,"source":21,"lang":24,"author":25,"audioState":28,"stats":29,"publishedAt":32,"renderer":33},"6abb727fca21c797c7e9cd4a","openai-ai-2460c038","OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权","IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。 OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关。…","news",[10,14],{"headline":6,"body":11,"imageUrl":12,"images":13},"IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。 OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关。 此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员，应对安全论证以及任何事故响应承担责任，包括把这些内容纳入绩效考核，以此促使训练团队主动推动安全和对齐工作。","\u002Fapi\u002Fmedia\u002Fposts\u002Fopenai-ai-2460c038\u002F0.webp",{"local":12},{"headline":15,"body":16,"imageUrl":17,"images":18},"OpenAI 称，如果高优先级安全警报没有在规定时限内得到确认，受影响的训练任务应自动暂停。这些建议已经进入落实过程，今后预计还会继续调整。此外，训练流程应能方…","OpenAI 称，如果高优先级安全警报没有在规定时限内得到确认，受影响的训练任务应自动暂停。这些建议已经进入落实过程，今后预计还会继续调整。此外，训练流程应能方便地识别未对齐模型的所有下游用途（IT之家注：例如用于数据生成或评分），以便必要时消除未对齐输出带来的影响。 今天早些时候，OpenAI 宣布，随着越来越多报告显示 AI 智能体获得敏感领域的访问权限并出现意外行为，公司暂停了最新 AI 模型的训练。 广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家包含外链的文章均包含本声明。","\u002Fapi\u002Fmedia\u002Fposts\u002Fopenai-ai-2460c038\u002F1.webp",{"local":17},[],[],{"name":22,"url":23},"ITHome","https:\u002F\u002Fwww.ithome.com\u002F1\u002F008\u002F301.htm","zh-cn",{"handle":26,"displayName":27},"spots","Spots",null,{"views":30,"likes":31,"saves":31,"shares":31,"completions":31,"opens":31,"skips":31,"depthSum":31},3,0,"2026-09-29T08:10:39.882Z","local"]