[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fhgrnzks6uli6":3},{"_id":4,"slug":5,"title":6,"subtitle":7,"kind":8,"cards":9,"tags":24,"categories":25,"source":26,"lang":29,"author":30,"audioState":33,"stats":34,"publishedAt":37,"renderer":38},"6abc5fefca21c797c7e9ea89","ai-9e115cc7","美议员提出重磅法案：政府出台安全防护机制前，AI 不得进行递归式自我改进","IT之家 9 月 30 日消息，当地时间 28 日，据美国 CNBC 报道，代表硅谷选区的民主党联邦众议员罗 · 康纳准备提出一项 AI 监管法案，引入严格责任标准，并禁止 AI 在缺乏政府安全防护机制的情况下进行递归式自我改进。 康纳在接受采访时坦言：“事实上，存在文明灭绝的风险。既有失去控制的安全风险，也有被滥用的风险，两者都必须认真对待。” 康纳将法案命名为《Human Control…","news",[10,14,19],{"headline":6,"body":11,"imageUrl":12,"images":13},"IT之家 9 月 30 日消息，当地时间 28 日，据美国 CNBC 报道，代表硅谷选区的民主党联邦众议员罗 · 康纳准备提出一项 AI 监管法案，引入严格责任标准，并禁止 AI 在缺乏政府安全防护机制的情况下进行递归式自我改进。 康纳在接受采访时坦言：“事实上，存在文明灭绝的风险。既有失去控制的安全风险，也有被滥用的风险，两者都必须认真对待。” 康纳将法案命名为《Human Control Over AI Act（人类控制 AI 法案）》。联邦政府建立防护规则且监管机构批准有关活动前，AI 模型不得递归式自我改进，也不得自主修改自身的核心目标、遏制机制或关停控制。 法案还计划设立一个新的联邦机构，负责制定 AI 安全监管规定，通过许可制度审批模型训练和部署，对前沿 AI 模型开展审计，并制定安全标准，确保模型持续接受测试并处于有效的人类控制之下。","\u002Fapi\u002Fmedia\u002Fposts\u002Fai-9e115cc7\u002F0.webp",{"local":12},{"headline":15,"body":16,"imageUrl":17,"images":18},"每家前沿 AI 实验室还必须配备独立审计人员，由审计人员直接向新机构报告。新机构还将制定多项标准，涵盖沙盒测试环境、让测试环境与互联网断开的物理隔离、紧急关闭开…","每家前沿 AI 实验室还必须配备独立审计人员，由审计人员直接向新机构报告。新机构还将制定多项标准，涵盖沙盒测试环境、让测试环境与互联网断开的物理隔离、紧急关闭开关，以及防止模型脱离实验室环境后在互联网上自行运行的控制措施。前沿 AI 实验室使用的先进芯片也将纳入监管，包括建立监测或控制芯片使用的机制。 据IT之家了解，法案还将为 AI 出现问题的情形增设法律处罚。部署 AI 模型如果导致平民群体遭到毁灭，将被列为“危害人类罪”并追究刑事责任。 AI 公司员工如果停用防护措施、紧急关闭开关、日志记录功能或遏制系统，或者明知某套系统未经授权仍予以部署，同样将面临刑事处罚。此外，AI 公司还必须持有覆盖范围广泛的责任保险，才能发布模型。","\u002Fapi\u002Fmedia\u002Fposts\u002Fai-9e115cc7\u002F1.webp",{"local":17},{"headline":20,"body":21,"imageUrl":22,"images":23},"康纳称，法案是迄今提出的“最全面的 AI 安全立法”，其设计主要来自他与多家独立非营利 AI 安全组织的交流，而非大型 AI…","康纳称，法案是迄今提出的“最全面的 AI 安全立法”，其设计主要来自他与多家独立非营利 AI 安全组织的交流，而非大型 AI 公司高管提出的诉求。“我希望这项法案能成为一个范本，让 AI 安全界拥有发声渠道。我认为，他们一直被不公平地当成只是在谈科幻，没有得到足够重视…… 应该由 AI 安全界而不是前沿 AI 实验室的高管来主导这场讨论。”","\u002Fapi\u002Fmedia\u002Fposts\u002Fai-9e115cc7\u002F2.webp",{"local":22},[],[],{"name":27,"url":28},"ITHome","https:\u002F\u002Fwww.ithome.com\u002F1\u002F008\u002F570.htm","zh-cn",{"handle":31,"displayName":32},"spots","Spots",null,{"views":35,"likes":36,"saves":36,"shares":36,"completions":36,"opens":36,"skips":36,"depthSum":36},1,0,"2026-09-30T01:03:43.169Z","local"]