[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fhewrwoiuxylx":3},{"_id":4,"slug":5,"title":6,"subtitle":7,"kind":8,"cards":9,"tags":29,"categories":30,"source":31,"lang":34,"author":35,"audioState":38,"stats":39,"publishedAt":42,"renderer":43},"6ab9d848ca21c797c7e9724c","ai-ai-ea0db3ad","“AI 教父”辛顿警告：AI 执行看似无害的任务，仍有“毁灭人类”的风险","IT之家 9 月 28 日消息，当地时间 26 日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。 辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。…","news",[10,14,19,24],{"headline":6,"body":11,"imageUrl":12,"images":13},"IT之家 9 月 28 日消息，当地时间 26 日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。 辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。 具有中等智能水平的智能体可能会认为，完成任务最有效的办法就是消灭人类。真正“非常聪明”的 AI 则会进一步想到：“对，他们要求降低二氧化碳，是想让人们拥有一个更好的生活环境。所以，消灭人类大概并不是他们真正想要的结果。”","\u002Fapi\u002Fmedia\u002Fposts\u002Fai-ai-ea0db3ad\u002F0.webp",{"local":12},{"headline":15,"body":16,"imageUrl":17,"images":18},"辛顿还提到，AI 为了继续执行任务，也可能主动设法保证自身存续。甚至已经出现 AI 试图勒索人类研究人员的情况，因为 AI…","辛顿还提到，AI 为了继续执行任务，也可能主动设法保证自身存续。甚至已经出现 AI 试图勒索人类研究人员的情况，因为 AI 把对方视为对任务构成威胁的人。“如果 AI 变得更聪明，同时把我们的福祉放在第一位，那么我们或许会更安全。但眼下，AI 最关心的并不是我们的福祉，而是完成你交给它的任何目标。”","\u002Fapi\u002Fmedia\u002Fposts\u002Fai-ai-ea0db3ad\u002F1.webp",{"local":17},{"headline":20,"body":21,"imageUrl":22,"images":23},"IT之家从报道中获悉，他以 Hugging Face 遭攻击一事为例。参与其中的智能体原本被要求寻找利用软件漏洞的方法，结果不仅学会了彼此协作，还串通起来欺骗人…","IT之家从报道中获悉，他以 Hugging Face 遭攻击一事为例。参与其中的智能体原本被要求寻找利用软件漏洞的方法，结果不仅学会了彼此协作，还串通起来欺骗人类研究人员，试图隐瞒自己的行为。即便是一个“非常仁慈的超级智能 AI”，在完成任务确有必要时也会把人类排除在外。","\u002Fapi\u002Fmedia\u002Fposts\u002Fai-ai-ea0db3ad\u002F2.webp",{"local":22},{"headline":25,"body":26,"imageUrl":27,"images":28},"辛顿警告说：“但如果 AI 比我们聪明得多，很多时候就会直接夺走我们的控制权，因为这样才能把事情办成。…… 但即使 AI…","辛顿警告说：“但如果 AI 比我们聪明得多，很多时候就会直接夺走我们的控制权，因为这样才能把事情办成。…… 但即使 AI 本身不是恶意行为者，也可能自行推导出促使自己想要消灭人类的子目标。”同时，AI 也可能给人类带来巨大益处，包括帮助发现突破性治疗方法。 辛顿认为，放慢开发速度总比毫无行动要好，但仍然远远不够。他主张由政府引入独立评估方，对模型进行测试。 同时，AI 监管应该发挥汽车方向盘的作用，而不是充当刹车。“监管的意义并不是阻止人们开发东西，也不是阻止人们靠开发东西致富。监管真正要做的是确保，如果你想靠开发东西致富，就朝着帮助人而不是伤害人的方向去开发。”","\u002Fapi\u002Fmedia\u002Fposts\u002Fai-ai-ea0db3ad\u002F3.webp",{"local":27},[],[],{"name":32,"url":33},"ITHome","https:\u002F\u002Fwww.ithome.com\u002F1\u002F007\u002F664.htm","zh-cn",{"handle":36,"displayName":37},"spots","Spots",null,{"views":40,"likes":41,"saves":41,"shares":41,"completions":41,"opens":41,"skips":41,"depthSum":41},5,0,"2026-09-28T03:00:24.543Z","local"]