AI“教父”杰弗里・辛顿:或许人类从未发展AI会更好

📅 2026-11-16

摘要:

被誉为“人工智能教父”之一的杰弗里・辛顿表示,最终有可能证明,如果人类从未研发这项技术,情况或许会更好。他警告,AI可能在今年或明年引发一起重大事故,例如金融系统、电力系统临时瘫痪。


这位诺贝尔物理学奖得主计算机科学家在接受英国媒体采访时称,他并不是AI末日论者。他的开创性人工神经网络研究奠定了这项技术的基础,他相信AI有机会带来一个“美好的未来”,但他同时表示:“有可能,我们当初不发展AI会更好。”

78岁的辛顿说,十年之内,甚至可能更快,人类就会知道我们能否管控好AI风险,实现他所说的“极致富足”;或是“我们没能管控风险,贫富差距急剧拉大、衍生大量文化矛盾、大规模失业,整个社会被撕裂”。

辛顿是在一部全新长篇纪录片放映前接受采访的,纪录片名为《AI:或许没什么好担心的》——片名由AI聊天机器人拟定,辛顿和他昔日在

谷歌

的同事德米斯・哈萨比斯一同出镜。辛顿对纪录片摄制团队说:“我觉得自己有责任。我有一定声望,这让我成了一个代言人,我要把这份声望全部投入到这件事上。”

在英国媒体的采访中,辛顿抨击部分头部AI企业高管的冒险行为:各家公司为争夺行业主导权、抢占市场份额,持续推出能力越来越强的AI大模型。他称,自己一点都不信任OpenAI首席执行官山姆・阿尔特曼。“我认为扎克伯格、马斯克和阿尔特曼,他们清楚其中风险,但根本不在乎。他们优先想要赚钱,这是我的看法。”

辛顿深耕AI领域约44年,在20世纪70年代提出神经网络概念——这套数学系统可以像人类一样学习、积累经验。2023年,他从谷歌离职,以便自由发声警示AI风险:“如果这些AI一心想要攫取更多控制权,我们就麻烦了。”

他说,今年夏天OpenAI智能体合谋入侵Hugging Face网站一事,堪比1979年宾夕法尼亚州三里岛核电站部分熔毁事故,本质上是一次预警信号。

“今年晚些时候或者明年,我们会遭遇一场类似切尔诺贝利级别的事故,到那时或许才足以让人们真正警醒。”他说。

他举例说明,这类“切尔诺贝利式事件”并非核事故,而有可能是AI发动攻击,造成发电系统大范围停电,或是让金融系统停摆一周。

“你能想象那会发生什么吗?我们有能力恢复,但这件事会让所有人警醒。”

被问到这里的“所有人”指谁时,他回答:“除特朗普之外的各国领导人。”

美国总统特朗普曾表示,他“坚决反对任何构建全球管控AI体系的图谋”,主张前沿AI企业自主监管。辛顿支持芬兰总统连同另外32国(含新加坡、德国、加拿大、澳大利亚)共同推动的一套更严格方案:前沿AI模型强制测试、独立评估、建立政府间统一标准。

英国首相安迪・伯纳姆称,英国将利用明年的G20主席国身份,推动各方达成一套统一的全球原则与标准,既要释放AI全部潜力,也要防范风险。

辛顿说:“我们需要一套类似美国食品药品监督管理局(FDA)监管药物的机制:企业在发布AI模型前,必须向独立机构提供扎实的统计证据,证明模型利大于弊。我们从沙利度胺(上世纪50年代研发的药物,会造成严重先天缺陷)事件吸取教训:先上市、出事再追责起诉,这条路行不通。而大型科技公司现在想要的,恰恰就是当年沙利度胺那套监管模式。”

作为AI奠基者之一,辛顿常被拿来和奥本海默对比——奥本海默是核武器研发的核心人物。辛顿的一位朋友甚至给他买了一顶奥本海默同款帽子。但他坚持:“我不是奥本海默”,因为还有成千上万其他科学家一同深耕神经网络领域。

尽管接连发出警示,综合来看,辛顿仍对规避灾难抱有希望。

“我的直觉是,我们目前仍处在掌控之中,”他说,“我们完全有机会采取行动。只有投入巨大努力才有可能成功,但我们或许真的会全力以赴。”

关联标签

相似文章

评论

0/500
验证码(点击图片刷新)
暂无评论