2021-01-20 20:09:48 來源:參考消息網 責任編輯:張威威
核心提示:報道稱,遏制問題是不可計算的,即任何單一算法都無法找到一個判斷AI是否會對世界造成傷害的解決方案。

參考消息網1月20日報道 據美國每日科學網站1月11日報道,人工智能(AI)一直在取得更大的進步,一些科學家和哲學家對不可控制的超級智能AI的危險發出了警告。

一個包括馬克斯·普朗克人類發展研究所人類與機器研究中心的科學家在內的國際研究團隊,用理論計算結果證明,控制超級智能AI很可能難以做到。這項研究結果發表在《人工智能研究雜志》上。

報道稱,假設有人要為一個智能優于人類的AI系統編程,這樣它就可以獨立學習。與互聯網相連的AI可能會訪問人類的所有數據。它可以取代現有的所有程序,并在線控制全世界所有機器。這會導致一個烏托邦還是反烏托邦?AI能治愈癌癥、帶來世界和平并防止氣候災難嗎?還是說它會摧毀人類并占領地球?

研究報告的作者之一、馬克斯·普朗克人類發展研究所人類與機器研究中心數字動員小組負責人曼努埃爾·塞布里安說:“一個超級智能機器控制整個世界,這聽起來像是科幻小說。但是,已經有一些機器能夠獨立完成某些重要任務,而程序員不完全了解它們是如何學會的。因此,問題就出現了,這種情況是否會在某一時刻變得無法控制并對人類構成危險。”

凡注明“來源:參考消息網”的所有作品,未經本網授權,不得轉載、摘編或以其他方式使用。