AI教父:AI或尋求推翻人類 未來充滿不確定性

Facebook

【新唐人北京時間2023年07月02日訊】被稱為「人工智慧教父」的加拿大學者辛頓,在一場研討會上警告,AI可能會奪取人類的控制權,未來充滿不確定性;他也說,使用AI的戰爭機器人,不必承擔損失本國公民的生命風險,也可能會導致大國更傾向於發動戰爭。

多倫多大學計算機科學教授 辛頓(Geoffrey Hinton):「從一個概括的層面來講,如果你有一個東西比你聰明很多,而且它很會操縱人,你有信心人們一直能保持掌控嗎?然後你可以想像一些特定的場景,人們是怎麼失去控制的。」

在2019年曾經獲得「圖靈獎(Turing Award)」的辛頓,最近十年幫助谷歌開發人工智慧系統,被稱為「人工智慧教父」卻在今年5月離職。辛頓表示,他需要警告大家人工智能的風險。

多倫多大學計算機科學教授 辛頓:「一個很明顯的場景是,如果你被指派一個目標,而且你要非常擅長達成它,你會需要的是,儘可能多的控制權。」

另外一個致命的場景,則是AI被作為武器使用,成為戰爭工具。

多倫多大學計算機科學教授 辛頓:「我知道他們將製作戰爭機器人,許多不同的國防單位都在如火如荼地製作。它們(人工智能)不必要是好的,因為它們的主要目的是殺人。」

辛頓表示,當越來越多的無人戰爭機器被製造,大國就更會傾向發動戰爭,因為不會有喪失本國公民生命的風險。

多倫多大學計算機科學教授 辛頓:「入侵窮國的障礙在於,就是你會有一些死去的公民回家。如果死掉的只是一些機器人,那就不成問題。軍工企業集團會愛上這個。」

辛頓認為最好的方式,就是全球建立類似《日內瓦公約》(Geneva Convention)的人工智能武器限制,但遺憾的是,類似的條約總是要等到災難發生之後,才會被建立。辛頓呼籲,不管政府會不會對人工智能採取管制,大家都要意識到人工智能正在給人類帶來威脅。

新唐人亞太電視江子揚編譯

相關文章