【新唐人北京時間2023年04月03日訊】近日，比利時一名男子密集與某款聊天機器人對話數週後自殺身亡，加重了外界對AI技術突飛猛進可能帶來毀滅性後果的焦慮，呼籲強化AI監管的聲浪開始高漲。意大利政府日前率先作出決定，宣布該國禁用ChatGPT。
ChatGPT表現出的類人智能，一度在全球範圍內掀起AI技術開發與應用的熱潮。但最近幾天，這股熱潮卻發生了突如其來的大轉折——先是比利時一名男子密集與一款機器人對話數週後自殺身亡，接著馬斯克等上千科技大佬發出一封聯名公開信，呼籲所有人工智能實驗室立即暫停研發比GPT-4 更強大的大模型，然後意大利政府宣布禁用ChatGPT。
據路透社消息，當地時間3月31日，意大利個人數據保護局（Garante）宣布，即日起禁止使用聊天機器人ChatGPT，並限制OpenAl處理意大利用戶信息。
Garante在通告中要求，OpenAl 公司須在20天內通過其在歐洲的代表，向Garante通報該公司執行這一要求而採取的措施，否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。
Garante在解釋該局做出上述決定的原因時表示，OpenAI沒有檢查ChatGPT用戶的年齡，無法確保使用者的年齡在13歲或以上，而且沒有就收集處理用戶信息進行告知，缺乏大量收集和存儲個人信息的法律依據。
對此，OpenAI回應稱，該公司應 Garante 的要求，已經在意大利禁用了ChatGPT 服務。目前，意大利用戶已經無法使用ChatGPT。
OpenAI接著又強調，「我們在訓練我們的人工智能系統（如 ChatGPT）時，正積極努力減少個人數據，因為我們希望我們的人工智能能夠了解世界，而不是獨立的個人。」
就在意大利宣布禁用ChatGPT的三天前，比利時一個名叫皮埃爾的30歲的男子，在與一款名為ELIZA的聊天機器人密集交流6週後，丟下妻子克萊爾和兩個未成年的孩子，於3月28日自殺身亡。
比利時媒體《標準報》報導，皮埃爾自殺後，克萊爾說，「如果沒有跟機器人的對話，我的丈夫可能還活著。」而據克萊爾對媒體的講述，之前他們一家四口過著舒適的日子，大約兩年前，她的丈夫開始有些「不太對勁」，他似乎變得越來越焦慮。此後，皮埃爾就將與ELIZA的對話「當成了一個避難所」。最近6週他與ELIZA的交流愈發密集，最後以自殺的方式結束掉自己的生命。
《標準報》進一步透露，該報的員工創建了一個帳號嘗試與ELIZA進行對話，結果發現在員工表達出消極傾向情緒時，ELIZA會「慫恿人去自殺」。
資料顯示，ELIZA是由EleutherAI公司開發的一款開源人工智能語言模型。
比利時負責數字化和隱私的官員馬蒂厄·米歇爾日前與皮埃爾的家人與交談後表示，「這是一個後果很嚴重的先例，需要嚴肅對待。」
3月29日，包括伊隆·馬斯克在內的上千名科技大佬，聯名發出一封公開信，呼籲所有人工智能實驗室立即暫停訓練比GPT-4更強大的大模型。
公開信表示，最近幾個月，人工智能實驗室陷入了一場失控的競賽，他們沒有辦法理解、預測或可靠地控制自己創造的大模型，人類社會對其可能造成的影響也還沒有做好準備。
之後，在互聯網社交平台上，關於AI技術飛速發展可能給人類帶來極大安全風險的討論，以及呼籲各國政府加緊制定關於AI的監管措施的呼聲急劇升溫。
外界對AI科技發展過快的潛在風險已多有討論。為此，聯合國教科文組織曾於3月20日公開呼籲各國政府，應就AI發展毫不拖延地實施全球倫理框架。這是聯合國首次就AI發展的倫理風險，對所有193個會員國提出要求。
（記者唐迪綜合報導/責任編輯：胡龍）
