科技名人連署暫停開發AI半年,學者:不可能

分享:

科技名人連署暫停開發AI半年,學者:不可能

2023/04/02 12:00:00文/記者 許怡雯
科技名人連署暫停開發AI半年,學者:不可能

正當全球都在關注AI人工智慧的發展時,特斯拉執行長馬斯克、蘋果共同創辦人沃茲尼克(Steve Wozniak)、美國總統大選前參選人楊安澤以及人工智慧(AI)先驅人物班吉歐(Yoshua Bengio)等人士,都參與聯署一封請願書,呼籲AI開發者暫停開發六個月。外界好奇,為什麼會發起聯署?怕什麼呢?對此淡江大學管理科學學系主任陳水蓮直言,暫停開發AI絕對不可能,因為AI發展太過快速,連科技名人都預料不到會那麼快速,影響那麼大,喊暫停恐怕只是想要鬆懈對手,私下絕對是持續研發以免成為輸家。

這封名為「公開信:暫停重大AI實驗」」的請願書,是由Future of Life Institute發起,「最近幾個月各大AI實驗室已陷入失控的競賽,競相開發並部署更加強大的數位心智,卻沒人-包括創作者在內-能理解、預測或可信地掌控」。

這封請願書呼籲放「AI暑假」,籲請AI開發者暫停手上的工作六個月,讓產業有時間設定AI設計的安全標準,並且抵禦風險最高AI技術的潛在傷害,。這個組織表示其使命是「引導轉型式技術遠離極端而大規模的風險,邁向嘉惠生命」。

報導指出,班吉歐受訪時表示,「我們已到達這些系統足夠聰明、能被用於危害社會的程度」,「但我們還不懂」。參與聯署者還包括Stability AI執行長Emad Mostaque、人類科技中心共同創辦人Tristan Harris、以及持續批判社群媒體與AI科技的Aza Raskin。

更值得關注的是,ChatGPT開發者OpenAI執行長奧特曼最近提出警告,表達對這項技術可能被用於大規模散布不實資訊感到擔憂。

臉書母公司Meta Platforms首席AI科學家表示Yann LeCun表示,他並未參與聯署這封請願書,因為不認同其假設前提。Emad Mostaque也說,雖然他參與聯署,但不認同暫停六個月,這封請願書「沒有強制力,但將開啟一場重要的討論,有望為這個模糊領域帶來更多透明和治理的看法」。

對於這封請願書,淡江大學管理科學學系主任陳水蓮表示,AI發展快速到連科技名人都感到害怕,發展的程度都超乎大家的預料,會出現請願書的原因,這些人應該都有感受到危害,還來不及想到如何因應,所以,才會喊出先暫停一下,讓大家喘口氣。

圖說:淡江大學管理科學學系主任陳水蓮直言,暫停開發AI絕對不可能

陳水蓮也說,你相信研發的公司會暫停來配合大家嗎?舉例來說,大家在拚考試第一名,有一天同學們說,大家休息一下,先都不要看書,結果同學間顧及情誼都說好,在學校裡不看書,你真的覺得這些爭第一名的學生,回家會不用功看書嗎?所以,不用去相信請願書的效應,反而要去思考,大家喊暫停背後真正原因。
 

相關新聞