與核戰同樣危險 專家們警告:AI恐滅絕人類(圖)


2023年2月7日,OpenAI 首席執行官阿特曼(Sam Altman)在華盛頓雷德蒙德的 Microsoft宣佈為Bing集成ChatGPT的主題演講中發表講話。(圖片來源:Jason Redmond/AFP via Getty Images)

【看中国2023年5月31日讯】30日,一群業界高管與專家提出警告,全球領導人應該致力於降低人工智慧(AI)技術帶來之「人類滅絕」的風險。

根據法新社報導指出,包括了阿特曼(Sam Altman)在內的數十位專家們連署一份簡短的聲明。該聲明表示,應對AI所帶來的人類滅絕風險,應該要列為「與應對疫情及核戰同層級的全球優先要務」。而阿特曼的公司即是OpenAI研發了ChatGPT聊天機器人。

ChatGPT能夠依據簡短的指令來編寫文章、詩歌與對話,所以在去年底就一炮而紅。該程式的巨大成功已經吸引了AI領域數十億美元之投資,不過批評者與業界人士皆發出了警告。

常見的憂心包括聊天機器人可能會導致假消息充斥網路,且帶有偏見的演算法將可能會產出種族主義的內容,甚至AI驅動的自動化亦也可能摧毀整個產業等。

公布於非營利組織「人工智慧安全中心」(Center for AI Safety,CAIS)網頁上的這份最新聲明中,並沒有詳細說明了AI可能帶來之潛在生存威脅。

CAIS表示,此份「言簡意賅的聲明」旨於開啟對於AI技術風險之討論。

在聲明中有數名簽署人,其中包括被稱是「人工智慧教父」的辛頓(Geoffrey Hinton),他在過去也曾經提出類似的警告。

他們最大的憂心就是所謂的「通用人工智慧」(Artificial General Intelligence,AGI)之崛起,亦即具備人類認知能力的人工智慧。

他們害怕,人類將會失去對於這些超智慧機器之掌控權。專家曾經警告稱,這可能會對物種及地球造成災難性的後果。

聲明的連署人之中,也包括來自於AI領先企業谷歌(Google)與微軟(Microsoft)的專家。

早在2個月之前,億萬富豪馬斯克(Elon Musk)與其他數百名專家也曾發表了一封公開信,他們呼籲在確定安全無虞之前,應該暫緩AI的研發工作。

然而,馬斯克的信卻引來廣泛批評。有人則認為,信中關於社會與文明崩潰的警告太過誇大了。

阿特曼赴美國國會聽證 對AI應制定規範

17日,美國國會正針對監管AI尋求共識,而OpenAI的執行長阿特曼第一次赴國會聽證,在面對議員提出關於AI影響選舉、就業與過度集中在少數企業之問題,他呼籲應該成立一個專責機構來加強規範。

OpenAI在去年底推出了聊天機器人ChatGPT,在2個月活躍用戶竟然破億,使得外界對加速控管AI之呼聲高漲,近期美國政府與國會也對立法監管AI進行研議,這是阿特曼首次赴國會聽證,而被視為兩黨議員就此議題來尋求共識的重要一步。

阿特曼在聽證會中建議美國政府應考慮實施3項計畫,也就是成立新的機構批准AI模型、應建立一套安全準則規範AI的模型、要有獨立專家學者來對AI模型進行審核。

甚至他支持設立一個國際組織來為AI制定標準,而舉出管制核武已經有前例。

據《華爾街日報》指出,阿特曼於15日已經與兩黨大約60名眾議員私下會晤,此外,《華盛頓郵報》援引不具名國會議員助理的消息表示,17日下午阿特曼與國會負責人工智慧議題成員進行一場簡報會議。

本文留言

相關文章


近期讀者推薦