與核戰同樣危險 專家們警告：AI恐滅絕人類(圖)

2023年2月7日，OpenAI 首席執行官阿特曼（Sam Altman）在華盛頓雷德蒙德的 Microsoft宣佈為Bing集成ChatGPT的主題演講中發表講話。(圖片來源:Jason Redmond/AFP via Getty Images)

【看中国2023年5月31日讯】30日，一群業界高管與專家提出警告，全球領導人應該致力於降低人工智慧（AI）技術帶來之「人類滅絕」的風險。

根據法新社報導指出，包括了阿特曼（Sam Altman）在內的數十位專家們連署一份簡短的聲明。該聲明表示，應對AI所帶來的人類滅絕風險，應該要列為「與應對疫情及核戰同層級的全球優先要務」。而阿特曼的公司即是OpenAI研發了ChatGPT聊天機器人。

ChatGPT能夠依據簡短的指令來編寫文章、詩歌與對話，所以在去年底就一炮而紅。該程式的巨大成功已經吸引了AI領域數十億美元之投資，不過批評者與業界人士皆發出了警告。

常見的憂心包括聊天機器人可能會導致假消息充斥網路，且帶有偏見的演算法將可能會產出種族主義的內容，甚至AI驅動的自動化亦也可能摧毀整個產業等。

公布於非營利組織「人工智慧安全中心」（Center for AI Safety，CAIS）網頁上的這份最新聲明中，並沒有詳細說明了AI可能帶來之潛在生存威脅。

CAIS表示，此份「言簡意賅的聲明」旨於開啟對於AI技術風險之討論。

在聲明中有數名簽署人，其中包括被稱是「人工智慧教父」的辛頓（Geoffrey Hinton），他在過去也曾經提出類似的警告。

他們最大的憂心就是所謂的「通用人工智慧」（Artificial General Intelligence，AGI）之崛起，亦即具備人類認知能力的人工智慧。

他們害怕，人類將會失去對於這些超智慧機器之掌控權。專家曾經警告稱，這可能會對物種及地球造成災難性的後果。

聲明的連署人之中，也包括來自於AI領先企業谷歌（Google）與微軟（Microsoft）的專家。

早在2個月之前，億萬富豪馬斯克（Elon Musk）與其他數百名專家也曾發表了一封公開信，他們呼籲在確定安全無虞之前，應該暫緩AI的研發工作。

然而，馬斯克的信卻引來廣泛批評。有人則認為，信中關於社會與文明崩潰的警告太過誇大了。

阿特曼赴美國國會聽證 對AI應制定規範

17日，美國國會正針對監管AI尋求共識，而OpenAI的執行長阿特曼第一次赴國會聽證，在面對議員提出關於AI影響選舉、就業與過度集中在少數企業之問題，他呼籲應該成立一個專責機構來加強規範。

OpenAI在去年底推出了聊天機器人ChatGPT，在2個月活躍用戶竟然破億，使得外界對加速控管AI之呼聲高漲，近期美國政府與國會也對立法監管AI進行研議，這是阿特曼首次赴國會聽證，而被視為兩黨議員就此議題來尋求共識的重要一步。

阿特曼在聽證會中建議美國政府應考慮實施3項計畫，也就是成立新的機構批准AI模型、應建立一套安全準則規範AI的模型、要有獨立專家學者來對AI模型進行審核。

甚至他支持設立一個國際組織來為AI制定標準，而舉出管制核武已經有前例。

據《華爾街日報》指出，阿特曼於15日已經與兩黨大約60名眾議員私下會晤，此外，《華盛頓郵報》援引不具名國會議員助理的消息表示，17日下午阿特曼與國會負責人工智慧議題成員進行一場簡報會議。