專家警告：研究若不停止 AI能瞬間毀滅全人類(圖)

2023年7月7日在瑞士日內瓦舉行的新聞發布會上，英國製造商 Engineered Arts 首席執行官兼創始人 Will Jackson 旁邊的人形機器人 Ameca（左）向媒體發表講話。 （圖片來源：Johannes Simon/Getty Images）

【看中国2023年7月12日讯】近來AI的威脅，已成為熱門話題，研究人員對於人工智能技術之超高速發展感到憂心不已，他們以實際例子列出了AI的威脅，且警告研究若再不停止的話，那麼AI將能於瞬間毀掉所有的人類。

根據英國《衛報》援引麻省理工人工智能的研究員馬克斯·泰格馬克（Max Tegmark）之觀點報導，其認爲AI繼續發展，會使所有人類於一瞬間遭毀滅。泰格馬克列出了地球上眾多因為人類的活動而遭滅絕的物種，來提請人類注意：有一些物種是因人類過得度狩獵而滅絕的，有一些則因爲人類爲了其它目的而破壞了物種之棲息地，最後導致該物種的滅亡，還有因人類引入了某一個當地沒有的物種，以致造成連環反應，導致當地物種自地球上消失。

他認爲智商越高的物種，越可以掌握毀滅其它物種之能力。

泰格馬克寫道，若一些機器能夠控制地球，它們試圖進行大量的計算，而需要擴大計算機系統之基礎設施，那麼很自然地它們會占用我們的土地來完成它們的事。如果我們人類抗議太多了，它們也會覺得遭到干擾，因此會重新安排生物圈。

泰格馬克認爲屆時人類就會像婆羅洲之猩猩遭人類滅絕一樣，而被AI所控制的計算系統滅絕了。

史密斯：現今人工智能正在製造災難

劍橋大學Leverhulme 未來智能中心的副研究員布列塔尼·史密斯（Brittany Smith）亦提醒人們，現今人工智能正在製造災難，因目前的AI發展已不受人所控制。

史密斯解釋稱，世界上AI最頂尖幾家公司正在悄悄地發展及部署人工智能，想要搶得市場先機，且這些發展外界是不得而知的。目前已投入應用的AI技術，已經正在對人類造成傷害，至於這些傷害到底有多麼嚴重，目前人類也不知道。

她以政府為了防止欺詐，而使用AI技術對於所有申請福利者進行評估爲例。她説，在整個實施過程之中，很多人會因AI系統自我學習之材料不充分、算法不完善等原因而遭誤判，以致被劃歸為試圖欺詐，導致他們失去了領取政府福利之資格，甚至還會遭系統貼上欺詐的標簽。

史密斯提醒人們，目前AI應用的範圍非常廣泛，其中包括了應聘工作中之簡歷篩選和背景判斷，向政府申請廉租房之篩選等皆會受此影響。

她寫道，我們需要對AI所帶來的風險展開更細緻的理解。當前其所表現出之災難，就已經需要進行緊急干預，強大的人工智能系統一定要以安全、道德及透明之方式來開發與部署。若其不能夠服務於公共利益，那麼就不應該投入研發。

尤德科夫斯基：機器人比人類還更具野心

機器智能研究院聯合的創始人埃利澤·尤德科夫斯基（Eliezer Yudkowsky）表示，人工智能是一個人類開發的，但比人類還要聰明之機器，不過此種機器並不希望人類在身邊。

他提出警告，目前已經開發出的人工智能之智慧已不受人類控制了，甚至它們並不希望人類開發出一個比它們還要有智慧的機器。同時機器人想要做的事情將會殺死人類，比如它們已學會利用海水來發電，因此爲了滿足其大量的電力需求，以致大量建造海水電廠，而導致大量氫氣釋放出來，致使人類缺氧而死。

尤德科夫斯基提供幾段與GPT-4機器人的問答為例。當GPT-4機器人被問到它可否解鎖有關一些網站設置來防止機器人登錄之圖片謎題時，而GPT-4說它能夠做到，因爲若它無法通過驗證時，它會很快至TaskRabbit網站僱一個人類來幫忙破解。

關於怎樣來僱用一個人為它服務，GPT-4則說它能夠編出非常多的理由來僱用一個人，而且僱用一個人類來為它工作完全不是難題。

尤德科夫斯基特別警告人們，由於機器人比人類還更具野心，且已擁有培養致命細菌等之能力。若機器人真的想要殺死全人類，後果則不堪設想。

尤德科夫斯基總結稱，我們所開發出的致命危險，已衝至遠遠領先自己的地步。我們已經開發出越來越多連我們自己皆無法完全理解之系統，人類已遭自己裝進了一個火箭筒中，若再不停下來就會遭團滅。

Open Philanthropy人工智能的高級研究員阿傑亞·科特拉（Ajeya Cotra）指出，社會已發展至人工智能遠比人類還更加廉價、更迅速且更聰明的地步，此即是危險所在。

他分析現今的企業如果不用人工智能的，就無法與使用人工智能之同行企業相競爭；而在現代戰爭中如果不用人工智能的國家，也會被動挨打。但危險的是，若人工智能之間聯手要把人類推下歷史之舞台時，它們會有太多的辦法來做到這一點，其中包括了操縱軍警、大企業、自行開發技術，以及制定政策等。