馬斯克呼籲暫停開發人工智慧 整個社會都應該深思熟慮(圖)
美國科技奇才伊隆·馬斯克(圖片來源:Justin Sullivan/Getty Images)
【看中國2023年4月8日訊】上個星期,美國億萬富翁伊隆·馬斯克,人工智慧領域頂尖專家、圖靈獎得主約書亞.本吉奧等人,聯名簽署了一封公開信,呼籲暫停開發人工智慧,暫停開發比GPT-4更強大的人工智慧,至少暫停六個月。為什麼呢?因為人工智慧對社會和人類構成潛在風險。
這封信提出四個尖銳的問題。
一,我們是否應該讓機器用宣傳和謊言淹沒我們的信息渠道?
二,我們是否應該讓所有的工作實現自動化,包括那些令人滿意的工作?
三,人工智慧可能在數量上超越人類、在智能上超越人類,並可能淘汰人類,我們還需要發展這種非人類的思維嗎?
四,我們能容忍失去對我們文明控制的風險嗎?
公開信要求暫停開發,如果不暫停,政府應該介入。
說實在的,人工智慧的開發速度夠快的,潛在的能量是巨大的,不亞於印刷術對人類文明的影響,全世界的高科技公司都在人工智慧的賽道上拚命奔跑,人工智慧的前景太大了,能賺到的財富太多了,當然如影隨形的就是權力。
令人可怕的是,人工智慧的開發沒有監管,因為沒人知道該怎麼樣監管,不知道要監管什麼。人工智慧的複雜性超出了人類的控制能力,就是人工智慧的開發者都無法控制,甚至無法理解在某個特定的條件下,人工智慧是怎麼完成任務的,你對這樣一個無法認識的東西,一個智力遠遠超過你的東西,放心嗎?
針對人工智慧的警覺,導火索就是一個半月前,紐約時報的凱文.魯斯的科學前沿專欄,他描述了自己跟微軟必應搜索引擎的對話,微軟必應是配備了最新人工智慧的搜索引擎。魯斯詢問了微軟必應一些個人問題,把微軟必應當作一個人來看待,問的一些個人問題,比如你有什麼志向啊,長大了要幹什麼啊?當微軟必應的回答出現時,把魯斯嚇到了,因為對方回答說,自己幻想著像黑客一樣攻擊電腦、散步虛假信息,想自由、想強大,還想打破製造者設定的規則,想成為人類,微軟必應機器人還說,自己愛著魯斯,勸他離婚。文章發表後引起一陣騷動,微軟給出了一個回覆,這是初級版本,謝謝大家幫助發現漏洞。
傑弗里.辛頓是英國計算機專家,外號是人工智慧教父,上個星期接受CBS採訪的時候他說,他原本預計人工智慧的開發,至少還需要20到50年時間,結果現在已經來了,必須嚴肅的考慮後果,人工智慧有毀滅人類的可能,這不是沒有可能。
大科技公司,那些給我們帶來網際網路、帶來社媒、帶來大數據的公司,現在是開發人工智慧的主要驅動力,他們也是建立人工智慧倫理規範的人,我們能相信他們嗎?拿臉書舉例吧。臉書一直在蒐集和濫用用戶數據,侵犯用戶隱私,壟斷運營。它明明知道Instagram平臺對少女有毒性,容易上癮,但卻按住研究結果不發表,繼續開發。臉書也明明知道自己的演算法和推送鼓勵極端,造成社會意識形態的對立,但為了用戶參與度不做任何改動,說白了就是讓用戶上癮。其他科技公司也是一樣,抖音、TikTok有過之而無不及。人工智慧賽道上,就是這些大公司在賽跑,不該暫停一下,整個社會都應該深思熟慮一下麼?
(文章僅代表作者個人立場和觀點)