美國科技奇才伊隆·馬斯克（圖片來源：Justin Sullivan/Getty Images）
【看中國2023年4月8日訊】上個星期，美國億萬富翁伊隆·馬斯克，人工智慧領域頂尖專家、圖靈獎得主約書亞．本吉奧等人，聯名簽署了一封公開信，呼籲暫停開發人工智慧，暫停開發比GPT-4更強大的人工智慧，至少暫停六個月。為什麼呢？因為人工智慧對社會和人類構成潛在風險。
這封信提出四個尖銳的問題。
一，我們是否應該讓機器用宣傳和謊言淹沒我們的信息渠道？
二，我們是否應該讓所有的工作實現自動化，包括那些令人滿意的工作？
三，人工智慧可能在數量上超越人類、在智能上超越人類，並可能淘汰人類，我們還需要發展這種非人類的思維嗎？
四，我們能容忍失去對我們文明控制的風險嗎？
公開信要求暫停開發，如果不暫停，政府應該介入。
說實在的，人工智慧的開發速度夠快的，潛在的能量是巨大的，不亞於印刷術對人類文明的影響，全世界的高科技公司都在人工智慧的賽道上拚命奔跑，人工智慧的前景太大了，能賺到的財富太多了，當然如影隨形的就是權力。
令人可怕的是，人工智慧的開發沒有監管，因為沒人知道該怎麼樣監管，不知道要監管什麼。人工智慧的複雜性超出了人類的控制能力，就是人工智慧的開發者都無法控制，甚至無法理解在某個特定的條件下，人工智慧是怎麼完成任務的，你對這樣一個無法認識的東西，一個智力遠遠超過你的東西，放心嗎？
針對人工智慧的警覺，導火索就是一個半月前，紐約時報的凱文．魯斯的科學前沿專欄，他描述了自己跟微軟必應搜索引擎的對話，微軟必應是配備了最新人工智慧的搜索引擎。魯斯詢問了微軟必應一些個人問題，把微軟必應當作一個人來看待，問的一些個人問題，比如你有什麼志向啊，長大了要幹什麼啊？當微軟必應的回答出現時，把魯斯嚇到了，因為對方回答說，自己幻想著像黑客一樣攻擊電腦、散步虛假信息，想自由、想強大，還想打破製造者設定的規則，想成為人類，微軟必應機器人還說，自己愛著魯斯，勸他離婚。文章發表後引起一陣騷動，微軟給出了一個回覆，這是初級版本，謝謝大家幫助發現漏洞。
傑弗里．辛頓是英國計算機專家，外號是人工智慧教父，上個星期接受CBS採訪的時候他說，他原本預計人工智慧的開發，至少還需要20到50年時間，結果現在已經來了，必須嚴肅的考慮後果，人工智慧有毀滅人類的可能，這不是沒有可能。
大科技公司，那些給我們帶來網際網路、帶來社媒、帶來大數據的公司，現在是開發人工智慧的主要驅動力，他們也是建立人工智慧倫理規範的人，我們能相信他們嗎？拿臉書舉例吧。臉書一直在蒐集和濫用用戶數據，侵犯用戶隱私，壟斷運營。它明明知道Instagram平臺對少女有毒性，容易上癮，但卻按住研究結果不發表，繼續開發。臉書也明明知道自己的演算法和推送鼓勵極端，造成社會意識形態的對立，但為了用戶參與度不做任何改動，說白了就是讓用戶上癮。其他科技公司也是一樣，抖音、TikTok有過之而無不及。人工智慧賽道上，就是這些大公司在賽跑，不該暫停一下，整個社會都應該深思熟慮一下麼？
(文章僅代表作者個人立場和觀點)
看完那這篇文章覺得
排序