拯救世界還是毀滅人類？看美中歐如何給AI加「護欄」(圖)

人工智慧（AI）米卡「Mika」成為全球首位類人機器人CEO (圖片來源：FABRICE COFFRINI/AFP via Getty Images)

【看中國2024年3月28日訊】華盛頓——聯合國大會3月21日以共識方式通過了一項美國牽頭的倡議，旨在管理人工智慧（AI）的風險，同時利用其優勢。這是聯大通過的首項此類決議。

美國駐聯合國大使琳達．托馬斯-格林菲爾德（Linda Thomas-Greenfield）當天的一番話應該道出了世界對AI的複雜情緒。她說：「今天，聯合國和人工智慧終於交匯在一起，我們有機會也有責任選擇作為一個團結的全球社區來治理這項技術，而不是讓它治理我們。」

但在此之前，美國、歐洲、中國和其他躋身AI熱潮的國家已經在試圖通過政策和立法規避AI的風險因素，儘管政府監管的速度總是難以追上這一新科技的發展速度。

2024年裡，世界將忙著思考AI的監管。美國之音為你簡單梳理一下世界各國為保障AI安全迄今已做的監管努力。

為何需要AI立法？

AI正隻手掀起人類「第四次工業革命」--新聞寫作、新聞主持、藝術創作、起草法案、金融分析、病情診斷、腦部手術、賽事預測、無人駕駛、核反應爐、精尖武器、作戰指揮……以及在2023年爆紅的生成式AI聊天機器人ChatGPT。

「它比火或電更加影響深遠」，谷歌母公司Alphabet首席執行官桑德爾．皮查伊（Sundar Pichai）如此描述人工智慧（AI）。

AI為人類開拓新機會的每一步令人驚喜，然而，AI行業領袖們在去年紛紛警告，AI技術將來可能威脅到人類的生存，應與大流行病及核戰爭一同視為人類社會面臨的風險。AI將拯救人類，還是毀滅人類？

AI帶來的風險正在顯現：黑客攻擊，隱私和個人權益侵犯，替代人類工作致失業問題，真假難辨的錯誤及虛假信息迅速傳播、社會偏見和歧視不斷加深、社會不公正擴大，以及在軍事、醫療、司法領域使用AI帶來的倫理困境，等等。

AI創建和傳播虛假圖像和視頻的例子層出不窮。最近引發廣泛關注的事件包括AI生成的美國歌星泰勒．斯威夫特（Taylor Swift）露骨照片在網路上瘋傳，以及AI生成的一張五角大樓附近發生爆炸的虛假照片在社媒上瘋傳，導致美國股市一度聞風跳水。

 

最近，一張假照片在網路上引起了一陣騷動。這張照片顯示的是美國五角大樓附近的一次大爆炸，但實際上，這只是一張人工智慧生成的假照片。這張照片在社交媒體上廣泛傳播後，甚至影響到了股市，導致美股短暫下跌。… pic.twitter.com/ZEVs6FouSU

— AI遊人 (@yr_0042) May 26, 2023

 

「在監管技術方面，政府有低估該技術新特性的記錄，」美國科技公司Unanimous AI首席執行官路易斯．羅森伯格（Louis Rosenberg）此前告訴美國之音。

歐盟如何監管AI？

歐洲議會3月13日通過了一項被輿論普遍視為迄今全球最全面的AI立法，預計5月生效。法案引入嚴格的透明度要求，並要求科技公司對高性能AI模型的應用進行風險評估。

• 法案將AI技術分為「不可接受」、「高」、「中」和「低」四個風險等級。風險級別越高，相關科技企業需遵守的要求就越嚴格。
• 該法案禁止某些威脅公民權利的AI應用，比如無目標抓取面部圖像以擴建面部識別資料庫，在工作場所和校園識別情緒，對求職申請進行分類，預測性警務等等
• 法案要求高性能AI模型的開發商--比如創建ChatGPT的生成式AI領軍機構OpenAI--需對這些AI模型進行最先進的安全評估。一旦模型發生嚴重事故，須上報監管部門。法案也規定這類AI開發商必須報告它們的能源消耗，實施潛在風險緩解措施和針對黑客的網路安全保護措施。
• 法案要求對「深度合成」（Deep Fake）的圖像、視頻和音頻進行明確標記。深度合成即通過AI生成和操縱看似真實的圖像、視頻和音頻。
• 違反規定的公司將面臨最高約合3770萬美元或該公司全球營收7%的罰款。

該法案適用於所有在歐盟市場上的AI產品，不管其開發地在哪裡。在「布魯塞爾效應」下，歐盟的AI標準可能影響全球。《華爾街日報》報導說：「因為大型AI公司不太可能願意放棄進入擁有約4.48億人口的歐盟。其他司法管轄區也可能將該新法作為其AI法規的範本，從而產生連鎖反應。」

美國如何監管AI？

與歐洲不同，美國至今還沒有專門針對AI的聯邦法規。但特定行業的AI應用受該行業現行法律法規的約束。比如，美國食品和藥物管理局（FDA）監管AI醫療，聯邦貿易委員會（FTC）監管AI驅動的產品和服務，交通部監管無人駕駛汽車，等等。

• 拜登總統10月30日簽署了一項監管AI的行政命令，設定了國家安全、消費者隱私和公民權利保護、公平競爭的標準，建立一套早期的AI「護欄」，以便後期通過立法和全球協議進一步落實規範。其中，行政令要求科技公司在開發高風險AI模型時通知政府，並通過「紅隊」（Red Team）測試評估AI模型的安全風險。
• 美國國會已開始針對AI立法採取更多動作，對建構一套監管機制非常感興趣。拜登在此前的國情咨文演講中也呼籲國會緊急行動起來，立法監管人工智慧。
• 路易斯安那州共和黨參議員約翰．肯尼迪（John Kennedy）與夏威夷州民主黨參議員布萊恩．沙茨（Brian Schatz）合作提出《AI標識法案》（AI Labeling Act），要求科技公司對AI生成的內容進行標識、並告知消費者相關AI科技背後的所有者身份。
• 密蘇里州共和黨參議員喬什．霍利（Josh Hawley）和康涅狄格州民主黨參議員理查德．布盧門撒爾（Richard Blumenthal）合作啟動一項AI立法框架，尋求建立一個專門監管AI的聯邦機構，要求科技企業在推出ChatGPT這樣級別的大語言模型之前需獲得許可，並對侵犯隱私和民權的科技公司問責。
• 也有一些針對特定領域AI使用的提案：其中一項尋求禁止允許AI或沒有人類控制的自動化系統發射核武器。另一項將要求政治競選廣告中人工智慧生成的圖像和聲音被明確標注。
• 彭博社援引美國各州議會的數據報導稱，2023年，美國至少有25個州考慮了與AI相關的立法，其中15個州通過了相關法律或決議。擬議的立法旨在限制在就業、保險決策、醫療保健、選舉計票和公共場合的面部識別等方面使用人工智慧。

「對美國來說，最有可能的結果是由行政部門的行動自下而上地拼湊出一套法規，」美國戰略與國際研究中心（CSIS）戰略技術項目高級顧問比爾．懷曼（Bill Whyman）寫道。「與歐洲不同，美國不太可能在未來幾年通過一項廣泛的全國性的人工智慧立法。成功的相關立法可能集中在爭議較少和有針對性的措施上，比如對人工智慧研究的資助和人工智慧兒童安全。」

「美國式的監管通常沒有歐洲和亞洲那麼嚴格。長期以來，傾向於自由放任或最低限度監管是美國制度的特點，」紐約大學媒體技術教授W．羅素．紐曼（W.Russell Neuman）此前接受美國之音採訪時說。「這是美國聯邦和州對商業的態度的特點，即對監管持謹慎態度，擔心監管會比監管機構最初的擔心的更糟糕。」

布魯金斯學會（Brookings Institution）人工智慧和新興科技倡議項目政策總監傑西卡．布蘭特（Jessica Brandt）此前對美國之音說：「自由民主國家面臨的挑戰是，既要確保人工智慧以負責任的方式發展和部署，也要支持一個能吸引人才和投資的有活力的創新生態系統。」

中國如何監管AI？

去年8 15日，中國的《生成式人工智慧服務管理暫行辦法》正式施行。該法被認為是全球首部生成式AI立法。當中24條法規的監管對象是創建圖像、視頻、文本和其他內容的生成式AI服務，比如ChatGPT。法規強調開發人員對他們創建的AI模型所輸出的內容「負有責任」。

• 法規規定，「提供具有輿論屬性或者社會動員能力的生成式人工智慧服務的」科技公司需對AI模型進行安全評估，並將其演算法在監管機構備案。
• 通過AI生成的內容必須進行明確標注。
• 科技公司須確保其AI模型生成的文字和圖片是缺准、可靠的，獲取數據的來源是合法的。
• 法規提出了尊重數據隱私、保護知識產權和公民權利方面的規定。
• 但與大多數其他國家不同的是，該法規規定生成式AI輸出的內容必須反映「社會主義核心價值觀」，遵守政府的審查規定，避免詆毀中國領導人或觸碰政治紅線，「不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一」的內容。

 

中國科技巨頭百度當8月31日正式向公眾發布了自行研發的生成式人工智慧聊天機器人「文心一言」。美國之音的測試發現，這款希望能與ChatGPT競爭的大型語言模型帶有重重審查，極力避免回答涉及敏感話題的問題。在一些情況下，「文心一言」會自動結束對話，並建議使用者輸入別的問題。https://t.co/7nSRcudiIu pic.twitter.com/HbFsW2JhJH

— 美國之音中文網 (@VOAChinese) September 1, 2023

 

儘管中國在AI技術創新方面仍落後於美國，但在AI監管立法方面被廣泛視為先行者之一。這部專門針對生成式AI的立法建立在更早前出臺的深度合成和演算法推薦相關的人工智慧法規基礎上--

• 《網際網路信息服務深度合成管理規定》於2023年1月10日生效。其中一項要求就是向網信辦提交深度合成演算法進行備案。
• 《網際網路信息服務演算法推薦管理規定》於2022年3月1日生效，規範了使用演算法推薦技術在中國境內提供網路服務的行為。
• 中國網際網路監管機構也在去年8月宣布了旨在約束人臉識別技術應用的規則草案。草案在限制人臉識別技術使用的同時又為國家安全相關的使用開了許多綠燈。

AI治理的未來需要全世界的共同努力。今年5月，聯合國國際電信聯盟將主辦人工智慧向善峰會；今年9月，聯合國未來峰會將尋求通過《全球數字契約》。

(文章僅代表作者個人立場和觀點)