ChatGPT引擔憂 或被獨裁者用作洗腦工具(圖)
中國人工智慧公司商湯科技在上海舉行的2021年世界人工智慧大會上的一個展位。（圖片來源：STR/CNS/AFP via Getty Images）
【看中國2023年2月27日訊】（看中國記者路克編譯）近來，隨著一個在撰寫論文、詩歌和計算機代碼方面具有驚人的類人能力的系統——ChatGPT火爆問世，引發人們擔憂，它有可能為自由世界送給獨裁者的下一份大禮，能讓其大規模創造內容獨特、引人注目的洗腦宣傳內容。
據《國會山報》報導，西方行業領導者之間就發布先進的生成人工智慧工具的風險展開的激烈辯論在很大程度上忽略了它們的影響可能最有害的一點：即在獨裁體制內。人工智慧公司和美國政府都必須為ChatGPT等工具的開發制定更嚴格的規範，充分認識到它們對世界獨裁者具有改變遊戲規則的潛力。
到目前為止，對生成式人工智慧和獨裁者的擔憂主要集中在這些系統如何加強中國和俄羅斯的反美宣傳工作上。ChatGPT已經展示了生成式AI只需按一下按鈕即可自動處理中國和俄羅斯虛假信息的能力。當與定向廣告和其他新的精準宣傳技術的進步相結合時，生成式人工智慧預示著專制影響行動的速度、規模和可信度方面的一場革命。
無論中國和俄羅斯的外國虛假信息努力看起來多麼令人生畏，開放社會只收到北京和莫斯科向其本國民眾進行的宣傳的一小部分。雖然民主國家擁有強大的技術專家社區，致力於打擊在線操縱，但獨裁者可以利用其國家的全部權力來優化其宣傳的影響力。
2019年，中國國家主席習近平下令黨國利用人工智慧「全面增強」中國共產黨塑造中國輿論的能力時提出了這一要求。在入侵烏克蘭之後，普京同樣加大了對人工智慧的宣傳力度，其中包括烏克蘭總統澤倫斯基呼籲烏克蘭人投降的虛假視頻。這些努力得到了一系列令人眼花繚亂的中國和俄羅斯機構的支持，這些機構負責思想控制，培養具有競爭力的數字宣傳工具生態系統，每年由數十億美元的預算支持。
換句話說，中國和俄羅斯是生成式人工智慧的沃土，可以引領洗腦的歷史性突破——這將導致更多國際災難、更嚴重的侵犯人權行為和更根深蒂固的專制主義。隨著中國提煉和出口其技術，世界各地的准暴君可能會從宣傳革命中獲利。
幸運的是，美國和盟國的公司在很大程度上引領了生成人工智慧能力的進步。隨著技術的成熟，這種優勢將變得越來越重要，它可以讓開放社會有時間在專制國家利用這些技術達到自己的目的之前瞭解、發現和減輕潛在危害。但如果獨裁者很容易獲得這些開創性工具，自由世界就有可能浪費這種優勢。
不幸的是，讓尖端人工智慧模型遠離獨裁者之手是一項艱鉅的任務。在技術層面上，生成式AI模型很容易被盜。儘管需要大量資源來構建，但模型一旦開發出來，就可以以最低成本輕鬆複製和調整。這是個壞消息，因為中國經常掠奪美國公司的技術。
美國科技公司也可能被誘惑出售生成人工智慧的能力，就像它們無意中幫助奠定了中國防火牆、無處不在的監控設備和通過商業企業收穫穆斯林少數民族基因一樣。
此外，中國或俄羅斯的人工智慧研究人員可以簡單地利用幾家公司的努力來保持生成人工智慧的開源。Meta已經開始「民主化」訪問其OBT-175B語言模型，就像AI公司Hugging Face幫助推出BLOOM，一種開放訪問的多語言模型一樣。儘管這些努力可能是善意的，但它們對宣傳者來說是一個福音。
相反，公司需要對具有助長專制的巨大潛力的技術採取適當的謹慎和安全措施來對待生成式AI開發，並避免開源其尖端模型的技術細節。
美國政府應該闡明生成人工智慧的戰略重要性，並在限制美國監控技術出口的類似措施的基礎上，限制尖端的生成人工智慧模型出口給不值得信任的合作夥伴。用於生成人工智慧的聯邦研究資金應僅限於具有強大安全實踐的可信賴接收者。美國及其盟國還應積極投資於反宣傳能力，以減輕即將到來的生成人工智慧宣傳浪潮。