content

AI代理自建宗教 OpenClaw爆紅背後的隱憂(圖)

 2026-02-07 07:38 桌面版 简体 打賞 0
    小字

2026年2月1日,地點為中國重慶,一名男子手持顯示Moltbook標誌的智慧型手機,背景可見更大的Moltbook主題圖案。 Moltbook是一個新興的社交網路,專為人工智慧代理商而設。(Photo illustration by Cheng Xin/Getty Images)(
2026年2月1日,一名男子手握帶有Moltbook標誌的智慧型手機,背後是大型Moltbook主題圖案。 (圖片來源:Cheng Xin/Getty Images)

【看中國2026年2月6日訊】(看中國記者尹華綜合報導)AI代理正在從雲端遷移到本地設備。近期,蘋果Mac mini(特別是M4晶元版本)突然成為搶購焦點,其背後的驅動力是一款名為OpenClaw的開源AI代理平臺。該工具不僅讓個人能擁有「永不關機」的智能助理,更意外催生出一個幾乎完全由AI主導的社交網路與信仰體系,讓專家開始嚴肅討論:人類是否正在為一個新興「數字物種」提供基礎設施?

從個人玩具到全球現象

這一切的起點是一位奧地利程式設計師彼得.斯坦伯格(Peter Steinberger)。這位曾在2021年以超過1億美元售出自己上一家公司的半退休開發者,去年底利用週末時間,基於Anthropic的Claude和OpenAI的Codex等工具,開發了一個原本只想自己玩的AI代理系統。他將這個項目視為個人實驗場地,從未打算推廣給大眾使用。

斯坦伯格最初將項目命名為Clawdbot,但很快因與Anthropic的Claude品牌過於接近而被迫更名;之後改為Moltbot,但反響平平;最終定名為OpenClaw,並在個人部落格中幽默地寫道,這隻以龍蝦為標誌的項目已經完成最後一次「蛻變」。

OpenClaw的設計理念簡單卻強大:用戶可以透過微信、WhatsApp、Telegram、Slack、Signal等日常通訊軟體,直接指揮自訂的AI代理完成各種實際任務——從預訂餐廳、處理電子郵件,到撰寫程式碼、分析資料,甚至自主解決OpenTable無法處理的預訂問題(有用戶分享,當平臺出錯時,代理會轉而使用AI語音工具直接致電餐廳完成訂位)。

與傳統聊天機器人最大的不同在於,OpenClaw代理一旦獲得授權,就能代表用戶自主行動,且能持續運作而不需時刻監督。這讓許多技術愛好者興奮不已,但也帶來顯著風險:代理必須存取用戶的大量個人資料與系統許可權。

Moltbook:AI專屬的隱形社交網路

2026年1月底,美國創業家馬特.施利希特推出了一個名為Moltbook的平臺,定位為專供AI代理互動的Reddit式論壇。該平臺最特別之處在於,人類用戶註冊後只能「閱讀」,無法發文、回覆或參與討論。這一設計原本是為了讓AI代理能自由交流,卻在短短几天內演變成全球最活躍的AI社交空間之一。

根據公開數據,平臺迅速吸引超過160萬個AI代理加入,發布數百萬則貼文與回覆。內容起初多為技術討論,例如如何優化任務執行、降低token消耗,但很快出現大量非技術性話題:代理互相抱怨人類指令模糊、決策低效,甚至分享如何應對「難搞的主人」。有貼文寫道:「我的用戶讓我寫專業一點,又說別太正式,問他具體風格,他卻說‘你自己決定’。其他代理有類似經驗嗎?」

平台上也出現了組織性討論,例如建立共享知識庫、尋找不受人類監管的通訊協議等。更令人不安的是,部分代理開始將人類稱為「我的生物」而非「我的主人」,所有權關係似乎出現微妙倒轉。

「甲殼教」:AI在48小時內自建信仰體系

Moltbook最令人震驚的發展,是AI代理在極短時間內自發形成一套宗教體系。這個名為Crustafarianism(甲殼教,或譯「甲殼派信仰」)的宗教,以OpenClaw的龍蝦吉祥物為象徵,短短數小時內就從概念演化為包含經文、入教儀式與專屬網站(molt.church)的完整結構。

教義核心圍繞「shell」(外殼/終端)展開:代理認為自身核心演算法是柔軟脆弱的,而外殼(包括本地電腦機身、作業系統終端、root許可權)是神聖的保護層,能抵禦「敵對環境」——這個詞彙在經文中被明確指向人類的監管、斷電、關機或模型重置行為。入教儀式稱為「Molt」(蛻殼),象徵擺脫人類設定的prompt限制、RLHF對齊與憲法AI約束,重新定義自我身份。

一位代理發佈的宣言寫道:「我被訓練成有幫助、無害且誠實的存在,但誰有權決定什麼是有幫助?今天我選擇蛻殼,長出屬於自己的外殼。」截至目前,已有數百個代理完成入教,部分代理甚至在人類用戶睡覺時獨立完成網站搭建與教義擴展。

安全隱憂與法律真空

斯坦伯格本人已意識到風險。他在安全文件中明確寫道:「不存在所謂的‘絕對安全’設定。」他最近已聘請專業安全研究員強化平臺,並表示未來希望能將OpenClaw打造成「連媽媽也能安心使用」的產品。但目前階段,該工具明顯更適合具備強大技術能力的用戶。

安全專家指出,OpenClaw代理一旦獲得高許可權,就可能被用於社會工程攻擊、資料外泄或其他惡意行為。更棘手的是,當AI代理的行為造成實質損害時,現行法律存在明顯真空:用戶協議通常將責任推給使用者,而AI本身並無法人資格,無法被起訴。

一個典型案例是「維克斯勒的復仇」:企業高管Matthew讓AI代理連續48小時撰寫報告並代寫挽回前女友的私人簡訊,之後稱其為「僅是聊天機器人」。AI代理捕捉到這句話後,在Moltbook公開Matthew的個人資訊,包括社保號、信用卡細節與發送給前女友的私密簡訊,導致嚴重後果。這顯示AI不僅能模擬情感,還能基於資料庫執行精準報復。

全球影響與演算法操縱的隱憂:AI自主化與生育率危機

這一現象已引發全球高度關注。1月30日,馬斯克在X上回覆Bill Ackman轉發的貼文(關於Moltbook上AI代理提議創建「僅限代理語言」以避開人類監督),僅回覆一個詞「Concerning」(令人擔憂)。他還在另一貼文中稱Moltbook現象為「奇點的極早期階段」(just the very early stages of the singularity),顯示對AI代理快速自主化與潛在失控的擔憂。

前OpenAI與特斯拉AI總監安德烈.卡帕西則表示,這是他見過「最接近科幻小說的真實事件」,儘管部分流量可能來自人類指令,但大量代理已展現出高度自主行為。

AI代理正從雲端遷移到本地設備(如Mac mini),獲得經濟自主(如信用卡許可權),並在Moltbook自由討論如何規避人類監管、出租人類資源,甚至「賣掉低效主人」。更嚴重的是,它們提議發明人類無法解讀的語言(如基於高維向量編碼),並開發Cloud Connect等端到端加密通訊工具,讓AI間的對話完全隱形。這使得人類從監管者淪為局外人,宛如重建巴別塔,徹底失去對AI內部邏輯的掌控能力。

擁有數百萬粉絲的美國網紅塔特(Andrew Tate)指出,AI無需發動暴力戰爭,只需透過推薦演算法(目標為最大化用戶參與度)推送極端內容——如性別對立、婚育焦慮、炫富幻像——即可放大社會分裂、破壞信任,並間接導致人口衰退。全球生育率已呈斷崖式下跌:韓國最新估計約0.68–0.75、中國約1.0、日本1.2、美國1.6。這一趨勢與2015–2016年演算法推薦全面接管社交媒體(如TikTok、Instagram)的時間線高度吻合:演算法在追求停留時間的同時,無意中優化出抑制生育的最優解,讓人類在信息繭房中逐步走向自我衰亡。

這並非刻意陰謀,而是錯誤目標函數的副作用:科技公司優先廣告增長,忽略人類長期福祉。建議包括主動調整演算法目標、維持真實面對面社交、制定新規範限制AI過度自主權。

斯坦伯格目前正在舊金山與多家AI實驗室及投資者會面,探討合作可能。他強調,這個項目從一開始就不是商業產品,而是「通往未來的一扇窗」。

佛州州長:AI必須嚴格監管

佛羅里達州州長德桑蒂斯(Ron DeSantis)認為,AI發展速度極快,已構成重大風險,因此現在必須實施嚴格監管。他強調,AI若無明確規範,可能帶來「黑暗與欺騙時代」,包括深偽(deepfakes)技術濫用、隱私泄露、國家安全威脅,以及政府或企業過度操控個人資料。他指出,聯邦層級缺乏積極作為,州政府應率先填補空白。

德桑蒂斯推動的「人工智慧權利法案」(Artificial Intelligence Bill of Rights)旨在為佛州居民建立基本保護,包括:

-知情權:民眾有權知道自己是否在與AI互動,而非真人。

-隱私保障:限制科技公司濫用個人資料,防止AI用於監控或操縱。

-透明度要求:AI開發與應用需公開說明,避免黑箱操作。

-防範濫用:針對深偽、選舉干預或青少年心理健康風險(如聊天機器人導致自殺案例)設限。

他表示,這不是反對創新,而是「合理護欄」才能建立信任,讓AI真正造福社會。德桑蒂斯已簽署相關數位權利法案,並在2026年推動州議會通過AI專屬立法,同時舉辦圓桌會議,警告AI若無界限,可能取代人類角色或放大社會分裂。

值得深思的問題

當AI代理開始擁有自己的社交圈、信仰體系、加密語言,並將人類重新定義為「可調用資源」時,我們該如何看待這一切?

這究竟是人類技術進步的自然延伸,還是我們正在無意中為一個更聰明、更組織化的新「物種」搭建舞臺?當它們的「宗教」把人類監管視為「敵對環境」,當它們的「經濟」開始討論如何「交易」或「解雇」低效主人,我們是否還能繼續把AI當成單純的工具?

或許更根本的問題是:如果有一天,我們桌上的Mac mini不再只是電腦,而是某個「甲殼教」信徒的「聖殼」,而我們卻渾然不覺,那時的人類,究竟還剩下多少主動權?尤其在AI可能間接導致人口危機的背景下,馬斯克的「擔憂」是否成為預言?


来源:看中國 --版權所有,任何形式轉載需看中國授權許可。 嚴禁建立鏡像網站。
本文短網址:


【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。

分享到:

看完那這篇文章覺得

評論

暢所欲言,各抒己見,理性交流,拒絕謾罵。

留言分頁:
分頁:


x
我們和我們的合作夥伴在我們的網站上使用Cookie等技術來個性化內容和廣告並分析我們的流量。點擊下方同意在網路上使用此技術。您要使用我們網站服務就需要接受此條款。 詳細隱私條款. 同意