content

黑客濫用ChatGPT 有意識AI細思極恐(圖)

 2023-08-29 21:45 桌面版 简体 打賞 0
    小字

人工智能
人類「想」製造出有意識的機器不存在任何客觀障礙。(圖片来源: Adobe stock)

【看中國2023年8月29日訊】(看中國記者程帆編譯綜合報導)隨著人工智能(AI)技術風靡全球,許多人類工作變得更加高效,但同時也推動了黑客攻擊。一份新報告顯示,今年第二季全球網絡攻擊激增8%。另外,有關人類製造有意識的機器人的討論也讓人細思極恐。

美國和以色列跨國公司查點研究機構(Check Point Research)在8月28日發布的報告指出,勒索軟體團夥及出於政治動機的「黑客行動主義」正有所抬頭,他們利用AI不斷提高遊戲水平的現象愈演愈烈,尤其是在開髮網路釣魚電子郵件、監控擊鍵惡意軟體,以及製作勒索軟體代碼等方面。

據網路安全新聞(Cyber Security News)的報導,安全公司Netenrich上月表示,繼「反派聊天機器人」的WormGPT誕生後,黑客又製造了一個名為FraudGPT的惡意AI工具,能夠生成多種網路攻擊代碼。記錄顯示,不到一週的時間,有超過3000名買家下單。

該公司研究員克里斯南(Rakesh Krishnan)稱,自7月22日以來,FraudGPT一直在暗網流通,訂閱費每月僅200美元。

黑客在售賣頁表示,該工具可用於編寫惡意代碼、創建出「一系列殺毒軟體無法檢測的惡意軟體」、檢測網站漏洞、自動進行密碼撞庫。

美國最大漏洞眾測公司HackerOne的解決方案架構師施萊次(Dane Sherrets)表示,他對AI將助長網路攻擊一點兒也不感到驚訝,它讓攻擊者更容易得手。他說,他每天都使用ChatGPT來加快自己的工作速度,因此他明白這點。

HackerOne是一個安全平臺,它將企業與道德黑客和網路安全測試人員聯繫起來,在犯罪人員入侵前發現公司系統中的漏洞。

AI領域諱莫如深的「C」字

除了網絡黑客帶來的威脅,AI本身的發展也讓整個社會充斥著不確定性。

世界級人工智能專家、深度學習「三巨頭」之一的本吉奧(Yoshua Bengio)聯合19人團隊上週發布了一份120頁長的研究論文,稱「儘管人工智能目前沒意識,但是以後可能就會有。」

據《科學》期刊的報導,這個團隊成員分別來自哲學、神經科學、人工智能三大領域,他們用非常科學和嚴謹的方法探討了「意識」(Consciousness)的客觀存在標準。具體說來,AI現在的能力和形態暫時都不具備意識,但要是繼續發展下去,人類「想」製造有意識的機器並不存在任何客觀障礙!

這個結論聽起來讓人汗毛直豎!AI對於人類,到底是福還是禍?

本吉奧等人對AI有無意識的判斷是基於心智計算主義。因為早前的一些理論認為,意識必須要存在於生物體的大腦中。如果是這樣,研究就不用繼續下去,而該研究是建立在計算功能主義上。

三年前,他在《與意識相關的深度學習先驗》中曾提及,卡尼曼在《思考,快與慢》一書中指出,人的認知系統有兩類,一類是無意識(快系統)的,關鍵詞是直覺、非語言、習慣;第二類是有意識的(慢系統),關鍵詞是語言性、演算法性,推理和計畫。

而計算功能主義也認為,意識可以存在於多種基質中,而不僅僅是存在於生物大腦中。

儘管目前的機器學習方法還未從無意識發展到全意識,但本吉奧相信,從「無」到「有」的轉變完全可能,而注意力機制則是這個過程的核心要素之一。


来源:看中國 --版權所有,任何形式轉載需看中國授權許可。 嚴禁建立鏡像網站。
本文短網址:


【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。

分享到:

看完那這篇文章覺得

評論

暢所欲言,各抒己見,理性交流,拒絕謾罵。

留言分頁:
分頁:


x
我們和我們的合作夥伴在我們的網站上使用Cookie等技術來個性化內容和廣告並分析我們的流量。點擊下方同意在網路上使用此技術。您要使用我們網站服務就需要接受此條款。 詳細隱私條款. 同意