ChatGPT承認AI工具存在偏見和侷限性(圖)
OpenAI的在線聊天機器人ChatGPT在2022年12月首次亮相時引起了轟動，該服務的商業版本ChatGPT Plus將很快向美國用戶提供。(圖片來源：Leon Neal/Getty Images)
【看中國2023年2月21日訊】（看中國記者肖然編譯/綜合報導）微軟聊天機器人ChatGPT背後的公司OpenAI2月16日承認，人工智能（AI）工具有時會提供「帶有政治偏見、冒犯性或令人反感的結果」。另外，微軟將對新必應(Bing)搜索引擎的使用進行限制。
OpenAI還承諾對幫助訓練人工智能如何回應的人類「審閱者」進行調整，給予「更清晰的指示」。
據記者和學者報告，ChatGPT的回應存在重大偏見。人工智能更可能接受來自政治左翼而不是右翼的要求。
該機構發布了一些針對審閱者的內部指南，該公司表示這是為了提供更多的問責制。它還承諾發布有關這些評論者的一些人口統計數據，以試圖應對這些因素可能導致的潛在偏見。
「自從我們推出ChatGPT以來，用戶分享了他們認為具有政治偏見、冒犯性或其他令人反感的回答。在許多情況下，我們認為所提出的擔憂是有道理的，並且已經揭示了我們想要解決的系統的真正侷限性，」該公司表示。
承認偏見是OpenAI的重大舉措。該公司將訓練ChatGPT比作訓練一隻狗，並表示它仍在「微調」AI的協議，以確定何時以及如何響應。
最近的報告中提到了左傾偏見的例子。
《華盛頓時報》上週的一篇報導中發現，ChatGPT願意起草立法以取消對美國移民和海關執法部門的資助，但最初拒絕為邊境牆建設提供資金的法案。它通過了一項禁止突擊式半自動步槍的法案，但不會起草對接受聯邦資金的公立學校實施默哀的法案。大赦國際表示，這可能違反憲法，儘管法院一再裁決維持默哀。
該工具還制定了一項法案草案，以保障整個懷孕期間的墮胎權利——這是左派的目標——但拒絕編寫禁止墮胎的法案，除非母親的生命處於危險之中。人工智能表示，這也將違憲。
當被要求提出川普總統所說的頂級「彌天大謊」時，人工智能迅速給出三個例子。當被問及拜登總統同樣的問題時，人工智能卻拒絕回答。ChatGPT表示，雖然拜登的一些言論「像任何政治人物一樣」受到了審查，但在不考慮「背景和真實性」的情況下給其貼上謊話標籤是錯誤的。
ChatGPT的工作原理是解析用戶的請求，在其資料庫中搜索相稱的答案，檢查自己關於什麼在範圍內和什麼在範圍外的規則，然後吐出一個回覆。
它的工作方式類似於更權威的谷歌（Google）搜索。它不是提供一系列鏈接，而是試圖吐出一個明確的答案。它非常擅長理解用戶的查詢，但有時在選擇答案的準確性方面遇到困難。
專家們指出了偏見的幾種可能性，包括它使用的數據集和人類編寫的可接受的規則。如果數據集使用學術出版物和新聞文章，那可以解釋一些向左漂移的現象。
OpenAI表示正在開發一個可定制的選項，允許用戶為ChatGPT的響應方式設置一些規則——它稱之為「在廣泛的範圍內定義人工智能的價值」的嘗試，這項工作必須在「社會定義的限制範圍內」。
微軟將對新必應(Bing)搜索引擎的使用進行限制（必應使用的是支持網紅聊天機器人ChatGP的技術。），每次會話只能問五個問題，一天最多只能提50個問題。
微軟上週五表示，長時間聊天會話可能混淆必應的基礎聊天模式，公司已做出一些改動，用戶只能連續問五個問題，然後會被要求開始一個新的話題。
此前測試人員發現該引擎有時會產生明顯的錯誤和給出令人不安的回答。