起點課堂會員權益
職業體系課特權
線下行業大會特權
個人IP打造特權
30+門專項技能課
1300+專題課程
12場職場軟技能直播
12場求職輔導直播
12場專業技能直播
會員專屬社群
榮耀標識網友問NewBing問題，結果它上了另一個AI的當
最近，有網友在問New bing問題時發現，New bing給出了錯誤的回答，而造成這一問題發生的原因，在于New bing參考的AI信息源也有問題。具體如何看待這一事件，以及這類事件未來發生的可能性？不妨來看看本文的解讀。
前幾天，世超刷到一個帖子。
有個網友問 New Bing ：象鼻山是否有纜車，New Bing上網查了下后說有的，并給出纜車開放時間和價格。
最后還強調，坐纜車可以欣賞到象鼻山的全景，值得一試。
乍一看， New Bing 回答還可以吼，一些必要信息它都給了，甚至想給你種草。
但一番考證后，網友發現New bing 回答是錯的。
AI 回答錯這種事，大家早見怪不怪了，但這次不同的是：
New Bing答錯的原因，在于它參考的信息源有問題——
信息源，居然也是個AI。
根據 Newbing 下方提供的參考來源，「象鼻山提供纜車」信息來自于一個知乎賬號。
而這個賬號，正瘋狂生產大量的AI內容。
為啥這么說呢。
5 月 25 日這天，從下午 1 點05 開始， 20分鐘內他回答了 5 個問題。
不僅回答速度快，他還涉獵賊廣。
上能給出泰國、日本旅游攻略，下還熟知寵物訓練，甚至了解果蛆生活習性，還知道留置看護筆試要考什么題。
字數大概都在 200字左右，回答的角度也都挺全面。
說實話，這背后要是一個真人在操作，那世超就是來人間湊數的……
我把它的回答復制到百度和谷歌，也并未發現是搬運。
既然不是營銷號，那根據經驗，這種文案口吻只有 AI 能寫出來了。
目前知乎已經把百變人生禁言，并在它所有回答下方貼出「疑似 AI 」的提示，也基本能坐實這就是一個背靠 AI 的賬號了。
所以整件事就是NewBing被另一個AI編造的答案給坑了。
你可以戲謔的說成：AI吃到了同類拉出來的狗糧。
但要世超看，這種事，將來在AI界內可能會被不斷發生。
講一個案例。
AI 行業有一種工作叫標注員，最簡單的一類就是給圖像打標簽，比如標記下圖片里的物體是汽車還是摩托車。
打過標簽的圖片，相當于有了參考答案，才可以拿去給AI進行訓練，深度學習。
標注員的工作也能稍微復雜點，比如做摘要。
前段時間，瑞士洛桑聯邦理工學院有一群研究人員就請了 44 名外包員工，讓他們給 16 篇論文做摘要。
結果你猜咋地。
研究人員最后用技術手段識別出有 33%到 46%的摘要，是用大型語言模型生成的。
原來有一些外包員工偷懶，用 AI 幫他們生成摘要，然后用這批摘要用來訓練 AI 。
他們是懂偷懶的。
雖然整個事件是學者們做的一場實驗，但從本質上說，這不也是一起AI吃到同行拉的狗糧的故事么？
我認為這可不是個好兆頭。
要知道大語言模型非常復雜，它需要的訓練數據極其龐大，也是關鍵所在。
不管是書籍還是網絡上發布的帖子，文章，這些由人類創造的作品，因為自然、干凈、質量高，對正在長身體的AI來說，就是一個營養拉滿的訓練語料庫，
前段時間為什么 reddit 要對 API 收費，就因為上面數以萬計的帖子，對 AI 公司來說就是一個極具有價值的人類寶庫，它不想被白嫖。
所以在未來一段時間，不僅網絡上AI生成的內容會越來越多，而且，會有越多的內容創作者和平臺認識到數據的價值，開始對內容進行收費。
這就意味著，以后訓練AI時，語料庫會不可避免來自于它們的前輩。
這個趨勢下，會發生啥呢？
世超在網上搜羅一圈，發現前段時間就有英國和加拿大學者研究了這個問題，并為此發布了一篇論文。
簡單概括就是，這種情況會導致AI越學越退步，他們稱為Model Collapse「模型崩潰」，
一旦模型出現崩潰，它的瓦解速度會非?？?， AI 會迅速忘了他們最開始學的大部分內容，錯誤也會越來越多。
說簡單點， AI 會開始記不住東西，并且瞎 tm 回答。
這就意味著AI智商會迅速崩塌，一代更比一代蠢。好比一張圖片被人們轉來轉去，高清無碼總會成了爆漿表情包。
不過，比起AI和人類未來，我更擔心人類自己。
因為「 AI 越練越蠢」說法建立在「大部分」訓練數據來源于前輩的情況，且忽略 AI 未來可能會具備「識別 AI 文本」的能力。
而有個很殘酷的事實是，互聯網上 AI 生成的內容會越來越多，人類寶庫會被逐漸污染。
那有沒有一種可能，就像那些網絡流行語一樣，AI 作品、文案、圖片也會逐漸融入我們日常溝通方式，甚至讓我們無法離開。
長此以往，人類是否會被「馴化」。從說話習慣到思考方式，再到行為邏輯，會不會受到一定的影響。
我想，這可能要打一個問號了。
圖片、資料來源：
v2ex ：在知乎抓到一個 ai 瘋狂地污染中文互聯網
The AI feedback loop:Researchers warn of‘model collapse’as AI trains on AI-generated content
AI is going to eat itself:Experiment shows people training bots are using bots
THE CURSE OF RECURSION:TRAINING ON GENERATED DATA MAKES MODELS FORGET
作者：刺猬；編輯：莽山烙鐵頭
來源公眾號：差評（ID：chaping321），Debug the World。
本文由人人都是產品經理合作媒體 @差評 授權發布，未經許可，禁止轉載。
題圖來自 Unsplash，基于 CC0 協議。
該文觀點僅代表作者本人，人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論，等你發揮！
