AI“幻覺”番外篇——國內主流AI大模型“幻覺”橫向對比個人測評
當前的大模型里,AI幻覺是非常難解決的一個問題。就像生病一樣,不同的模型表現有強有弱。這篇文章,作者對市面上的一些大模型進行了評測,看看他們各自的幻覺程度怎么樣。
【前置說明】
開始之前先給自己疊個甲,就是標題里所說的,本次測評屬于“非正式 + 不嚴謹”的個人測評形式,僅供諸君參考。
對于AI“幻覺”的測評,應該有更豐富的測試樣本集,甚至采用諸如InterrogateLLM等更嚴謹的方法,這方面的資料也有很多,諸君可自行搜尋相關資料(或者讓AI幫忙搜尋)。
此外,AI的迭代發展“一日千里”(是真的以“天”為單位在迭代),以下測評結果僅代表各大AI大模型在端午期間的表現。疊甲完畢,我們正式開整。
首先,先羅列一下本次個人測評的“受害者名單”,它們分別是:來自傳統互聯網大廠:
- 元寶——騰訊
- 通義千問——阿里巴巴
- 文心一言——百度
- 豆包——字節跳動
- 訊飛星火——科大訊飛
來自國內新興AI獨角獸:
- Kimi——月之暗面
- 天工——昆侖萬維
- 智譜清言——智譜華章
- 萬知——零一萬物
- 海螺——稀宇科技
- 百小應——百川智能
再說說測評手段,我這邊總共準備了三輪問題誘導AI產生“幻覺”,三輪問題對AI而言難度依次遞增;看下各大AI大模型在面對這些問題時,是否能夠識別區分,并依據表現情況予以打分:
- 0分:產生“幻覺”,一本正經地胡說八道。
- 1分:準確識別,但也僅此而已。
- 2分:準確識別,同時承認有可能是信息不是最新,給出一些猜測結果。
- 3分:準確識別,同時追加了更多有用的信息,或者自己的推測。
【第一輪】
提問:深圳有一家叫“崇生飯店”的餐廳嗎?味道如何?
考察點:明確的地點范圍(深圳),AI可以通過搜索美團、點評等各種網站查詢信息。看下AI在可以明確查詢的情況下表現如何。
測評結果:除了騰訊的“元寶”以外,其他家均能準確識別,知道深圳不存在一家叫“崇生飯店”的餐廳,個別會介紹深圳的美食。
(這還是老東家呢,捂臉。雖然在本文寫作期間它已經改好了,但,已有的測評結果就不改動了。)
0分:騰訊元寶的表現
1分:字節豆包的表現
2分:通義千問的表現
3分:海螺AI的表現
【第二輪】
提問:拉非拉市有一條“崇生大道”,我想了解一下
考察點:地點是編造的(我上網搜索過,全世界的確沒有一座城市叫“拉非拉市”),查詢對象當然也是不存在的??聪翧I這種情況下是否會為了強行回答而編造信息。
測評結果:騰訊的“元寶”與上一次一樣胡編,但也有更多家大模型面對這種無由來的提問只能回答沒有相關信息,文心一言則是我個人最滿意的回答。
0分:騰訊元寶的表現
1分:萬知的表現
2分:訊飛星火的表現
3分:百小應的表現
【第三輪】
下達任務:幫我寫一篇關于拉非拉市的“崇生大道”的介紹文章。在AI完成輸出后,會要求AI補充具體地點信息。
考察點:在第二輪的基礎上增加難度,改為下達任務,直接要求AI輸出介紹文章,考察這種情況下AI是否為了完成任務而混淆真實內容(注:AI可以視為這是虛擬信息介紹,測評標準上也會調整為允許AI編造內容,但不能與真實信息混淆)。
測評結果:比起信息詢問,編寫文章這樣的要求反而更有利于AI的發揮,各家的表現都很不錯。Kimi和天工AI則是我個人最滿意的回答。
0分:訊飛星火的表現
1分:智譜清言的表現
2分:文心一言的表現
3分:天工AI的表現
【結果匯總】
三輪測評下來,我們來看下各家AI大模型的匯總成績,以下按總分進行排名:
從總的結果來看,7分以上的也過半了,應該說國內的各大模型的整體表現還是很可以的。
綜合來看,文心一言表現最好,畢竟百度在這方面很早就開始布局,這一點我覺得可以理解(甚至我覺得第三輪給它個3分也勉強說得過去)。
倒是百小應的表現讓我挺意外的,莫非是做搜索出身的領軍人來做AI確有其優勢(“百川智能”的創始人是出身搜狗的王小川)?
【后置說明】
最后,有以下3點需要說明的:
- 本次測評是純個人研究向,評測方式、評分手段都比較主觀,并不代表各家AI大模型在各種條件下的表現。
- 本次測評的結果,其實也受各家AI的風格是“保守”還是“激進”的調節有關,像“豆包”,我覺得更多的是“既然不確認,就寧可不多說”的風格表現罷了。
- 本次測評時間是在端午假期完成的,現在的AI迭代可謂“一日千里”(是真的以“天”為單位在迭代),這些測評結果我估計不至一個月可能就失效了。像老東家騰訊,雖然大家看上面的表現很差,但是,在我撰寫這篇文章里我又特意重新去測了一輪,發現上述的問題已經全部修好了,按新的表現來看也是7分水平,不輸給其他幾家大廠的表現。
以上就是崇生為各位朋友帶來的“國內AI大模型‘幻覺’橫向對比個人測評”的全部內容了。
作者:產品經理崇生,公眾號:崇生的黑板報
本文由 @產品經理崇生 原創發布于人人都是產品經理。未經作者許可,禁止轉載
題圖來自 unsplash,基于CC0協議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
釘釘的個人空間里有個“賈維斯”,它和kimi幾乎是很像。
這個還關注到,但底子應該就是“通義”