ChatGPT很性感,但更危險(xiǎn)

2 評論 5751 瀏覽 3 收藏 12 分鐘

最近ChatGPT這個(gè)工具很火,有人說它很有可能顛覆谷歌等搜索引擎,以及開辟AI創(chuàng)作的新紀(jì)元。它真的有那么好用嗎?背后是否存在著什么隱患呢?本文作者對ChatGPT進(jìn)行了分析,一起來看一下吧。

后臺(tái)很多人讓我評價(jià)一下ChatGPT這個(gè)工具,說是很有可能顛覆谷歌等搜索引擎,以及開辟AI創(chuàng)作的新紀(jì)元。

我一聽特別興奮,破稿子我早就不想寫了,快,我要擁抱未來。

終于,我可以奴役AI從甲方手里騙錢了!

我單片眼鏡都戴起來了,好耶。

結(jié)果玩了兩天,覺得很失望,作為工具來說,可靠性不高,我甚至覺得這東西,挺危險(xiǎn)的。

如果大規(guī)模使用,替代當(dāng)下的搜索引擎,那么對整個(gè)人類的威脅蠻大的。

放心,我不會(huì)鼓吹什么AI威脅論,也不會(huì)去講什么AI替代大量基礎(chǔ)崗位之類的老調(diào)陳詞,這些東西都被人說爛了。

我自己做風(fēng)控的時(shí)候,模型訓(xùn)練玩兒的多了,現(xiàn)在我自己的內(nèi)容生產(chǎn)也沒少用各種工具,要是爬蟲和篩選腳本玩兒的不熟,我一個(gè)視頻動(dòng)輒幾百個(gè)表情包,早就累死了。

我能這么卷,AI出了不少皮鞭。

我本身并不會(huì)對AI作為工具有什么歧視,生產(chǎn)力擺在這里。

我覺得這個(gè)產(chǎn)品真正的威脅,不是AI技術(shù),而是【人類的信任】。

再說一遍。

不是AI,而是【人類的信任】。

當(dāng)你開始相信這個(gè)產(chǎn)品之后,危險(xiǎn)會(huì)出現(xiàn)。

因?yàn)楦静豢尚?,你得到的答案,有可能直接是錯(cuò)的。

一個(gè)工具,最重要的是什么?

是效率嗎?

效率很重要,但第一優(yōu)先級(jí)是【可信】【可靠】,揮出錘頭就是可以砸進(jìn)去釘子而不是變成魔法少女變身器。

當(dāng)然,沒有說魔法少女變身器不好的意思。

這時(shí)候,ChatGPT,作為一個(gè)助手也好,搜索引擎也好,對話模擬器也好,最重要的是什么?

是【提供可信可靠】的反饋。

這就是ChatGPT當(dāng)下的問題,他提供的答案,不可靠。

不可靠就算了,并且還在試圖把這種不可信通過煞有介事地包裝變得可信。

就像是牛老師一本正經(jīng)地告訴你,自己是個(gè)男的,理論上不可能喜歡男的。

他,說,謊。

但你如果不知道,你很容易相信他,從而著了道。

很多富老頭就吃了有道德的虧。

隨手給兩個(gè)案例。

大家自己看一下ChatGPT的回答,以及看看問題是什么。

ChatGPT很性感,但更危險(xiǎn)

乍一看,這兩個(gè)回答都是有理有據(jù)的,甚至他還給你補(bǔ)全了詩句。

好溫柔好可靠我哭死。

但你再一看,這不就是渣男渣女嗎?

溫柔地講好聽的話,但其實(shí)全是刀子。

尤其是,這人講話那么井井有條,條理清晰,還會(huì)舉例。

是不是很可信?

如果你不知道這兩首詩,你會(huì)覺得這就是答案。

但現(xiàn)實(shí)是,這兩個(gè)答案,都是錯(cuò)的。

就像是外面鎖子甲,里面丁字褲。

先說說錯(cuò)在哪。

第一首詩,詩名搞錯(cuò)了,應(yīng)該是【九月九日憶山東兄弟】。

ChatGPT很性感,但更危險(xiǎn)

而且作者是王維,不是李煜。

就算作者真的是李煜,李煜算五代十國的南唐人,五代十國是唐宋之間的過渡期。

這都不是AI技術(shù)了,這叫時(shí)光機(jī)技術(shù)了。

第二首詩,作者是對的,朝代也是對的,但詩名還是錯(cuò)的。

這首詩是李白的《靜夜思》,而非《月下獨(dú)酌》。

ChatGPT很性感,但更危險(xiǎn)

甚至讀他對于詩的理解,也都有點(diǎn)問題,因?yàn)殪o夜思的重點(diǎn)顯然重點(diǎn)不是風(fēng)景和酒,是觸景生情,是思鄉(xiāng)。

就好像你說自己殺人不眨眼,我問你眼睛干不干一樣。

你都說不出到底哪個(gè)更離譜。

好了,現(xiàn)在問題就來了。

如果這個(gè)產(chǎn)品的答案,僅僅是錯(cuò)的,或者無法回答,都不叫問題。

但這個(gè)產(chǎn)品的核心問題在于,很多東西他講的不但是錯(cuò)的,他還本能的把這個(gè)錯(cuò)的東西給【包裝】了,而且理直氣壯。

大家可以再讀一遍這個(gè)回答,這是理直氣壯引經(jīng)據(jù)典的說錯(cuò)話。

某種程度上,確實(shí)是可以替代專家發(fā)言。

直接就掌握了廢話精髓。

我們都知道,瞎聽專家建議,人生會(huì)出問題。

這個(gè)東西,也是一樣的問題。

問題不是他說的是錯(cuò)的,而是出在這個(gè)【包裝】。

假如你不知道這個(gè)【知識(shí)】的答案(例如這兩首詩的作者和名字),你只看回答,你會(huì)覺得好對啊,邏輯好通暢啊,但這東西是錯(cuò)的。

這就是,誤導(dǎo)。

真把這東西用在生產(chǎn)力上,必然會(huì)極地讓你輕松。

因?yàn)槟愫芸炀蜁?huì)因?yàn)楣ぷ鞒霈F(xiàn)滑稽錯(cuò)誤被開除,直接不用工作了,當(dāng)然輕松。

這時(shí)候或許你會(huì)疑惑,那不就是一個(gè)不好使的搜索引擎嗎?至于用【危險(xiǎn)】嗎?

搜索引擎也有假信息啊,社會(huì)也有假新聞啊,短視頻也有信息繭房啊,這年頭假信息還少嗎?

至于這么上綱上線嗎?

至于,太至于了。

因?yàn)樾畔⒗O房撐死了影響你的思考,這東西已經(jīng)剝奪了你的思考。

你想,過去的搜索引擎是什么?

是給你一堆信息,你去篩選。

他們只提供信息,不提供答案,也不包裝答案,頂多提供點(diǎn)莆田醫(yī)院和性感荷官。

搜索引擎給你展示的結(jié)果有篩選,也有排序,但這些東西,你和他都知道是素材,是信息源,是需要人類手動(dòng)做二次交叉驗(yàn)證的。

最終的決策,是在人手里,而且給了足夠的信息。

但這個(gè)工具,直接是AI替你做出了選擇,你只剩yes和no。

NO。

你說這樣不好嗎?不是簡化了選擇嗎?

不不不。

舉個(gè)例子,村里的年豬,過去是,給他一堆結(jié)果,生活,交配,屠宰,吃飼料,讓他來選擇。

每條選擇背后,指向的是不同的結(jié)果。

現(xiàn)在是,只給它一個(gè)AI處理后的結(jié)果,紅燒,清蒸,油炸,香煎。

AI已經(jīng)提它排除掉了別的選擇,但這個(gè)結(jié)果本身有問題。

它怎么選,最后都是飛升。

看到這里,你肯定又覺得不對,因?yàn)槟壳斑@個(gè)產(chǎn)品只是用的離線庫,等用了在線庫之后,能實(shí)時(shí)更新之后,肯定回答是更加精準(zhǔn)的。

另外,技術(shù)也是不斷進(jìn)步的,后面肯定還有更精確的模型。

沒錯(cuò),我相信,也認(rèn)可。

一切都是技術(shù)問題,技術(shù)是可以不斷訓(xùn)練迭代的。

但在迭代的過程中,必然有代價(jià)產(chǎn)生,在這個(gè)過程中,用這東西產(chǎn)生的危險(xiǎn)和誤導(dǎo),怎么辦?

誰享受紅利,誰是那個(gè)代價(jià)呢?

各大奇跡建筑背后,你現(xiàn)在是后來者可以大聲贊嘆,你當(dāng)年會(huì)不會(huì)成為修建的人呢?

所以,我目前對這東西是非常警惕的。

不是因?yàn)檎_或者錯(cuò)誤,也不是因?yàn)樾省?/p>

而是他不給我信息,他提供的是【理直氣壯】的答案。

如果這里面的要素有問題,而你作為提問者,對這些問題本身不夠了解,那就是對你純粹的誤導(dǎo)。

就像是前面那兩個(gè)關(guān)于詩歌的問題,假如你信了他,從此你的知識(shí)結(jié)構(gòu)就缺了一角了。

但你如果對這個(gè)問題足夠了解了,你還用得著它嗎?

真假難辨,但理直氣壯,不能用嗎?

也不是不能用,但代表使用門檻相當(dāng)相當(dāng)高,要求使用者必須特別牛X,需要提前知道答案又或者特別擅長鑒別篩選信息,且觀察敏銳。

那有這個(gè)本事的人,直接用成熟的搜索引擎效率更高。

工具最重要的,是可靠,是從A到B這個(gè)過程,不能有問題。

這工具的問題就是,你期望從A到B,但他給你一個(gè)從A到SB的結(jié)果,還煞有介事的告訴你答案就是SB。

某種程度上,還真是對的。

這個(gè)時(shí)代,信息已經(jīng)夠碎片夠垃圾了,但這東西直接來了個(gè)油門踩到底。

短視頻,搜索引擎,給你的都是信息源,撐死了算是信息繭房。

這東西,是理直氣壯的給你總結(jié)歸納一堆不知真假的信息,并且說的井井有條。

這叫,信息危房。

就像數(shù)學(xué)題,不會(huì)就是不會(huì),而不是理直氣壯的給你一個(gè)錯(cuò)誤解,還寫出一大堆亂七八糟的公式和解釋。

這是考試騙卷面同情分呢?

而且最討厭的是,假如有個(gè)需求,你知道答案,也能分辨真假,他還會(huì)給你撂攤子。

就像牛老師的這種提問一樣。

ChatGPT很性感,但更危險(xiǎn)

作者:半佛仙人;公眾號(hào):仙人JUNP(ID:xrtiaotiao);

原文鏈接:https://mp.weixin.qq.com/s/yRqDUd5hEOXozhJDO5wb7Q

本文由 @半佛仙人 授權(quán)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自題圖來自與ChatGPT對話的截圖。

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評論
評論請登錄
  1. 作為一個(gè)輔助工具尚可,中國文化博大精深,語言差異性很大,各產(chǎn)品之間數(shù)據(jù)分割,并不是隨隨便便訓(xùn)練下就可以的

    來自四川 回復(fù)
  2. chatGPT和當(dāng)初ai繪畫一樣,雖然已經(jīng)非常強(qiáng)大,但是仍不能代替專業(yè)領(lǐng)域人類的積累和思考。
    地球的資源是有限的,但是思維是無限的,或許在將來,通過ai可以創(chuàng)造出另一種資源,讓人類可以更長久的生存發(fā)展。

    來自中國 回復(fù)