ChatGPT很性感,但更危險(xiǎn)
最近ChatGPT這個(gè)工具很火,有人說它很有可能顛覆谷歌等搜索引擎,以及開辟AI創(chuàng)作的新紀(jì)元。它真的有那么好用嗎?背后是否存在著什么隱患呢?本文作者對ChatGPT進(jìn)行了分析,一起來看一下吧。
后臺(tái)很多人讓我評價(jià)一下ChatGPT這個(gè)工具,說是很有可能顛覆谷歌等搜索引擎,以及開辟AI創(chuàng)作的新紀(jì)元。
我一聽特別興奮,破稿子我早就不想寫了,快,我要擁抱未來。
終于,我可以奴役AI從甲方手里騙錢了!
我單片眼鏡都戴起來了,好耶。
結(jié)果玩了兩天,覺得很失望,作為工具來說,可靠性不高,我甚至覺得這東西,挺危險(xiǎn)的。
如果大規(guī)模使用,替代當(dāng)下的搜索引擎,那么對整個(gè)人類的威脅蠻大的。
放心,我不會(huì)鼓吹什么AI威脅論,也不會(huì)去講什么AI替代大量基礎(chǔ)崗位之類的老調(diào)陳詞,這些東西都被人說爛了。
我自己做風(fēng)控的時(shí)候,模型訓(xùn)練玩兒的多了,現(xiàn)在我自己的內(nèi)容生產(chǎn)也沒少用各種工具,要是爬蟲和篩選腳本玩兒的不熟,我一個(gè)視頻動(dòng)輒幾百個(gè)表情包,早就累死了。
我能這么卷,AI出了不少皮鞭。
我本身并不會(huì)對AI作為工具有什么歧視,生產(chǎn)力擺在這里。
我覺得這個(gè)產(chǎn)品真正的威脅,不是AI技術(shù),而是【人類的信任】。
再說一遍。
不是AI,而是【人類的信任】。
當(dāng)你開始相信這個(gè)產(chǎn)品之后,危險(xiǎn)會(huì)出現(xiàn)。
因?yàn)楦静豢尚?,你得到的答案,有可能直接是錯(cuò)的。
一個(gè)工具,最重要的是什么?
是效率嗎?
效率很重要,但第一優(yōu)先級(jí)是【可信】【可靠】,揮出錘頭就是可以砸進(jìn)去釘子而不是變成魔法少女變身器。
當(dāng)然,沒有說魔法少女變身器不好的意思。
這時(shí)候,ChatGPT,作為一個(gè)助手也好,搜索引擎也好,對話模擬器也好,最重要的是什么?
是【提供可信可靠】的反饋。
這就是ChatGPT當(dāng)下的問題,他提供的答案,不可靠。
不可靠就算了,并且還在試圖把這種不可信通過煞有介事地包裝變得可信。
就像是牛老師一本正經(jīng)地告訴你,自己是個(gè)男的,理論上不可能喜歡男的。
他,說,謊。
但你如果不知道,你很容易相信他,從而著了道。
很多富老頭就吃了有道德的虧。
隨手給兩個(gè)案例。
大家自己看一下ChatGPT的回答,以及看看問題是什么。
乍一看,這兩個(gè)回答都是有理有據(jù)的,甚至他還給你補(bǔ)全了詩句。
好溫柔好可靠我哭死。
但你再一看,這不就是渣男渣女嗎?
溫柔地講好聽的話,但其實(shí)全是刀子。
尤其是,這人講話那么井井有條,條理清晰,還會(huì)舉例。
是不是很可信?
如果你不知道這兩首詩,你會(huì)覺得這就是答案。
但現(xiàn)實(shí)是,這兩個(gè)答案,都是錯(cuò)的。
就像是外面鎖子甲,里面丁字褲。
先說說錯(cuò)在哪。
第一首詩,詩名搞錯(cuò)了,應(yīng)該是【九月九日憶山東兄弟】。
而且作者是王維,不是李煜。
就算作者真的是李煜,李煜算五代十國的南唐人,五代十國是唐宋之間的過渡期。
這都不是AI技術(shù)了,這叫時(shí)光機(jī)技術(shù)了。
第二首詩,作者是對的,朝代也是對的,但詩名還是錯(cuò)的。
這首詩是李白的《靜夜思》,而非《月下獨(dú)酌》。
甚至讀他對于詩的理解,也都有點(diǎn)問題,因?yàn)殪o夜思的重點(diǎn)顯然重點(diǎn)不是風(fēng)景和酒,是觸景生情,是思鄉(xiāng)。
就好像你說自己殺人不眨眼,我問你眼睛干不干一樣。
你都說不出到底哪個(gè)更離譜。
好了,現(xiàn)在問題就來了。
如果這個(gè)產(chǎn)品的答案,僅僅是錯(cuò)的,或者無法回答,都不叫問題。
但這個(gè)產(chǎn)品的核心問題在于,很多東西他講的不但是錯(cuò)的,他還本能的把這個(gè)錯(cuò)的東西給【包裝】了,而且理直氣壯。
大家可以再讀一遍這個(gè)回答,這是理直氣壯引經(jīng)據(jù)典的說錯(cuò)話。
某種程度上,確實(shí)是可以替代專家發(fā)言。
直接就掌握了廢話精髓。
我們都知道,瞎聽專家建議,人生會(huì)出問題。
這個(gè)東西,也是一樣的問題。
問題不是他說的是錯(cuò)的,而是出在這個(gè)【包裝】。
假如你不知道這個(gè)【知識(shí)】的答案(例如這兩首詩的作者和名字),你只看回答,你會(huì)覺得好對啊,邏輯好通暢啊,但這東西是錯(cuò)的。
這就是,誤導(dǎo)。
真把這東西用在生產(chǎn)力上,必然會(huì)極地讓你輕松。
因?yàn)槟愫芸炀蜁?huì)因?yàn)楣ぷ鞒霈F(xiàn)滑稽錯(cuò)誤被開除,直接不用工作了,當(dāng)然輕松。
這時(shí)候或許你會(huì)疑惑,那不就是一個(gè)不好使的搜索引擎嗎?至于用【危險(xiǎn)】嗎?
搜索引擎也有假信息啊,社會(huì)也有假新聞啊,短視頻也有信息繭房啊,這年頭假信息還少嗎?
至于這么上綱上線嗎?
至于,太至于了。
因?yàn)樾畔⒗O房撐死了影響你的思考,這東西已經(jīng)剝奪了你的思考。
你想,過去的搜索引擎是什么?
是給你一堆信息,你去篩選。
他們只提供信息,不提供答案,也不包裝答案,頂多提供點(diǎn)莆田醫(yī)院和性感荷官。
搜索引擎給你展示的結(jié)果有篩選,也有排序,但這些東西,你和他都知道是素材,是信息源,是需要人類手動(dòng)做二次交叉驗(yàn)證的。
最終的決策,是在人手里,而且給了足夠的信息。
但這個(gè)工具,直接是AI替你做出了選擇,你只剩yes和no。
NO。
你說這樣不好嗎?不是簡化了選擇嗎?
不不不。
舉個(gè)例子,村里的年豬,過去是,給他一堆結(jié)果,生活,交配,屠宰,吃飼料,讓他來選擇。
每條選擇背后,指向的是不同的結(jié)果。
現(xiàn)在是,只給它一個(gè)AI處理后的結(jié)果,紅燒,清蒸,油炸,香煎。
AI已經(jīng)提它排除掉了別的選擇,但這個(gè)結(jié)果本身有問題。
它怎么選,最后都是飛升。
看到這里,你肯定又覺得不對,因?yàn)槟壳斑@個(gè)產(chǎn)品只是用的離線庫,等用了在線庫之后,能實(shí)時(shí)更新之后,肯定回答是更加精準(zhǔn)的。
另外,技術(shù)也是不斷進(jìn)步的,后面肯定還有更精確的模型。
沒錯(cuò),我相信,也認(rèn)可。
一切都是技術(shù)問題,技術(shù)是可以不斷訓(xùn)練迭代的。
但在迭代的過程中,必然有代價(jià)產(chǎn)生,在這個(gè)過程中,用這東西產(chǎn)生的危險(xiǎn)和誤導(dǎo),怎么辦?
誰享受紅利,誰是那個(gè)代價(jià)呢?
各大奇跡建筑背后,你現(xiàn)在是后來者可以大聲贊嘆,你當(dāng)年會(huì)不會(huì)成為修建的人呢?
所以,我目前對這東西是非常警惕的。
不是因?yàn)檎_或者錯(cuò)誤,也不是因?yàn)樾省?/p>
而是他不給我信息,他提供的是【理直氣壯】的答案。
如果這里面的要素有問題,而你作為提問者,對這些問題本身不夠了解,那就是對你純粹的誤導(dǎo)。
就像是前面那兩個(gè)關(guān)于詩歌的問題,假如你信了他,從此你的知識(shí)結(jié)構(gòu)就缺了一角了。
但你如果對這個(gè)問題足夠了解了,你還用得著它嗎?
真假難辨,但理直氣壯,不能用嗎?
也不是不能用,但代表使用門檻相當(dāng)相當(dāng)高,要求使用者必須特別牛X,需要提前知道答案又或者特別擅長鑒別篩選信息,且觀察敏銳。
那有這個(gè)本事的人,直接用成熟的搜索引擎效率更高。
工具最重要的,是可靠,是從A到B這個(gè)過程,不能有問題。
這工具的問題就是,你期望從A到B,但他給你一個(gè)從A到SB的結(jié)果,還煞有介事的告訴你答案就是SB。
某種程度上,還真是對的。
這個(gè)時(shí)代,信息已經(jīng)夠碎片夠垃圾了,但這東西直接來了個(gè)油門踩到底。
短視頻,搜索引擎,給你的都是信息源,撐死了算是信息繭房。
這東西,是理直氣壯的給你總結(jié)歸納一堆不知真假的信息,并且說的井井有條。
這叫,信息危房。
就像數(shù)學(xué)題,不會(huì)就是不會(huì),而不是理直氣壯的給你一個(gè)錯(cuò)誤解,還寫出一大堆亂七八糟的公式和解釋。
這是考試騙卷面同情分呢?
而且最討厭的是,假如有個(gè)需求,你知道答案,也能分辨真假,他還會(huì)給你撂攤子。
就像牛老師的這種提問一樣。
作者:半佛仙人;公眾號(hào):仙人JUNP(ID:xrtiaotiao);
原文鏈接:https://mp.weixin.qq.com/s/yRqDUd5hEOXozhJDO5wb7Q
本文由 @半佛仙人 授權(quán)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自題圖來自與ChatGPT對話的截圖。
該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。
作為一個(gè)輔助工具尚可,中國文化博大精深,語言差異性很大,各產(chǎn)品之間數(shù)據(jù)分割,并不是隨隨便便訓(xùn)練下就可以的
chatGPT和當(dāng)初ai繪畫一樣,雖然已經(jīng)非常強(qiáng)大,但是仍不能代替專業(yè)領(lǐng)域人類的積累和思考。
地球的資源是有限的,但是思維是無限的,或許在將來,通過ai可以創(chuàng)造出另一種資源,讓人類可以更長久的生存發(fā)展。