ChatGPT很厲害,但還有關(guān)鍵問(wèn)題懸而未決
ChatGPT被應(yīng)用的領(lǐng)域越來(lái)越廣,人們感嘆其能力的同時(shí),也開(kāi)始擔(dān)憂(yōu)AI生成內(nèi)容的倫理和法律問(wèn)題,如:如何分辨一篇文章的“作者”到底是人還是機(jī)?AI的抄襲、剽竊和作弊涉及的版權(quán)問(wèn)題又該如何處理?文章中提到了AI背后的學(xué)術(shù)隱憂(yōu),以及AI引發(fā)版權(quán)問(wèn)題,歡迎探討與思考。
1月27日,路透社消息稱(chēng)法國(guó)頂尖學(xué)府之一的巴黎政治學(xué)院宣布該校將禁止使用ChatGPT,對(duì)使用該軟件的處罰可能會(huì)嚴(yán)重到被學(xué)校開(kāi)除,甚至被整個(gè)法國(guó)高等教育開(kāi)除。
“ChatGPT軟件正在向全世界的教育工作者和研究人員提出一個(gè)涉及欺詐和剽竊的嚴(yán)肅問(wèn)題,”巴黎政治學(xué)院在這份通知中稱(chēng),“在沒(méi)有透明參考的情況下,除特定課程目的外,學(xué)生不得使用該軟件制作任何書(shū)面作品或演示文稿?!?/p>
巴黎政治學(xué)院并不是第一所宣布禁用ChatGPT的學(xué)校。ChatGPT發(fā)布不到一個(gè)月,就引起了美國(guó)教育界的高度重視。多所美國(guó)中學(xué)及大學(xué)陸續(xù)宣布校內(nèi)禁用ChatGPT,并通過(guò)減少課后作業(yè)的方式,避免學(xué)生利用家庭網(wǎng)絡(luò)訪(fǎng)問(wèn)ChatGPT作弊。美國(guó)紐約市教育部,甚至要求全紐約市的學(xué)生和教師不要使用這款A(yù)I工具,并對(duì)下轄的教育部設(shè)備或互聯(lián)網(wǎng)設(shè)卡,限制訪(fǎng)問(wèn)ChatGPT。
AI生成內(nèi)容的倫理和法律問(wèn)題,正在引發(fā)社會(huì)各界的廣泛討論與思考。
01 AI背后的學(xué)術(shù)隱憂(yōu)
“ChatGPT很好玩,但它不是作者”,這是《Science》期刊主編Holden Thorp在1月26日發(fā)表的一篇關(guān)于人工智能的社論。Holden Thorp指出,“原創(chuàng)”是Science發(fā)表論文的基礎(chǔ),而利用ChatGPT編寫(xiě)文本的行為,等同于從ChatGPT中抄襲。
“我們正在更新編輯政策,要求作者不要使用ChatGPT(或任何其他人工智能工具)生成的文本、數(shù)據(jù)、圖像或是圖形。違反這一政策將被Science期刊視為學(xué)術(shù)不端行為,這與篡改圖像或抄襲無(wú)異。”不過(guò)Holden Thorp也表示,上述規(guī)定并不包含AI論文中以研究為目的生成的數(shù)據(jù)。
在AI學(xué)界,知名機(jī)器學(xué)習(xí)會(huì)議之一的ICML(International Conference on Machine Learning)最近也宣布禁止“發(fā)表包含從大型語(yǔ)言模型(LLM,Large Language Model)生成的文本(例如 ChatGPT)的論文(相關(guān)研究除外)”,以免出現(xiàn)“意想不到的后果和無(wú)法解決的問(wèn)題”。
對(duì)于學(xué)術(shù)期刊和頂會(huì)論文來(lái)說(shuō),AI生成的內(nèi)容最大的問(wèn)題在于知識(shí)權(quán)屬和責(zé)任確定問(wèn)題。作為論文作者,研究人員無(wú)疑要對(duì)論文的觀點(diǎn)和內(nèi)容負(fù)責(zé),而AI要如何對(duì)文章內(nèi)容負(fù)責(zé)?如果AI生成的內(nèi)容出現(xiàn)了謬誤、不恰當(dāng)、造假,甚至是抄襲剽竊,又該如何追責(zé)呢?
考慮到“AI作弊”帶來(lái)的普遍問(wèn)題,目前從OpenAI官方,到學(xué)術(shù)期刊出版商,以及“草根”開(kāi)發(fā)者都在研究如何分辨一篇文章的“作者”到底是人還是機(jī)?
目前,OpenAI正在研發(fā)相應(yīng)的AI檢測(cè)工具。OpenAI客座研究員Scott Aaronson在德克薩斯大學(xué)的一次演講中表示,他們正在通過(guò)給AI生成內(nèi)容打“水印”來(lái)打擊作弊。這項(xiàng)技術(shù)將通過(guò)調(diào)整ChatGPT生成單詞的規(guī)則,在生成內(nèi)容的特定位置制造“偽隨機(jī)”的特定單詞,讀者很難察覺(jué),但就如同密電碼一樣,“握有密鑰”的人就輕易判斷這篇內(nèi)容是否是ChatGPT生成的了。
《Nature》的出版商Springer Nature也正在開(kāi)發(fā)可以檢測(cè)LLM的技術(shù)。而就在前不久,普林斯頓大學(xué)的一位22歲的華裔學(xué)生Edward Tian研究出了一款專(zhuān)門(mén)給ChatGPT挑毛病的應(yīng)用GPTZero,可以通過(guò)檢測(cè)文本的“困惑性(Perplexity)”和“突發(fā)性(Burstiness)”這兩項(xiàng)指標(biāo),來(lái)判斷內(nèi)容是人類(lèi)創(chuàng)作還是機(jī)器生成。
02 AI引發(fā)版權(quán)問(wèn)題
在校外,AI本身的“道德”問(wèn)題,則讓美術(shù)“老師”們對(duì)新生的AI繪圖工具提出了嚴(yán)重的質(zhì)疑,這直指另一個(gè)至關(guān)重要的問(wèn)題——版權(quán)。
自從AIGC火了以后,很多行業(yè)的配圖工作變得輕松了許多。以媒體行業(yè)為例,嚴(yán)肅媒體對(duì)新聞配圖要求高,既要符合文意,又要對(duì)版權(quán)負(fù)責(zé)。所以無(wú)論是美術(shù)作品還是照片,要么是親手創(chuàng)作,要么來(lái)自授權(quán)圖庫(kù),但很多文章受客觀條件限制,要找到一張符合要求的配圖并不容易。
有了AI繪圖以后,很多媒體人開(kāi)始嘗試用AI畫(huà)配圖,甚至是直接繪制新聞人物的肖像。那發(fā)自己用AI做的圖,總不會(huì)侵權(quán)吧?這個(gè)問(wèn)題,還真不一定。
2022年下半年,AIGC剛剛躥紅,就有一些小有名氣的藝術(shù)家對(duì)AI繪圖提出了抗議。2022年,Erin Hanson等眾多美國(guó)藝術(shù)家發(fā)起了反對(duì)Stable Diffusion的抗議行動(dòng),他們認(rèn)為Stable Diffusion生成的部分畫(huà)作抄襲了他們的風(fēng)格,而這種行為嚴(yán)重侵犯了他們的合法權(quán)益。
AIGC雖然叫做AI生成,但其本身并沒(méi)有創(chuàng)造能力,只能通過(guò)不斷學(xué)習(xí)人類(lèi)的生產(chǎn)過(guò)程,照貓畫(huà)虎,AI繪圖就是典型。在AI訓(xùn)練過(guò)程中,需要“投喂”大量的人類(lèi)畫(huà)作,從而學(xué)習(xí)人類(lèi)的構(gòu)圖、繪畫(huà)技巧,實(shí)現(xiàn)AIGC(AI Generative Content,AI生成內(nèi)容)。
不過(guò)在這個(gè)生成的過(guò)程中,AI學(xué)的實(shí)在太像了,以至于很多畫(huà)作直接與模型庫(kù)中的人類(lèi)畫(huà)師風(fēng)格完全一致。
“稍有名氣的畫(huà)師可能都遇到過(guò)作品被盜用、創(chuàng)意被侵權(quán)的事件?!币晃粐?guó)內(nèi)某知名游戲公司的美術(shù)總監(jiān)向虎嗅表示,雖然AI沒(méi)有完全盜用畫(huà)師的作品,但畫(huà)師對(duì)風(fēng)格上的抄襲也是很難接受的,不論抄襲者是人類(lèi)還是AI?!叭绻腥四弥c我繪圖風(fēng)格完全一樣的畫(huà),說(shuō)是學(xué)習(xí)或是參考我覺(jué)得沒(méi)什么。但如果說(shuō)這是他‘生成’的,那就跟聲明原創(chuàng)沒(méi)什么差別了。不管是否用于商業(yè)用途,我都會(huì)覺(jué)得被嚴(yán)重冒犯了?!?/p>
AI的抄襲、剽竊和作弊不應(yīng)該只是道德問(wèn)題,還需要法律法規(guī)的約束。而目前,AI在很多領(lǐng)域都存在法律盲區(qū)。
我國(guó)AI領(lǐng)域的立法還處于建章立制階段。當(dāng)前已經(jīng)出臺(tái)了兩部與AI相關(guān)的監(jiān)管條例,分別是《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,并均已開(kāi)始生效。除此以外,還有一些分散在《民法典》、《數(shù)據(jù)安全法》、《網(wǎng)絡(luò)安全法》、《個(gè)保法》、《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)中的個(gè)別條款規(guī)定以及一些支持產(chǎn)業(yè)發(fā)展性質(zhì)的文件,目前來(lái)說(shuō)還沒(méi)有成為一個(gè)完整的體系。
“AI生成內(nèi)容是一項(xiàng)新興的技術(shù),法律的滯后性和穩(wěn)定性導(dǎo)致目前還沒(méi)有專(zhuān)門(mén)對(duì)這種AI疑似抄襲的現(xiàn)象進(jìn)行規(guī)制?!庇^韜中茂律師事務(wù)所合伙人王渝偉表示,從國(guó)外行業(yè)實(shí)踐來(lái)看,越來(lái)越多的平臺(tái)和AI繪圖工具對(duì)作品版權(quán)作出了嚴(yán)格要求,謹(jǐn)防AI抄襲導(dǎo)致著作權(quán)侵權(quán)。在我國(guó),目前還是應(yīng)當(dāng)根據(jù)《著作權(quán)法》,判斷AI生成內(nèi)容與人類(lèi)藝術(shù)家作品之間是否存在實(shí)質(zhì)性相似,進(jìn)而認(rèn)定是否抄襲。
除了涉嫌抄襲藝術(shù)家作品的AIGC內(nèi)容,在另一方面,即使是隨機(jī)生成的內(nèi)容及畫(huà)作,也還是會(huì)涉及版權(quán)問(wèn)題。
AI繪圖在抖音和小紅書(shū)上剛剛興起之時(shí),即有腦洞大開(kāi)的網(wǎng)友提出,可以把AI生成的圖片掛到付費(fèi)圖庫(kù)作為收費(fèi)資源,實(shí)現(xiàn)“躺賺”。
面對(duì)這樣的騷操作,Adobe選擇“有限制”地開(kāi)放AI繪圖。只要符合特定標(biāo)準(zhǔn),就允許在圖片庫(kù)Adobe Stock中上傳生成式 AI 藝術(shù)品進(jìn)行售賣(mài)。但上傳前必須標(biāo)記 AI 制作的內(nèi)容,并且需要擁有其參考圖像或文本的商業(yè)版權(quán)。
作為一款開(kāi)源模型,Stable diffusion的開(kāi)發(fā)者Stability AI和RunwayML則認(rèn)為既然開(kāi)源,那么它也應(yīng)該依此引用開(kāi)源CC0協(xié)議,即版權(quán)歸公,同時(shí)任何人也可以自由地使用,包括商業(yè)使用。而對(duì)于DALL-E 2和Midjourney這樣并未開(kāi)源的AIGC模型來(lái)說(shuō),生成內(nèi)容的權(quán)屬則相對(duì)模糊。
目前AIGC市場(chǎng)上也存在很多版權(quán)亂象,一些基于Stable Diffusion開(kāi)發(fā)應(yīng)用的廠(chǎng)商聲稱(chēng),使用自己AI程序生成的圖片版權(quán)歸自己,甚至依此生產(chǎn)NFT向使用者兜售。
對(duì)此,王渝偉認(rèn)為,AI應(yīng)用的使用者,在使用這種應(yīng)用進(jìn)行創(chuàng)作時(shí),生成的圖片如果符合獨(dú)創(chuàng)性的要件,就能夠構(gòu)成《著作權(quán)法》上的作品。而廠(chǎng)商已明確告知了使用者著作權(quán)的歸屬問(wèn)題,相當(dāng)于在合同中已經(jīng)進(jìn)行了約定,所以這種作品的著作權(quán)應(yīng)當(dāng)歸屬于廠(chǎng)商。并不是說(shuō)AI應(yīng)用基于開(kāi)源模型開(kāi)發(fā),它所生成的作品就不存在著作權(quán),還是應(yīng)當(dāng)根據(jù)《著作權(quán)法》的規(guī)定判定著作權(quán)歸屬。
“目前相關(guān)法律制定最大的障礙和阻力,可能是法律如何保持科技發(fā)展和倫理價(jià)值的平衡。”王渝偉提出,一方面,AI技術(shù)的高速發(fā)展,可能會(huì)與人類(lèi)的基本倫理認(rèn)知相違背,違反社會(huì)公序良俗;另一方面,法律的規(guī)制也不能對(duì)AI技術(shù)設(shè)置過(guò)于嚴(yán)苛的標(biāo)準(zhǔn),影響AI的進(jìn)一步發(fā)展。
作者:齊健;編輯:陳伊凡;出品:虎嗅科技組
來(lái)源公眾號(hào):虎嗅APP(ID:huxiu_com),從思考,到創(chuàng)造
本文由人人都是產(chǎn)品經(jīng)理合作媒體 @虎嗅 授權(quán)發(fā)布,未經(jīng)許可,禁止轉(zhuǎn)載
題圖來(lái)自 Unsplash,基于 CC0 協(xié)議
該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。
因?yàn)閍i 的訓(xùn)練數(shù)據(jù)來(lái)自人工