中文字幕无码av不卡一区,亚洲综合AV永久无码精品一区二区,黑人巨大白妞出浆,黄色高清无码免费看,久久久久免费精品国产,久久无码人妻丰满熟妇区毛片,欧美日韩国产综合草草,久久福利网站,亚洲一区二区三区中文字幕在线,av国内精品久久久久影院

和操作系統一樣，大模型也有開源閉源的爭議。有的大模型原則開源造福人類，更多則是選擇閉源商業化；在大模型開閉源之爭背后，有著幾大核心問題。????

大模型市場已形成了“開源派”和“閉源派”。而當下，在大模型競爭進入市場爭奪的白熱化階段后，企業在開閉源上的交鋒也更為激烈。

實際上，大模型開源和傳統軟件開源不是一回事。在開源的定義、治理、社區性質、貢獻路徑和企業的開源策略上，都在發生巨大變化。

01 大模型企業開閉源策略各異

今年大模型的開閉源更為熱鬧，在閉源的企業，有開源的呼聲；在開源的企業，有閉源的動作。

百度內部對大模型開源、閉源的討論非常熱烈。大家都在思考，什么樣的方式能取得更多的競爭優勢。

在BATH幾家大廠中，百度、華為選擇閉源路線，阿里、騰訊則推出了開源大模型。

百度對于開閉源大模型的爭論，部分也來自阿里云等企業今年在開源上的聲勢和市場動作。

到目前為止，雖然百度文心一言仍堅持閉源路線，但百度智能云部門，在其平臺上提供了大量性能很強的第三方開源大模型。百度通過閉源文心一言，也通過開源大模型使用的算力、工具和服務，來實現商業上的收益。

在開源上，今年阿里云的動作極為密集。

5月在北京舉辦的AI峰會上，阿里云CTO周靖人表態，開源是阿里云的戰略，阿里云形成的是一個開源和閉源的整體體系。阿里云已開源了參數從5億到千億的數款模型，打法也更為專業。

業界認為，阿里云大力推廣開源，一方面是為了加快市場份額的爭奪；另一方面作為云計算企業，它可以采用“羊毛出在豬身上”的商業模式，在算力、工具和服務上獲得收益。周靖人在策略會上尤其強調“百煉”平臺的服務。而開源還能為其引流，有些客戶可能升級為閉源用戶。

與其他大模型企業相比，騰訊開源大模型較晚，今年5月對外開源了混元文生圖大模型?；煸嚓P人士告訴數智前線，由于市場上已有很多開源的大語言模型，因此騰訊這次選擇開源文生圖，應該是第一個中文原生的開源DiT模型，未來還會嘗試參數量更大的模型。由于剛開源幾周，商業化影響仍待觀察。

華為云2023年在推出盤古大模型3.0時，就表態采用閉源路線。過去一年，它的重心是在各行業進行聯創，落地大模型，并將技術回饋盤古，不斷迭代，未參與業界開閉源討論。華為云在上周也剛剛官宣盤古5.0多模態大模型，發布期間也未涉及開源問題。同時，華為云于去年上線“百模千態”專區，提供第三方開源大模型。

最近在項目訂單上活躍的智譜，是國內最早開源大模型的企業。因為智譜由清華技術成果轉化而來，2022年，它就將開發的雙語千億模型GLM-130B開源，“當時全國懂大模型的研究員加起來也不過百來人”。智譜CEO張鵬稱，開源讓大家知道智譜在做什么，同時可以讓更多人參與推動大模型。此后在2023年3月，智譜將GLM6b開源，該模型在Hugging Face上的下載量超過1600萬。

雖然張鵬認為開源的初心并不是要去贏得市場或追求商業利益，但ChatGPT爆火后，智譜的GLM開源大模型獲得大量關注，也讓這家2019年才成立的公司，在融資和商業化上受益頗多。張鵬也稱，開源和商業化是整個生態版圖里很重要的兩塊，這兩塊是有連接的，可以說開源充當著商業化的橋梁。

王小川的百川公司，去年作為創業的明星公司，發布了Baichuan-7B、13B開源可商用大模型，在業界引發關注。當時有應用開發商告訴數智前線，測試后，他們從Meta的Llmma轉向百川，因為中文效果更好。

百川開源時，國內大模型開源的還很少。此后，越來越多的大模型公司，包括大廠，開始開源。百川聯合創始人謝劍告訴數智前線，未來還會開源，但不會開源特別大參數的模型，因為很多人用不起來。

最近快手的文生視頻大模型“可靈”很火爆，不少應用企業“祈盼”可靈開源。但快手相關人士表示，暫不考慮開源，而會逐步開放一些東西在業界討論。

而昆侖萬維最近開源了一個稀疏大型語言模型Skywork-MoE，為應對大規模密集型大語言模型帶來的挑戰。昆侖萬維兼天工智能首席科學家顏水成告訴數智前線，開源大模型幫助學界進行探索性工作，而公司也推出音樂、游戲等垂類模型，將采用閉源商業模式。

李開復的創業公司零一萬物，是這波大模型獨角獸中最后一家開源的企業。公司開源負責人林旅強非常坦率，認為開源和閉源是商業設計問題。零一萬物也采取了開源、閉源并進的模式。開源在一定程度上扮演了商業拓展角色。同時，今年零一萬物發布千億參數模型Yi-Large，一些使用了開源模型的客戶有望轉化到該閉源模型上。

02 開源大模型與開源軟件有三大區別

雖然大模型開源如火如荼，但業界一直在詬病它的透明度，質疑為什么好多信息，企業不公開。

實際上，大模型開源和傳統軟件開源不是一回事。

紅帽中國首席架構師張家駒告訴數智前線，軟件開源是指源代碼開源，拿到源代碼，我們就“知其然也知其所以然”，也可以在源代碼基礎上，去修改或增加新功能。

但大模型是一個黑盒子，里面有很多至今無法解釋的現象，所以對大模型的開源，業界提出了更多維度，有的說需要四部分——權重、數據集、代碼和訓練過程；也有的說需要五部分，還包括了框架。即使是這些定義，業界也有不同意見：為什么會有這樣的定義？這更像是從傳統開源軟件的思路來考慮的。

有趣的是，只有極少數公司或機構的大模型，同時開源了上述四部分或五部分，比如IBM剛剛開源出來的Granite大語言模型；也有像智源研究院、馬斯克旗下大模型公司xAI ，開源了權重和數據集。比如，根據智源人工智能研究院副院長兼總工程師林詠華的介紹，今年6月，智源最新開源數據集分為兩類，一類是通用開源指令微調數據集，一類是行業垂類數據集，涵蓋18個行業。

“現在業界的共識是，至少將權重再加上一些推理代碼開源?！绷阋蝗f物林旅強說，只有這兩部分開源，其他人才可以將開源大模型使用起來。由此，開源大模型現在的定義，有點像微軟提過的“免費軟件”。所以，谷歌等公司在其官網上稱是開源權重（open weight），而不是開源大模型。

為什么在開源大模型中，權重如此重要？

有業界人士將權重打比方為“一大堆數字”，一個13B的模型，就有130億個數。這些數字與模型如何處理輸入的數據、如何做出預測和生成文本等相關，代表了一個大模型的智慧。

而在大模型中，代碼分為預訓練代碼、微調代碼和推理代碼。預訓練代碼是大模型公司的核心；對于微調代碼，市場上已有很多公開方法，而大模型要被用起來，需要推理代碼。至于訓練過程和數據集，往往也是大模型廠商的核心所在。

與傳統軟件不同，在大模型開源上，企業的態度有了微妙的變化?，F在大模型的成本太過高昂，訓練一個千億級參數模型，要幾千萬甚至上億，因此，很多公司在開源問題上變得保守。這是一個現實問題，每家公司的開源，必然服務于自己的商業戰略。而且，即便將這些核心都開源出來，大多數工程師和企業也沒有那么多資源去復現。

業內人士認為，開源大模型和開源軟件有三個核心區別：

一是透明度完全不一樣。開源軟件的代碼能說明一切，從而可以形成一套治理體系；大模型當下還是一個黑盒子，內部機理還是未知的。

二是大模型社區的性質發生了變化。之前開源社區講求全球工程師來貢獻；但因為算力等資源限制，在大模型社區里，或許90%以上的工程師，無法直接為大模型貢獻，因此很多社區變成了單向模式，大家只是使用大模型。在HuggingFace上，Meta的Llmma開源大模型，已經有幾千個變種，但彼此之間沒有太多交互，也很難將創新合并。

其三是大模型企業開源策略發生變化。中國信通院知識產權與創新發展中心產業發展研究部主任張俊霞說，因為大模型的訓練投入特別大，這導致企業在開源策略的選擇上，特別是在一些許可或信息披露上，都有很大不同?！斑@個問題現在不管是國內還是國際社區，都在非常激烈地討論?！?/p>

不過，近期，一些動態正在發生。

比如，紅帽在社區貢獻上有了嘗試動作。一方面IBM開源了Granite模型；另一方面，“訓練過程”在另外一個開源項目InstructLab中。由IBM出資建設了一個平臺。每過一段時間，就把大家“集”來的數據放在上面“訓”，形成模型的迭代。同時，用戶也可以選擇保留自己的數據，訓練分叉的模型?！翱蛻舨挥谩善健?，可以用他們的場景、經驗參與到調試當中，不斷在變化之中調優?！奔t帽大中華區資深市場總監趙文斌告訴數智前線。

而張俊霞認為，大模型時代，對開源的定義以及未來的治理，不管是從項目層面、企業層面還是從國家層面，也都會發生一些翻天覆地的變化。

03 “開源的目的不是一定要超越閉源”

除了如何定義開源大模型，開源派和閉源派，在開閉源大模型孰強孰弱和安全性上，有著交鋒。

如果在當下這個時間點，OpenAI等的閉源模型比較強?！暗灰馕吨]源會持續遙遙領先?！绷阋蝗f物林旅強說，未來當算力平民化，再加上互聯網協作精神，可能5年、10年，開源大模型就會變得更強。

不過，智源研究院智能評測組負責人楊熙從評測角度看，單純把開源模型和閉源模型放在一起來比較，可能有失公允。因為閉源大模型可能是一套體系，比如包含了檢索增強等技術，而開源模型是一個單體模型，拿“多對一”，肯定不合理。

而紅帽張家駒認為，開源的目標不是說一定要超過閉源?！凹幢阒叭蚬こ處熀狭ψ鯨inux，目標也不是要超過閉源?！遍_源的價值是更加公開透明，技術上更加平權，不會讓其成為少數人牟利的手段?！案鼮殛P鍵的是，對于人工智能來說，如果未來走向AGI，開源讓AI的發展走向，更符合全人類的利益，這一點的價值要遠高于在某一方面去超越閉源。”

而開源和閉源大模型誰更安全，業界也有著爭議。開源派認為，在閉源環境當中，大家不知道有沒有人監督它。開源的好處是一旦出現一些安全問題，整個社區會來共同檢查。

但也有人士認為“開源也會帶來各種意想不到的問題”。比如，開源可能將大模型交到了“恐怖分子”手里?！芭e個例子，開源大模型的數據集，如果別人加了一些數據，訓練出大模型去干了違法的事?！币患掖竽Ｐ推髽I開源負責人對數智前線說，雖然他們也有開源大模型。另外，現在各國都強調數據主權，數據開源后怎么追蹤也是問題?！八試夜膭铋_源，但不是無限制的開源?！?/p>

對于這些觀點交鋒，智源研究院楊熙稱，開源、閉源其實都存在透明性、合規性、安全性的問題，也涉及治理問題。

信通院張俊霞提出，關于治理，其實大模型是一個技術性非常強的領域，所以“技術的問題，一定要依賴技術”。她看到，谷歌發布了一款開源工具Model Explorer，幫助人們理解大模型技術的內部工作機制；IBM、微軟也發布了關于開源大模型或人工智能的倫理和解決手段，非常值得學習參考；今年1月，騰訊發布了安全治理框架，涉及一個模型整個生命周期里每個階段的安全技術、問題和管理等。

楊熙則強調，開源其實對模型內在機理的刻畫和理解，非常有幫助?！霸谖铱磥?，開源和閉源是一個硬幣的兩面?！敝亲V楊熙稱，開源可能促進我們更多的探索性和基礎性工作；閉源更多促進產品化和商業化，推動大模型走進每個人的生活。這兩件事其實不應該是之爭，而是和諧共存。

“現在，什么樣的框架最適合從行業監管角度，既不太過于增加企業的負擔，又能夠實現行業事前、事中、事后的一個完整的監管，其實全球還沒有一個統一的答案，仍然在探索過程中?！睆埧∠颊f。

04 開源閉源，商業化應用如何選擇

在開閉源的選擇上，智譜張鵬認為，如果只是想做一些實驗和嘗試，可以選擇開源模型，但如果想要在上面做商業化應用，大部分人還是會選擇商業化版本，因為有保障，能夠提供更好的服務。

這代表了業界、尤其是ToB行業很多人士的觀點。

紅帽張家駒則認為，無論是開源、閉源，需要優先考慮客戶是否需要本地部署大模型。無論國內外，不少客戶都有自主可控的需求。如果采用公有云上的模型，比如OpenAI，客戶要考慮數據暴露信息的問題。“這是個很重要的問題。”

值得注意的是，閉源大模型是否能部署到本地，需要獲得允許。開源大模型同樣需要依據一些協議以及合規性。從技術角度來講，很多開源部署到本地是可行的。而開源可以方便地進行微調，打造行業大模型，這是其優勢。

除了本地化部署之外，也有企業需要調用公有云上的大模型?！按竽Ｐ偷男枨笠欢ㄊ情_放混合的?！睆埣荫x說。

大模型應用開發商北京可為是最早在市場監督管理領域，打造、落地行政執法垂直大模型的企業。公司聯合創始人曾明告訴數智前線，他們在開閉源大模型中，最終選擇了開源大模型。一方面，行政執法是比較知識化的應用，去年他們在測試驗證中就發現，當時的開源模型在解決主要場景上，已經符合要求；另一方面，成本是重要的因素之一。同時，這類垂直大模型屬于政務應用，客戶對數據安全要求極高，不能觸碰紅線，需要私有化部署，而開源模型在這方面更為靈活方便。

“在選擇開源大模型的過程中，我們做了很多驗證，做的最苦的也最有意思的，就是這個過程。”曾明說，他們不斷對不同模型驗證，對自己的訓練策略驗證。“你要教大模型，去還原人類推理和思考的過程。所謂的夠用與不夠用，就看推理的結果是不是能達到要求?！?/p>

此外，不少業界人士認為，目前企業開源的大模型通常是中低版本的，而閉源的模型性能更強，更適合比較高要求的應用，如當下大模型企業與標桿客戶聯合共創的類型。而大多數普通應用場景，開源已能滿足要求。

大模型時代，無論對開源的定義、治理還是社區運營、商業化，目前都處于快速演變之中。上述問題仍在激烈的碰撞和演進中。