Sora大秀開啟大模型新紀元,如何看待算力挑戰(zhàn)?
AI技術不斷發(fā)展,與之相應的,算力需求也不斷增加。如何看待當前AI時代所面臨的算力挑戰(zhàn)呢?這篇文章里,作者分享了他的看法,一起來看一下。
今年春節(jié)我們見證了Sora的驚艷表現(xiàn)?,F(xiàn)在的大模型,已經(jīng)進入了新的發(fā)展階段。從技術,到具體的應用場景,生成式AI正在更多領域,發(fā)揮出驚人的潛力。
麥肯錫報告顯示,生成式AI每年將為全球經(jīng)濟增加4.4萬億美元的價值。生成式AI可自動化節(jié)省 60%到70%的員工時間來提高生產力。在2030年至2060年間,有近一半的工作將實現(xiàn)智能化水平。
但是不可否認的是,隨著AI不斷發(fā)展,它對于算力的需求會持續(xù)增加,這也讓整個行業(yè)都處在“焦慮”之中,如何破解AI時代的算力危機,也成為行業(yè)必須面對的問題。
一、生成式AI爆發(fā),對企業(yè)價值體現(xiàn)
當下,大模型主導的生成式AI,尤其是GPT-4的發(fā)布,讓人類社會看到了通用人工智能時代的曙光。這意味著,作為生產力工具甚至是數(shù)字時代的“新基建”的人工智能技術,不用再局限于單一或有限場景,而是能夠在眾多領域像人類一樣進行思考、解決問題,并進行持續(xù)、快速的自我進化,因此,大模型主導的生成式AI,將擁有極為廣闊的應用前景,有望賦能千行百業(yè)。
隨著生成式人工智能的爆發(fā),對企業(yè)和個人的價值帶來了許多新的機遇和優(yōu)勢:
- 創(chuàng)造性內容生成:生成式 AI 可以幫助企業(yè)和個人快速生成創(chuàng)造性的內容,包括文字、圖像、音頻和視頻等。這些內容可以用于廣告營銷、品牌宣傳、內容創(chuàng)作等方面,為企業(yè)和個人節(jié)省時間和成本,提高創(chuàng)作效率和質量。
- 個性化服務和體驗:生成式 AI 可以根據(jù)用戶的個性化需求和偏好生成定制化的服務和體驗。企業(yè)可以利用生成式 AI 技術提供個性化的產品推薦、定制化的服務等,提高用戶滿意度和忠誠度。
- 創(chuàng)新和產品開發(fā):生成式 AI 可以幫助企業(yè)和個人快速生成新的創(chuàng)意和概念,促進產品和服務的創(chuàng)新和開發(fā)。通過生成式 AI 技術,可以快速驗證和探索各種想法和可能性,為創(chuàng)新提供更多可能性。
- 數(shù)據(jù)增強和擴展:生成式 AI 可以幫助企業(yè)和個人生成大量的合成數(shù)據(jù),用于數(shù)據(jù)增強和擴展。這些合成數(shù)據(jù)可以用于模型訓練、數(shù)據(jù)標注、測試和驗證等方面,提高模型的性能和泛化能力。
- 個人創(chuàng)作和娛樂:對于個人而言,生成式 AI 可以成為創(chuàng)作和娛樂的有力工具。通過生成式 AI 技術,個人可以快速生成各種藝術作品、創(chuàng)意內容和娛樂產品,拓展個人創(chuàng)作和娛樂的領域。
但是,值得注意的是,生成式 AI 對算力的需求通常較高,特別是在訓練大型模型和處理大規(guī)模數(shù)據(jù)時。由于生成式 AI 模型通常具有復雜的結構和大量的參數(shù),因此需要大量的計算資源來進行訓練和推理。隨著生成式 AI 技術的不斷發(fā)展和應用,對算力的需求將會繼續(xù)增加,需要更多的計算資源來支持。
二、AI狂奔,算力問題不可忽視
隨著AI技術的迅速發(fā)展,越來越多的人開始關注AI算力問題。AI算力問題指的是,在處理復雜的AI模型和算法時需要大量的計算資源,而這種計算資源又需要消耗大量的時間和能源。
以下是生成式 AI 對算力需求的一些方面:
模型訓練:生成式 AI 模型的訓練是一個非常計算密集的過程。這些模型通常由數(shù)百萬甚至數(shù)十億個參數(shù)組成,需要在大規(guī)模數(shù)據(jù)集上進行多輪迭代的訓練。由于訓練過程中需要進行大量的矩陣運算和梯度計算等計算密集型操作,因此需要強大的計算資源來加速訓練過程。
例如,ChatGPT的訓練參數(shù)達到了1750億、訓練數(shù)據(jù)45TB,每天生成45億字的內容,支撐其算力至少需要上萬顆英偉達的GPU A100,單次模型訓練成本超過1200萬美元。
推理和生成:一旦生成式AI模型訓練完成,推理和生成過程也需要大量的計算資源。在推理過程中,模型需要根據(jù)輸入數(shù)據(jù)生成相應的輸出,這涉及復雜的矩陣運算和神經(jīng)網(wǎng)絡計算,因此需要強大的計算能力來保證推理速度和生成質量。
制造沖突性單個Token的推理過程整體運算量為 2×大模型參數(shù)量,因此大模型推理側每日算力需求=每日調用大模型次數(shù)×每人平均查詢Token數(shù)量×2×大模型參數(shù)量,僅以Google搜索引擎為例,每年調用次數(shù)至少超過2萬億,一旦和大模型結合,其AI 算力需求將十分可觀。
模型優(yōu)化和調整:生成式AI模型的優(yōu)化和調整也需要大量的計算資源。在模型訓練完成后,通常需要對模型進行調參、微調和優(yōu)化,以進一步提高模型的性能和生成質量。這些過程也需要耗費大量的計算資源。
大規(guī)模數(shù)據(jù)處理:生成式AI模型通常需要在大規(guī)模數(shù)據(jù)集上進行訓練和推理,因此需要強大的計算資源來處理和管理這些數(shù)據(jù)。這包括數(shù)據(jù)的存儲、讀取、預處理等過程,需要高效的計算資源來支持。
因此,我們看到,對于算力需求,隨著AI技術的發(fā)展和應用場景的擴大,算力需求也在不斷增加。AI模型的訓練和推理都需要大量的計算資源支持,特別是深度學習模型等復雜模型需要更多的算力來訓練和運行。
三、算力未來發(fā)展趨勢
隨著這個趨勢的深入,半導體行業(yè)的收入葉城縣指數(shù)級增長。Gartner預計,AI半導體收入將在預測期內繼續(xù)保持兩位數(shù)增長,2024年將增長25.6%,達到671億美元(約4884.88億元人民幣),到2027年,AI芯片收入預計將比 2023 年的市場規(guī)模增長一倍以上,達到1194億美元(當前約8692.32億元人民幣)。
因此,面對AI對于算力的需求以及算力市場的發(fā)展,算力行業(yè)也有一些措施來應對:
- 提高硬件性能和效率:算力行業(yè)應該不斷提升硬件設備的性能和效率,包括 CPU、GPU、TPU等,以滿足 AI 技術對算力的不斷增長需求。同時,還可以通過優(yōu)化硬件設計和制造工藝,提高算力設備的能效比,降低能耗成本。
- 推動算力技術創(chuàng)新:算力行業(yè)應該持續(xù)推動算力技術的創(chuàng)新,包括算法優(yōu)化、并行計算、分布式計算等方面。通過不斷創(chuàng)新和提升技術水平,提高算力設備的性能和效率,降低計算成本,滿足 AI 技術的需求。
- 拓展云計算服務:算力行業(yè)可以通過拓展云計算服務,為企業(yè)和個人提供彈性的計算資源,滿足不同場景下的算力需求。通過提供云計算服務,可以實現(xiàn)資源的靈活調配和共享利用,提高算力資源的利用率和效率。
- 加強行業(yè)合作與共享:算力行業(yè)可以加強與企業(yè)、研究機構等相關領域的合作與共享,共同推動算力技術的發(fā)展和應用。通過合作共享的方式,可以更好地利用各方資源,提高算力行業(yè)的整體競爭力和服務水平。
綜上所述,隨著 AI 技術的發(fā)展和應用,算力需求將會持續(xù)增加,算力行業(yè)應該通過提高硬件性能和效率、推動技術創(chuàng)新、拓展云計算服務、加強行業(yè)合作與共享等措施,應對這一趨勢,實現(xiàn)行業(yè)的持續(xù)發(fā)展和進步。
四、我國算力領域發(fā)展如何?
我國算力產業(yè)規(guī)模快速增長,近5年平均增速超過30%,算力規(guī)模排名全球第二。各地根據(jù)自身資源稟賦特點和產業(yè)優(yōu)勢,紛紛制定規(guī)劃,加快布局發(fā)展算力產業(yè)。
一方面,加快打通通道,推動數(shù)據(jù)快進快出,相繼建成國家級互聯(lián)網(wǎng)骨干直聯(lián)點、國際互聯(lián)網(wǎng)數(shù)據(jù)專用通道、根服務器鏡像節(jié)點和國家頂級域名節(jié)點,加快建設全國“東數(shù)西算”南線主干道。另一方面,通過建設算力超市和算力調度平臺,組織算力提供方、需求方和上下游企業(yè)進場對接。
相關數(shù)據(jù)顯示,截至目前,全國在用數(shù)據(jù)中心機架總規(guī)模超過760萬標準機架,算力總規(guī)模達到每秒1.97萬億億次浮點運算(197EFLOPS),位居全球第二,服務器、計算機、智能手機等計算類產品產量全球第一,圍繞算力樞紐節(jié)點建設130條干線光纜,算力應用廣泛深入到政務、工業(yè)、交通、醫(yī)療等領域,不斷催生新技術、新模式、新業(yè)態(tài),算力賦能千行百業(yè)正向縱深推進,成為傳統(tǒng)產業(yè)轉型升級的重要支點,為經(jīng)濟高質量發(fā)展注入了強大動力。
寫在最后
當前,數(shù)字經(jīng)濟作為新經(jīng)濟形態(tài),正成為重組全球要素資源、重塑全球經(jīng)濟結構、重構全球競爭格局的關鍵力量。當前,我國算力產業(yè)已初具規(guī)模,正加速向政務、工業(yè)、交通、醫(yī)療等領域拓展深化,推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能與實體經(jīng)濟深度融合,持續(xù)賦能千行百業(yè)。
作者:賈桂鵬
來源公眾號:元宇宙新聲
本文由 @元宇宙新聲 原創(chuàng)發(fā)布于人人都是產品經(jīng)理。未經(jīng)許可,禁止轉載。
題圖來自 Unsplash,基于 CC0 協(xié)議。
該文觀點僅代表作者本人,人人都是產品經(jīng)理平臺僅提供信息存儲空間服務。
- 目前還沒評論,等你發(fā)揮!