深度|李飛飛:我不知道什么是AGI

0 評(píng)論 359 瀏覽 0 收藏 9 分鐘

“我們不僅僅是為了命名事物而看……我們真正是為了做事、導(dǎo)航世界、相互互動(dòng)而看,縮小看與做之間的差距需要空間知識(shí)。作為一名技術(shù)專家,我對(duì)此感到非常興奮。”

你對(duì)人工通用智能(AGI)感到困惑嗎?這就是 OpenAI 執(zhí)著于最終以“造福全人類”的方式創(chuàng)造的東西。你可能想認(rèn)真對(duì)待他們,因?yàn)樗麄儎偦I集了 66 億美元以更接近這個(gè)目標(biāo)。

但如果你仍然在想究竟什么是 AGI,你并不孤單。

在周四的 Credo AI 負(fù)責(zé)任的人工智能領(lǐng)導(dǎo)峰會(huì)上,世界著名研究員常被稱為“人工智能教母”的李飛飛表示,她也不知道什么是 AGI。在其他時(shí)刻,李飛飛討論了她在現(xiàn)代人工智能誕生中的角色,社會(huì)應(yīng)該如何保護(hù)自己免受先進(jìn)人工智能模型的影響,以及她為什么認(rèn)為她的新獨(dú)角獸初創(chuàng)公司 World Labs將改變一切。

但當(dāng)被問及她對(duì)“人工智能奇點(diǎn)”的看法時(shí),李和我們其他人一樣感到困惑。

“我來自人工智能學(xué)術(shù)界,接受過更嚴(yán)格和基于證據(jù)的方法的教育,所以我并不太清楚這些詞的意思,”李在舊金山一個(gè)擠滿人的房間里說,旁邊是一扇俯瞰金門大橋的大窗戶?!疤孤实卣f,我甚至不知道 AGI 是什么意思。人們說你見到它就知道,我想我還沒有見過。事實(shí)上,我并不花太多時(shí)間思考這些詞,因?yàn)槲艺J(rèn)為還有很多更重要的事情要做……”

如果有人知道什么是 AGI,那可能是李飛飛。2006 年,她創(chuàng)建了 ImageNet,這是世界上第一個(gè)大型 AI 訓(xùn)練和基準(zhǔn)數(shù)據(jù)集,對(duì)催化我們當(dāng)前的 AI 熱潮至關(guān)重要。從 2017 年到 2018 年,她擔(dān)任谷歌云的 AI/ML 首席科學(xué)家。今天,李飛飛領(lǐng)導(dǎo)斯坦福人本中心 AI 研究所(HAI),她的初創(chuàng)公司 World Labs 正在構(gòu)建“大型世界模型”。(如果你問我,這個(gè)術(shù)語幾乎和 AGI 一樣令人困惑。)

OpenAI 首席執(zhí)行官奧特曼在去年的 The New Yorker 采訪中嘗試定義 AGI。奧特曼將 AGI 描述為“你可以雇傭的同事的中等人類的等價(jià)物?!保╡quivalent of a median human that you could hire as a coworker.)

與此同時(shí),OpenAI 的章程將 AGI 定義為“在大多數(shù)經(jīng)濟(jì)價(jià)值工作中超越人類的高度自主系統(tǒng)?!保?“highly autonomous systems that outperform humans at most economically valuable work.”)

顯然,這些定義對(duì)于一家價(jià)值 1570 億美元的公司來說并不夠好。因此,OpenAI 創(chuàng)建了 五個(gè)級(jí)別,用于內(nèi)部評(píng)估其向 AGI 的進(jìn)展。第一個(gè)級(jí)別是聊天機(jī)器人(如 ChatGPT),然后是推理者(顯然,OpenAI o1 是這個(gè)級(jí)別),代理(這 supposedly 是下一個(gè)),創(chuàng)新者(可以幫助發(fā)明事物的 AI),最后一個(gè)級(jí)別是組織級(jí)(可以完成整個(gè)組織工作的 AI)。

仍然感到困惑嗎?我也是,李也是。此外,這聽起來遠(yuǎn)遠(yuǎn)超過一個(gè)普通人類同事能做到的。

李在談話早些時(shí)候提到,自小她就對(duì)智能的概念充滿了好奇。這使她在人工智能尚未盈利之前就開始研究這一領(lǐng)域。在 2000 年代初,李表示她和其他幾個(gè)人正在悄悄為這個(gè)領(lǐng)域奠定基礎(chǔ)。

“在 2012 年,我的 ImageNet 與 AlexNet 和 GPU 結(jié)合——許多人稱之為現(xiàn)代人工智能的誕生。它是由三個(gè)關(guān)鍵因素驅(qū)動(dòng)的:大數(shù)據(jù)、神經(jīng)網(wǎng)絡(luò)和現(xiàn)代 GPU 計(jì)算。一旦那個(gè)時(shí)刻到來,我認(rèn)為整個(gè)人工智能領(lǐng)域以及我們的世界都再也不同了?!?/p>

當(dāng)被問及加利福尼亞州有爭議的人工智能法案 SB 1047 時(shí),李謹(jǐn)慎地發(fā)言,以避免重提州長紐森剛剛通過上周否決該法案而平息的爭議。(我們最近與 SB 1047 的作者進(jìn)行了交談,他更愿意重新與李展開辯論。)

“你們中的一些人可能知道我對(duì)這項(xiàng)被否決的法案 [SB 1047] 表達(dá)過我的擔(dān)憂,但現(xiàn)在我正在深思熟慮,并充滿期待地展望未來,”李說?!拔腋械椒浅J軐櫲趔@,或者說很榮幸,紐森州長邀請(qǐng)我參與后 SB 1047 的下一步?!?/p>

加利福尼亞州的州長最近邀請(qǐng)李以及其他人工智能專家組成一個(gè)工作組,幫助該州制定人工智能部署的保護(hù)措施。李表示,她將在這個(gè)角色中采用基于證據(jù)的方法,并將盡力倡導(dǎo)學(xué)術(shù)研究和資金支持。然而,她也希望確保加利福尼亞州不會(huì)懲罰技術(shù)人員。

“我們需要真正關(guān)注對(duì)人類和我們社區(qū)的潛在影響,而不是將責(zé)任歸咎于技術(shù)本身……如果一輛車被故意或無意地濫用并傷害了一個(gè)人,我們懲罰汽車工程師——比如福特或通用汽車——是沒有意義的。僅僅懲罰汽車工程師并不會(huì)讓汽車更安全。我們需要做的是繼續(xù)創(chuàng)新以實(shí)現(xiàn)更安全的措施,同時(shí)改善監(jiān)管框架——無論是安全帶還是限速——人工智能也是如此。”

這是我聽過的針對(duì) SB 1047 的更好論點(diǎn)之一,該法案將懲罰因危險(xiǎn) AI 模型而受到影響的科技公司。

盡管李正在為加利福尼亞州提供人工智能監(jiān)管建議,但她也在舊金山經(jīng)營她的初創(chuàng)公司 World Labs。這是李第一次創(chuàng)辦初創(chuàng)公司,她是少數(shù)幾位領(lǐng)導(dǎo)前沿人工智能實(shí)驗(yàn)室的女性之一。

“我們離一個(gè)非常多樣化的人工智能生態(tài)系統(tǒng)還很遠(yuǎn),”李說?!拔掖_實(shí)相信,多樣化的人類智能將導(dǎo)致多樣化的人工智能,并將為我們帶來更好的技術(shù)?!?/p>

在接下來的幾年里,她很高興能將“空間智能”更接近現(xiàn)實(shí)。李說,人類語言是今天大型語言模型的基礎(chǔ),可能花費(fèi)了百萬年的時(shí)間來發(fā)展,而視覺和感知?jiǎng)t可能花費(fèi)了 5.4 億年的時(shí)間。這意味著創(chuàng)建大型世界模型是一項(xiàng)更復(fù)雜的任務(wù)。

“這不僅僅是讓計(jì)算機(jī)看見,而是真正讓計(jì)算機(jī)理解整個(gè)三維世界,我稱之為空間智能,”李說?!拔覀儾粌H僅是為了命名事物而看……我們真正是為了做事、導(dǎo)航世界、相互互動(dòng)而看,縮小看與做之間的差距需要空間知識(shí)。作為一名技術(shù)專家,我對(duì)此感到非常興奮?!?/p>

本文翻譯自:TechCrunch

https://techcrunch.com/2024/10/03/even-the-godmother-of-ai-has-no-idea-what-agi-is/

編譯:ChatGPT

來源|Z Potentials

本文由人人都是產(chǎn)品經(jīng)理作者【產(chǎn)業(yè)家】,微信公眾號(hào):【產(chǎn)業(yè)家】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自Unsplash,基于 CC0 協(xié)議。

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 目前還沒評(píng)論,等你發(fā)揮!