中文字幕无码av不卡一区,亚洲综合AV永久无码精品一区二区,黑人巨大白妞出浆,黄色高清无码免费看,久久久久免费精品国产,久久无码人妻丰满熟妇区毛片,欧美日韩国产综合草草,久久福利网站,亚洲一区二区三区中文字幕在线,av国内精品久久久久影院

OpenAI只做工具，人類充滿偏見卻不自知。

作者｜蘇霍伊

編輯｜田思奇

發自美國麻省理工學院

繼4月24日科技界的“頂流”，OpenAI首席執行官薩姆·奧爾特曼（Sam Altman）在斯坦福大學進行演講后，他又從硅谷橫跨美國來到了麻省理工學院（MIT）。這次的爐邊談話，奧爾特曼與MIT校長莎莉·科恩布魯斯（Sally Kornbluth）共同探討了人工智能的未來發展。

當地時間5月2日中午13:00，距離這場對話開始還有2個小時，就有觀眾來到了活動所在的MIT Swraj Paul劇院。演講開始前1個小時，門口已排起長龍。由于報名的人數太多，組織方不得不啟用搖號的方式分配門票。

Swraj Paul劇院前的隊伍長龍，來源：「甲子光年」拍攝

令人唏噓的是，在活動的不遠處，對巴以沖突持不同觀點的兩派學生正在抗議。就像這個時代的割裂縮影，沖突頻發和科技躍遷，希望與挑戰并存。

兩派學生的抗議陣營，來源：「甲子光年」拍攝

作為OpenAI的掌舵人，奧爾特曼和團隊一直不斷打破人工智能領域的邊界。所有的目光都集中在舞臺上，這不僅是關乎一個公司的故事，更是一場關乎人類創新閾值對話——它關乎希望、責任與未來。

正如活動的主持人、MIT董事會主席馬克·戈倫伯格（Mark Gorenberg）在開場時所說：“當大多數人提及生成AI時，便會立即想到OpenAI和奧爾特曼?！?/p>

對話活動現場，來源：與會者提供

奧爾特曼這次的分享依舊主打一手“情懷”，關于技術本身鮮有剖析。一個小時的對話，他用直白的語言描繪出了一個“人類所用工具（tools for human）”的未來。但對于談話內容，有MIT的同學聽過后對「甲子光年」表示“深受鼓舞”；也有認為認為他“凈講些‘虛頭巴腦’的大概念”。

奧爾特曼主要聊了以下七點：

相對于討論AI引發災難的概率，我們更應該關注如何避免AI帶來的災難；

OpenAI在做的是“人類用的工具”，不是在創造生物；而人類充滿偏見卻往往不自知；

在參數中保存數據很“奇怪”。GPT-5或GPT-6可能嘗試將數據與推理引擎分離；

氣候也許不是一個大挑戰，但訓練所需的能源是一個挑戰；

AI不會搶奪人類的工作。未來每個人可能都會擁有一個由AI驅動的完整公司；

他對AI在健康和教育領域中的影響最感興趣，但對金融沒有太多思考；

OpenAI的使命是使計算更可及、更自然。未來不再需要掌握編程語言。

OpenAI被推到今天的位置，是因為ChatGPT的迭代速度，某種程度上代表了自然語言處理（NLP）的技術發展和AI應用的爆發速度。

人類對技術進步的快速適應，讓期待也在不斷增長。就像奧爾特曼在對話中所講的：大家對GPT-4興奮了兩周，轉而又迅速詢問GPT-5的進展（Everyone was excited about GPT-4 for two weeks, but then quickly shifted focus to asking about GPT-5）。1.面對AI技術革命，“既樂觀又悲觀”

科恩布魯斯和奧爾特曼走上臺時，掌聲不斷。來源：與會者提供

“你的‘末日值’是多少？”

伴著科恩布魯斯拋出的第一個問題，對話正式開始。她向奧爾特曼介紹，這場對話的所有問題，都是由學生提出、校方篩選的。

所謂“末日值”（probability of doom，簡寫為p(doom)），即指個人認為AI可能帶領人類走向末日的機率，也是近期硅谷科技新貴們最常掛在嘴邊的問候語。

這個指標的范圍從1到100。數字越高，表示個人越相信AI會消滅所有人類并導致世界末日。

“我認為這個問題表述不太恰當，問題假設了一種靜態的系統?！眾W爾特曼回答，“雖然我自己也樂于對數字進行長篇大論。但不管這個數字是2、10、20或90，關鍵點在于它不是0。討論災難概率雖然能激發深思，但相比之下，我們更應該關注如何避免災難，確保我們能安全、積極地面對未來?！?/p>

同時，奧爾特曼認為AI現階段還沒有“做得足夠好”。十年前，他對AI有一種更“天真”的看法，將其視為一種能自行解決問題、帶來財富的“魔法超級智能”；但現在，他認為AI更像是一場“技術革命”，為人類帶來希望。

而對于這場技術革命，奧爾特曼是既樂觀又悲觀的。

他一直反復強調的觀點——AI是人類科技樹上的新工具（a new tool in the tech tree of humanity）。在斯坦福演講時，奧爾特曼同樣提到OpenAI在做的是“人類用的工具（a tool for human）”，并不創造生物。人類沒必要害怕超級智能的人工智能，每個新模型的缺點也是它們持續迭代的動力。

長期以來，AI一直被詬病存在價值觀問題：誰來定義什么是偏見，什么是價值觀？如何決定系統應該執行什么任務？社會應該在多大程度上定義這些邊界，而我們又應該在多大程度上信任用戶合理使用這些工具？

對于這個困境，奧爾特曼的想法是在明晰技術的潛力和限制同時，還需在技術潛能和道德限制之間找到平衡。通過人類反饋進行強化學習（RLHF）等技術，可以消減模型偏見的缺陷。

“人類本身就是充滿偏見的生物，但往往并不自知?！彼f道，“像GPT-4或之后的GPT-5這樣的模型沒有和我們相同的心理缺陷。雖然它們不完美，但總的來說，我這些系統會比人類表現得更公正。”

除偏見外，AI發展的另一個核心問題是如何在用共享數據訓練AI模型時保護個人隱私。

隨著技術的進步，一個全知全能的個性化AI并非與我們遙不可及：它能追蹤我們的電子郵件、短信今和生活記錄，甚至我們看過的電視節目和文件夾。

奧爾特曼將稱它是“讓人又愛又恨的存在”：便利生活同時也帶來了極大的隱私風險。

誠然，我們已在互聯網時代中犧牲了一部分隱私以獲得便利，AI的介入會讓這種權衡更為復雜。“在AI發展的背景下，我們需要重新定義‘特權信息’的概念，以防止個性化AI在法律上被用于不利于我們的情況”。

“我們得的GPT-5或GPT-6成為最佳的推理引擎，目前而言，能達到最佳引擎的唯一路徑就是訓練大量的數據?！钡珚W爾特曼認為，實際模型在處理數據時浪費了許多數據資源。

比如GPT-4。它也能像數據庫一樣工作，只是推理速度慢、成本高昂且效果“不盡如人意”。這些問題本質上是因為模型的設計和訓練方式導致的資源浪費。

“不可避免的，因為這是我們制作推理引擎模型的唯一方法的副作用?！钡茴A見未來會有新方法，將模型的推理能力與對大數據的需求性剝離。

值得注意的是，就在奧爾特曼演講的同一天，有網友在X上發文表示，OpenAI創建了一個新的搜索服務的域名：http://search.chatgpt.com，并由此推測Open在微軟Bing的支持下，可能正在開發一種新的搜索服務。

圖片來自X

它或將成為谷歌搜索最大的威脅，甚至完全迭代當前的搜索引擎的方式。

隨后，科恩布魯斯問了奧爾特曼一個略為“扎心”的問題，即OpenAI的閉源決策，并希望他能多說“億點點”。但奧爾特曼選擇含糊帶過，言下之意就是“我們”已經提供免費的AI工具了（GPT-3.5），還要什么“自行車”。

談及能源，奧爾特曼認為，AI的能源需求雖然巨大，但相比全球其他需求仍屬于小規模。在這樣的對比下，如果AI能助人類尋找到非碳能源，或優化碳捕獲技術，即便耗費1%的全球電力，這也會是一種“巨大的勝利”。同時他也表示看好核聚變。2.“當下是AI創業的最好時機”

宣傳視頻是由AI生成，其中機器人代表著OpenAI，海貍是MIT的吉祥物。來源：與會者提供

AI創業一直是備受關注的問題。

奧爾特曼這次活動再次強調了他的觀點：在接下來很長一段時間里，都是初創公司的最好時機。

初創企業一般能在大型平臺變革期間獲得成功。相比之下，大公司雖然資源豐富，但在創新和迅速反應方面往往不如初創企業靈活。

目前我們處于類似互聯網初期和移動互聯技術興起時的歷史性時刻。如同云服務和AWS推動了之前的技術變革，AI技術平臺正在形成，為創業提供了絕佳的機遇。

但在技術革新的熱潮中，初創企業也不能忽視傳統商業策略的重要性，需要在追求創新的同時，建立牢固的客戶關系和市場地位，“這些都是持久成功的關鍵”。

AI技術的興起對未來的就業市場同樣有著重大影響。

根據領英最近的勞動力市場調研，生成式人工智能（GAI）技術的興起正在對全球職業市場產生深遠影響。2023年，已有超過500種職業技能可能受到AGI的影響，預計到2030年，將有65%的職業技能發生變化。

高盛的研究也指出，在美國和歐洲，生成式AI對職業任務的自動化威脅顯著，目前美國大約2/3的工作在一定程度上面臨AI自動化的風險，且生成式AI可能取代1/4的崗位。在全球范圍內，生成式AI的發展可能使3億個全職工作崗位面臨淘汰的危險。

“有觀點認為AI將帶來職業的消失，但技術革命也會創造新的職業機會。AI會改變很多工作的性質，并帶來全新的職業類別?！眾W爾特曼解釋道，“這種變化需要時間來顯現其經濟影響，好的或壞的，都將是我們可以實際測量和感受到的?！?/p>

創業者和就業市場面對的是一個快速變化的技術環境。關鍵在于適應這些變化，找到與新技術共存的方式。

科恩布魯斯和奧爾特曼也從AI監管的角度對創業、就業的影響進行了討論。

科恩布魯斯提到了美國國家層面對AI技術的監管，她提到有人擔心過度的監管可能會鞏固大公司的地位，限制小企業和創新者的發展機會。

對此，奧爾特曼認為在于“合理的閾值”。“完全不監管AI的想法雖然存在，但最終還是要通過民主進程來決定。”他分享了自己的觀點，監管政策的制定需要既保護消費者安全，也要避免對小型企業和創新者的過度壓制。

隨著時間的推移，計算機技術變得越來越易于接觸和使用。從低級編程語言到現在的高級編程語言，技術的演變使得編程變得更加直觀和強大。這種從命令行到圖形用戶界面（GUI）的轉變，以及從物理鍵盤到觸摸屏的過渡，都標志著用戶與計算機交互方式的演化。

“OpenAI的使命是使計算更可及、更自然?！眾W爾特曼說。像ChatGPT這樣的自然語言處理技術，正在推動AI與人類使用相同的交互界面，這種趨勢可能會終結未來技術使用者對編程語言的需求。

而在具體的行業上，奧爾特曼表示自己最關注AI對健康和教育領域的影響，對金融領域的思考并不多。

在教育領域，AI的應用有巨大潛力實現課堂教學的個性化和優化。AI可以根據每個學生的學習進度和風格調整教學內容和節奏，讓教育更加符合個人需求。

“我認為AI時代出生的嬰兒永遠無法想象一個沒有智能產品和服務的世界。”奧爾特曼說。毋庸置疑，AI技術的發展正在推動社會各個層面的變革，從個性化服務的提供到教育模式的優化，再到職場技能的重新定義。

在這場演講之外，ChatGPT等多重AI產品，正在幫助人類塑造一個更加智能化、個性化的未來。

這很容易讓人聯想到人工智能創造力，或稱計算創造力。這是一個研究如何設計出能達到甚至超過人類水平創造力的程序的多學科領域。

有關該領域的討論可以追溯到19世紀，“計算機程序之母”埃達·洛夫萊斯曾質疑機器的獨立創造力，但近年來無監督學習的進步讓人們重新考慮AI的創造潛能。目前有兩種主流觀點：一種看待AI作為人類創造性的增強工具，另一種則希望AI成為完全獨立的創造者。

AI在模仿和生成新內容方面取得了顯著進展，但由于缺乏真正的情感理解和直覺，生成式人工智能不能替代人類的智慧和洞察力。正如斯坦福大學教授李飛飛所言：“AI替代不了人性的部分，就像宮崎駿永遠也不會被AI替代?！?/p>

我們將被機器賦予越來越多的超能力，但作為人類的核心不會被取代。