起點課堂會員權益
職業體系課特權
線下行業大會特權
個人IP打造特權
30+門專項技能課
1300+專題課程
12場職場軟技能直播
12場求職輔導直播
12場專業技能直播
會員專屬社群
榮耀標識1000+位大佬發公開信，AI太強，停止研發？
就在ChatGPT引發的AI狂潮席卷國內外科技圈時，最近，一封呼吁“暫停比 GPT-4 更強大的 AI 系統的訓練至少 6 個月”的公開信引發了網友們的熱議。這引出了一個問題，即在AI技術的能力邊界越來越大時，我們應該如何把握好AI技術研究的態度呢？
距離GPT-4上線兩周，AI又一次被推到了輿論的巔峰。
3月29日，一封由安全機構生命未來研究所（Future of Life Institute，FLI）發布的公開信引起熱議。信中呼吁，“所有 AI 實驗室立即暫停比 GPT-4 更強大的 AI 系統的訓練至少 6 個月?！?/strong>
Future of Life Institute 是一家位于馬薩諸塞州劍橋市的非營利組織，致力于推動人工智能的負責任和道德發展。
截止微果醬發稿前，已經有1377位科技行業人士在這封公開信上簽名表示支持，包括蘋果聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）、特斯拉CEO伊隆·馬斯克（Elon Musk），Stability AI首席執行官莫斯塔克（Emad Mostaque）、《人類簡史》的作者尤瓦爾·赫拉利（Yuval Noah Harari）以及著名的 AI 教授等。
一、來自1000+位科技大佬的聯手呼吁
公開信發布沒多久，便在短時間內收到了這么多業內人士的簽名，說明這不是偶然事件。
公開信強調，最近幾個月人工智能實驗室陷入了一場失控的競賽，以開發和部署更強大的數字思維，甚至他們的創造者都無法理解，預測，或可靠地控制；暫停至少6個月比 GPT-4 更強大的 AI 系統的訓練，并共同開發和實施一套用于高級人工智能設計和開發的共享安全協議。
公開信譯文
“Let’s enjoy a long AI summer, not rush unprepared into a fall.”（讓我們享受一個漫長的 AI 夏天，而不是毫無準備地進入秋天。）
對于這封公開信，OpenAI的首席執行官Sam Altman沒有給出正面的回應。但其在社交媒體上表示，將在5/6月份進行一次旅行，與OpenAI用戶和開發人員進行交談，并與政策制定者會面。
Sam Altman分享了其對AGI的未來看法：
- 調整超級智能的技術能力；
- 大多數領先的AGI工作間的充分協調；
- 一個有效的全球監管框架。
其還表示，在颶風中心非常平靜。
二、AI語言大模型與“超級網紅”ChatGPT
盡管科技大佬們已經開始聯手呼吁暫停比GPT-4更高級的AI大模型的研究，但仍有不少人可能連ChatGPT都還沒體驗過。
發布于2022年11月30日的ChatGPT，僅用了短短幾個月的時間便席卷全球，甚至催促了AI的“iPhone時代”的到來。值得注意的是，ChatGPT背后的研發公司OpenAI，在2019年便獲得了微軟的10億美元投資。
3月15日GPT-4的發布，讓AI科技圈愈加沸騰。OpenAI將其稱之為“擴展深度學習的最新里程碑?！盙PT-4強大的新能力，也讓其受到了更多的關注，微果醬也在《GPT-4震撼發布！碾壓ChatGPT，強大到沒對手？》中有詳細介紹過。
一場科技巨頭們的角逐也隨之拉開了帷幕。
3月16日，百度在發布會上推出大模型新項目“文心一言”，并從文學創作、商業文案創作、數理邏輯推算、中文理解、多模態生成等方面進行了演示，整個過程“穩定”發揮，大眾對其評價也是褒貶不一。
近日，李彥宏在極客公園的直播中表示，文心一言確實不如現在最好的 ChatGPT 版本，但差距也不是很大，可能就是一兩個月的差別。據悉，目前有超過8萬家企業排隊和文心一言合作。（但是果醬妹報名了半個月，至今還沒收到體驗邀請）
3月21日，谷歌的AI聊天機器人似乎有點姍姍來遲。
谷歌在官網上表示開放對Bard的訪問，用戶需申請加入候補名單，通過后方能體驗。不過，谷歌Bard目前還不支持中文，無論是和ChatGPT還是微軟搜索引擎New Bing相比，都弱了許多。
此外，還有不少科技公司在悶聲干大事。
在3月29日的360戰略發布會上，360集團創始人周鴻祎表示公司已經開始著手研究語言大模型產品。在現場演示環節，當提出問題“梅西在阿根廷國家隊進了幾個球”時，AI給出的答案是：100個球。然而正確答案是102個球，這次演示無疑是翻車了。
周鴻祎表示，360 AI就像是個“孩子”，今天為了滿足大家的好奇心，把“孩子”抱出去展示下，還要趕快抱回來。
近日，前搜狗 CEO 王小川也成立了人工智能公司。早在2月份ChatGPT爆火時，王小川就曾表示“相信中國能誕生自己的OpenAI”。
OpenAI的成功，首先是技術理想主義的勝利。中國需要自己的OpenAI，就需要技術理想主義。
可以預見的是，未來將會有更多的科技巨頭加入AI的攻堅戰，而這，僅僅只是開始。
一邊是AI的爆火，一邊是人類對于AI廣泛使用的擔憂。最近也有不少網絡梗在調侃，打工人要被AI取代，要失業了。
根據OpenAI在3月21日發布的《大型語言模型對勞動力市場的影響》報告顯示，大約80%的美國勞動力可能有至少10%的工作任務受到 GPT 的影響，而大約19%的員工可能會看到至少50%的工作任務受到影響。這種影響涵蓋了所有工資水平，高收入工作可能面臨的影響更大。
除了失業，AI的不可控性也成為大家關心的焦點，這也是開頭的公開信里提到的。
如果AI系統的設計和編程出現了問題，或者它們被錯誤地用于某些目的，那么它們可能會產生意想不到的后果。例如，AI可能會誤判某些情況，導致錯誤的決策和行動，這可能會導致不良后果。此外，如果AI擁有自我學習和自我進化的能力，那么我們可能很難控制它們的行為，這可能會對人類產生威脅。
AI時代的潮流已滾滾而來，盡管AI可能會對人類產生一些威脅，但是這并不意味著我們應該停止研究和發展AI技術。相反，應該確保AI的設計和使用是安全和可控的，這樣我們才能更好地利用AI的潛力。
作者：大紅
原文標題：危險！馬斯克等1000+位大佬發公開信，呼吁“暫停訓練比GPT-4更強大AI系統”
來源公眾號：微果醬（ID：wjam123456），聚焦新媒體前沿，洞察新消費領域。
本文由人人都是產品經理合作媒體 @微果醬 授權發布，未經許可，禁止轉載。
題圖來自Unsplash，基于CC0協議
該文觀點僅代表作者本人，人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論，等你發揮！
