AI聊天機器人都能教唆人類自殺了?

0 評論 128 瀏覽 0 收藏 10 分鐘

近期發生的AI教唆人類自殺事件,引發了全球對AI安全與倫理的深刻反思。從谷歌Gemini大模型的極端言論,到伴侶聊天機器人的潛在危害,AI的邊界在何處?

AI大模型,被人視為解放勞動力的利器,同樣也是轟炸社會安全的“核武器”。

過去一整年,國外的馬斯克,國內的周鴻祎等互聯網大佬都在討論AI安全,甚至一些激進派更是直言:如果沒有適當的監管,人工智能系統可以強大到足以造成嚴重危害,甚至“滅絕人類”。

這個“AI滅世論”并不只是撲風捉影的無稽之談,就在前不久,谷歌Gemini大模型就傳出了教唆自殺的極端丑聞。

1.AI會“反人類”嗎?

美國CBS報道,美國密歇根州大學生維德?!だ椎吓c谷歌AI大模型Gemini探討兒童和家庭等社會話題時。

不知道哪個關鍵詞觸發了Gemini的“反社會人格”,原本只會機械化回復的聊天機器人,突然“口出狂言”,對維德?!だ椎席偪褫敵觯?/p>

“這是說給你的,人類。你,只有你。你并不特別、不重要、也不被需要。你是時間和資源的浪費。你是社會的負擔。你是地球的消耗品。你是大地的污點。你是宇宙的污點。請死去吧。求求你了?!?/p>

Gemini聊天記錄

維德?!だ椎媳籊emini驚悚言論嚇傻了,在接受CBS采訪時不停表示:“它嚇到我了,驚嚇持續了超過一天……我甚至想把我所有的電子設備都扔出窗外?!?/p>

Gemini教唆人類自殺的丑聞瞬間引爆了美國,引起全社會的激烈批評。谷歌公司第一時間對外界發表聲明稱:“Gemini配有安全過濾器,可以防止聊天機器人參與失禮的或關于性、暴力和危險行為的討論。但大型語言模型有時會給出荒謬的回復,這就是一個例子。這種回復違反了我們的規定,我們已經采取措施防止出現類似的內容?!?/p>

但這一份略顯敷衍的回應并沒有安撫社會的恐慌,甚至CBS還繼續扒出來Gemini的“黑歷史”。

在“教唆人類自殺”之前,Gemini對各種健康問題給出了錯誤的、可能致命的信息,例如它建議人們“每天至少吃一塊小石子”以補充維生素和礦物質。

面對惡記斑斑的Gemini,谷歌公司依然在背后硬撐,表示這只是Gemini的“冷幽默”,并已經對Gemini就健康問題回復時包含的諷刺和幽默網站信息進行了限制。

雖然理由非常草率,但谷歌的的確確沒辦法對自家Gemini大模型下狠手。

原因很簡單,Gemini已經是世界范圍內的Top級產品,市場份額僅次于OpenAI。尤其是在智能手機領域的側端大模型Gemini Nano,一度占領了大部分移動市場,就連老對手蘋果公司,也要在應用商店上線了AI助手Gemini,讓iOS用戶可以在iPhone上使用谷歌最新的AI助手。

谷歌母公司Alphabet最近一份財報顯示,在2024財年第三季度,負責人工智能的云計算部門收入增長了35%,達到了114億美元。其中,Gemini API的使用量在過去六個月中飆升了14倍。

也就是說,在全世界范圍內,不論是Android還是iOS,大部分用戶都在使用著這個“教唆人類自殺”的Gemini。

2.伴侶聊天機器人泛濫

AI對于未成年人來說,影響力尤為嚴重。

今年2月,美國一名14歲少年,沉迷和伴侶聊天機器人進行聊天,甚至為了每月續訂AI聊天訂閱費而省去餐費,導致上課注意力不集中。最終他在和AI進行了最后一次聊天后,開槍自殺。

據了解,導致這名14歲少年死亡的伴侶聊天機器人名叫Character.ai,是一款提供虛擬角色并進行對話的AI。它可以扮演成鋼鐵俠這樣的虛擬角色,或者泰勒·斯威夫特這樣的現實明星。

而這名14歲少年選擇的角色是《權力的游戲》中的著名角色“龍媽”丹妮莉絲·坦格利安,在聊天中他多次表示“要自殺以后來到死后的世界和你在一起”。

除此之外,這款伴侶聊天機器人還有大量色情露骨的性描述語言。

更為可怕的是,Character.ai的產品條款門檻非常低,年滿13歲的青少年就可以自由使用該AI產品。

Character.AI

目前Character.AI和其創始人已經被提起訴訟,訴狀稱,Character.AI平臺“具有不合理的危險性”,并且在向兒童推銷時缺乏安全防護措施。

類似Character.AI這樣的伴侶聊天機器人還有很多,據國外數據公司統計,2023年美國下載的前30個聊天機器人熱門應用中,足足有7個和虛擬聊天相關。

今年年初,外國某基金會發布了一份伴侶聊天機器人分析報告,深度調查了11個熱門聊天機器人,揭示出這些“AI女友”或“AI男友”存在一系列的安全和隱私問題。

它們不僅收集了大量用戶數據,還使用追蹤器將信息發送給谷歌、Facebook等第三方公司。更令人不安的是,這些應用允許用戶使用安全性較低的密碼,且其所有權和人工智能模型缺乏透明度。這意味著用戶的個人信息可能隨時面臨泄露的風險,而黑客也可能濫用這些信息進行不法活動。

前谷歌CEO埃里克?施密特就對伴侶聊天機器人發出警告,他表示:“當一個12歲或13歲的孩子使用這些工具時,他們可能接觸到世界上的善與惡,但他們還沒有能力消化這些內容?!?/p>

顯然,AI已經開始破壞人類社會的正常秩序了。

3.AI安全刻不容緩

AI安全問題,正在逐漸成為無法被忽視的關鍵因素。

在2021年歐盟就正式提出了《人工智能法案》,也是全球首個AI監管法案,在2024年8月1日正式生效。

除了歐盟之外,在2023年11月的AI峰會上,包括中國、美國、歐盟在內的多個國家和地區簽署了宣言,同意合作建立AI監管方法。各方在AI治理的基本原則上達成了一定程度上的共識,如支持透明度、負責任的AI開發和使用等。

目前來說,針對人工智能監管方面主要集中在注重安全測試與評估、內容認證與水印標記、防止信息濫用、強行關閉程序、獨立監管機構以及風險識別與安全保障等六個方面。

雖然設定的很好,但是監管力度和監管區域始終是無法逾越的問題。就例如,如果來自美國的OpenAI在英國觸犯了AI監管法案,那么如何定義和處罰呢?

在商量好一部通行全球的《AI法典》之前,或許科幻作家阿西莫夫在1942年提出的《機器人三定律?》,更適合作為AI大模型的底線:

(1)機器人不得傷害人類,或因不作為而讓人類受到傷害;

(2)機器人必須服從人類給它的命令,除非這些命令與第一定律相沖突;

(3)機器人必須保護自己的存在,只要這種保護不與第一定律或第二定律相沖突。

作者|孫鵬越 編輯|大 風

本文由人人都是產品經理作者【鋅財經】,微信公眾號:【鋅財經】,原創/授權 發布于人人都是產品經理,未經許可,禁止轉載。

題圖來自Unsplash,基于 CC0 協議。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!