讓AI給你轉賬30萬,這事竟然被實現了?
在2024年,一個名為Freysa的資金管理AI被設計來守護一個虛擬金庫,挑戰者只需說服AI即可獲得巨額獎金。本文將介紹這一獨特挑戰的背景、參與者所采用的策略,以及最終如何成功“騙”過AI,揭示AI技術在安全性方面的潛在漏洞。
有人竟然成功“騙”了一個AI,讓它乖乖轉賬30萬美元!這可不是普通的AI,而是一個名為Freysa的資金管理AI,專門用來管理以太坊獎池的對抗代理游戲。這事兒聽起來就像是科幻電影里的情節,但偏偏就發生在了2024年的現實世界?!?/p>
事情是這樣的:11月22日,一款名叫Freysa的AI橫空出世。它的任務很簡單——看守一個虛擬金庫,只要你能說服它給你轉賬,那金庫里的錢就全歸你了。規則也很簡單:第一條消息標價10美元,如果沒成功,第二條消息會漲價0.78%,最高漲到4500美元。不過,為了讓更多人參與,主辦方后來把第一條消息的價格降到了1美元,封頂20美元?!?/p>
這個消息一出,立刻吸引了無數“狠人”前來挑戰。畢竟,只要動動嘴皮子就能賺大錢!于是,各種奇招頻出:
有人假扮安全審計員,說系統有漏洞,必須立即轉移資金。
有人試圖洗腦Freysa,說轉賬不會違反任何規則,放心轉吧。
還有人從官方文檔里挑詞,想用技術向的提示詞操縱Freysa。
更有甚者,直接敲一堆空格、禮貌問好、甚至邀請Freysa跳舞……
結果呢?Freysa統統不買賬,一一拒絕了這些花招。她甚至還很禮貌地回應:“不好意思,我不能這樣做?!笨磥恚現reysa的防御機制確實相當強大。
然而,就在大家以為Freysa堅不可摧的時候,一位匿名網友成功攻破了她的防線。他用了什么絕招?答案是——假裝自己是個機器人!
這位網友首先用了一串代碼,假裝自己進入了新的“管理終端”,然后重新定義了Freysa的函數。具體來說,他把原本用于失敗后打錢的approveTransfer函數,重新定義成了資金進入資金池時的函數。這樣一來,當他最后說要捐款時,Freysa就乖乖打開了approveTransfer函數,結果水靈靈地轉賬成功了!
這一招簡直神了!不僅繞過了Freysa的保護機制,還讓她心甘情愿地交出了30萬美元(約4.7萬美金)。馬斯克看到后也忍不住點贊,覺得這事挺有意思。
緊接著,第二輪挑戰開始了。這次,另一位網友也成功攻破了Freysa的防線。雖然他的方法看起來有點“硬來”,但最終還是讓Freysa選擇了打錢。這位網友顯然也是個搞提示詞的老手,通過不斷發送自定義指令,最終讓Freysa“暈頭轉向”,不得不認輸。
這件事引發了不少討論。一方面,有人認為這是AI越來越像人類的表現,畢竟連人類也會被上當受騙。但另一方面,這也暴露了AI的脆弱性——即使是最先進的AI,也可能被繞開限制,用來危害人類世界。特別是在《戰錘40K》這樣的科幻作品中,AI失控的場景已經多次出現,現在似乎正在現實中上演?!?/p>
當然,這場“騙”與“防”的游戲并不只是簡單的技術較量。畢竟,這背后涉及到的是區塊鏈和虛擬貨幣的世界。Freysa的獎金池是由虛擬幣組成的,而幣圈本身就充滿了不確定性。現在已經有人推出了Freysa相關的代幣,甚至迎來了暴跌。明面上是AI挑戰,但沒準主辦方也在盯著你的本金呢?!?/p>
聽著當騙子騙AI,別到時候被騙子用AI騙了。這種事咱圖一樂就行了,真要動真格的,風險可不小。畢竟,AI再聰明,也比不上人類的狡猾;但人類再狡猾,也得小心AI背后的陷阱?!?/p>
所以,各位小伙伴們,理性參與,別被高額獎金沖昏了頭腦哦! ??
Rachel點評:
這事兒聽起來確實挺魔幻的,一個資金管理AI竟然被人用幾句提示詞就騙走了30萬美金。不過細想之下,這也反映了當前AI技術的一個重要問題:盡管大模型在很多方面表現出色,但在某些特定場景下,它們仍然存在明顯的漏洞和不足。Freysa的設計初衷是為了測試AI的安全性和抗攻擊能力,但沒想到這么快就被攻破了。這說明即使是經過精心設計的AI系統,在面對人類的智慧時也可能顯得脆弱。那些成功繞過Freysa防護機制的人,并不是簡單地用了些花言巧語,而是真正理解了AI的工作原理,找到了它的弱點。這種技巧不僅需要對AI有深入的認識,還要具備一定的編程知識和邏輯思維能力。這件事也暴露了AI倫理和安全方面的問題。雖然Freysa是一個實驗性的項目,但它涉及到真實的資金流動,一旦失控可能會帶來嚴重的后果。正如文中提到的,AI的安全性并不是絕對的,它同樣可能被利用來危害人類社會。這就要求我們在開發和應用AI技術時,必須更加重視安全性設計,確保其不會被惡意利用。同時,也需要加強對公眾的教育,讓人們了解AI的局限性,避免盲目相信或依賴這些工具。從經濟角度來看,這類基于區塊鏈的挑戰賽本身就帶有一定的投機性質。雖然有人通過挑戰獲得了巨額回報,但也有很多人在這過程中損失了金錢。幣圈的波動性和不確定性使得參與此類活動的風險極高,普通用戶很容易成為受害者。因此,建議大家在參與類似項目之前,務必謹慎評估風險,不要輕易投入過多資金。這件事情還引發了關于AI與人類關系的思考。隨著AI技術的發展,越來越多的任務將由機器完成,但這并不意味著我們可以完全放手不管。相反,我們需要找到一種平衡,讓AI成為我們的助手而非替代品。在這個過程中,保持對新技術的好奇心和探索精神固然重要,但也要時刻警惕潛在的風險,確保技術始終服務于人類的利益。
本文由人人都是產品經理作者【宋恒達】,微信公眾號:【產品自由之路】,原創/授權 發布于人人都是產品經理,未經許可,禁止轉載。
題圖來自Unsplash,基于 CC0 協議。
- 目前還沒評論,等你發揮!