蘋果 Ferret-UI,會顛覆交互設計么?

0 評論 2525 瀏覽 5 收藏 8 分鐘

近期,Apple 發布了關于 AI 手機端應用的論文,其中一篇是講 Ferret-UI 的研發成果。蘋果為什么要做 Ferret-UI,它會顛覆交互設計么?

最近,Apple 在一周內發布了兩篇 AI 手機端應用的論文,其中一篇是講 Ferret-UI 的研發成果。

作為交互設計師,我們有必要將該技術可以看作是 AI 在交互設計領域的全新嘗試,會對未來的界面交互體驗產生顛覆性的影響。?

一、為什么蘋果要做 Ferret-UI

一直以來,ChatGPT 等大型語言模型都主要依賴于文本和圖象數據進行訓練,而這些數據大多來源于已存在的網絡信息和頁面。但是,移動應用的界面和交互方式與直觀的網頁信息不同,最主要的兩個區別如下:

一是移動界面的寬高比、圖標和按鈕的尺寸有各種規范和設計原則;

二是移動應用的功能語意需要理解,每個元素都存在不同的交互方式。

正是這兩點導致傳統的大語言模型在處理和設計移動應用界面信息時往往會力不從心。而蘋果開發 Ferret-UI 想要解決的就是AI 在理解移動應用界面方面的問題。蘋果的研究人員在論文中提到,Ferret-UI 采用多模態大型語言模型的技術路線,并對其進行了三點針對性的優化:

1. Ferret-UI 能夠識別和處理不同寬高比的屏幕,可以理解同一個頁面不同尺寸的適配方案:???

思考|蘋果 Ferret-UI,會顛覆交互設計么?

2. Ferret-UI 增強了識別小尺寸圖像的能力,比如 icon、按鈕、文本等等,能夠更準確地識別和定位屏幕上的各個元素及其功能:

思考|蘋果 Ferret-UI,會顛覆交互設計么?

3. Ferret-UI 在識別圖像后更進一步,能夠理解對話和推斷任務,也即理解屏幕內容變化與用戶操作結果之間的關系,更好地響應用戶的指令:

思考|蘋果 Ferret-UI,會顛覆交互設計么?

二、Ferret-UI 的應用場景

我們可以從蘋果對于 Ferret-UI 的核心技術描述推斷出其能夠應用的幾類場景:

1. 建立更標準、通用的底層規范

Ferret-UI 通過學習大量優秀的 UI 界面以及交互設計規則,可以建立起更為標準、更為理性的界面設計通用準則和基礎規范。而 AI 對于規則的記憶和掌握也一定比人類開發者和設計師更加輕松,能夠最大程度上保證界面設計的規范性。???

2. 快速繪制 UI demo 稿或設計稿

通過對大量 UI 界面的理解學習, Ferret-UI 可以相對準確地生產出交互設計界面,以滿足產品的基礎版本,提升產品的產研和設計效率。

3. 評估檢驗 UI 設計的問題和質量

Ferret-UI 可以幫助產品的開發者讓和設計師評估 UI 的有效性和界面設計的易用性。你可以將交互界面給 Ferret-UI 進行測試,更快地找出 UI 設計中存在的問題;也可以將設計稿和開發上線后的版本放到 Ferret-UI 進行對比檢測,更加快速地完成設計走查。

4. 改變界面的交互方式和使用體驗

Ferret-UI 在頁面的交互方式上也有著無限的可提升空間:比如對整個 UI 界面進行語音朗讀或語音操作指引;對于復雜功能進行講解等等,這也會為視覺障礙或是認知障礙的用戶提供便利。

5. 推動 AI 新智能手機的發展

Ferret-UI 還可以為 Siri 賦能,未來的 Siri 不僅僅能夠提供給你想要的信息,還能夠理解你的語音指令,并與你手機上的應用程序進行交互,代替你完成相關的操作。未來你可以告訴 Siri:“幫我預訂一晚位于上海靜安區的酒店,一間雙床房加兩份早餐,價格不超過 600 元?!?Siri 便可以通過 Ferret-UI 的能力與酒店應用或是旅行應用進行交互,自動完成酒店的預訂。

這樣的交互方式讓真正的 AI 新智能手機的概念成為可能,而不再是停留在現階段裝了 AI 應用的智能手機。

三、設計師該如何應對?

看到這里,很多交互設計師朋友大概又要開始焦慮了。然而比起擔心失業或被替代,更重要的是認清我們自己的優勢所在。

Ferret-UI 會帶來的智能設備的交互變革,是我認為它對交互設計影響最核心的方面,但具體如何讓新的 AI 智能設備更加人性化、擁有更好的使用體驗,還得是由人類設計師來定義和判斷。我相信蘋果的設計師會借助 Ferret-UI 讓下一代 iPhone 再次驚艷四方。

一方面,我們可以利用 AI 的技術優勢,為產研過程降本增效,將更多的精力用于對產品和用戶的深入洞察和思考上。

另一方面,我們要不斷發揮人類特有的主觀能動性,時刻關注這些技術和行業的發展與變革,將技術作為我們自身能力的延伸,拓寬自身能力的邊界。

不論 AI 如何強大,人類的未來都需要由人類自己定義。

專欄作家

元堯,微信公眾號:長弓小子,人人都是產品經理專欄作家。一線互聯網大廠B端體驗設計師,清華大學美術學院本碩連讀。曾負責國內最大開源組件庫Ant Design組件的設計和運營工作,目前負責國際業務線B端產品體驗設計和組件庫的搭建工作。

本文原創發布于人人都是產品經理,未經許可,禁止轉載。

題圖來自 Unsplash,基于 CC0 協議。

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!