警惕AI造黃謠 淺析大數(shù)據(jù)掃黃應(yīng)用中的SNA算法原理
隨著AI技術(shù)的深度發(fā)展,“AI換臉”“AI脫衣”工具變得常見(jiàn)。一些不法分子將歪主意打到了造“黃謠”,甚至威脅、詐騙上。4月19日,北京市海淀區(qū)人民法院審理了一起使用“AI去衣”軟件制作淫穢物品案。被告人將他人提供的承載人臉信息的不特定多數(shù)女性圖片,通過(guò)深度偽造技術(shù)、AI軟件制作成裸體圖片販賣牟利,同時(shí)出售“AI去衣”軟件及使用教程牟利。(引5月13日《南方都市報(bào)》)
當(dāng)今社會(huì)網(wǎng)絡(luò)造謠事件頻發(fā),我們?cè)诰鐰I造謠的同時(shí),也要對(duì)大數(shù)據(jù)掃黃引起更多的關(guān)注。本文就來(lái)淺析一下在警務(wù)情報(bào)分析系統(tǒng)中常見(jiàn)的SNA算法原理是怎樣的。
一、什么是SNA算法
簡(jiǎn)單來(lái)說(shuō),SNA算法稱為社交網(wǎng)絡(luò)算法。社會(huì)網(wǎng)絡(luò)分析(social network analysis,SNA)是復(fù)雜系統(tǒng)的一個(gè)分支,可用于構(gòu)建多智能體系系統(tǒng)。
首先,在研究社會(huì)網(wǎng)絡(luò)分析如何協(xié)助多智能體系系統(tǒng)建模的同時(shí),需要解決兩種實(shí)例之間的異同。所以在構(gòu)建SNA體系之前需要建構(gòu)一個(gè)多智能體系系統(tǒng)的原型,通過(guò)在智能體實(shí)例之間建立的社會(huì)網(wǎng)絡(luò)基礎(chǔ)之上,形成的智能集群來(lái)解決任務(wù)。
我們?cè)賮?lái)看下MAS的定義,多智能體系(Multi-Agent Systems,MAS)的定義是:代表社會(huì)結(jié)構(gòu)(如組織和聯(lián)盟)的模型,以便客觀地分析開放系統(tǒng)的關(guān)聯(lián)行為。通過(guò)不同類型的關(guān)系(如對(duì)目標(biāo)的依賴、對(duì)資源的沖突、相似的信念等)相互關(guān)聯(lián)的個(gè)體組成了組織和聯(lián)盟。
弄清了SNA和MAS兩者定義之后,我們可以發(fā)現(xiàn)多智能體系統(tǒng)(MAS)和復(fù)雜系統(tǒng)理論之間存在密切關(guān)系,并且可以在社交網(wǎng)絡(luò)分析的背景下進(jìn)行表示。在情報(bào)分析系統(tǒng)原理中將MAS和SNA技術(shù)相結(jié)合,使智能體社會(huì)能夠在決策過(guò)程中利用SNA指標(biāo),考慮智能體在網(wǎng)絡(luò)中的位置、價(jià)值和重要性等屬性。
二、SNA的作用
社交網(wǎng)絡(luò)分析(SNA)是一種源自社會(huì)學(xué)、社會(huì)心理學(xué)和人類學(xué)等領(lǐng)域的科學(xué)研究領(lǐng)域。這個(gè)領(lǐng)域研究社會(huì)行為者之間的關(guān)系鏈接(也稱為關(guān)系紐帶)。
在SNA中,角色可以是個(gè)人或公司,可以作為個(gè)體單元進(jìn)行分析,也可以作為集體社會(huì)單位進(jìn)行分析。
SNA與其他研究的根本區(qū)別在于它不關(guān)注行為者的屬性(特征),而是關(guān)注它們之間的聯(lián)系。行為者之間的關(guān)系由關(guān)系紐帶或連接建立。
最常見(jiàn)的連接類型有:個(gè)體評(píng)估(例如友誼或情感交換);物質(zhì)資源的交易和轉(zhuǎn)移(兩家公司之間的購(gòu)買和銷售交易);非物質(zhì)資源的轉(zhuǎn)移(電子消息的交換);當(dāng)行為參與者與事件同時(shí)發(fā)生具有地域、行為等關(guān)聯(lián)或隸屬關(guān)系時(shí),那么交易網(wǎng)絡(luò)就形成了。例如:網(wǎng)絡(luò)關(guān)聯(lián)集群關(guān)系(QQ、微博、微信使用者之間的社交網(wǎng)絡(luò)聯(lián)系);正式節(jié)點(diǎn)之間的聯(lián)系(公司中的上下級(jí)權(quán)威循環(huán));生物關(guān)系(父子關(guān)系)等等。
SNA是一種通過(guò)分析行為者之間的位置和結(jié)構(gòu)(即它們的關(guān)系)來(lái)增強(qiáng)知識(shí)共享的方法。
那么您可能會(huì)提出疑問(wèn)
- 本文主要討論了多智能體團(tuán)隊(duì)組成的基于SNA的推理方法,那么在這個(gè)方法中,SNA如何被應(yīng)用于多智能體系統(tǒng)的決策過(guò)程中?
- 本文中提到了多智能體系統(tǒng)和社交網(wǎng)絡(luò)的緊密聯(lián)系,那么在這個(gè)集成過(guò)程中,如何利用SNA指標(biāo)來(lái)評(píng)估智能體在網(wǎng)絡(luò)中的地位和重要性?
那么我們下面就通過(guò)一個(gè)列舉的例子來(lái)談?wù)勆缃魂P(guān)系網(wǎng)絡(luò)的實(shí)際效用。
三、SNA的應(yīng)用領(lǐng)域案例
在情報(bào)分析系統(tǒng)領(lǐng)域中,我們熟知的IBM I2就是一款常用的警務(wù)情報(bào)分析系統(tǒng)。IBM I2的底層邏輯中就運(yùn)用了SNA的模型應(yīng)用。
我們淺看一例:
圖片摘自-360doc【知識(shí)】IBM i2可視化分析產(chǎn)品概述(網(wǎng)圖侵刪)
在本案例中,通過(guò)IBM i2的網(wǎng)絡(luò)節(jié)點(diǎn)分析,由中心節(jié)點(diǎn)引出關(guān)聯(lián)節(jié)點(diǎn)的關(guān)系集群推算。該原型使用SNA原理展示了團(tuán)隊(duì)動(dòng)態(tài)形成的模型,團(tuán)隊(duì)中的節(jié)點(diǎn)是在基于其本地社會(huì)網(wǎng)絡(luò)的決定后自發(fā)且分散地形成的。該集群的參與者擁有一個(gè)社會(huì)網(wǎng)絡(luò)。
對(duì)于一個(gè)節(jié)點(diǎn)來(lái)說(shuō),要成為團(tuán)隊(duì)的一員,它必須至少與團(tuán)隊(duì)中的一名成員擁有社交連接(即網(wǎng)絡(luò)中的邊)。因此,在此集群中,多節(jié)點(diǎn)包含N個(gè)子節(jié)點(diǎn),A={a1,a2,…,aN},其中每個(gè)子節(jié)點(diǎn)都可以被視為社會(huì)網(wǎng)絡(luò)中的一個(gè)節(jié)點(diǎn)。網(wǎng)絡(luò)被建模為一個(gè)鄰接矩陣E,其中每個(gè)鄰接矩陣元素eij=1,如果存在,則連接兩個(gè)代理人ai和aj的邊,否則eij=0。簡(jiǎn)單來(lái)說(shuō)就是0出度邊界。即邊界中的最后一個(gè)節(jié)點(diǎn)。那么該集群的選定范圍就確定了。
四、結(jié)語(yǔ)
筆者大學(xué)畢業(yè)后兩年在國(guó)家級(jí)法治期刊從事新媒體記者工作,后又投入IT領(lǐng)域從事風(fēng)控領(lǐng)域中的情報(bào)分析系統(tǒng)產(chǎn)品設(shè)計(jì)工作多年。
筆者想說(shuō):在如今AI大流行的時(shí)代,我們務(wù)必從風(fēng)控角度意識(shí)到這樣一個(gè)觀點(diǎn)。
科技越發(fā)達(dá),網(wǎng)絡(luò)造謠、別有用心的人網(wǎng)絡(luò)違法的可能性就越高。
但還是一句老話:天網(wǎng)恢恢疏而不漏。
時(shí)代的進(jìn)步同樣也是網(wǎng)絡(luò)法治的進(jìn)步。會(huì)有更多的高科技系統(tǒng)來(lái)杜絕、偵查、抓捕那些利用AI、利用網(wǎng)絡(luò)造謠、詐騙、違法行為的人。千萬(wàn)不要抱有僥幸心理。尊重科技遵守優(yōu)良品德做個(gè)良好公民。
本文由 @kingwu 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)作者許可,禁止轉(zhuǎn)載
題圖來(lái)自Unsplash,基于CC0協(xié)議
該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)
- 目前還沒(méi)評(píng)論,等你發(fā)揮!