（國際安全極客大賽GeekPwn活動創(chuàng)辦人王琦）

　　AI看到了世界 黑客卻看到了危險

　　幾十年間，人工智能經(jīng)歷了一波三折的曲折發(fā)展，例如計(jì)算機(jī)視覺領(lǐng)域的圖像識別，它的識別正確率一直難以取得大的突破，但是近年來取得了很多了不起的成果。2012年， Google X 實(shí)驗(yàn)室發(fā)出了一套具備自主學(xué)習(xí)能力的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，不借助任何外界信息幫助，它就能從一千萬張圖片中找出那些有小貓的圖片。如今，人工智能已經(jīng)廣泛應(yīng)用于生活的諸多場景中，包括實(shí)時語音翻譯、目標(biāo)識別、自動駕駛、人臉識別、人機(jī)對話等等。王琦在感受到興奮的同時，也表達(dá)了他的擔(dān)憂：我們要關(guān)注到人工智能可能暴露出的諸多潛藏風(fēng)險。

　　“如果能夠讓自動駕駛的圖像識別產(chǎn)生錯誤判斷，分不清楚前方遇到的是人還是樹，我認(rèn)為這就是黑掉了它，這可能要比黑掉傳統(tǒng)的控制系統(tǒng)更酷。” 王琦說。GeekPwn實(shí)驗(yàn)室在2015年底開始了AI對抗的研究，并廣泛接觸和招募AI領(lǐng)域的頂尖人才，很快，在2016年的GeekPwn美國站上，生成對抗網(wǎng)絡(luò)（GANs）之父Ian Goodfellow就展示了“對抗性圖像”在現(xiàn)實(shí)物理世界欺騙機(jī)器學(xué)習(xí)的效果。原始圖像以60%的置信度判斷為“熊貓”，但是加入了微小的干擾，在人眼完全看不出差別的情況下卻以99%的執(zhí)行度歸為了長臂猿。

　　加入干擾元素的圖像引起AI的誤判 

　　AI學(xué)習(xí)和決策模型與黑客領(lǐng)域的漏洞挖掘和利用過程何其相似

　　AI在圖像領(lǐng)域存在被欺騙的可能性，讓王琦預(yù)見到這種可能性在其他語音和行為智能等領(lǐng)域也會存在。AI被欺騙，看似人工智能的錯誤和不完善，但其實(shí)在黑客眼里就有可能變成可以被利用的漏洞�！艾F(xiàn)代信息安全領(lǐng)域里的高級攻擊利用的漏洞，在很多年以前都僅僅被看作是計(jì)算機(jī)錯誤。需要警惕的是，凡是錯誤，可能到了黑客那里就變成了安全漏洞�！蓖蹒�說。人工智能依賴對大量樣本進(jìn)行深度學(xué)習(xí)，最后產(chǎn)生決策的過程，和安全領(lǐng)域里通過產(chǎn)生大量模糊測試樣本引發(fā)計(jì)算機(jī)異常從而發(fā)掘出漏洞，最終執(zhí)行流程可以被改變導(dǎo)致安全危害的過程非常相似，如果說正確樣本能夠產(chǎn)生正確的決策，那么黑客通過離線模擬產(chǎn)生的AI攻擊樣本，則可能給人工智能帶來錯誤的決策和行為。

　　微軟聊天機(jī)器人Tay上線不到一天，就向網(wǎng)友“成功學(xué)習(xí)”了新的聊天方式，從彬彬有禮的美國“姑娘”變得臟話不斷，言語中還充斥了種族主義、色情等“情感偏見”。王琦大膽預(yù)言：深度依賴學(xué)習(xí)樣本的人工智能，未來對它的攻擊可能甚至不需要編寫代碼，人人都可能成為“黑客”。

　　目前AI只有0.1歲  黑客能夠幫助AI安全成長

　　白帽黑客從對抗的思路出發(fā)，尋找AI潛藏的風(fēng)險并不斷幫助其完善，其棒幫助人工智能安全健康成長�！皩τ谌斯ぶ悄艿目捶�目前分為兩派，悲觀主義者認(rèn)為人類研發(fā)人工智能可能是在自取滅亡，如果真的有那一天的話，白帽黑客可以做的是保護(hù)AI安全發(fā)展”王琦說。

　　當(dāng)無人駕駛的“眼睛”被欺騙，它還能在馬路上安全行駛嗎？作為全球首個探討人工智能和專業(yè)安全的前沿賽事平臺，GeekPwn鼓勵更多的白帽子黑客可以協(xié)助AI進(jìn)行安全性的預(yù)演分析。將于5月12日在香港星夢郵輪“云頂夢號”上舉辦的極棒年中賽，就將針對人工智能的安全課題向全球黑客發(fā)出英雄帖。