生物識(shí)別、深度學(xué)習(xí)、自然語言處理等人工智能技術(shù)的日新月異，讓智能走進(jìn)尋常百姓家，不僅是智能手機(jī)已經(jīng)普遍用上指紋識(shí)別，人臉識(shí)別、紅膜識(shí)別、聲紋識(shí)別等生物識(shí)別技術(shù)也開始興起，指紋鎖這樣的電子鎖也成為家裝的新選擇。然而，一個(gè)事實(shí)卻是，無論是人臉、虹膜還是指紋、聲紋，都頻頻被成功破解。有人說，在AI的時(shí)代不談安全，相當(dāng)于"裸奔"。甚至有人給出了迫不得已的建議:安兩把鎖，一把指紋鎖防傳統(tǒng)的賊，一把鐵鎖防黑客。
其實(shí)，這種迫不得已的背后，引出的卻是一個(gè)時(shí)代的命題：
我們應(yīng)該如何在AI的時(shí)代談安全?AI安全較之此前的網(wǎng)絡(luò)安全有何不同?怎樣才是AI安全的解決之道？
AI安全迫在眉睫
生物識(shí)別技術(shù)的興起，背后是對(duì)獨(dú)一無二的指紋、聲紋圖譜等生物特征的利用，正是因?yàn)檫@些生物特征每個(gè)人都不一樣，因此，方才為成為身份識(shí)別和安全驗(yàn)證的解決方案。譬如，理論上任何兩個(gè)人的聲紋圖譜都是存在差異的。再如，指紋這個(gè)最早的也是最基本的生物特征早已被應(yīng)用在現(xiàn)實(shí)生活中。然而，道高一尺魔高一丈，黑客的能力和戰(zhàn)斗力是跟隨技術(shù)的更新?lián)Q代而更新?lián)Q代的。
譬如，一位畢業(yè)于浙江大學(xué)計(jì)算機(jī)專業(yè)的女黑客"tyy"，只用了兩分半的時(shí)間，就利用設(shè)備漏洞，直接修改設(shè)備中的人臉信息，實(shí)現(xiàn)用任意人臉來攻破人臉識(shí)別系統(tǒng)，成功打開門禁。更有黑客用了不到10秒，就用一張打印的照片在一定光線環(huán)境下解鎖了一部手機(jī)。
這事兒發(fā)生在剛剛結(jié)束的GeekPwn2017國際安全極客大賽上，這場(chǎng)大賽中，白帽黑客們現(xiàn)場(chǎng)競(jìng)技，幾分鐘甚至幾秒鐘就輕松攻破人臉識(shí)別、虹膜識(shí)別、指紋識(shí)別等生物識(shí)別系統(tǒng)。
即便是聲音也能仿照，通過語音合成挑戰(zhàn)聲紋識(shí)別。一般而言，聲音是具有唯一性的，按說聲紋識(shí)別技術(shù)應(yīng)該是堅(jiān)不可摧的。然而，事實(shí)卻證明，語音合成的聲音卻能攻破聲紋防線。在上述大賽上，選手就根據(jù)游戲《王者榮耀》里英雄配音者所提供的聲音樣本，模擬了其聲紋特征，合成一段"攻擊"語音，對(duì)現(xiàn)場(chǎng)提供的四個(gè)具有聲紋識(shí)別功能的設(shè)備發(fā)起攻擊，欺騙并通過了"聲紋鎖"的驗(yàn)證。
不僅如此，一部裝有最新iOS系統(tǒng)的iPhone8手機(jī)中的照片也被黑客輕而易舉地盜取。而此前，三星號(hào)稱"超級(jí)安全"的新款手機(jī)蓋樂世S8/S8+也曾陷入虹膜識(shí)別被破解的尷尬。據(jù)報(bào)道，這款手機(jī)在上市不到一個(gè)月時(shí)間內(nèi)被曝出遭德國黑客輕松攻破。
生物識(shí)別是基于某一生物特征的唯一性和不可變更性，然而，一旦被克隆盜用，帶來的不僅是財(cái)產(chǎn)損失，還會(huì)有各種意想不到的風(fēng)險(xiǎn)隱患?；蛟S也正是因?yàn)檫@個(gè)原因，今年GeekPwn直接將人工智能挑戰(zhàn)賽作為全年的重點(diǎn)項(xiàng)目。
利用AI存在的某些漏洞向AI發(fā)起攻擊，是AI安全攻防的一個(gè)基本形式。然而，與傳統(tǒng)的網(wǎng)絡(luò)安全相比，AI安全遠(yuǎn)非漏洞這么簡單。
AI安全與網(wǎng)絡(luò)安全的大不同
數(shù)據(jù)顯示，到2020年，會(huì)有500億臺(tái)物聯(lián)網(wǎng)設(shè)備在全球部署。埃森哲預(yù)測(cè)，人工智能可能將勞動(dòng)生產(chǎn)率提升40%，讓人們更有效地利用時(shí)間。到2035年，人工智能將讓年度經(jīng)濟(jì)增長率提升一倍。
正是在這樣的背景下，去談人工智能安全顯得極為必要。與傳統(tǒng)網(wǎng)絡(luò)安全更多的是針對(duì)PC設(shè)備和服務(wù)器設(shè)備進(jìn)行的安全防范維護(hù)，更多的是對(duì)付Windows的漏洞和木馬等相比，人工智能時(shí)代的AI安全，對(duì)應(yīng)的是數(shù)百億臺(tái)的設(shè)備，而且設(shè)備不僅是PC，更是手機(jī)、電視、冰箱、空調(diào)、各種專業(yè)物聯(lián)網(wǎng)設(shè)備在內(nèi)的一切所想得到的、能插電的設(shè)備。可以說，僅僅從設(shè)備海量而言，AI安全也都是既具有挑戰(zhàn)性但又有迫切性的。
如百度總裁張亞勤所言，"AI時(shí)代，一個(gè)最大的挑戰(zhàn)，就是安全的問題。"張亞勤從設(shè)備量級(jí)、物聯(lián)網(wǎng)碎片化以及攻擊方式三個(gè)方面談了他的看法:其一，伴隨萬物互聯(lián)百億甚至千億臺(tái)設(shè)備的全球部署，其影響層面在傳統(tǒng)程序安全、數(shù)據(jù)安全、金融安全的基礎(chǔ)上，已經(jīng)波及人身安全和社會(huì)安全;其二，AI時(shí)代的IoT碎片化程度會(huì)有指數(shù)級(jí)的增加，AI安全具備高度的復(fù)雜性;其三，針對(duì)安全的攻擊方式將升級(jí)換代。
不僅如此，AI安全所涉及的范圍還空前廣泛，譬如，在傳統(tǒng)安全層面，比如AI系統(tǒng)的硬件、軟件、框架、協(xié)議等需要安全升級(jí)。再如，AI自身層面的安全，比如錯(cuò)誤地引導(dǎo)機(jī)器學(xué)習(xí)系統(tǒng)，以達(dá)到攻擊者的目的，或者破壞機(jī)器學(xué)習(xí)的樣本，讓機(jī)器學(xué)習(xí)得出錯(cuò)誤的結(jié)果?？梢哉f，無論是軟硬件還是自身層面，AI安全已經(jīng)是從傳統(tǒng)網(wǎng)絡(luò)安全中"脫胎換骨"，像錯(cuò)誤地引導(dǎo)機(jī)器學(xué)習(xí)，這事兒根本不敢想，因?yàn)?，一旦能做到這樣的攻擊，尤其是對(duì)于諸如金融、醫(yī)療、社會(huì)公共事業(yè)等領(lǐng)域，倘若沒有全方位地安全防范，將會(huì)產(chǎn)生致命的、難以預(yù)估的安全事件，甚至是釀成大禍。
可以說，AI安全需要云、管、端一體化，不僅僅是針對(duì)硬件、軟件的安全防護(hù)這么簡單。這種將云端、終端、管道一體化的安全，則是傳統(tǒng)網(wǎng)絡(luò)安全公司難以搞定的。而這一重任勢(shì)必要落到有經(jīng)驗(yàn)、有技術(shù)、有積累的人工智能公司身上。譬如，已經(jīng)提前4年布局人工智能的百度，以及率先發(fā)力AI安全的百度安全，在最近就牽頭做了一件為AI安全保駕護(hù)航的大事。
破題AI安全 生態(tài)聯(lián)盟緣何成最優(yōu)解決方案
這件事就是，11月6日，百度安全聯(lián)合華為、中國信息通信研究院發(fā)起成立了"OASES智能終端安全生態(tài)聯(lián)盟"(OpenAI System Security Alliance，簡稱OASES聯(lián)盟)。
這件事的意義不小，不僅因?yàn)檫@是國內(nèi)首個(gè)致力于AI時(shí)代提升智能終端生態(tài)安全的聯(lián)盟組織，更重要的是，這是找到了破題AI安全這一時(shí)代命題的解決方案。因?yàn)?，人工智能涉及的維度和層面很多，不僅云、端、管，更有龐雜如毛細(xì)血管一樣的細(xì)枝末節(jié)，每一個(gè)細(xì)微之處忽略了安全防范，都可能帶來風(fēng)險(xiǎn)。
這種防范，需要像Linux、Android一樣有開源的系統(tǒng)和解決方案去全面化推廣，而推廣就勢(shì)必會(huì)牽涉到云、端、管等各路公司、各路軟硬件，這種情況下，有一個(gè)聯(lián)盟存在，好比是有了能量補(bǔ)給的倉庫，隨用隨取，自由部署，互聯(lián)互通。如此，AI安全方才有的談、有的做。
而這事兒為什么是百度牽頭呢?一個(gè)可能原因是，百度在AI上發(fā)力較早，加上做的都是底層技術(shù)和系統(tǒng)、開放平臺(tái)的事情，所以能對(duì)AI安全有更全面和深入的理解。也是因?yàn)榇?，方才推?dòng)百度去想牽頭做這樣一個(gè)聯(lián)盟。
百度牽頭成立這個(gè)聯(lián)盟蠻有誠意。從百度安全事業(yè)部總經(jīng)理馬杰對(duì)聯(lián)盟的解讀可以看出，"我們建立聯(lián)盟，不想說一個(gè)特別空的東西，最好有實(shí)際的東西，使得大家先得到一點(diǎn)幫助--這可能也是非常重要的一步，大家先往前邁一點(diǎn)。"做聯(lián)盟，尤其是做大家之前沒有涉及的AI安全生態(tài)聯(lián)盟，要讓盡可能的公司和組織加入進(jìn)來，的確需要秀一下誠意。百度此次拿出自己在人工智能領(lǐng)域深耕多年的技術(shù)，不僅免費(fèi)授權(quán)給聯(lián)盟廠商使用，還將核心技術(shù)開源，專利共享，以打消產(chǎn)業(yè)鏈同行的顧慮，推動(dòng)核心安全技術(shù)在各個(gè)環(huán)節(jié)節(jié)點(diǎn)的真正落地應(yīng)用。
此舉可謂是拋磚引玉，像華為、中國信息通信研究院這樣的伙伴加入，大家則能一起把聯(lián)盟推廣起來，只有越來越多的組織加入，這個(gè)聯(lián)盟的生態(tài)效應(yīng)也就會(huì)日趨顯現(xiàn)。
一如Android開源一樣，Google并不從Android上面盈利，但是也正因?yàn)榇?，造就了一個(gè)安卓智能手機(jī)盛世。同樣的，只要做好專利共享、技術(shù)開源、標(biāo)準(zhǔn)共建，堅(jiān)持去開源、去共贏、去輸出，由百度、華為們聯(lián)合發(fā)起的這一OASES聯(lián)盟，就有望通過聯(lián)盟合作伙伴的合力，共同推動(dòng)AI安全技術(shù)與服務(wù)的應(yīng)用落地，并有望引領(lǐng)大生態(tài)、大安全的AI時(shí)代。
01月07日 18:14
