AI病毒來(lái)襲，拿什么拯救你我的電腦？

　 阿里云優(yōu)惠券 先領(lǐng)券再下單

文|雷宇

來(lái)源|智能相對(duì)論(aixdlun)

在劉慈欣的科幻小說(shuō)《中國(guó)2185》中，除領(lǐng)土，領(lǐng)海，領(lǐng)空外，還有一個(gè)被稱為電子領(lǐng)土的地方，這個(gè)地方除了容易受常規(guī)武器破壞外，還容易受到軟件武器的威脅。

軟件武器分為軟件病毒和軟件炸彈兩大類，其中軟件病毒是一種程序，它在電腦系統(tǒng)中遇到一個(gè)程序時(shí)，就把自己復(fù)制成兩份，其中一份進(jìn)入到所遇到的程序中，以破壞這個(gè)程序，并隨著這個(gè)程序把自己傳染到電腦網(wǎng)絡(luò)系統(tǒng)的其它部分。軟件炸彈和軟件病毒類似，但它僅僅是在電腦系統(tǒng)中飛快地復(fù)制自己，使自己的數(shù)量以幾何級(jí)數(shù)增長(zhǎng)，最后占敵方電腦系統(tǒng)的內(nèi)存而使其系統(tǒng)癱瘓。

事實(shí)上，伴隨著人工智能技術(shù)的發(fā)展，AI病毒甚至比小說(shuō)中描述的還要強(qiáng)悍。最近，IBM研究院在計(jì)算機(jī)安全大會(huì)BlackHat上展示了他們制造的惡意軟件：DeepLocker。它“靜若處子，動(dòng)若脫兔”，臥薪嘗膽18年也在所不惜，只有目標(biāo)出現(xiàn)時(shí)才會(huì)精準(zhǔn)發(fā)作。

普通病毒尚有招可應(yīng)，AI病毒則致破壞于無(wú)聲

《神雕俠侶》中的楊過(guò)在石壁上發(fā)現(xiàn)了劍魔獨(dú)孤求敗刻下的字，其中有這么幾句：

「紫薇軟劍」三十歲前所用，誤傷義士不祥，悔恨無(wú)已，乃棄之深谷。重劍無(wú)鋒，大巧不工。四十歲前恃之橫行天下。四十歲后，不滯于物，草木竹石均可為劍。自此精修，漸進(jìn)于無(wú)劍勝有劍之境。在這之中提到了三把劍：紫薇軟劍、玄鐵重劍、無(wú)劍。智能相對(duì)論(aixdlun)分析師雷宇認(rèn)為，這三把劍可以預(yù)示電腦病毒發(fā)展的三個(gè)階段。

第一階段：紫薇軟劍，用劍作為“器”的性狀來(lái)發(fā)揮威力。

這一階段的代表是熊貓燒香病毒。熊貓燒香作為一種蠕蟲(chóng)病毒的變種，2007年，在全國(guó)范圍流行，被感染用戶系統(tǒng)中所有.exe可執(zhí)行文件全部被改成熊貓舉著三根香的模樣。雖然這款病毒能自動(dòng)傳播、自動(dòng)感染硬盤(pán)且破壞力大，但只要用戶及時(shí)下載更新殺毒軟件，或者一些殺毒軟件推出的專殺工具，就可以對(duì)熊貓燒香病毒進(jìn)行查殺。

對(duì)于以“器”的形狀發(fā)揮威力的病毒來(lái)說(shuō)，只要有更厲害的“器”，便可制服。

第二階段：玄鐵重劍，通過(guò)一些特定的招式驅(qū)動(dòng)劍。

2017年5月，wannacry敲詐勒索病毒全球大規(guī)模爆發(fā)。被該勒索軟件入侵之后，用戶系統(tǒng)的圖片、文檔資源等都會(huì)被加密，同時(shí)桌面上會(huì)彈出勒索對(duì)話框，向用戶勒索一定數(shù)額的比特幣贖金。最周造成很多計(jì)算機(jī)用戶的重要資料丟失，損失巨大。事實(shí)上，WannaCry主要是利用Windows系統(tǒng)漏洞傳播，打上安全補(bǔ)丁就可以有效防范。

對(duì)于以特定招式發(fā)揮威力的病毒來(lái)說(shuō)，只需要在招式上改進(jìn)，功力精進(jìn)倒也可以避免這種威脅。但是，AI病毒卻讓人防不勝防。

第三階段：無(wú)劍，以無(wú)劍勝有劍。

AI病毒可能掌握復(fù)雜和靈活的對(duì)抗樣本，“欺騙”殺毒軟件，“偷偷隱藏”，并不好對(duì)付。DeepLocker的針對(duì)性特別強(qiáng)，而且它隱藏在某些軟件中，用戶毫無(wú)知覺(jué)的將其下載。它可以通過(guò)人臉識(shí)別，語(yǔ)音識(shí)別，大數(shù)據(jù)分析等實(shí)現(xiàn)對(duì)用戶的偵測(cè)與分析，但是程序并不會(huì)顯示它正在進(jìn)行某種操作。一般目標(biāo)屬性識(shí)別采取了復(fù)雜的DNN結(jié)構(gòu)，目標(biāo)屬性和密匙則被加密到了DNN中，只有通過(guò)DNN來(lái)判斷多個(gè)維度的目標(biāo)屬性符合時(shí)，病毒才會(huì)啟動(dòng)攻擊，不再“深藏功與名”。

實(shí)際上，AI病毒有點(diǎn)像掃地僧，看似不起眼，實(shí)則是以不變應(yīng)萬(wàn)變，要么不出招，要么放大招。

AI病毒也許猖獗，但AI對(duì)抗AI的“一出好戲”正在上演

Darktrace(中文或可譯為“白夜追兇”?)是一家市值超過(guò)8.5億美元的英國(guó)公司，主要采用人工智能方式來(lái)保障網(wǎng)絡(luò)安全。不僅能夠應(yīng)對(duì)人類黑客的攻擊，而且還能搞定機(jī)器學(xué)習(xí)的威脅。該公司主推的一款產(chǎn)品名為“企業(yè)免疫系統(tǒng)( Enterprise Immune System )”，利用機(jī)器學(xué)習(xí)技術(shù)增強(qiáng)自身防御能力，把大部分網(wǎng)絡(luò)攻擊在追蹤過(guò)程中消滅掉。除此之外，以色列初創(chuàng)公司SecBI也相繼推出了更先進(jìn)的機(jī)器學(xué)習(xí)和AI技術(shù)來(lái)大家網(wǎng)絡(luò)黑客襲擊。

1. AI病毒無(wú)孔不入，資產(chǎn)數(shù)據(jù)成“出頭鳥(niǎo)”

AI病毒最常見(jiàn)的行為就是對(duì)資產(chǎn)和數(shù)據(jù)的網(wǎng)絡(luò)敲詐，以下是針對(duì)49個(gè)組織的345個(gè)網(wǎng)絡(luò)安全預(yù)測(cè)。

數(shù)據(jù)來(lái)自文章《Cybersecurity in 2017: A roundup of predictions》，2017

物聯(lián)網(wǎng)的安全問(wèn)題被排在了首位。工廠設(shè)備，醫(yī)院的核磁共振設(shè)備以及自動(dòng)販賣(mài)機(jī)損壞時(shí)，需要及時(shí)修復(fù)，不然勢(shì)必會(huì)讓網(wǎng)絡(luò)黑客或AI病毒有機(jī)可趁，出現(xiàn)需要支付贖金才能恢復(fù)聯(lián)機(jī)的情況。同時(shí)需要及時(shí)備份數(shù)據(jù)，不然企業(yè)很可能會(huì)在數(shù)據(jù)恢復(fù)上再大費(fèi)周章。

由于現(xiàn)階段對(duì)物聯(lián)網(wǎng)軟件和硬件的內(nèi)部工作機(jī)制的了解非常有限，如果物聯(lián)網(wǎng)設(shè)備被盜用，很難說(shuō)會(huì)發(fā)生什么?！段锫?lián)網(wǎng)安全》一書(shū)中曾提到，數(shù)據(jù)，無(wú)論是視頻、音頻、環(huán)境或其他敏感信息，往往都可以通過(guò)受入侵物聯(lián)網(wǎng)設(shè)備盜取出去，可能還會(huì)為犯罪分子提供組織有價(jià)值的信息來(lái)利用。

每隔不久我們就會(huì)看到不法分子盜取QQ甚至微信，騙取其好友錢(qián)財(cái)?shù)南?，為什么這樣的事會(huì)屢禁不止呢?除了被害者缺乏安全意識(shí)，還有就是現(xiàn)在的手段越來(lái)越高階。比如AI病毒可以通過(guò)學(xué)習(xí)被攻擊對(duì)象的電子郵件，聊天記錄，語(yǔ)音等，模仿受害者的寫(xiě)作風(fēng)格和語(yǔ)音語(yǔ)色，從而進(jìn)行詐騙。也許在未來(lái)，對(duì)面和你語(yǔ)音，斗圖，侃房?jī)r(jià)的那個(gè)人，是想騙你錢(qián)的AI病毒。更可怕的是，你可能很難區(qū)分，畢竟前不久在谷歌開(kāi)發(fā)者大會(huì)上亮相的語(yǔ)音助手就幾乎與真人無(wú)異了。

2. 當(dāng)AI病毒開(kāi)始攻擊AI，AI還能“絕地反擊”嗎?

AI攻擊AI，往往會(huì)使人工智能系統(tǒng)精度下降最終使得輸入結(jié)果出現(xiàn)偏差。實(shí)際上，影響不僅僅在于把貓識(shí)別成老虎這樣的小事。更可怕的是，具有定源、定向攻擊的病毒誤導(dǎo)機(jī)器，比如在無(wú)人駕駛中，把長(zhǎng)頸鹿識(shí)別成塑料袋，把綠燈識(shí)別為紅燈等。而這產(chǎn)生的后果不堪設(shè)想。

但在AI病毒攻擊AI之前，它也需要掌握一些“敵情”。主要有如下兩點(diǎn)：

1.數(shù)據(jù)。包括用于訓(xùn)練網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)集、網(wǎng)絡(luò)結(jié)構(gòu)(具體包含神經(jīng)網(wǎng)絡(luò)的層數(shù)及類型)，神經(jīng)元的激活函數(shù)、權(quán)重及偏置項(xiàng)矩陣等。

2.算法。“敵方”訓(xùn)練數(shù)據(jù)以及訓(xùn)練網(wǎng)絡(luò)時(shí)的算法細(xì)節(jié)。

我們知道，人工智能依然存在黑箱，在對(duì)人工智能進(jìn)行攻擊的時(shí)候，不僅難以的得到對(duì)方的算法，也沒(méi)有辦法改變輸入結(jié)果，很難實(shí)現(xiàn)有效的攻擊。

但是，神經(jīng)網(wǎng)絡(luò)固有的非線性結(jié)構(gòu)使它們能夠生成更為復(fù)雜和更為靈活的對(duì)抗樣本，從而欺騙目標(biāo)模型。因此，在未來(lái)，通過(guò)人工智能技術(shù)對(duì)抗人工智能的黑暗面已經(jīng)成了行業(yè)發(fā)展的既定事實(shí)。

結(jié)論

回到開(kāi)頭，小說(shuō)描述的電子領(lǐng)土實(shí)際上已經(jīng)得到了一定程度上的實(shí)現(xiàn)。我們當(dāng)代人在互聯(lián)網(wǎng)上或多或少都有自己的一方領(lǐng)土，哪里包含了我們的隱私我們的喜怒哀樂(lè)，而這些都勾勒出了我們?cè)陔娮宇I(lǐng)土上的畫(huà)像。

AI病毒的肆虐，某種程度上不是流行感冒，而是流行頑疾，易傳染難根治。那你覺(jué)得可治嗎?

【完】

智能相對(duì)論(微信id:aixdlun)：深挖人工智能這口井，評(píng)出咸淡，講出黑白，道出vb深淺。重點(diǎn)關(guān)注領(lǐng)域：AI+醫(yī)療、機(jī)器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開(kāi)發(fā)者以及背后的芯片、算法、人機(jī)交互等。

申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！