人工智能(AI)的前景令人信服。給安全經(jīng)理的警笛聲。希望利用自主，自學(xué)解決方案的強(qiáng)大功能的公司正在產(chǎn)生興趣和投資。畢竟，人工智能已經(jīng)使保險(xiǎn)業(yè)，乳腺癌研究，金融和執(zhí)法機(jī)構(gòu)受益。那么，為什么也不安全呢?
根據(jù)ESET最近的一項(xiàng)調(diào)查，新的業(yè)務(wù)期望和誤導(dǎo)性營銷術(shù)語已在AI周圍引起了廣泛的炒作，以至于現(xiàn)在有75%的信息安全決策者將AI視為解決安全問題的靈丹妙藥。如此高昂的期望，再加上當(dāng)前AI技術(shù)的現(xiàn)實(shí)，將使您的組織面臨風(fēng)險(xiǎn)。雖然在幫助人類分析人員方面非常有用，但孤立的AI不能替代經(jīng)驗(yàn)豐富的分析人員實(shí)施的可靠信息安全策略。
以Facebook為消除通過其服務(wù)傳播的“假新聞”的努力為例。該社交網(wǎng)絡(luò)平臺(tái)已重新部署了一些優(yōu)秀工程師，以開發(fā)跟蹤和消除虛假新聞的工具，并雇用了一些優(yōu)秀的AI初創(chuàng)公司，例如Bloomsbury AI。盡管付出了巨大的努力，F(xiàn)acebook產(chǎn)品管理總監(jiān)Greg Marra承認(rèn)：“……我們最多可以減少80%的虛假新聞瀏覽量。”如果AI僅解決Facebook上80%的“假新聞”問題，安全性公司顯然對(duì)抱負(fù)寄予厚望。
硬道理是，圍繞AI的許多興奮僅僅是炒作。話雖如此，人工智能還是有希望的。智能AI確實(shí)具有天才級(jí)解決方案的潛力?，F(xiàn)在是進(jìn)行現(xiàn)實(shí)檢查的時(shí)候了：AI可以做什么，不能做什么?
人工智能可以緩解網(wǎng)絡(luò)安全疲勞
由于威脅領(lǐng)域的根本變化以及缺乏合格的候選人來填補(bǔ)安全分析師的職位，我們需要將AI之類的技術(shù)帶入網(wǎng)絡(luò)安全已經(jīng)很長時(shí)間了。
在過去的幾年中，幾乎每個(gè)組織都經(jīng)歷了數(shù)字化轉(zhuǎn)型。 “數(shù)字化轉(zhuǎn)型”一詞涉及使用數(shù)字技術(shù)來改造流程，以提高組織的效率或效力。這個(gè)想法不僅是使用技術(shù)來以數(shù)字形式復(fù)制現(xiàn)有服務(wù)，而且是使用技術(shù)將服務(wù)轉(zhuǎn)換為更好的產(chǎn)品。
數(shù)字化轉(zhuǎn)型可能涉及許多不同的技術(shù)，但目前最熱門的話題是云計(jì)算，物聯(lián)網(wǎng)，大數(shù)據(jù)和人工智能。除此之外，這是一種文化變革，要求組織不斷挑戰(zhàn)現(xiàn)狀，進(jìn)行試驗(yàn)并適應(yīng)失敗。有時(shí)，這意味著要放棄長期存在的業(yè)務(wù)流程，而在這些業(yè)務(wù)流程上建立公司時(shí)會(huì)偏向于仍在定義中的相對(duì)較新的做法。
數(shù)字化轉(zhuǎn)型可能涉及許多不同的技術(shù)，但目前最熱門的話題是云計(jì)算，物聯(lián)網(wǎng)，大數(shù)據(jù)和人工智能。除此之外，這是一種文化變革，要求組織不斷挑戰(zhàn)現(xiàn)狀，進(jìn)行試驗(yàn)并適應(yīng)失敗。有時(shí)，這意味著要放棄長期存在的業(yè)務(wù)流程，而在這些業(yè)務(wù)流程上建立公司時(shí)會(huì)偏向于仍在定義中的相對(duì)較新的做法。
此類技術(shù)帶來了驚人的新組織能力，但同時(shí)也創(chuàng)造了新的復(fù)雜性，互連性和漏洞點(diǎn)(更大的攻擊面)，網(wǎng)絡(luò)犯罪分子很快就學(xué)會(huì)了利用這些漏洞。傳統(tǒng)的基于邊界和基于規(guī)則的網(wǎng)絡(luò)安全方法不再適用于新的數(shù)字組織。同時(shí)，僅由人員組成的網(wǎng)絡(luò)安全團(tuán)隊(duì)無法處理由所有新技術(shù)和設(shè)備產(chǎn)生的每日威脅數(shù)據(jù)泛濫。
正如IBM安全情報(bào)所強(qiáng)調(diào)的那樣，安全分析師工作過度，人員不足且不知所措。跟上不斷擴(kuò)大的威脅態(tài)勢(shì)是人類不可能做到的，尤其是考慮到運(yùn)行安全運(yùn)營中心(SOC)的日常任務(wù)。
但是，提高安全性的好處令人信服，其中包括大量節(jié)省成本。據(jù)Ponemon稱，與那些在100天內(nèi)未被發(fā)現(xiàn)的事件相比，在不到100天內(nèi)發(fā)現(xiàn)違規(guī)的組織節(jié)省了超過100萬美元。同樣，與那些花費(fèi)超過30天(但少于100天)的組織相比，在30天之內(nèi)包含違規(guī)的組織節(jié)省了超過100萬美元。
AI可以采取什么措施緩解這種情況?
AI的速度，準(zhǔn)確性和計(jì)算能力為保護(hù)無邊界組織提供了獨(dú)特的機(jī)會(huì)，并能夠持續(xù)處理每個(gè)組織現(xiàn)在每天面對(duì)的大量威脅數(shù)據(jù)。這是因?yàn)锳I可以很好地完成乏味的重復(fù)性任務(wù)，例如尋找特定的模式。這樣，其實(shí)施可以減輕大多數(shù)安全運(yùn)營中心(SOC)面臨的資源限制。
對(duì)于入侵防御和檢測(cè)，欺詐檢測(cè)以及根除諸如DNS數(shù)據(jù)泄露和憑據(jù)濫用之類的惡意活動(dòng)，這可能是不可估量的好處。此外，人工智能算法可以應(yīng)用于用戶和網(wǎng)絡(luò)行為分析。例如，機(jī)器學(xué)習(xí)可以查看人員，端點(diǎn)和打印機(jī)等網(wǎng)絡(luò)設(shè)備的活動(dòng)，以標(biāo)記流氓內(nèi)部人員的惡意活動(dòng)。
AI是否達(dá)到了“魔術(shù)”狀態(tài)?
“任何足夠先進(jìn)的技術(shù)，”亞瑟·克拉克(Arthur Clarke)寫道，“與魔術(shù)是無法區(qū)分的。”但這絕不是AI的真相。羅德尼·布魯克斯(Rodney Brooks)指出：“人工智能在1960年代，1980年代一次又一次被高估，現(xiàn)在我再次相信，但從長遠(yuǎn)來看，它的前景也可能被低估了。”實(shí)際上，根據(jù)布魯克斯的說法，人工智能只是阿馬拉法則的另一項(xiàng)適用規(guī)定如下：
“我們傾向于在短期內(nèi)高估技術(shù)的效果，而在長期內(nèi)低估效果。”
我們對(duì)AI犯的一個(gè)錯(cuò)誤是，我們傾向于將其視為一種“魔塵”，一旦將其撒在組織上，它就會(huì)變得更加聰明。事實(shí)并非如此。谷歌云AI業(yè)務(wù)新負(fù)責(zé)人安德魯·摩爾(Andrew Moore)最近表示：“人工智能(AI)是關(guān)于使用數(shù)學(xué)來使機(jī)器做出真正好的決定。目前，它與模擬真實(shí)人類智能(HI)無關(guān)。解決人工智能問題涉及許多艱巨的工程，數(shù)學(xué)和線性代數(shù)以及所有其他工作。絕不是魔塵般的解決方案。”
沒錯(cuò)實(shí)際上，當(dāng)今的AI算法無非就是傳統(tǒng)的機(jī)器學(xué)習(xí)算法。機(jī)器學(xué)習(xí)使用統(tǒng)計(jì)技術(shù)使計(jì)算機(jī)具有“學(xué)習(xí)”的能力-即使用數(shù)據(jù)并識(shí)別數(shù)據(jù)中的模式以逐步提高特定任務(wù)的性能，而無需進(jìn)行顯式編程。機(jī)器學(xué)習(xí)系統(tǒng)是一組算法，它們?cè)谝欢宋沾罅繑?shù)據(jù)，而在另一端吐出推斷，相關(guān)性，推薦甚至可能的決策。而且該技術(shù)已經(jīng)無處不在：實(shí)際上，我們與Google，Amazon，F(xiàn)acebook，Netflix，Spotify等之間的每一次互動(dòng)都是由機(jī)器學(xué)習(xí)系統(tǒng)進(jìn)行的。
正如斯坦福大學(xué)教授兼Google Cloud的前首席AI科學(xué)家Lii-Fei Li在美國眾議院科學(xué)，太空和技術(shù)委員會(huì)的聽證會(huì)上所說的那樣，“關(guān)于AI，沒有任何人造的東西。它受人的啟發(fā)，是人創(chuàng)造的，而且最重要的是，它影響著人們。這是一個(gè)強(qiáng)大的工具，我們才剛剛開始了解它，這是深刻的責(zé)任。”
人工智能不能消除HI
人工智能主要專注于處理大量威脅數(shù)據(jù)。它以接近實(shí)時(shí)的速度幾乎無限地執(zhí)行這些活動(dòng)的能力，使其成為現(xiàn)代，有效的網(wǎng)絡(luò)安全計(jì)劃中的寶貴盟友。而且這些活動(dòng)可以在網(wǎng)絡(luò)安全的每個(gè)階段執(zhí)行，從而使AI在組織遭受攻擊之前，之中和之后都能提供價(jià)值。但是，人工智能不能復(fù)制人類的見識(shí)。它并沒有消除對(duì)人類網(wǎng)絡(luò)安全專家的需求。
如《計(jì)算機(jī)周刊》上的文章所述，機(jī)器學(xué)習(xí)工具對(duì)于惡意軟件分析是“無價(jià)之寶”，因?yàn)樗鼈兡軌蛟谡_標(biāo)記了樣本的情況下快速了解干凈數(shù)據(jù)與惡意數(shù)據(jù)之間的差異。這些引擎僅與輸入其中的數(shù)據(jù)一樣好，僅將數(shù)據(jù)輸入算法就可以告訴分析師異常情況，異常情況，但如果有關(guān)系則不行。數(shù)據(jù)科學(xué)家需要知道如何提出正確的問題以正確利用AI的功能。
這恰恰是有監(jiān)督和無監(jiān)督機(jī)器學(xué)習(xí)之間的區(qū)別。當(dāng)前的工具和技術(shù)為前者提供了支持，但后者仍然遙不可及。如果沒有人來監(jiān)視系統(tǒng)的輸入和輸出并訓(xùn)練算法，人工智能工具就有可能捕獲和報(bào)告基本系統(tǒng)數(shù)據(jù)，但是提供智能威脅響應(yīng)計(jì)劃遠(yuǎn)遠(yuǎn)超出了他們的范圍。這與Ponemon的一項(xiàng)研究相吻合，該研究發(fā)現(xiàn)AI檢測(cè)到55%的安全警報(bào)仍需要人工監(jiān)督。
AI：是朋友還是敵人?
將AI應(yīng)用于安全數(shù)據(jù)與本文開頭列出的其他字段之間的主要區(qū)別之一是，在安全字段中，數(shù)據(jù)正在反擊。由于開發(fā)AI資源的工具在公共領(lǐng)域廣泛可用，因此預(yù)計(jì)在未來幾年中，基于攻擊的AI技術(shù)可能會(huì)比為防御而創(chuàng)建的AI技術(shù)更加普及。因此，盡管在其他學(xué)科中成功使用了AI，但將其用于安全性卻是一項(xiàng)更具挑戰(zhàn)性的任務(wù)，需要更大程度的人員參與。
企業(yè)安全公司SAP NS2的總裁兼首席執(zhí)行官M(fèi)ark Testoni評(píng)論：
“黑客與開發(fā)防御黑客的能力的社區(qū)一樣復(fù)雜。 他們正在使用相同的技術(shù)，例如智能網(wǎng)絡(luò)釣魚，分析潛在目標(biāo)的行為以確定要使用的攻擊類型，以及“智能惡意軟件”，它們知道何時(shí)監(jiān)視它們，以便將其隱藏。”
網(wǎng)絡(luò)罪犯可以使用AI技術(shù)的最常見攻擊媒介包括：
- 機(jī)器學(xué)習(xí)中毒通過中毒從中學(xué)習(xí)算法的數(shù)據(jù)池來規(guī)避AI的有效性，從而導(dǎo)致AI系統(tǒng)將惡意活動(dòng)識(shí)別為良性
- 與聊天機(jī)器人相關(guān)的網(wǎng)絡(luò)犯罪，聊天機(jī)器人可以在其中分析和模仿人們的行為
- 勒索軟件促進(jìn)
- 冒名頂替欺詐和身份盜用
- 收集情報(bào)并掃描漏洞
- 網(wǎng)絡(luò)釣魚
- 分布式拒絕服務(wù)
- (DDoS)攻擊
人工智能部署
除了AI真正可以做的以增強(qiáng)公司安全性之外，公司還必須考慮實(shí)施。組織如何有效地部署AI解決方案以最大化結(jié)果?
對(duì)于初學(xué)者而言，公司必須“停止認(rèn)為AI是魔術(shù)。” AI本身并不是萬靈藥，也無法解決您的所有安全挑戰(zhàn)。但是，AI可以提高SOC性能。 SOC團(tuán)隊(duì)需要了解AI技術(shù)的功能和局限性，并確保他們對(duì)如何受益以及在哪些地方仍需要人工參與抱有適當(dāng)?shù)钠谕?/p>
由AI驅(qū)動(dòng)的工具可以通過自動(dòng)分析警報(bào)來提高安全性，尤其是在將惡意行為添加到分析中時(shí)，可以過濾掉很大一部分明顯的良性行為，因此團(tuán)隊(duì)中的人員可以專注于較小百分比的“可能是惡意”活動(dòng)。通過以這種方式使用AI，SOC可以顯著增加由人類安全分析人員解決的高嚴(yán)重性事件的數(shù)量，并降低成功攻擊的風(fēng)險(xiǎn)，而無需實(shí)際增加分析人員的數(shù)量。
結(jié)論
人工智能非常重要，它將改變我們的生活，超出我們的想象。 但是聲稱它已經(jīng)發(fā)生只是天真。 人工智能具有巨大的潛力，當(dāng)前的發(fā)展正在提高速度和準(zhǔn)確性。 當(dāng)AI真正成為魔力時(shí)，結(jié)合建立適當(dāng)?shù)幕A(chǔ)和人的技能，以及使用基于AI的系統(tǒng)來積累經(jīng)驗(yàn)，可以很大程度地發(fā)揮AI的現(xiàn)有優(yōu)勢(shì)，并為機(jī)器智能的未來奠定基礎(chǔ)。
【責(zé)任編輯：華軒 TEL：（010）68476606】