30秒快讀
1、“人工智能發(fā)展道路還很漫長，針對人工智能和通信網絡的結合，我們需要做好各種準備?！痹?月10日2020世界人工智能大會云端峰會的“AI新基建 5G新機遇”主題論壇中，北京郵電大學教授張勇表示，在電信運營商網絡智能化方面，深度神經網絡已經成為主流方案，但他同時指出，安全問題使得AI在通信網絡應用時很難得到信任。
2、“當前已經出現一些’數據投毒’’逃逸攻擊’等專門攻擊AI系統(tǒng)的手段。”他強調。在自動駕駛領域，“數據投毒”可導致車輛違反交通規(guī)則甚至造成交通事故；在軍事領域，通過信息偽裝的方式可誘導自主性武器啟動或攻擊，其帶來的風險是毀滅性的。
張勇提出AI在5G網絡智能化應用中面臨的五大挑戰(zhàn)。
挑戰(zhàn)一
壞數據會產生“偏見”
數據、算力、算法，深度學習三大關鍵詞，其中數據往往被認為是人工智能最重要的驅動力，但也正因如此，“壞”的數據，或者“不完善”的數據，會直接影響計算結果。不久前，美國杜克大學研究人員發(fā)明一種新的圖像識別算法PULSE，它可以將低分辨圖片變成高清圖片，但有人將奧巴馬打了馬賽克的照片輸入后，復原的照片卻有了白人的特征。圖靈獎得主、人工智能標桿性人物 Yann LeCun認為，這不僅是算法的問題，而是訓練時使用的數據產生了“偏見”。
圖源/網絡
“數據不完善，不管是數據源數量，還是已有數據的指標深度都存在著不足，使用這些數據應用智能運維效果不佳，甚至會造成決策錯誤?！睆堄抡J為，當前存在標記數據缺乏、數據不平衡/異常標注廣泛存在、仿真數據難以使人信服等數據源問題，這些都會影響AI對智能通信網絡的優(yōu)化。
挑戰(zhàn)二
目前的AI能力還很“羸弱”
“通信網絡對可靠性穩(wěn)定性的要求，遠比計算機完成人臉識別、語音識別的要求要高?！彪m然AI在語音、視頻、圖像、文本等領域已經獲得引人注目的成就，但應用到網絡通信方面還存在著大量困難，張勇舉了一個例子，研究團隊在通過對網絡流量數據進行網絡攻擊行為檢測，在一個公開數據集上進行分類檢測得到一個很好的模型。換一個數據集，同樣包含一樣的攻擊行為，檢測效果就非常差。
圖源/Pixabay
“目前的AI還是一種弱人工智能階段，需要耗費大量的計算資源，才可以獲得一個人類很容易擁有的能力?！贝送?，張勇還指出，AI缺乏邏輯推理能力，那么在網絡智能運維上所需要的一些邏輯推理問題沒有辦法開展，而且各種模型無法互通，獲得的知識也無法傳遞。
挑戰(zhàn)三
“黑盒子”無法獲得信任
“黑盒子”是當前深度學習產業(yè)化最大的攔路虎。由于缺乏數理基礎的支撐，AI模型的好壞以及原因，通常都是個“謎”。因此，在需要高可靠性的通信網絡場景中，AI往往得不到信任。
圖源/Pixabay
張勇團隊在和一些企業(yè)合作時，準備用AI技術做無線信號識別，對方便提出，能不能不要用深度學習，“因為感覺這個不是很可靠?！边@為AI技術在網絡智能化應用帶來挑戰(zhàn)：深度學習如何在網絡智能化上面保持保證高度可靠性，如何說服使用者信任它？
挑戰(zhàn)四
動態(tài)資源分配可能對網絡產生影響
剛剛于北京時間7月3日晚凍結的第一個5G演進版標準R16，再次把網絡自動化提上日程。為了實現網絡自動化和智能化，國際標準組織3GPP定義了5G網絡自動化的通用架構，新增了網絡數據分析功能，作為大數據收集和智能分析的承載實體，不僅能收集數據，還具備智能分析的能力，包括計算模型訓練、推理判斷與預測等等。
圖源/網絡
因此，在很多對未來5G社會的設想中，使用者可以按需分配、按需使用、按需計費，這個要求必然只能通過AI來完成。但現實情況是，現有網絡場景遠比數學模型場景復雜，目前網絡資源分配大多使用強化學習方法，張勇指出，在強化學習的探索過程中間，如果在現網上直接測試，很容易對網絡性能帶來負面影響。
于是，研究者遭遇兩難：如果先在測試網絡上開展工作，想要得到好的結果，需要提前做大量實驗，但通信場景之多樣性遠超谷歌AlphaGo Zero遇到的情況，訓練過程中需要的資源、數據量和計算量不可想像，也無法承受。
挑戰(zhàn)五
小心深度學習被用來“對抗攻擊”
深度學習對產業(yè)發(fā)展帶來機遇，并日益普及，但也使得安全問題被提上了議事日程。有研究表明，深度神經網為網絡安全帶來跨越式的發(fā)展機遇，但也為攻擊者提供了新的攻擊面——針對AI模型完整型發(fā)起的攻擊，即所謂的“對抗攻擊”。
“數據投毒”和“逃逸攻擊”是兩種常見的對抗攻擊?！皵祿抖尽笔侵腹粽咄ㄟ^在訓練數據里加入偽裝數據、惡意樣本等行為來破壞數據的完整性，進而導致訓練的算法模型決策出現偏差。
根據中國信通院發(fā)布的《人工智能數據安全白皮書（2019）》，“數據投毒”危害巨大。在自動駕駛領域，“數據投毒”可導致車輛違反交通規(guī)則甚至造成交通事故；在軍事領域，通過信息偽裝的方式可誘導自主性武器啟動或攻擊，從而帶來毀滅性風險。
圖源/中國信通院
逃逸攻擊則是指攻擊者在不改變目標機器學習系統(tǒng)的情況下，通過構造特定輸入樣本以完成欺騙目標系統(tǒng)的攻擊。比如，一個深度學習系統(tǒng)原本可以精確區(qū)分熊貓與長臂猿等圖片，但是攻擊者可以對熊貓圖片增加少量干擾，生成的圖片，人看起來仍是熊貓，但系統(tǒng)會誤認為長臂猿。
哪怕是今年最熱門的聯(lián)邦學習，也可能存在惡意參與者，如果在原始樣本中加入小幅度的擾動，便可能使生成對抗攻擊時的異常檢測系統(tǒng)發(fā)生誤判。
張勇團隊做了一個實驗，針對基于AI的入侵檢測系統(tǒng)，通過對抗生成網絡產生攻擊的網絡數據流樣本，對采用不同機器學習算法的IDS（入侵檢測系統(tǒng)）進行攻擊，攻擊成功率最高可以達到80%以上，也就是說，他們改變了攻擊數據級的特征，讓原本具有很高檢測能力的基于AI的入侵檢測系統(tǒng)失效了。
“構建一個可靠、安全、可信的人工智能解決方案，需要從數理基礎上進行梳理研究，但這是一個很漫長的工作，目前來看還沒有好的方法。”張勇表示。
（根據張勇發(fā)言編輯整理，有刪改）
作者／IT時報記者 郝俊慧
編輯／挨踢妹
排版／馮誠杰
圖片／網絡 中國信通院 Pixabay
來源／《IT時報》公眾號vittimes
