阿里建立AI防御系統反抗黑灰產數據污染

大數據、計算和算法是人工智能的三大要素，如何保障數據安全和數據的清潔度，是提升智能產品安全性的 關鍵因素。近日，BAT等互聯網企業齊聚，在2021全球人工智能與機器人峰會(CCF-GAIR)上圍繞智能安全進行深入探討。

作為受邀嘉賓，阿里巴巴安全部算法資深總監路全指出，人工智能帶來更多可能的同時，也帶來了諸多安全風險，尤其黑灰產正在使用“數據污染”、“數據中毒”等新型復雜化手段，與人工智能行業的正向發展進行激烈對抗。

阿里巴巴安全部資深總監路全表示，阿里已建成流量清洗智能防御系統治理“污染數據”問題。

他以人工智能汽車的安全問題舉例稱，除了“利用智能算法本身缺陷改變交通標志”或以“傳統的黑客入侵滲透控制其他平民汽車”等方式，可以控制攻擊智能汽車外，通過向智能設備云端或系統輸入污染、“中毒”數據，同樣可以用來攻擊人工智能系統及設備。

其攻擊原理是，人工智能都基于大數據算法來實現精準運算，很終產生實際行為，正是利用這一特性，對抗方可以輸入一些受污染的數據“喂養”、“練習”人工智能系統，使其偏離正常的運算目標，很終產生失焦的運算行為，從而引發一系列安全風險。

“黑灰產對抗方會用大量低級爬蟲或低級流量，來試圖爬取互聯網公司的數據信息，他們明知低級爬蟲很簡單被殺掉，但仍會不惜成本投入。”路全解釋稱，這些低級爬蟲樣本產生的“污染數據”會影響和扭曲算法模型，很終他們還會利用少量摻雜其中的高級爬蟲進行攻擊。

“數據中毒的目的就是讓機器學習模型不能覆蓋正確的目標，從而使其防護失效。”路全表示，阿里安全已經建立起了雙層防護機制，專門防護系統安全和防護數據污染。

“所有互聯網公司必須警惕‘數據污染’這種攻擊手段，因為由黑灰產發起的機器流量是數據污染的源頭，為此阿里巴巴除了在傳統網絡安全上建立安全防御體系防御黑客入侵和滲透外，還建立了全新的流量清洗智能防御系統。”路全介紹，阿里巴巴建立的機器流量防控體系主要由三部分組成，其中包括相當于“眼睛”的檢測模塊;以及等同“大腦”的分類模型，還有輔助系統。

基于阿里巴巴擁有的豐富業態，阿里安全實驗室在機器算法方面已有深入研究，由達摩院領銜的各大實驗室也已研發出各種優秀算法，并應用于阿里生態的搜索、廣告、IoT、客服等多個業務線。

“假如把AI視作一個正在茁壯成長的小孩，那么臟數據或數據污染就是病毒有害物，AI算法和機器學習是根據大量數據來進行的，假如數據被污染，就像小孩吃了不健康的東西。”路全形象地比喻說，“要像呵護孩子一樣，去呵護我們的AI系統。”

文章來源：未知

文章標題：阿里建立AI防御系統，反抗黑灰產“數據污染”

本文地址：m.brucezhang.com/seo/475.html