10月12日，360提報(bào)的“360人工智能框架漏洞威脅感知系統(tǒng)”、“360新一代終端安全智能防護(hù)系統(tǒng)”，入選中國網(wǎng)絡(luò)空間安全協(xié)會(huì)組織評選的2021年人工智能安全典型實(shí)踐案例。

據(jù)了解，360人工智能框架漏洞威脅感知系統(tǒng)能夠從算法實(shí)現(xiàn)、漏洞類型、編譯優(yōu)化等多角度持續(xù)開展對機(jī)器學(xué)習(xí)框架的安全風(fēng)險(xiǎn)研究，并采用動(dòng)、靜結(jié)合的分析方法對Python、C++、Go等不同語言中的不同漏洞類型進(jìn)行全面系統(tǒng)的檢測，檢測過程著重關(guān)注從訓(xùn)練到推理、從數(shù)據(jù)到模型、從云端到終端過程中存在的安全風(fēng)險(xiǎn)。此外，該系統(tǒng)基于豐富的安全專家知識(shí)庫，能夠提供對AI框架業(yè)務(wù)的定制化檢測，如對計(jì)算圖優(yōu)化、圖編譯、分布并行等模塊的安全性檢測。

近期，360人工智能框架漏洞威脅感知系統(tǒng)對國內(nèi)外主流開源AI框架進(jìn)行了安全性評測，累計(jì)7款機(jī)器學(xué)習(xí)框架(如Tensorflow、PyTorch等)漏洞超150個(gè)，框架供應(yīng)鏈漏洞超200個(gè)，并幫助各廠商對漏洞進(jìn)行了修復(fù)。值得一提的是，360 AI安全實(shí)驗(yàn)室已經(jīng)累計(jì)發(fā)現(xiàn)并幫助谷歌修復(fù)Tensorflow漏洞98個(gè)(CVE)，其中高危、嚴(yán)重漏洞共24個(gè)。

關(guān)鍵詞： 人工智能 終端安全 智能防護(hù)系統(tǒng) 360