人臉識別系統頻曝漏洞，自動駕駛汽車事故頻發……近年來，人工智能領域安全事件頻發，如何保障人工智能安全發展成為擺在行業面前的一道必答題。

　　日前，由科技部牽頭部署的“科技創新2030‘新一代人工智能’2019年度定向項目啟動會暨實施方案論證會”在360公司舉辦。會上，國家科技部及北京市科委的多位領導蒞臨指導，來自中科院信工所、中國科學技術發展戰略研究院、清華大學等機構、院校的專家學者一致通過了項目實施方案。該項目是360牽頭承建的“安全大腦國家新一代人工智能開放創新平臺”的重要項目之一，將重點解決人工智能本身存在的安全風險、人工智能創新環境匱乏及在網絡安全領域創新成果落地難等問題。同時，該項目還將賦能中小初創安全企業、垂直行業、人工智能產業，提升國家人工智能安全整體防御能力，打造人工智能的“安全底座”。

　　據了解，該項目集結了包括360 AI安全實驗室、360安全工程院、360安全能力中心、清華大學人工智能研究院、中國科學院自動化研究所等國內頂尖AI安全專家團隊，代表著我國AI安全領域的頂尖水平。此次定向項目的論證通過，也意味著國家級人工智能安全建設駛入快車道。

　　隨著人工智能被寫入“十四五”規劃，我國人工智能發展也將迎來新浪潮，但人工智能的發展也面臨諸多“安全瓶頸”。首先，人工智能在網絡安全領域的創新和應用落地存在較大差距，很多場景研究尚處于學術探索研究階段。其次，人工智能自身缺乏系統化安全性評測，人工智能軟硬件各環節都存在嚴重的安全風險。此外，人工智能安全研究創新環境缺失，國內人工智能安全產業嚴重落后，缺少場景、數據、經驗，也缺少安全生態。業內專家一致認為，人工智能與安全領域的關鍵技術研究與突破是推動人工智能行業產業進一步發展的關鍵，保障人工智能技術應用安全性的重要基礎。

　　如何保障人工智能健康發展，已成為國家層面的重要議題。2017年，為響應國務院印發的《新一代人工智能發展規劃》，科技部、發改委等在內的15個部委合力成立了新一代人工智能發展規劃推進辦公室，著手重點建設一批“國家新一代人工智能開放創新平臺”。這些平臺由行業領軍企業承建，聚焦人工智能細分領域的開放創新，帶動產業進步。360成為唯一入選的網絡安全公司，扛下“安全大腦國家新一代人工智能開放創新平臺”的承建工作。

　　目前，依托該平臺，在人工智能安全領域，360已斬獲不少成果。作為全球首個從系統實現角度對AI關鍵基礎設施進行研究的團隊，360 AI安全實驗室發現主流機器學習框架及依賴組件漏洞100+個，影響范圍包括Tensorflow、Caffe、PyTorch、OpenVINO等各大平臺，漏洞數在全球各大廠商排名第一。同時，制定發布了未來安全創新計劃X-Plan，開放百億安全大數據推動解決行業安全難題。

　　今年政府工作報告強調，“基礎研究是科技創新的源頭”。未來，依托該平臺，360將推動學術合作，帶動產學界在“人工智能算法安全對抗”、“人工智能基礎設施安全檢測”、“人工智能在網絡空間安全的關鍵場景應用”三方面展開創新研究。通過前沿理論基礎研究，為構建人工智能開源軟硬件基礎平臺及人工智能安全檢測平臺提供技術儲備，降低人工智能技術安全技術風險，確保人工智能健康發展。同時，360將依托安全科技創新X-Plan計劃，向AI安全領域科技創新者開放學術生態資金和安全數據，共建開放協同的人工智能科技創新體系。