WAP手機版 RSS訂閱 加入收藏  設為首頁
香港王中王論壇資枓香港正香

香港王中王論壇資枓香港正香:人工智能安全“七宗罪”

時間:2019/8/10 14:05:30   作者:   來源:   閱讀:0   評論:0
內容摘要:在于廈門舉辦的“中國人工智能峰會暨多媒體信息識別技術競賽成果發布會”上,中國網絡空間安全協會副理事長杜躍進就“人工智能與安全”發表主旨演講。針對人工智能在安全“七宗罪”,他提出安全風險防范“六脈神劍”。杜躍進認為,從“壞人”的角度來說,“智能”意味著存在攻擊機會,安全風險超乎想象...
        在于廈門舉辦的“中國人工智能峰會暨多媒體信息識別技術競賽成果發布會”上,中國網絡空間安全協會副理事長杜躍進就“人工智能與安全”發表主旨演講。針對人工智能在安全“七宗罪”,他提出安全風險防范“六脈神劍”。

杜躍進認為,從“壞人”的角度來說,“智能”意味著存在攻擊機會,安全風險超乎想象。

杜躍進總結出人工智能安全“七宗罪”:

一是硬件層面。很多人工智能元器件在物理層面缺乏安全保障,哪怕只有一段線路沒有進行電磁屏蔽,也給物理干擾留下機會。

二是軟件層面。任何軟件都有漏洞,它們可以被攻擊者利用,來實現代碼執行、拒絕服務攻擊、控制流劫持、信息泄露等目標。

三是協議層面。很多專用通信協議設計缺乏安全考慮。

四是數據層面。大數據時代有一個“黑箱悖論”,人工智能離不開數據,但數據本身有可能被污染,這樣的人工智能就好像被“投毒”。

五是業務層面,算法本身可以被欺騙、誤導,當人工智能越來越多用于控制相關業務時,可能會產生致命性影響。

六是應用動機層面。壞人有可能更早、更深地看到人工智能帶來的機會。如今,除了人工智能,在生物科技等很多前沿技術領域都有這樣的傾向,值得警惕。

七是機制設計層面。模式設計考慮不充分,將導致事與愿違,可能產生非常嚴重的后果。

化解以上安全風險,杜躍進提出“六脈神劍”解決方案:

一是所有跟人工智能相關的從業人員都應該意識到人工智能存在諸多問題。

相關評論
本站所有站內信息僅供娛樂參考,不作任何商業用途,不以營利為目的,專注分享快樂,歡迎收藏本站!
所有信息均來自:百度一下 (三碼必中)
浙ICP備09112121號-1
重庆快乐十分现场