人工智能在快速發(fā)展的同時,,其引發(fā)的安全問題也受到越來越多的關(guān)注,。5月16日,360董事長兼CEO周鴻祎在第三屆世界人工智能大會上發(fā)表演講,,透過近期頻發(fā)的人工智能事件,,表達(dá)了他對人工智能安全,、倫理問題的思考。
周鴻祎在演講中提及波音737MAX墜機(jī)事件,、逃犯克星張學(xué)友,、人工智能偽造名人視頻等多個例子,用以說明人工智能安全問題的緊迫性,。
據(jù)悉,,737MAX型飛機(jī)在過去六個月內(nèi)發(fā)生兩次墜毀事故,其原因?yàn)轱w行控制系統(tǒng)存在嚴(yán)重安全風(fēng)險,。周鴻祎說,,系統(tǒng)設(shè)計(jì)的再完美,一旦傳感器出錯,,就會影響飛行控制系統(tǒng)的判斷,,繼而“犯錯”,。
此外,周鴻祎借“張學(xué)友演唱會逃犯落網(wǎng)”一事指出,,人工智能雖然很“厲害”,,但也存在“弱點(diǎn)”。 黑客們通過研究發(fā)現(xiàn),,只要把一種奇怪的條紋打印下來,,別在衣服上,就能“屏蔽”掉人臉識別系統(tǒng),,出入自由,。無人駕駛汽車也可以因?yàn)楸诲e誤的“交通標(biāo)志”誤導(dǎo),引發(fā)安全事故,。
為了應(yīng)對這些人工智能安全問題,,周鴻祎建議企業(yè)在上線系統(tǒng)前,應(yīng)做好安全檢測,,做好“實(shí)網(wǎng)攻防”,。“要用實(shí)際的攻擊發(fā)現(xiàn)問題,,而非靠靜態(tài)的研究證明系統(tǒng)的安全”,,周鴻祎還為公司“打廣告”:“一定要找我們這些天天吃飽沒事干的‘黑客公司’來幫大家做實(shí)際的攻防,在我們手里發(fā)現(xiàn)問題,,比在實(shí)踐中發(fā)現(xiàn)問題可能要好一些,。”
實(shí)際上,,除了熱衷為人工智能“挑錯”外,,周鴻祎也將人工智能技術(shù)大量應(yīng)用與網(wǎng)絡(luò)安全中。在周鴻祎看來,,人工智能的發(fā)展帶來了更多安全問題,,安全的發(fā)展也離不開人工智能的進(jìn)步,兩者相輔相成,。
記者注意到,,360安全大腦就是利用了大數(shù)據(jù)與人工智能等技術(shù),具備了“看見”網(wǎng)絡(luò)攻擊的能力,,解決了網(wǎng)絡(luò)安全攻防不對等的局面,。目前,360安全大腦已具備國家安全大腦,、城市安全大腦,、家庭安全大腦三個層級,全面守護(hù)“大安全”,。