如何保證人工智能的安全可控?什么是可信人工智能? 12月3日，第二屆江蘇省人工智能大會開幕式在南京舉行，會議聚集了省內外人工智能屆的最強“智慧大腦”，省內外人工智能技術領域知名科學家瞄準人工智能技術和產(chǎn)業(yè)發(fā)展，分享最新技術、產(chǎn)品、應用和解決方案。
中國科學院院士何積豐教授帶來主旨報告《可信人工智能》，他介紹，“可信”是計算機領域的一個概念，“可信”主要強調的是計算機系統(tǒng)和其處理過程的可預測性、可驗證性。近年來，“可信”的概念也被引入到人工智能領域，許多國家或組織在制定人工智能發(fā)展指南時，都強調了“可信”的重要性。
在何積豐看來，人工智能的安全發(fā)展面臨著“內憂外患”，對內要處理數(shù)據(jù)偏差、系統(tǒng)失誤等情況，對外則要應對黑客攻擊、場景受限等問題。他解釋說，人工智能系統(tǒng)與傳統(tǒng)的軟件系統(tǒng)有很大區(qū)別，這使得其安全發(fā)展面臨一系列新挑戰(zhàn)。
例如，科學家訓練人工智能算法時會設置獎勵函數(shù)，以幫助算法學得更好。但在實踐中，人工智能也鬧出了不少笑話：一個機械手被要求把木塊挪到桌子的指定地點，于是機械手學會了挪桌子;讓程序學習檢測皮膚癌，程序卻發(fā)現(xiàn)惡性皮膚病變的照片里往往放著一把尺子，便以尺子來作為判斷標準。
“獎勵函數(shù)選擇合理性在哪里?什么情況下可以擴展人工智能的功能和使用范圍?怎么實現(xiàn)安全監(jiān)管?”何積豐說，獎勵函數(shù)的錯誤解讀，就是人工智能“內憂”問題中的一個典型。“傳統(tǒng)軟件里面有目標系統(tǒng)，系統(tǒng)的可能行為一般是能夠進行描述的。換句話說，用戶有明確的要求，系統(tǒng)應該給我完成什么任務?但是機器學習的目標系統(tǒng)行為與樣本選擇有關，沒辦法驗證，也沒辦法進行有效的分析。”
歐洲科學院外籍院士、南京大學人工智能學院院長周志華教授作主題報告《機器學習展望》，他為人工智能提出了“學件”的概念。“學件”類同于計算機的硬件、軟件。人工智能最基本的支撐是機器學習，涉及算法復雜、數(shù)據(jù)隱私雜多。那怎么在技術分享的同時保護信息安全，這時候“學件”應運而生。“‘學件’只分享模型，不再分享數(shù)據(jù)，從根源上保護了信息的安全。提供的是模型和使用說明，使用者結合需求進行二次加工，就變成了自己的應用。”
對于“學件”的必要性，周志華舉了“一把刀”的例子。“一把刀的制作廠商，不可能從頭去打鐵，而是把心思用到后面的環(huán)節(jié)?，F(xiàn)在人工智能是搜集數(shù)據(jù)、管理數(shù)據(jù)以及算法訓練模型全部都要從頭開始，‘學件’正是解決了前方的許多技術難點，人工智能將和其他產(chǎn)業(yè)一樣，只需要做自己最關注的事情。同時改進后的模型，更能夠適應環(huán)境的變化。”周志華耐心的解釋道。
對于“學件”的市場需求，周志華很有信心。“我們希望通過10—15年的研究，能夠將‘學件’走向市場化。當信息安全，會有更多人愿意分享，從而會有專門的廠商做‘學件’。如果一款‘學件’被更多的用戶用，用在更多的領域，這個‘學件’就會擁有更高的定價，‘學件’市場也會成為新的產(chǎn)業(yè)。”這一展望，已經(jīng)在慢慢變?yōu)楝F(xiàn)實。據(jù)了解，這一概念在工業(yè)界很受歡迎，已經(jīng)有許多公司“動起來”，為人工智能制起“凈菜盤”。
會上，省人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟揭牌，并啟動了“征圖杯”校園機器視覺算法大賽和首屆人工智能摜蛋算法大賽。 不僅有大咖的前沿分享，各種AI“黑科技”來襲，一批優(yōu)秀人工智能產(chǎn)品亮相大會。2018年江蘇省人工智能學會開展首屆《江蘇省優(yōu)秀人工智能產(chǎn)品》評選活動，活動評選出30項十佳優(yōu)秀人工智能產(chǎn)品并編印《江蘇省優(yōu)秀人工智能產(chǎn)品及應用匯編》，受到業(yè)界廣泛關注。今年，省人工智能學會繼續(xù)組織開展第二屆江蘇省優(yōu)秀人工智能產(chǎn)品和示范項目評選活動，入選的優(yōu)秀產(chǎn)品在第二屆江蘇省人工智能大會頒獎晚會上公布并頒發(fā)獲獎證書。此次評選活動對貫徹落實《江蘇省新一代人工智能產(chǎn)業(yè)發(fā)展實施意見》，打造江蘇省優(yōu)秀人工智能產(chǎn)品“金名片”，推動人工智能高質量發(fā)展具有重要作用。 此外，本次大會還將成為省內外人工智能園區(qū)、企業(yè)洞察先進技術、展現(xiàn)自身實力、招攬優(yōu)秀人才、開放招商引智的契機，大會舉辦的3場同期活動包括校企人才對接、優(yōu)秀AI產(chǎn)品展和頒獎晚會。秉承“智聚江蘇脈動全球”的宗旨，本屆大會將助力推動江蘇加快成為國際一流、國內領先的人工智能科技創(chuàng)新中心和產(chǎn)業(yè)創(chuàng)新高地。(張宣)
