人工智能安全專(zhuān)委會(huì )在上海市人工智能戰略咨詢(xún)專(zhuān)家委員會(huì )基礎上成立，旨在瞄準國際人工智能產(chǎn)業(yè)發(fā)展前沿，服務(wù)上海發(fā)展的定位和需求，構建專(zhuān)家協(xié)同網(wǎng)絡(luò )，推動(dòng)人工智能產(chǎn)業(yè)健康發(fā)展。

人工智能在推動(dòng)經(jīng)濟社會(huì )創(chuàng )新發(fā)展的同時(shí)，也在重塑人類(lèi)安全的未來(lái)。7月2日，上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢(xún)委員會(huì )成立儀式暨第一次會(huì )議召開(kāi)。會(huì )上了《人工智能安全發(fā)展上海倡議》，同時(shí)面向全球啟動(dòng)人工智能產(chǎn)業(yè)安全創(chuàng )新實(shí)踐案例和優(yōu)秀論文征集活動(dòng)。

人工智能安全專(zhuān)委會(huì )在上海市人工智能戰略咨詢(xún)專(zhuān)家委員會(huì )基礎上成立，旨在瞄準國際人工智能產(chǎn)業(yè)發(fā)展前沿，服務(wù)上海發(fā)展的定位和需求，構建專(zhuān)家協(xié)同網(wǎng)絡(luò )，推動(dòng)人工智能產(chǎn)業(yè)健康發(fā)展。安全專(zhuān)委會(huì )由來(lái)自高校、科研院所和企業(yè)的相關(guān)專(zhuān)家組成，中國科學(xué)院院士何積豐擔任主任。秘書(shū)處設在上海賽博網(wǎng)絡(luò )安全產(chǎn)業(yè)創(chuàng )新研究院，承擔相關(guān)日常工作。

上海市政府副秘書(shū)長(cháng)陳鳴波表示，上海組建成立人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢(xún)委員會(huì )，就是要為國家人工智能產(chǎn)業(yè)安全發(fā)展先行先試。按照技術(shù)突破、產(chǎn)業(yè)創(chuàng )新和法律研究各方面需求，兼顧地域和領(lǐng)域代表性，召集跨界別的專(zhuān)家、學(xué)者和企業(yè)精英，探討“產(chǎn)學(xué)研用”深度融合，既推動(dòng)上海人工智能安全產(chǎn)業(yè)蓬勃發(fā)展，又進(jìn)一步推動(dòng)引領(lǐng)全國人工智能產(chǎn)業(yè)安全發(fā)展。

依托專(zhuān)委會(huì )平臺，上海將緊扣國家戰略、上海定位和區域需求，圍繞中長(cháng)期戰略規劃、重大項目評估、重點(diǎn)應用領(lǐng)域安全實(shí)踐、前沿課題研究等，共商共治、群策群力，為上海探索一條更有包容性、更具開(kāi)放性的安全發(fā)展模式和工作路徑。

當前，對人工智能產(chǎn)生的安全風(fēng)險加強戰略性、前瞻性的研究部署，逐漸建立相應的法律法規、倫理規范和政策體系，已經(jīng)成為國內外的共識。一些國家、地區和國際組織、私營(yíng)企業(yè)、社會(huì )團體等積極推動(dòng)人工智能安全與治理的進(jìn)程。中國是世界人工智能安全治理的重要參與者，上海正在加快推進(jìn)人工智能高地建設，此次會(huì )議發(fā)布的《人工智能安全發(fā)展上海倡議》不僅是安全專(zhuān)委會(huì )成立后發(fā)布的首份倡議文件，更是上海向全國、全世界發(fā)出的錚錚宣言。倡議在充分吸納國內外人工智能安全共識的基礎上，從應對人工智能安全挑戰，守護智能時(shí)代人類(lèi)未來(lái)的主旨出發(fā)，包含“面向未來(lái)、以人為本、責任明晰、隱私保護、算法公正、透明監管、和平利用、開(kāi)放合作”等八大目標原則及其基本要求。

會(huì )上，安全專(zhuān)委會(huì )主任何積豐院士宣布啟動(dòng)2019世界人工智能產(chǎn)業(yè)安全創(chuàng )新實(shí)踐案例征集和優(yōu)秀論文征集活動(dòng)。面向全球企業(yè)征集人工智能產(chǎn)業(yè)安全領(lǐng)域的標準規范、研發(fā)成果、產(chǎn)品/服務(wù)、解決方案等實(shí)踐案例，面向全球高校、科研院所、國際組織等機構中從事人工智能安全領(lǐng)域研究的科研人員和青年學(xué)生，征集高質(zhì)量、高水平的學(xué)術(shù)論文。征集活動(dòng)的評選成果將在2019世界人工智能大會(huì )期間對外公布。

附：人工智能安全發(fā)展上海倡議（全文）

為了應對人工智能安全挑戰，守護智能時(shí)代人類(lèi)未來(lái)，上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢(xún)委員會(huì )在充分吸納國內外人工智能安全共識的基礎上，聯(lián)合人工智能安全領(lǐng)域的專(zhuān)家學(xué)者和產(chǎn)業(yè)界同仁，共同發(fā)起“人工智能安全發(fā)展上海倡議”，內容如下：

面向未來(lái)：人工智能發(fā)展需要實(shí)現創(chuàng )新與安全的協(xié)同，以安全保障創(chuàng )新，以創(chuàng )新驅動(dòng)安全。在確保人工智能自身安全的同時(shí)，積極將人工智能技術(shù)應用于解決人類(lèi)社會(huì )的安全難題。

以人為本：國際社會(huì )應一道科學(xué)規劃人工智能的發(fā)展路徑，確保人工智能按照人類(lèi)預期并服務(wù)人類(lèi)福祉方向發(fā)展，機器自主進(jìn)化和自我復制等關(guān)鍵進(jìn)程須進(jìn)行風(fēng)險評估和安全監管。

責任明晰：人工智能發(fā)展應當建立完備的安全責任框架，需要針對人工智能的應用場(chǎng)景，不斷創(chuàng )新法律法規和倫理規范，明確人工智能安全責任認定和分擔機制。

隱私保護：人工智能發(fā)展需要保障用戶(hù)的數據安全，人工智能發(fā)展不得以犧牲用戶(hù)隱私為代價(jià)，需要加強數據保護立法，豐富人工智能的技術(shù)路線(xiàn)，不斷強化人工智能應用中的用戶(hù)隱私保護。

算法公正：人工智能發(fā)展應避免由于算法設計對公眾產(chǎn)生的危害，須明確算法動(dòng)機和可解釋性，克服算法設計和數據收集引發(fā)的不公正影響。

透明監管：人工智能發(fā)展應當避免技術(shù)黑箱導致的安全風(fēng)險，需要通過(guò)建立可審查、可回溯、可推演的監管機制，確保目標功能和技術(shù)實(shí)現的統一。

和平利用：人工智能技術(shù)應當審慎運用在軍事領(lǐng)域，自主化武器的研發(fā)和使用須遵循嚴格的風(fēng)險評估，避免由于人工智能技術(shù)在軍事領(lǐng)域濫用對全球和平穩定的威脅。

開(kāi)放合作：人工智能發(fā)展需要各國、各方的協(xié)同共進(jìn)，應當積極在國際范圍建立人工智能安全發(fā)展的規范和標準，避免技術(shù)和政策不兼容導致的安全風(fēng)險。

附：上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢(xún)委員會(huì )首屆組成名單

主   任：

中國科學(xué)院院士何積豐

副主任：

中國工程院院士倪光南

東華大學(xué)校長(cháng)蔣昌俊

委   員：

上海市法學(xué)會(huì )專(zhuān)職副會(huì )長(cháng)施偉東

中國信通院安全所所長(cháng)魏亮

上海交通大學(xué)網(wǎng)絡(luò )空間安全科學(xué)與技術(shù)研究院院長(cháng)李建華

復旦大學(xué)計算機學(xué)院副院長(cháng)薛向陽(yáng)

華東師范大學(xué)計算機科學(xué)與軟件工程學(xué)院密碼與網(wǎng)絡(luò )安全系教授曹珍富

上海社會(huì )科學(xué)院互聯(lián)網(wǎng)研究中心主任惠志斌

阿里集團安全副總裁杜躍進(jìn)

上海優(yōu)刻得信息科技公司創(chuàng )始人季昕華

上海依圖網(wǎng)絡(luò )科技有限公司副總裁許源

上海觀(guān)安信息技術(shù)股份有限公司首席專(zhuān)家張照龍

來(lái)源：上觀(guān)新聞