9月17日，隨著(zhù)2018世界人工智能大會(huì )開(kāi)幕，上海正式進(jìn)入“AI時(shí)間”。兩天來(lái)，來(lái)自國內外AI領(lǐng)域的與會(huì )代表圍繞“人工智能賦能新時(shí)代”主題分享各自的見(jiàn)解，匯集成AI浪潮中的“全球智慧”，攜手叩開(kāi)人工智能的大門(mén)。

一名工作人員在2018世界人工智能大會(huì )上演示與機器人打乒乓球。新華社發(fā)

人工智能沒(méi)有邊界

在人工智能概念誕生60余年后，新一代人工智能早已超越了當初天馬行空的幻想，正在深刻改變全人類(lèi)的生產(chǎn)生活方式，甚至改寫(xiě)人類(lèi)文明。

“當我看到人工智能的時(shí)候，我看見(jiàn)的是美好的未來(lái)?！眻D靈獎獲得者、中國工程院外籍院士羅杰·瑞迪說(shuō)，人工智能技術(shù)給處于社會(huì )“金字塔”底層的30億人賦能。比如，語(yǔ)音互動(dòng)的個(gè)人助手系統，能幫助世界上很多沒(méi)有讀寫(xiě)能力的文盲、半文盲更好地與外界溝通。他預測，在未來(lái)5到10年內，人工智能技術(shù)將打造出“守護天使”，替人類(lèi)完成現今無(wú)法完成的任務(wù)。比如，及早發(fā)現可能影響人類(lèi)安全的突發(fā)事件，并發(fā)出警告。到2020年，“守護天使”能完成超過(guò)80%的人類(lèi)活動(dòng)，最終，效率會(huì )提高10倍?！叭斯ぶ悄懿粫?huì )征服世界，人工智能可以供每個(gè)人使用?！?/p>

上海交大學(xué)生在展示為視障人士研發(fā)的具有導盲功能的眼鏡控制系統。新華社發(fā)

“并不存在A(yíng)I這個(gè)行業(yè)，只有‘AI+’這個(gè)行業(yè)。AI需要與傳統產(chǎn)業(yè)合作，這種關(guān)系是結合、賦能，而絕不是顛覆。AI的價(jià)值是幫助傳統產(chǎn)業(yè)提高生產(chǎn)效率，解放生產(chǎn)力?！鄙虦萍紕?chuàng )始人、香港中文大學(xué)教授湯曉鷗提出“大愛(ài)（AI）無(wú)疆”概念。在他看來(lái)，人工智能與傳統產(chǎn)業(yè)沒(méi)有明確的邊界，人工智能的發(fā)展將實(shí)現賦能各大不同行業(yè)。

湯曉鷗坦言，我們需要全面了解不同的傳統行業(yè)，和各個(gè)企業(yè)建立合作共贏(yíng)的關(guān)系，同時(shí)不斷提升自己，只有公司成長(cháng)到一定規模，才能和對手談判、合作。除了賦能百業(yè)，湯曉鷗還指出了“無(wú)疆”的另一層含義：人工智能的發(fā)展需要全世界的智慧，全球企業(yè)、機構應該加強合作，打通AI學(xué)術(shù)研究的國界。

“機器會(huì )比人類(lèi)更加聰明，但機器不可能有價(jià)值觀(guān)、有情感。我們真正需要擔心的，不是機器智能會(huì )超越人類(lèi)智慧，而是人類(lèi)自身的智慧停止增長(cháng)?！卑⒗锇桶投戮种飨R云說(shuō)，人工智能對我們的啟發(fā)在于，未來(lái)的制造將邁入新制造時(shí)代，那是制造業(yè)和服務(wù)業(yè)完美結合的時(shí)代。未來(lái)的制造業(yè)都是服務(wù)業(yè)，大部分將被人工智能取代，但背后的體驗和服務(wù)卻是不能被取代的。

中國工程院院士、國家新一代人工智能戰略咨詢(xún)委員會(huì )組長(cháng)潘云鶴指出，當前人工智能走向2.0時(shí)代，大數據智能、群體智能、跨媒體智能、人機協(xié)同智能、自主系統智能等五大領(lǐng)域將迎來(lái)全新發(fā)展?！耙酝娜斯ぶ悄軐C器人作為重要發(fā)展方向，可機器人的核心是人工智能，而不是外形是否像人。與其制造模擬人的機器人，不如為機械進(jìn)行智能化升級?！迸嗽弃Q認為，人工智能要發(fā)展的是自主智能系統，不是模擬人的行為，而是模擬人的智力。

攜手合作是大勢所趨

人工智能是一個(gè)新技術(shù)、新事物，但也應當是一種基本場(chǎng)景，甚至是一種思維方式。在這個(gè)關(guān)乎全人類(lèi)的時(shí)代命題中，各方都在搶占人工智能的制高點(diǎn)。

“人工智能等創(chuàng )新技術(shù)所引領(lǐng)的數字化轉型正在全球掀起新一輪的產(chǎn)業(yè)革命，而中國已經(jīng)成為當今世界最具創(chuàng )新活力的市場(chǎng)?！蔽④浫驁绦懈笨偛?、微軟人工智能及微軟研究事業(yè)部負責人沈向洋說(shuō)，面對數字化轉型帶來(lái)的發(fā)展機遇，上海發(fā)揮自身優(yōu)勢，制定了明確的人工智能發(fā)展規劃，為技術(shù)創(chuàng )新、人才培養創(chuàng )造了理想的發(fā)展環(huán)境和政策支持，可謂引人注目的人工智能創(chuàng )新的賦能者。

合作共贏(yíng)是未來(lái)人工智能發(fā)展的主題。大會(huì )上，20個(gè)全球人工智能創(chuàng )新項目簽約落戶(hù)上海，均是多方合作項目。如徐匯區政府、微軟公司和儀電集團合作簽署“微軟上海研究院暨微軟-儀電人工智能創(chuàng )新院”，長(cháng)寧區政府和科大訊飛聯(lián)合成立“科大訊飛（上海）人工智能及腦科學(xué)研究院”，楊浦區政府和百度公司合作簽署“百度（上海）創(chuàng )新中心”等，這些簽約項目遵循上海市AI“人字形”產(chǎn)業(yè)規劃布局，涉及10個(gè)區，覆蓋全市60%以上區域。

“上海市政府全力推進(jìn)智能上海行動(dòng)，為各方創(chuàng )造了巨大合作空間。人工智能是跨國、跨學(xué)科的科學(xué)探索工程，對任何一個(gè)企業(yè)、城市和國家來(lái)說(shuō)，不能拒絕人工智能領(lǐng)域的奧林匹克，更不能閉門(mén)造車(chē)?！彬v訊董事會(huì )主席兼首席執行官馬化騰說(shuō)，在人工智能領(lǐng)域即便有競爭，也應該通過(guò)“你追我趕”的互相激勵、協(xié)同創(chuàng )新，共同把人類(lèi)的認知極限推向“更快、更高、更強”，最終的目的是提升人類(lèi)的生活品質(zhì)。

獨行快，眾行遠?？拼笥嶏w創(chuàng )始人、董事長(cháng)劉慶峰也表示，人工智能領(lǐng)域的合作非常重要，既要技術(shù)合作，也要法律、倫理等層面的合作。

“隨著(zhù)近幾年AI技術(shù)爆發(fā)式的進(jìn)步，算法、算力和數據之間的良性循環(huán)，對產(chǎn)業(yè)升級和經(jīng)濟變革的影響越來(lái)越突出，并將在未來(lái)幾十年中為產(chǎn)業(yè)和經(jīng)濟發(fā)展提供新的動(dòng)能?！卑俣裙径麻L(cháng)兼首席執行官李彥宏認為，對絕大多數企業(yè)來(lái)說(shuō)，至關(guān)重要的還是如何在現在這個(gè)時(shí)代趨勢下，率先擁抱AI，盡快使自身AI化，贏(yíng)在起跑線(xiàn)上，為未來(lái)提供發(fā)展的動(dòng)力。

校企聯(lián)盟培養高端人才

人工智能時(shí)代，高端人才的培養至關(guān)重要。在本次大會(huì )上，由美國麻省理工學(xué)院、新加坡南洋理工大學(xué)、清華大學(xué)、復旦大學(xué)等知名高校和科研機構共同倡議的“全球高校人工智能學(xué)術(shù)聯(lián)盟”成立，將在學(xué)術(shù)研究、人才培養等領(lǐng)域攜手合作，為人工智能發(fā)展提供人才和智力支撐。

“以人工智能為代表的第四次產(chǎn)業(yè)革命影響巨大，而且這一次產(chǎn)業(yè)革命可能要有很長(cháng)的周期，不斷滲透到社會(huì )各方面，使得社會(huì )處于扁平狀態(tài)?！蔽靼步煌ù髮W(xué)校長(cháng)王樹(shù)國提出，大學(xué)的優(yōu)勢在于基礎研究和人才培養，建議大學(xué)要主動(dòng)融入社會(huì )，開(kāi)門(mén)辦學(xué)。要主動(dòng)和企業(yè)合作，開(kāi)展校企聯(lián)合實(shí)驗室，并讓學(xué)生參與其中。

對此，香港中文大學(xué)校長(cháng)段崇智深有感觸，他們和微軟等企業(yè)合作，建設了重點(diǎn)實(shí)驗室，研發(fā)了一些人工智能技術(shù)?！耙言谄髽I(yè)工作的人才引進(jìn)來(lái)做客座教授，刺激學(xué)生思維，同時(shí)也為學(xué)生提供了很好的實(shí)習平臺?！倍纬缰钦f(shuō)。新加坡南洋理工大學(xué)副校長(cháng)林杉也表示，每年合作企業(yè)向學(xué)校提供幾十個(gè)項目實(shí)習機會(huì )，實(shí)現了產(chǎn)學(xué)研的無(wú)縫對接。

作為培養人工智能人才的重鎮，多所高校謀劃和布局了人工智能學(xué)科建設?！叭斯ぶ悄艹蔀榈谒拇萎a(chǎn)業(yè)革命的驅動(dòng)力，第五次產(chǎn)業(yè)革命的‘種子’又會(huì )在哪里，這是需要大學(xué)關(guān)注的?！敝袊こ淘涸菏?、上海交通大學(xué)校長(cháng)林忠欽表示，以高校學(xué)術(shù)聯(lián)盟的形式共同探討人工智能的當下與未來(lái)，具有重要的戰略眼光與現實(shí)意義。

復旦大學(xué)校長(cháng)許寧生認為，人工智能的推進(jìn)不僅涉及科技，也關(guān)系到倫理、人文等社會(huì )科學(xué)，學(xué)校正在布局人工智能多學(xué)科教育。學(xué)校提出“以類(lèi)腦智能引領(lǐng)人工智能”，將在全球范圍內展開(kāi)相關(guān)合作。

“對大學(xué)來(lái)說(shuō)，要針對人工智能的兩個(gè)問(wèn)題提前布局?！敝袊茖W(xué)技術(shù)大學(xué)常務(wù)副校長(cháng)潘建偉認為，第一是降低能耗，第二是計算能力，量子力學(xué)奠定了現代信息技術(shù)的基礎，中科大正在構建國家實(shí)驗室，希望從量子計算著(zhù)手為人工智能做好未來(lái)硬件的準備。

上?？萍即髮W(xué)副校長(cháng)印杰建議，未來(lái)哪些崗位會(huì )被替代，哪些不會(huì )被替代，這在培養人才時(shí)必須考慮進(jìn)去。此外，人們的感情溝通是難以被機器替代的，加強道德和倫理教育至關(guān)重要。

“我們會(huì )進(jìn)行競爭，但不會(huì )關(guān)上大門(mén)，不會(huì )閉門(mén)造車(chē)?！泵绹槭±砉W(xué)院榮譽(yù)校長(cháng)埃里克·格里姆森建議，在大學(xué)之間以及大學(xué)與企業(yè)之間交換學(xué)生，不同的大學(xué)可以共享數據，創(chuàng )造開(kāi)源的互惠性平臺，把一個(gè)開(kāi)源的算法放在一個(gè)公共的地方，就能創(chuàng )造出更多的算法，從而實(shí)現多方共享共贏(yíng)。

（光明日報上海9月18日電）

《光明日報》（ 2018年09月19日 12版）返回光明網(wǎng)首頁(yè)

AI+教育，一個(gè)需要關(guān)注的德育場(chǎng)

2018-09-19 03:45　來(lái)源：光明網(wǎng)-《光明日報》

作者：張竹林（上海市奉賢區教育學(xué)院副院長(cháng)）

人工智能正全面賦能各行各業(yè)，教育領(lǐng)域和教育人更應以時(shí)不我待的態(tài)度迎“風(fēng)”而去，讓人工智能在教育領(lǐng)域落地生根。AI+教育，是教育領(lǐng)域又一個(gè)需要關(guān)注的“德育場(chǎng)”。

首先，我們要深刻理解這場(chǎng)新技術(shù)變革盛宴的能量所在，自覺(jué)學(xué)習和傳播新技術(shù)新思想，將其轉化為學(xué)校德育思想高地的重要內容。作為引領(lǐng)未來(lái)的戰略性技術(shù)，人工智能正成為新一輪產(chǎn)業(yè)變革的核心驅動(dòng)力。對于促進(jìn)人和社會(huì )發(fā)展基礎性、先導性的教育領(lǐng)域，德育工作的本質(zhì)就是一項賦能的工作，是將深厚的文化傳統和時(shí)代的思想精華傳遞給受教育者，這種賦能是在引領(lǐng)人的價(jià)值導向和精神追求。盡管一個(gè)是技術(shù)領(lǐng)域，致力于改變生產(chǎn)生活方式；一個(gè)是精神領(lǐng)域，專(zhuān)注對人的情感和精神世界引導，但兩者本質(zhì)是相通的。這就需要教育人尤其是德育工作者，主動(dòng)學(xué)習，自覺(jué)掌握和運用AI理念和方法。同時(shí)，深入了解青少年群體對AI的敏感和掌握程度，找到共同語(yǔ)言，建立有效的德育話(huà)語(yǔ)體系，這是做好新時(shí)代學(xué)校德育的前提和基礎。

其次，從教育教學(xué)范式和流程鍛造上早著(zhù)手準備，厚植學(xué)校德育內容。任何一種新思維新技術(shù)都要影響甚至主導教育教學(xué)思想的變革。隨著(zhù)AI的普及應用，對于學(xué)校教育而言，教的工具、學(xué)的工具、課的結構等一定會(huì )發(fā)生變革。我們要深度思考，AI+教育如何影響青少年學(xué)生的思想和價(jià)值觀(guān)？如何重構我們的教學(xué)方式？這些教育教學(xué)要素的變革，帶來(lái)的是參與的主體“人”的變革。我們要從教學(xué)思想和學(xué)習思想進(jìn)行主動(dòng)變革，教育和引導學(xué)生不僅掌握“關(guān)于世界的知識”，更要真正掌握“進(jìn)入世界的知識”。

最后，因地制宜讓“AI+教育”資源變?yōu)榈掠Y源，實(shí)現學(xué)校德育途徑和方式的變革運用。要讓學(xué)生不光了解AI，還要知道人類(lèi)的科技發(fā)展歷程，了解中國科技的發(fā)展軌跡，也要清醒地看到當下中國科技發(fā)展與世界科技發(fā)達國家的差距，在自信中激發(fā)動(dòng)力。2018世界人工智能大會(huì )會(huì )址——上海徐匯濱江西岸地區本身就有深刻的歷史人文教育意義。1950年，“人工智能之父”阿蘭·圖靈向全人類(lèi)首次公開(kāi)提出“人工智能”概念，巧合的是，同一年上海飛機制造廠(chǎng)在徐匯西岸成立。該廠(chǎng)誕生了新中國首架水上飛機“飛龍一號”。如今，徐匯西岸吸引了眾多互聯(lián)網(wǎng)巨頭企業(yè)入駐，正在布局和打造AI+交通、AI+教育、AI＋健康等多領(lǐng)域應用。

人的情感、精神世界的豐富和高尚，是具體的、鮮活的。樹(shù)立科學(xué)“三觀(guān)”、健全人格養成，是技術(shù)本身無(wú)法完成的，這是德育工作的重要內容和責任使命所在，也是學(xué)校德育的立身之本。

《光明日報》（ 2018年09月19日 12版）返回光明網(wǎng)首頁(yè)

人工智能安全：挑戰與機遇

2018-09-19 04:00　來(lái)源：光明網(wǎng)-《光明日報》

【環(huán)球科技】  

作者：魯傳穎（上海國際問(wèn)題研究院副研究員）

人工智能技術(shù)和應用飛速發(fā)展，推動(dòng)經(jīng)濟社會(huì )創(chuàng )新發(fā)展的同時(shí)，也在重塑人類(lèi)安全的未來(lái)。作為2018世界人工智能大會(huì )的重要組成部分，題為“人工智能安全：挑戰與機遇”的安全高端對話(huà)9月18日在上海國際會(huì )議中心舉辦。此次對話(huà)活動(dòng)由上海賽博網(wǎng)絡(luò )安全產(chǎn)業(yè)創(chuàng )新研究院、中國信息通信研究院安全研究所聯(lián)合承辦，上海社會(huì )科學(xué)院互聯(lián)網(wǎng)研究中心等協(xié)辦。

對話(huà)圍繞倫理問(wèn)題、國家安全、網(wǎng)絡(luò )安全三大主題展開(kāi)，研判人工智能時(shí)代的安全挑戰，探索人工智能安全發(fā)展的創(chuàng )新之道，促進(jìn)人工智能產(chǎn)業(yè)的健康發(fā)展，確保人工智能發(fā)展造福人類(lèi)未來(lái)。

本版邀請參與對話(huà)的兩位嘉賓撰文，為讀者深度解讀人工智能與人類(lèi)自身發(fā)展的現實(shí)與未來(lái)。

光明圖片/視覺(jué)中國

一、人工智能技術(shù)迅猛發(fā)展

軍事歷來(lái)是推動(dòng)技術(shù)變革的主要力量之一，特別是在一些戰略性領(lǐng)域，新技術(shù)與軍事變革之間的互動(dòng)，不僅推動(dòng)了技術(shù)的發(fā)展，也影響了軍事變革。算法上的突破、數據數量和質(zhì)量的不斷提升以及計算能力的增長(cháng)為人工智能在軍事領(lǐng)域的應用提供了無(wú)限的想象空間。

從現有的技術(shù)條件來(lái)看，人工智能至少可以在機器人、戰場(chǎng)環(huán)境的分析和目標識別、后勤組織計劃、情報分析、信息管理、信息行動(dòng)等方面在一定程度上提升或改變原有對軍事的認知。

人工智能的發(fā)展可以減少軍人的傷亡程度、增強指揮決策、控制戰爭的殺傷范圍方面改變未來(lái)的戰爭形態(tài)。

光明圖片/視覺(jué)中國

第一，當越來(lái)越多的無(wú)人駕駛飛機、坦克、汽車(chē)，以及自主決策武器開(kāi)始走向戰場(chǎng)，軍人直接暴露在戰場(chǎng)殺傷環(huán)境將會(huì )減少，軍人的傷亡率較傳統的戰爭也會(huì )下降。這會(huì )使得跟傳統軍人形象迥異，一群戴著(zhù)眼鏡，像在網(wǎng)吧中玩著(zhù)網(wǎng)絡(luò )游戲的新的職業(yè)軍人和軍事單元出現在戰斗序列中。

第二，人工智能在輔助戰場(chǎng)決策可以發(fā)揮重要作用，包括制定軍事計劃、后勤組織保障、戰場(chǎng)環(huán)境實(shí)時(shí)信息獲取、分析、目標的圖像識別等方面可以大幅度提高戰場(chǎng)的指揮決策能力。

第三，人工智能時(shí)代戰爭將更多是特種戰爭，而非全方位的戰爭。人工智能在網(wǎng)絡(luò )戰、信息戰，以及類(lèi)似的“斬首行動(dòng)”“定點(diǎn)清除”等特種作戰領(lǐng)域將會(huì )發(fā)揮重要的作用。這從很大程度上而言這也會(huì )改變戰場(chǎng)的形態(tài)，人工智能領(lǐng)域的特種作戰將會(huì )先與大規模沖突的爆發(fā)，改變人們傳統上認為，戰爭就是工業(yè)化時(shí)代的大規模飛機、坦克、軍艦等武器之間直接對抗的印象。

光明圖片/視覺(jué)中國

鑒于人工智能在軍事領(lǐng)域的重要作用，各國的軍隊和政府都高度重視從國防角度來(lái)看待人工智能，越來(lái)越多的國家開(kāi)始發(fā)展和使用人工智能武器，制定人工智能?chē)李I(lǐng)域的發(fā)展戰略。

2016年2月，時(shí)任美國情報總監詹姆斯·克萊伯在參議院武裝力量委員會(huì )的聽(tīng)證會(huì )上認為，人工智能系統的欺騙性和破壞性難以預測和理解，將會(huì )對國家安全和關(guān)鍵信息基礎設施帶來(lái)巨大風(fēng)險。特朗普政府開(kāi)始加大對人工智能?chē)覒鹇缘闹贫ê唾Y源的投入，美國國防部門(mén)的國防創(chuàng )新咨詢(xún)委員會(huì )和國防科學(xué)委員會(huì )不遺余力地推動(dòng)美國軍方向人工智能轉型，并且成立了國防部聯(lián)合人工智能中心；近期，美國國防高級研究計劃局（DARPA）作為美軍重要的技術(shù)創(chuàng )新部門(mén)宣布對人工智能的投資增加20億美元，用以布局下一代人工智能。

俄羅斯也高度重視人工智能在國防領(lǐng)域的發(fā)展。俄羅斯國防力量積極的開(kāi)發(fā)人工智能武器，包括超級坦克、無(wú)人蜂群、無(wú)人導航水下航行器等，根據媒體報道，俄羅斯已經(jīng)開(kāi)始在敘利亞戰場(chǎng)中使用基于人工智能的武器系統。在美俄之外，包括中國、英國、澳大利亞、韓國、印度等越來(lái)越多的國家開(kāi)始重視人工智能在軍事領(lǐng)域的發(fā)展和應用。

二、安全領(lǐng)域挑戰不容小覷

人工智能擁有巨大潛能，但事情往往具有兩面性，為了獲取戰略競爭優(yōu)勢，各國人工智能在國防領(lǐng)域的競爭，也帶來(lái)了安全方面的風(fēng)險——包括為了獲取競爭優(yōu)勢而忽視人工智能的倫理問(wèn)題、人工智能技術(shù)擴散，以及過(guò)度強調人工智能的國家安全屬性對正常的技術(shù)發(fā)展和商業(yè)所帶來(lái)的威脅挑戰。

首先，致命性自主武器的倫理問(wèn)題。致命性系統是一種直接或間接地對人類(lèi)造成傷害或死亡的系統?，F有系統如裝備了武器的無(wú)人機，就在某種程度上將自動(dòng)化與致命性結合起來(lái)，但是這一系統需要人類(lèi)的參與。完全自主的致命性自主武器系統還需要能夠識別和選擇目標，確定擬對目標施加的武力級別，并在特定范圍的時(shí)間和空間內對目標實(shí)施規定的武力。半自主、全自主系統包括殺傷人員地雷、反艦雷達、各種精確制導導彈、魚(yú)雷、巡航導彈、反衛星武器、空中和海上無(wú)人機、無(wú)人機群以及網(wǎng)絡(luò )蠕蟲(chóng)。從不含情報的地雷到精確制導導彈以及依據地形的巡航導彈，這些系統中的情報數量差異巨大。

國際社會(huì )存在著(zhù)很大的反對發(fā)展致命性自主武器的聲音。如此眾多的自主武器帶來(lái)的問(wèn)題是機器是否有權力去自主決定殺傷目標，以及由于算法黑箱或者自主武器失控而導致的誤殺和誤傷成為致命性自主武器發(fā)展必須要面臨的倫理問(wèn)題。雖然戰爭和傷亡是需要極力去避免的，但是由機器來(lái)決定傷亡則更加難以接受。不僅如此，人工智能的應用會(huì )在一定程度上降低戰爭的門(mén)檻，這會(huì )鼓勵減少自我約束，采取進(jìn)攻性的行動(dòng)來(lái)達到相應的目的，但同時(shí)也會(huì )對國際安全形成新的不穩定因素。

其次，作為人工智能發(fā)展核心的算法和數據都存在著(zhù)潛在的安全問(wèn)題，這會(huì )導致人工智能決策的風(fēng)險。從編程的角度來(lái)看，任何的代碼都是由人編寫(xiě)，因此無(wú)法確保程序完全安全、可靠、可控、可信。從數據角度來(lái)看，人工智能依賴(lài)大數據，同時(shí)數據的質(zhì)量也會(huì )影響算法的判斷。軍事數據質(zhì)量獲取、加工、存儲和使用等環(huán)節都存在著(zhù)一定的數據質(zhì)量和安全風(fēng)險，從而增加了軍事領(lǐng)域使用人工智能的安全風(fēng)險。

再次，人工智能技術(shù)擴散給全球安全帶來(lái)的威脅。伴隨著(zhù)人工智能武器的開(kāi)發(fā)，國際社會(huì )面臨的另一大難題就是反擴散問(wèn)題，恐怖主義組織以及不負責任的國家獲取人工智能武器，并威脅國際安全和平。人工智能從某種意義上而言，也是一種程序和軟件，因此，它面臨的擴散風(fēng)險要遠遠大于常規武器。類(lèi)似于美國國家安全局的網(wǎng)絡(luò )武器庫被黑客攻擊，并且在暗網(wǎng)交易，最后被黑客開(kāi)發(fā)為勒索病毒的案例，也有可能在人工智能武器領(lǐng)域重現。

最后，人工智能的軍備競賽會(huì )對技術(shù)邏輯和商業(yè)邏輯產(chǎn)生破壞。人工智能具有軍民兩用性質(zhì)，其發(fā)展最初的目的是為了發(fā)展經(jīng)濟，增加社會(huì )福利。過(guò)度的強調軍事用途會(huì )對人工智能的全球研發(fā)體系和產(chǎn)業(yè)鏈造成嚴重威脅。近期，美國政府對《外國投資審查法案》進(jìn)行修訂，其中重點(diǎn)就是要阻止其他國家對美國人工智能初創(chuàng )企業(yè)的并購。法國政府也采取了相應做法提高外國企業(yè)對法國人工智能技術(shù)、人才的并購門(mén)檻。再加上，出口管制和人才交流限制。人工智能技術(shù)尚未發(fā)展成熟，各種鴻溝已經(jīng)在各國之間開(kāi)始構筑，會(huì )嚴重影響正常的技術(shù)研發(fā)，并且破壞全球化的商業(yè)邏輯。

三、治理機制構建刻不容緩

人工智能在軍事領(lǐng)域的發(fā)展和應用已經(jīng)成為很多國家的國家戰略，相應的治理工作應當在現有的國際安全架構開(kāi)展。今年9月在日內瓦召開(kāi)的聯(lián)合國常規武器公約的討論中，各方并未就制定禁止人工智能驅動(dòng)的致命性完全自主武器的條約達成共識。全球約有共26個(gè)國家支持全面禁止人工智能武器，而絕大多數國家還在觀(guān)望。在規則不確定和大國戰略競爭的背景下，人工智能在軍事領(lǐng)域發(fā)展面臨的風(fēng)險和威脅在不斷增加。加強人工智能的國際治理工作，降低軍備競賽風(fēng)險則是當務(wù)之急。

經(jīng)過(guò)2014年和2015年的兩次非正式會(huì )議后，在2016年12月16日關(guān)于特定常規武器公約的聯(lián)合國會(huì )議上成立了致命性自主武器系統（LAWS）政府專(zhuān)家組（GGE）。該小組的任務(wù)是研究致命性自主武器領(lǐng)域的新興技術(shù)，評估其對國際和平與安全的影響，并為其國際治理提出建議。

人工智能引發(fā)的安全問(wèn)題是專(zhuān)家組的一大重要分歧，技術(shù)強國與弱國之間存在截然不同的觀(guān)點(diǎn)。技術(shù)弱國認為應當完全禁止致命性自主武器的開(kāi)發(fā)使用，技術(shù)大國則持相反意見(jiàn)，認為開(kāi)發(fā)致命性自主武器可以降低人員損傷，有利于打擊恐怖主義和維護國家安全，并且很多系統已經(jīng)在戰場(chǎng)上進(jìn)入實(shí)戰。

軍事是推動(dòng)技術(shù)進(jìn)步的重要因素，互聯(lián)網(wǎng)就是由美國軍方所發(fā)明，人工智能的技術(shù)發(fā)展背后也有軍事因素的強力推動(dòng)。但是，人工智能的科技競賽也非技術(shù)之福，特別是致命性自主武器的擴散會(huì )造成更為嚴重的后果。因此，從聯(lián)合國層面制定相應的規范，并且促成大國之間在發(fā)展致命性自主武器上達成一定的軍控條約是當務(wù)之急。

聯(lián)合國政府專(zhuān)家組應制定致命性自主武器系統和人工智能軍事應用的目標。其中，最重要的一個(gè)目標是制定相應的國際法，在國際法不明確的情況下，各國應克制在軍事領(lǐng)域使用人工智能武器。聯(lián)合國政府專(zhuān)家組也應考慮對國際法此前未曾預見(jiàn)的情況追加法律限制，并以道德或倫理為由盡量減少對人和平民的傷害。更進(jìn)一步的目標包括管理以下情況的操作風(fēng)險，包括降低使用武力門(mén)檻、意外導致不應有的傷害、造成意外的升級螺旋式增長(cháng)以及產(chǎn)生軍備競賽和擴散。

當然，從聯(lián)合國角度來(lái)達成一項談判可能需要十年甚至更長(cháng)的時(shí)間，鑒于越來(lái)越多的風(fēng)險，大國之間應當及早就人工智能在軍事領(lǐng)域應用可能帶來(lái)的潛在風(fēng)險開(kāi)展對話(huà)，及早啟動(dòng)相應的軍控進(jìn)程。短期內促成技術(shù)強國在謀求戰略?xún)?yōu)勢和國際安全體系穩定之間的妥協(xié)。

各國政府在制定人工智能在軍事領(lǐng)域的戰略時(shí)，還應當高度重視人工智能的治理工作。比如，無(wú)論是半自主和全自主的武器系統的設計，應允許指揮官和作戰人員在使用武力方面作出適當的人為判斷。為保證這一要求的實(shí)現，需要嚴格的設計、對設計的測試和評估、操作驗證和測試，解決系統錯誤和故障的安全工程以及避免人為錯誤的認知工程。

在決定是否使用人工智能武器時(shí)，應當制定明確的規范和流程，避免造成不可預測的后果。同時(shí)，還應當加強對人工智能武器的安全性，避免安全泄露，或者是隨意轉讓相關(guān)技術(shù)。無(wú)論是無(wú)意或者有意地擴散都會(huì )增加軍備競賽的風(fēng)險，威脅國際安全體系。

《光明日報》（ 2018年09月19日 14版）

人工智能將是這個(gè)時(shí)代最偉大的魔法師

2018-09-19 03:45　來(lái)源：光明網(wǎng)-《光明日報》

人工智能將是這個(gè)時(shí)代最偉大的魔法師

——2018世界人工智能大會(huì )分論壇側記

光明日報記者 嚴圣禾 周仕興 曹繼軍 顏維琦

人工智能，這一概念有著(zhù)豐富的內涵和廣泛的外延，不僅涉及眾多科學(xué)門(mén)類(lèi)，還與法律、安全、就業(yè)、道德倫理和政府治理等領(lǐng)域密切相關(guān)。在上海召開(kāi)的世界人工智能大會(huì )，除了主論壇，還有約30個(gè)主題論壇在浦江兩岸同步舉行。中外專(zhuān)家學(xué)者和業(yè)界精英深入交流、凝聚共識，共同為大會(huì )貢獻豐碩的成果。

腦科學(xué)和人工智能執手共進(jìn)

“深度學(xué)習和神經(jīng)網(wǎng)絡(luò )的出現，對于人工智能技術(shù)的發(fā)展產(chǎn)生了重大的影響，也為人工智能帶來(lái)了新的希望，所以我們需要盡可能了解大腦的工作機制。由計算機所構筑的神經(jīng)網(wǎng)絡(luò )和由大腦所構筑的神經(jīng)網(wǎng)絡(luò )其實(shí)是很不一樣的，但人類(lèi)對于神經(jīng)網(wǎng)絡(luò )的一些細節還有很多不了解的地方，而大腦科學(xué)能夠提供這樣一些信息……”英國皇家學(xué)會(huì )會(huì )士、英國倫敦大學(xué)高等研究院感知學(xué)習中心主任科林·布萊克莫爾，18日在復旦大學(xué)類(lèi)腦人工智能主題論壇上如是說(shuō)。這位皇家會(huì )士上一次訪(fǎng)問(wèn)復旦大學(xué)是1974年，40多年后，因世界人工智能大會(huì )重返復旦，他對這所中國知名大學(xué)發(fā)生的巨大變化感慨不已。

腦科學(xué)和人工智能是當今國際科技前沿熱點(diǎn)，結合神經(jīng)生物學(xué)原理發(fā)展的腦啟發(fā)智能算法應用迅速崛起，催生了新一代類(lèi)腦人工智能系統，為疾病診斷、智能機器人、通用人工智能等戰略性新興產(chǎn)業(yè)帶來(lái)巨大的發(fā)展機遇，成為全球產(chǎn)業(yè)發(fā)展和升級的新的爆發(fā)點(diǎn)和增長(cháng)點(diǎn)。

當天，復旦大學(xué)這個(gè)分論壇可謂群星璀璨，除了科林·布萊克莫爾，還有2013年諾貝爾化學(xué)獎得主、斯坦福大學(xué)結構生物學(xué)教授邁克爾·萊維特，英偉達集團首席科學(xué)家及高級副總裁、斯坦福大學(xué)電子工程與計算機科學(xué)教授比爾·戴利，中國科學(xué)院院士、中國科學(xué)院腦科學(xué)與智能技術(shù)卓越創(chuàng )新中心主任蒲慕明，英國皇家工程院院士、英國帝國理工學(xué)院教授陸永青，中國科學(xué)院院士、復旦大學(xué)電磁波信息科學(xué)教育部重點(diǎn)實(shí)驗室主任金亞秋等一大批全球頂尖的學(xué)者專(zhuān)家共同為上海新一代人工智能原始創(chuàng )新能力把脈問(wèn)診、獻計獻策。

人工智能如何參與城市管理

上海靜安區正在致力打造上海建設國家大數據綜合試驗區的重要功能樞紐區和產(chǎn)業(yè)發(fā)展集聚區。自上海數據交易中心落戶(hù)靜安、上海大數據產(chǎn)業(yè)基地揭牌兩年以來(lái)，靜安區的大數據發(fā)展取得了可喜的進(jìn)步。大數據在該區推進(jìn)城市精細化管理的過(guò)程中也發(fā)揮著(zhù)日益重要的作用。

人工智能的發(fā)展離不開(kāi)對大數據的充分應用，恰逢2018世界人工智能大會(huì )的舉辦，靜安區今年舉辦的第三屆國際大數據論壇也成了本屆世界人工智能大會(huì )的一部分。聯(lián)合國公共機構和數字政府司官員、國內外知名高校和科研機構中從事大數據和人工智能研究的學(xué)界專(zhuān)家、國內外大數據行業(yè)龍頭企業(yè)技術(shù)專(zhuān)家、知名創(chuàng )投機構代表、大數據行業(yè)相關(guān)企業(yè)等共1000余名嘉賓圍繞“大數據和城市智能”進(jìn)行深度交流，商討如何運用數據驅動(dòng)的力量，推動(dòng)城市智能化發(fā)展及精細化管理不斷深化，推動(dòng)未來(lái)靜安區城市功能和品質(zhì)不斷優(yōu)化和提升，為上海建設全球卓越城市作出貢獻。

此外，在該分會(huì )場(chǎng)的“城市智能創(chuàng )新項目分享會(huì )”上，來(lái)自政府、大數據企業(yè)、科研院校、產(chǎn)業(yè)聯(lián)盟的眾多嘉賓先后就“大數據與上海購物”“打破AI幻覺(jué)，深度應用實(shí)現價(jià)值”“數據跨境傳輸的企業(yè)合規挑戰”“健康醫療數據保護與流通案例分享”“大數據態(tài)勢及企業(yè)大腦實(shí)踐”“基于A(yíng)I的機器人流程自動(dòng)化技術(shù)分享”“海量精準大數據是AI人工智能的核心基礎”等多個(gè)方面進(jìn)行了政策解讀、技術(shù)探討和案例分享，讓聽(tīng)眾對大數據在城市管理和規劃中的應用和實(shí)踐有了更全面的了解。

人工智能如何賦能各行各業(yè)

除了高校和政府機構，國內外人工智能的領(lǐng)軍企業(yè)也是眾多分論壇的承辦方。記者18日上午在科大訊飛承辦的“人機交互·萬(wàn)物互聯(lián)”AI+行業(yè)賦能發(fā)展論壇上聆聽(tīng)了中國科學(xué)院院士裴鋼，美國斯坦福大學(xué)人工智能、機器人與未來(lái)教育中心主任蔣里等十余位知名專(zhuān)家學(xué)者、企業(yè)家，圍繞人工智能、大數據等先進(jìn)技術(shù)如何為行業(yè)發(fā)展助力賦能展開(kāi)的熱烈討論。

語(yǔ)音是未來(lái)人機交互最重要的入口之一?？拼笥嶏w執行總裁胡郁介紹，科大訊飛在智能語(yǔ)音與人工智能領(lǐng)域有近20年的研究與積累，立志讓機器能聽(tīng)會(huì )說(shuō)，能理解會(huì )思考。目前，科大訊飛正在用先進(jìn)的智能語(yǔ)音與人工智能技術(shù)賦能教育、醫療、政法等各個(gè)行業(yè)，希望借助人工智能建設美好世界，迎接人機交互、萬(wàn)物互聯(lián)的時(shí)代。

零售應用是人工智能技術(shù)的重要領(lǐng)域，京東集團副總裁、AI負責人周伯文在論壇上作了題為《人工智能重塑零售服務(wù)》的發(fā)言。他介紹，京東的理念是服務(wù)等于內容加交互，正持續在倉儲、物流等場(chǎng)景布局人工智能，致力于用技術(shù)驅動(dòng)公司成長(cháng)，助力服務(wù)行業(yè)升級，完成從“科技零售”到“零售科技”轉型。

與會(huì )嘉賓一致認為，未來(lái)人工智能會(huì )像水和電一樣無(wú)處不在，世界也將因人工智能而更美好。人工智能將是這個(gè)時(shí)代最偉大的魔法師，AI賦能，讓一切皆有可能。

摘自《光明日報》