2018年，人工智能在無(wú)人駕駛汽車(chē)領(lǐng)域“連續撞車(chē)”，多家公司出現了安全事故。人工智能技術(shù)在安全、隱私等諸多方面面臨挑戰，人們開(kāi)始質(zhì)疑，“人工”和“智能”究竟能否和諧相處？

在這種焦慮情緒的影響下，人們開(kāi)始思考人工智能未來(lái)的走向。日前在北京召開(kāi)的新興科技峰會(huì )上，這一話(huà)題受到專(zhuān)家的廣泛關(guān)注。

在互聯(lián)網(wǎng)時(shí)代，每個(gè)人都可能受到網(wǎng)絡(luò )流言的困擾，很多謠言集中在食品安全、健康等領(lǐng)域，有可能產(chǎn)生非常惡劣的影響。

以醫療信息為例，用戶(hù)在搜索信息時(shí)，由于認知不足，很難判斷這些信息是不是完整、準確以及信息源是什么，這導致了“魏則西事件”“權健火療”等悲劇的發(fā)生。

“醫療信息的檢索結果關(guān)乎人的生命，用戶(hù)必須整理這些信息，避免被有特殊目的的人推送錯誤信息而導致嚴重后果?！泵绹e夕法尼亞大學(xué)計算機和信息科學(xué)系教授丹·羅斯說(shuō)。

羅斯認為，人工智能中的自然語(yǔ)言處理技術(shù)可以幫助人們解決這一社會(huì )問(wèn)題，它能夠幫助人們去了解信息源，了解語(yǔ)意背后的證據，擔起“謠言偵探”的重任。

信息源包括信息的來(lái)源、目的、內容等，而對于各種說(shuō)法背后的證據，可以使用神經(jīng)網(wǎng)絡(luò )進(jìn)行分類(lèi)，將大量的信息按支持度的強弱組織成證據鏈，了解不同說(shuō)法的立場(chǎng)，檢查不同說(shuō)法的真實(shí)性。

羅斯也坦言，目前自然語(yǔ)言處理技術(shù)還面臨很多挑戰，比如語(yǔ)意的模糊性，一詞多義或者一種意思有多種說(shuō)法，在這些情況下的理解完全取決于具體的應用場(chǎng)景。但他仍然呼吁人們多關(guān)注這個(gè)領(lǐng)域，嚴堵謠言的擴散。

峰會(huì )上，也有專(zhuān)家認為，人工智要真正“適應”人類(lèi)社會(huì )，還需要一段很長(cháng)的路。

卡內基梅隆大學(xué)計算機科學(xué)學(xué)院機器人研究所教授凱迪婭·斯凱洛認為，機器人終將出現，會(huì )和人類(lèi)一起工作、戰斗、照顧老人，但是在這一天來(lái)臨前，人們還需要在社會(huì )、心理方面做大量工作。

比如讓機器人從事照顧老人的工作，它需要知道在進(jìn)入房間前敲門(mén)；如果老人突發(fā)疾病，它又要能夠直接闖入，并快速把老人送到醫院，需要超速時(shí)，它也要打破交通限速的規則?！斑@些決策都帶有很大的不確定性，需要人們提前規定優(yōu)先級?！彼箘P洛說(shuō)。

有時(shí)機器人會(huì )干出一些“啼笑皆非”的事。有研究發(fā)現，在清理垃圾時(shí)，如果程序告訴機器人清理得越多，分數就越高，機器人會(huì )為了獲得高分，把已經(jīng)清理好的垃圾倒掉，再重新清理一次。

斯凱洛認為，如果只讓機器人去工作，那么它們很好控制；一旦人類(lèi)要與它們有更多互動(dòng)，未來(lái)使用機器人會(huì )變得越來(lái)越有挑戰性。

“想讓機器人在社會(huì )中的被接受程度更高，它們必須要有社會(huì )性，它們的行為應該是我們可接受的，要符合社會(huì )行為的準則?！彼箘P洛說(shuō)。

摘自《中國科學(xué)報》