http://www.stdaily.com 2011年09月04日    來(lái)源： 科技日報   作者： 張夢(mèng)然

   本報記者 張夢(mèng)然 綜合外電

    當人工智能技術(shù)在機器人一詞前冠以“新一代”，而不是“新型”時(shí)，無(wú)論過(guò)往你是愛(ài)是怕，從此已再不能忽視它們了

                 
    卡耐基梅隆大學(xué)正在把機器人Actroid-DER優(yōu)化得更女性化

                   
                                   ①可以照顧老殘人士的機器人管家HERB。

                   
                              ②可以照顧老殘人士的機器人管家HERB。

                       
                            ③石黑浩（左）和他的硅膠替身。
           
           .      
                     ④猶如嬰兒般大小的思科網(wǎng)真手機機器人Elfoid。

                 
                       ⑤有1500多個(gè)傳感器的Huggable機器.

                
                            ⑥機器小海豹可能會(huì )讓老人與其他人逐漸疏遠。

   讓我們愛(ài)恨交織的技術(shù)太多了。它們大部分是在幾十年間從世人完全陌生到耳熟能詳，勢頭快得讓人不敢掉以輕心，這里面，就包括曾經(jīng)十分可愛(ài)的機器人。

   但近幾年，人工智能（AI）前行的步伐把機器人研發(fā)帶到了一個(gè)嶄新的領(lǐng)域里——它們不但眼耳口鼻、連所思所行都開(kāi)始越來(lái)越像我們人類(lèi)。同時(shí)，研究者們也正以自己為模板，在極力完善機器人的情緒，似乎急著(zhù)把它們也拉進(jìn)貪嗔癡喜惡怒的苦海中。

    那些科學(xué)與倫理的權衡之辭，早已在科幻和各種探討中被人們嚼爛了，亦或因此，至今在現實(shí)發(fā)展中，未見(jiàn)出現大面積過(guò)激的反對聲浪。但也有科學(xué)家認為，機器人技術(shù)當前之境地，其實(shí)已接近讓人們負面情緒崩潰的邊緣。

    不過(guò)，這種改變是漸進(jìn)式的，這讓人類(lèi)似乎很難真的意識到正發(fā)生改變的機器人意味著(zhù)什么，或者說(shuō)，未必做好了應對這一切改變的防備。于是近日，美國《國家地理》在線(xiàn)版以《我們，與他們》為題，撰寫(xiě)了一篇分析文章，試圖探索機器人和人類(lèi)當前的關(guān)系及我們能看得見(jiàn)的未來(lái)發(fā)展。

   只是，現在就叫“它們”為“他們”，是否言之過(guò)早？

    從形到神的顛覆，機器人做到了嗎？

    隨著(zhù)控制人員在筆記本電腦里輸入了一條命令，Actroid-DER仿真女性機器人仿若剛睡醒般，帶著(zhù)人類(lèi)特有的喘息聲，活靈活現地站起了身。以壓縮空氣為動(dòng)力，藏于有機硅膠皮膚下的傳動(dòng)裝置，讓Actroid-DER輕輕抬起了手臂，甚至露出了一個(gè)有幾分恬淡味道的微笑，讓觀(guān)者驚嘆不已。

    這款機器人的腳步被固定在展示平臺上，因為許多管線(xiàn)要從腳踝處貫入身體，但Actroid-DER依然能夠自在的移動(dòng)頭部，拿眼睛掃視著(zhù)整個(gè)演示間——這當然遠稱(chēng)不上是顧盼若兮、眼波流轉，“她”的眼神依舊是機械缺乏生氣的，但“她”卻可以將眼光投定在一個(gè)觀(guān)眾身上，用不斷眨巴著(zhù)眼睛的所謂俏皮姿態(tài)，向對方發(fā)出詢(xún)問(wèn)：“我是個(gè)機器人，令你很驚奇么？我看起來(lái)就像個(gè)活生生的人，不是么？”

   或許，第一次看到Actroid-DER的人，會(huì )為“她”逼真的表現而震驚，但不幸的是，這都是提前預設好的內容?？茖W(xué)家們反而會(huì )從對立面的角度，去關(guān)注這款機器人頗多的缺陷。

   這款由日本機器人研發(fā)企業(yè)Kokoro公司開(kāi)發(fā)的Actroid-DER機器人，此前已經(jīng)多次被租借出去擔任商業(yè)活動(dòng)的發(fā)言人。但該領(lǐng)域發(fā)展至今，此類(lèi)簡(jiǎn)單的任務(wù)已并不能描繪出一個(gè)仿真機器人所應追求的細致入微和部分性格體現。依美國《國家地理》那篇文章作者之見(jiàn)，這就是——花費了25萬(wàn)美元的巨額投入，卻并不能讓Actroid-DER的一舉一動(dòng)擺脫機器特有的死板生硬。

   而作為人類(lèi)最顯著(zhù)特征的語(yǔ)言能力，Actroid-DER的模仿表現尤其令人失望。“她”的說(shuō)話(huà)習慣是一邊說(shuō)著(zhù)一邊隨時(shí)準備睡著(zhù)，仿佛“她”身上還有著(zhù)比電更強大的力量來(lái)控制似的，這可不是“她”意圖模仿正常人該有的行徑。

   但這款Actroid-DER機器人的待遇卻是特殊的。當越來(lái)越多更加先進(jìn)的Actroid型機器人出現在各類(lèi)技術(shù)展覽上時(shí)，“她”卻被運送到匹斯堡的卡耐基梅隆大學(xué)以獲取人類(lèi)所應有的外貌特征。這正是該大學(xué)娛樂(lè )技術(shù)學(xué)院5名樂(lè )觀(guān)的研究生所期望的——或是不得不樂(lè )觀(guān)也說(shuō)不定，因為他們之前已經(jīng)耗費了長(cháng)達15個(gè)星期的一個(gè)學(xué)期，來(lái)讓這位女性機器人更加具有女人味而不是更多機器的冰冷，且在一開(kāi)始，他們就按照“她”日文名字Yume的含義，稱(chēng)其為“夢(mèng)”。

    “Kokoro公司賦予了她逼真的仿真身體，但這還遠遠不夠。”參與項目的學(xué)生克里斯蒂安•巴恩斯說(shuō)，“我們即將展開(kāi)的工作是令‘夢(mèng)’從逼真升級為真實(shí)可信。”

   它們是不是家里的“田螺姑娘”？

   盡管不見(jiàn)得讓人稱(chēng)意，但Actroid型機器人其實(shí)是新一代機器人的代表。這一代機器人的設計初衷已經(jīng)超越了簡(jiǎn)單的程序輸入式的工業(yè)機器人，而致力于將機器人打造得愈益自主，使其能夠如真人一樣在學(xué)校、家庭、辦公室扮演角色，承擔任務(wù)。

    該潮流的先鋒代表便是ROOMBA保潔型機器人。當圓頭圓腦的ROOMBA來(lái)到用戶(hù)家中后，就像一只初來(lái)乍到的電子寵物狗，看似沒(méi)頭沒(méi)腦地亂轉，其實(shí)自有套章法，如用電腦模擬出它走過(guò)的痕跡，就會(huì )發(fā)現能覆蓋到房間的角角落落。

    比較妙的是，ROOMBA也能自己出動(dòng)清理地面，在主人不在家的時(shí)間里把活干完——這一點(diǎn)倒真有點(diǎn)“田螺姑娘”的意思。而麻理人工智能實(shí)驗室的良好出身，以及美國iRobot公司多年為軍方提供戰地機器人的可貴經(jīng)驗，讓ROOMBA的感應系統“耳聰目明”，即使無(wú)人看守，也從不會(huì )弄成一團糟，更不必擔心會(huì )一頭栽到樓梯下面去。待它任勞任怨地干完活，再自己摸著(zhù)路回電站充電。

    這款機器人不再是實(shí)驗室或小規模高端產(chǎn)物了，它作為一款在售產(chǎn)品，早已引發(fā)了大批量的模仿。其商業(yè)化之后優(yōu)秀的反饋讓人們相信，更加復雜的服務(wù)型機器人或許不久之后就可以為我們準備飯菜，整理衣物，甚至照看孩子和老人的生活，而我們，像是無(wú)良監工，只需在幾英里外的辦公室得意的地過(guò)電腦進(jìn)行操作和監督。

    “在5年到10年的時(shí)間里，機器人將會(huì )在人類(lèi)生活中發(fā)揮越來(lái)越重要的作用。”卡耐基梅隆大學(xué)機器人學(xué)教授里德•西蒙斯斷言。

    這種前景當然也帶來(lái)了一系列的問(wèn)題。

   首先，你打算將日常生活內容的幾成交給機器人？這其實(shí)是個(gè)深遠的、對機器信任度的問(wèn)題。

   其次，服務(wù)型機器人應當具有怎樣的外表？ROOMBA看起來(lái)就是圓盤(pán)子，這也讓很多人誤認為它就是個(gè)機器而不是機器人；《星球大戰》里好人緣的C3PO雖僵硬但不失優(yōu)雅……至少，許多人不會(huì )希望看到“夢(mèng)”這樣有些女鬼氣質(zhì)的機器人在家里晃蕩，而且恐怕也不會(huì )樂(lè )意在臥室墻上安裝一只粗壯的機械手臂。

    再其次，我們的人際關(guān)系會(huì )因為機器人的加入而發(fā)生怎樣革命性的變化？日本一家養老院已經(jīng)禁止老人們擁有一種用來(lái)娛樂(lè )的機器小海豹，因為擔心這會(huì )讓老人與其他人逐漸疏遠。相似的憂(yōu)慮也開(kāi)始針對起未來(lái)照看嬰兒的機器保姆。受此牽連，理想浪漫情人型機器人的嘗試，也進(jìn)展緩慢。

   總而言之，我們是否準備好迎接它們了？此問(wèn)題反之亦有效。

   機器人是否已為我們做好了準備？

   在卡耐基梅隆大學(xué)娛樂(lè )技術(shù)中心外山上的一座山上建筑里，HERB安坐不動(dòng)，仿佛陷入深思。HERB一詞是家庭探索機器人管家的簡(jiǎn)稱(chēng)，這是由卡耐基梅隆大學(xué)與英特爾匹斯堡實(shí)驗共同合作研制的，用于在未來(lái)照顧老殘人士的標準型服務(wù)機器人。

   作為按家庭用品設計的機器人，HERB裝配了賽格威車(chē)輪的“腿腳”以及一大堆復雜的電腦設備組成的“身體”。但與“夢(mèng)”有所不同的是，HERB更近似于具備精神能力的生命體。目前，這款機器人正在通過(guò)以每秒數以萬(wàn)計個(gè)場(chǎng)景的速度對不同場(chǎng)景進(jìn)行選擇并作出正確反應的方式，來(lái)不斷改進(jìn)自身的性能。

   “我將其稱(chēng)作造夢(mèng)。”HERB的制作者、卡耐基梅隆大學(xué)機器人學(xué)院教授悉達多•斯日尼瓦薩說(shuō)。“這讓人們直觀(guān)地理解機器人事實(shí)上可以明白它們自己正在做的事。”

    傳統的機器人，比如人們常見(jiàn)的汽車(chē)車(chē)間流水線(xiàn)上焊接車(chē)體的那種，能夠按照預先輸入的指令從事非常精確的工作，但是需要非常嚴格組織起來(lái)的環(huán)境。而HERB這樣的機器人，為了融入人類(lèi)的生活空間，就必須感知、察覺(jué)并處理不同的陌生事物，并且移動(dòng)的過(guò)程中不能與活動(dòng)的人類(lèi)相撞。HERB的感知系統包括安裝在頂部架桿上的一臺攝像機和一部激光導航設備不同于液壓驅動(dòng)的工業(yè)機械臂，HERB的手臂通過(guò)壓強感知的電纜系統模仿了人類(lèi)的肌腱功能。這種靈敏將使得HERB可以輕柔地將一位被照顧的老婦人送進(jìn)浴室，而不至于發(fā)生大力把她扔出門(mén)外的事故。

    在實(shí)驗室里，斯日尼瓦薩的一個(gè)學(xué)生按下了一個(gè)按鈕，發(fā)出了一條拿起放在附近桌上的果汁盒的指令。HERB的激光導航設備開(kāi)始旋轉，制造出一幅3D的網(wǎng)格地圖，其中標注出了周?chē)祟?lèi)和物體的坐標位置。同時(shí)，攝像機捕捉并鎖定了最為接近目標——果汁盒的候選物體。機器人緩慢地靠近并抓起了盒子，并始終保持水平。最后，依照命令，它將果汁輕輕地放下。

    對于一般人來(lái)說(shuō)，這種表現或許并不是那么搶眼，“當我展示這一切給我母親看時(shí)，她竟然不能理解HERB拿杯水為什么會(huì )費那么大勁。”斯日尼瓦薩說(shuō)。

    其實(shí)問(wèn)題并不在于HERB本身，而在于事前輸入給它的場(chǎng)景案例。拿杯水對于人來(lái)說(shuō)確實(shí)是簡(jiǎn)單之極，我們的大腦經(jīng)過(guò)幾百萬(wàn)年的進(jìn)化已經(jīng)非常善于做這類(lèi)事。對于那些專(zhuān)門(mén)從事某類(lèi)事情的工業(yè)機器人同樣也精通此道，但HERB超越它們的地方在于，它知道自己所要拿取的是一盒果汁，而不是一杯牛奶或一個(gè)茶杯。這種理解能力來(lái)源于大量先進(jìn)的數學(xué)與計算機技術(shù)，但用斯日尼瓦薩的話(huà)說(shuō)，一切最終歸結為：“它能夠將輸入的信息，在自身預先存儲的關(guān)于外部世界的場(chǎng)景語(yǔ)境中進(jìn)行智能分析。”

    當HERB遇到新的物體時(shí)，先前學(xué)習的規則會(huì )指導具備壓力感應功能的手臂的行動(dòng)。這個(gè)物體有把手嗎？會(huì )打碎么？斯日尼瓦薩按照人類(lèi)的行為特征設計了HERB的手臂。比如在酒吧里，他觀(guān)察到酒保用一種違反直覺(jué)的神秘手法來(lái)進(jìn)行調酒，便將其簡(jiǎn)化為運算法則。如今HERB的指令系統里就有這一招。

    當然，HERB正在探索的世界，是可控的實(shí)驗環(huán)境。讓它具備在真實(shí)的人類(lèi)生活中發(fā)揮作用依然要面對許多困難挑戰。

    而HERB還有一個(gè)車(chē)鈴鐺似的號角，以告知人們它在靠近。如果屋子實(shí)在太過(guò)于凌亂和擁擠，它就會(huì )選擇最安全的行為方式——站在那兒，對著(zhù)所有人不停按喇叭。

    若當我們都不能理解自己時(shí)……

    以上之策略在實(shí)驗室里確實(shí)有效，但是換成辦公室里就不一定奏效。人類(lèi)可以做出許多無(wú)法用詞匯來(lái)表達的無(wú)意識行動(dòng)，比如我們會(huì )小心地繞過(guò)擋在前進(jìn)路上的人，還能明白自己正在侵入他人的私人空間——而這種事無(wú)法用數字上的距離來(lái)表達。

    卡耐基梅隆大學(xué)的研究者們知道大眾也希望機器人能夠做到這一點(diǎn)。它們如果做不到或做出傻事，人們通常不愿意去原諒。

    卡耐基梅隆大學(xué)另一款研發(fā)中的零食機器人就是個(gè)例子。它被設計用來(lái)在計算機學(xué)院的人群中散發(fā)零食，但經(jīng)常出現送錯貨或者找錯錢(qián)的事兒。

   當然，如果機器人能夠提前告知人們它會(huì )出錯或者學(xué)會(huì )道歉的話(huà)，多數人們也是比較寬容的。但是問(wèn)題在于人類(lèi)自己有許多它們理解不了的奇怪舉止。“監控顯示，有時(shí)候人們會(huì )偷零食。”機器人的設計者說(shuō)。

   與其他社會(huì )機器人一樣，零食機器人也是個(gè)可愛(ài)的家伙。它四英尺半高，卡通風(fēng)格容貌的腦袋讓它勉強還像個(gè)人。由于人們對它的期望值就沒(méi)放太高，這避免了它掉入所謂“詭異之谷”的困境。

   而所謂“詭異之谷”，是日本機器人研發(fā)的先驅森昌弘于40多年前提出的概念，意思是一般說(shuō)來(lái)，人們都會(huì )非?？隙ǖ卣J為機器人應當具備人類(lèi)的外觀(guān)面貌，但森昌弘觀(guān)察到，當機器人越來(lái)越栩栩如生的時(shí)候，這種“與人近似”的期望就會(huì )迅速轉變?yōu)榕懦狻?br />
   雖說(shuō)，大部分的機器人學(xué)家并不愿走到那種極端的地步，但是依然有人提醒說(shuō)，如果人們愿意接受機器人發(fā)展到和真人一樣的地步，“詭異之谷”則是一個(gè)必須經(jīng)歷和度過(guò)的階段。

    而推動(dòng)“夢(mèng)”這款機器人穿過(guò)“詭異之谷”的人，正是無(wú)畏的機器人專(zhuān)家石黑浩。他長(cháng)期觀(guān)察機器人領(lǐng)域的改進(jìn)創(chuàng )新，研究仿真機器人電子元件的相互作用。去年他就研制出了包括以一位留著(zhù)山羊胡子和短發(fā)茬微笑的丹麥教授為原型的逼真機器人，以及一個(gè)和嬰兒般大小的思科網(wǎng)真手機機器人Elfoid。后者一旦經(jīng)過(guò)改良，人們就能夠通過(guò)它來(lái)與同樣適用Elfoid的朋友聊天，在這個(gè)過(guò)程中，機器人會(huì )模仿你做的動(dòng)作。

    而石黑浩最“雷人”的作品，還當屬他最近研制出的以他自己為原型造的Geminoid型號。人們如果造訪(fǎng)他位于日本京都的ATR智能機器人和通訊研究所的實(shí)驗室時(shí)，他和他的復制品都一襲黑衣。機器人坐在制作者后面的椅子上，留著(zhù)一模一樣的黑色頭發(fā)，同樣是擁有一張愁云密布的臉。

    石黑浩打趣說(shuō)，自己在兩小時(shí)車(chē)程外的大阪大學(xué)也擔任教職。有了這個(gè)硅膠替身，自己就可以同時(shí)出現在兩個(gè)地方。 通過(guò)安裝在機器人面部的動(dòng)作捕捉感應器，石黑浩就可以一邊通過(guò)網(wǎng)絡(luò )操作機器人與京都研究所的同事們交流，自己則在大阪的教室里上課。

    與其他機器人領(lǐng)域的先驅者一樣，石黑浩不僅樂(lè )于在技術(shù)層面推動(dòng)機器人的進(jìn)步，更意欲獲得哲學(xué)上的解釋。他的機器人像是測試風(fēng)速的氣球或者不完美的鏡子，通過(guò)這些越來(lái)越逼真的作品折射出人類(lèi)根本上的屬性為何，并觀(guān)察人們如何與機器人互動(dòng)，來(lái)制造出更加可信的機器人。

    “人們傾向相信我是真實(shí)的人，而那個(gè)東西不是。”石黑浩指著(zhù)自己的替身說(shuō)到，隨著(zhù)技術(shù)的進(jìn)步，這種特征上的差別實(shí)際上會(huì )越來(lái)越難以分辨。當最終真假難辨的時(shí)候，在意與之交流的是不是真人還有什么意義么？對于自己的替身，他表示最佳的用途，是送到自己遠方母親的身邊，因為自己很少回去探望。

    “你母親會(huì )接受這么一個(gè)機器人？”人們這樣問(wèn)他。

    而石黑浩的回答是：“但這就是我自己呀。”

   機器人能擁有道德反應嗎？

   在前面這個(gè)可以與母親互動(dòng)的機器兒子的夢(mèng)想付諸實(shí)踐前，還有許多環(huán)節比單純模仿更需要加以研究。

    在HERB通過(guò)導航設備融入簡(jiǎn)單的人類(lèi)物理環(huán)境之后，其他機器人則開(kāi)始向神秘復雜的人類(lèi)精神情緒領(lǐng)域進(jìn)發(fā)。范德堡大學(xué)的薩卡與他的前同事、現就職于華盛頓大學(xué)的溫迪•斯通，開(kāi)發(fā)一個(gè)可以與自閉癥患兒玩簡(jiǎn)單球類(lèi)游戲的原型機器人。通過(guò)測量每分鐘心率、出汗、注意力和其他身體特征的變化，來(lái)監視兒童的情緒。但監測到厭倦或者激怒的情緒時(shí)，它便改變游戲的內容直到這些指數恢復到正常的快樂(lè )。這套機器人系統在技術(shù)上并不是非常復雜，但面對復雜的語(yǔ)言和生理相互影響，卻具有實(shí)際的治療效果。當然，這僅僅只是機器人接近人性的第一步：知曉他人的思想和感受，調整自己的行為作出回應。

   在2007年，一份報紙使用了“什么是一個(gè)人？”這樣的挑釁性標題。因為華盛頓大學(xué)的發(fā)展心理學(xué)家皮特•卡恩與石黑浩等同事，共同擬定了一套九等心理基準來(lái)衡量機器人是否在模仿人類(lèi)方面成功與否。他們強調的重點(diǎn)并不在于機器人技術(shù)方面的功能，而在于人們如何觀(guān)察和對待它們。

    比如這條“內在的道德價(jià)值”。不管我們是否認為機器人值得獲得基本道德對待，人類(lèi)彼此之間是存在自然的相互尊重的。

   卡恩的實(shí)驗說(shuō)明了這一點(diǎn)，他讓青少年們與一部名為Robovie的機器人共同玩猜謎游戲。幾輪之后就有人在輪到機器人回答時(shí)出來(lái)打斷，并呵斥機器人回到壁櫥里去。Robovie會(huì )提出抗議，宣布不讓自己回答問(wèn)題是不公平的。但打斷的人回答：“你只是個(gè)無(wú)關(guān)緊要的機器人。”盡管不斷地徒勞抗議，最終Robovie還是被扔進(jìn)了壁櫥。當然，這并不是機器人為自己利益作出的反應，它背后是由人操作的。這是人的主觀(guān)反應。

    “有超過(guò)一半的實(shí)驗參與者表示他們認為Robovie被扔進(jìn)壁櫥是不公平的，這就是一種道德上的反應。”卡恩說(shuō)。

    人類(lèi)，尤其是兒童，同情一個(gè)遭受不公平待遇的機器人或許并不令人驚奇，畢竟他們一直接觸玩具和各類(lèi)玩偶。而讓一個(gè)機器人自己具有道德上的判斷能力還遙遠得多。機器人能夠被賦予良知這種最為獨特的人文屬性么？因為在戰場(chǎng)或實(shí)驗室這類(lèi)人類(lèi)道德備受考驗的場(chǎng)景里，這種思量或許更加有效。

   在阿基莫夫三定律之后

   描述機器人行為規則的阿基莫夫三定律，實(shí)在太老生常談了，且只能作為最基本要素存在。當代戰爭中機器人扮演的確是越來(lái)越復雜的角色，如遠程操控的無(wú)人機，和裝備機槍炸彈的地面車(chē)輛。各國政府都在發(fā)展具備敵我識別能力的機器人，盡管讓一個(gè)機器人為所犯下的錯誤決定負責有些荒唐，但人們已經(jīng)篤信它們可以做出正確的決定。

   在機器人道德領(lǐng)域研究中探索得最深遠的，要數亞特蘭大佐治亞技術(shù)研究所的研究員羅納德•阿爾金。他指出，并不是機器人在戰爭中的道德約束啟發(fā)他從事現在的研究，而是人類(lèi)自己的道德界限。

   他列舉了兩個(gè)在伊拉克發(fā)生的實(shí)例，一個(gè)是美軍直升機飛行員打死受傷的敵方人員，一個(gè)則是在哈迪塞遭伏擊后，海軍陸戰隊殺害平民?；蛟S是承受著(zhù)恐懼與憤怒的巨大壓力，這些士兵竟然先射擊然后再質(zhì)詢(xún)，結果是婦女兒童慘遭殺害。

   阿爾金相信機器人或許比人更能作出正確的倫理決策。在戰爭的喧囂中，機器人不會(huì )像人類(lèi)一樣受動(dòng)蕩不定的局勢和情感的起伏所擺布，因此它們在炮火下犯錯的幾率更小，同理也更不可能傷害到非戰斗人員。

   在阿爾金的系統中，有一套內置到軟件里的“倫理控制程序”——當機器人鎖定目標時(shí)，控制程序會(huì )根據交戰規則和戰爭法則檢查一整套預先編程的制約條件；而當機器人甄別是否該開(kāi)火時(shí)，又會(huì )受這套程序的指導。例如，按交戰規則，若程序給出的指令是開(kāi)闊戰場(chǎng)上的一輛敵軍坦克，對此機器人極大可能開(kāi)火；而對于有武裝敵人參加的墓地葬禮，則會(huì )被禁止開(kāi)火。

  第二個(gè)程序是“倫理適配程序”——目的是限制機器人選擇的武器。由于部分武器火力過(guò)猛，恐會(huì )導致無(wú)法預料的傷害，比如，程序可能禁止使用導彈，直到將系統調適為止。

   最后的一個(gè)程序，則是“責任建議程序”——讓機器人可以接受人類(lèi)評判，如果評判人都認為機器人過(guò)于猶豫或者過(guò)于“激動(dòng)”了，那么該程序允許覆蓋保守設計的倫理控制程序。

   但這整套程序的原創(chuàng )人卻也承認，該系統或許還不能適用于真實(shí)世界，但是他的努力卻是為了讓軍方乃至國際社會(huì )將目光多投注在一些倫理問(wèn)題上。

   我們與它們

    10年前的影片《人工智能》（AI）中，被制造出來(lái)用于“去愛(ài)人類(lèi)”的機器人大衛有了自己的感知，他只想成為養母真正的兒子，“他的愛(ài)是真的，可他自己不是”。那位人類(lèi)母親呢，雖說(shuō)沒(méi)當他是臺家電，但也只勉強平了寵物的地位。

    此時(shí)讓我們重返卡耐基梅隆大學(xué)的“夢(mèng)”改造項目，也到了與這個(gè)機器人有關(guān)的學(xué)期已經(jīng)進(jìn)入尾聲的時(shí)刻。課題組選擇向教師評審團展示經(jīng)改良優(yōu)化后的機器人，看其能否由“形似人類(lèi)”邁向“神似人類(lèi)”。

   這段“進(jìn)化之路”并不好走。課題組的計算機程序員嚴林（音）設計了一個(gè)用戶(hù)友好型軟件界面，用于十分流暢地去控制“夢(mèng)”的動(dòng)作了。但面部識別、更真實(shí)更服人的眼神互動(dòng)，都只來(lái)得及嘗試了一半。

    為了掩飾掉這幾處缺點(diǎn)，研究人員賦予了“她”假定的身份及與身份相符的服裝和舉止——有點(diǎn)哥特、朋克氣息的少女，所作所為皆是在吸引對方的注意。

    現在，“夢(mèng)”戴上了一副掩蓋僵硬指節的半指手套，擦著(zhù)黑色唇膏來(lái)混淆別人對它嘴部無(wú)法快速閉合的注意，看人時(shí)總會(huì )先定定地望上一會(huì )——以掩蓋眼神內容的不足，再然后頭部機械地擺了兩下——以免暴露她的不靈活，課題組成員們假定“她”這樣的少女會(huì )有類(lèi)似的傾向。

   當然，朋克與哥特表象下，這還是那個(gè)原來(lái)的Actroid-DER型機器人。所幸，它自己至少現在明白了這一點(diǎn)。

    “我并非人類(lèi)。”她坦承。“我永遠都不會(huì )和你們一樣?？蛇@也并不太糟，實(shí)話(huà)說(shuō)，我才喜歡當一個(gè)機器人哩。”改良后的效果讓教師團動(dòng)容，課題組因此拿到A成績(jì)。

    接下來(lái)的那個(gè)月，生產(chǎn)商KOKORO公司的技術(shù)人員就要將這個(gè)Actroid-DER型機器人運回日本東京了。課題組成員之一克里斯汀•巴恩斯沒(méi)能通過(guò)游說(shuō)將機器人留在這里。在日本人裝箱時(shí)她本想上前幫上一把忙，扶住“夢(mèng)”耷下來(lái)的腦袋。但對方禮貌地回絕了。他們就那么隨意地把依舊穿著(zhù)可愛(ài)服裝的“夢(mèng)”，三兩下塞進(jìn)板條箱，封裝打包走人。(科技日報)