機器人“傷人”：“操作不當”還是“設計缺陷”？

????新華社北京１１月２４日電

????新華社記者　胡喆、劉宏宇、李雄鷹

????人工智能在生活中正扮演越來越重要的角色。其中，對主要面向人類的服務機器人，在智能化、安全性、可靠性等方面的要求都遠高于其他種類的機器人產(chǎn)品。近日發(fā)生在深圳的機器人“小胖”意外事件，引發(fā)人們對服務機器人安全性的關注：是“設計缺陷”還是“操作不當”？行業(yè)標準與質(zhì)量監(jiān)管該如何跟上？

????機器人會“傷人”？廠商稱系“操作不當”

????今年深圳高交會期間，網(wǎng)上熱傳一起“機器人傷人”事件。一名網(wǎng)友在微信上發(fā)圖并配文稱：“親眼看到隔壁展臺進化者小胖機器人沒人操縱，自己突然跑起來，把玻璃墻給干倒了，砸傷旁邊一路人，圍觀群眾還在那兒喊‘機器人鬧事啦’?！眻D片顯示，現(xiàn)場滿地玻璃，一位受傷觀眾被擔架抬走。

????隨后，深圳高交會組委會發(fā)布公告：第十八屆高交會１號館１Ｄ３２展位深圳展景世紀科技有限公司展臺由于該展商工作人員操作不當，誤將“前進鍵”當成“后退鍵”，導致用于輔助展示投影技術(shù)的一臺機器人（又名“小胖”，北京進化者機器人科技有限公司生產(chǎn)）撞向展臺玻璃，玻璃倒地摔碎并劃傷一名現(xiàn)場觀眾，致其腳踝被劃破流血。

????北京進化者機器人公司相關負責人稱，“小胖”的行進速度大約每分鐘１０米，相當于成人的慢行速度；在外形設計方面，小胖身高１０２４ｍｍ，是不倒翁的外形，以防孩子或?qū)櫸飺涞顾?。該負責人表示，可以通過輕按小胖頭部的方式使其制動。另外，小胖背面有ＳＯＳ按鈕，用戶容易找到和觸摸到，可通過按這個按鈕或打開面罩等方式制動。

????“小胖”的生產(chǎn)合作商——深圳新生活智能科技有限公司生產(chǎn)總監(jiān)王韜解釋，“小胖”有兩套操作模式，即機器人模式和手動模式。當面罩打開，手動模式開啟，機器人模式關閉，此時自動避障功能消失，只能靠人工操作。

????王韜告訴記者：“當天出事的主要原因是展景公司的工作人員操作不當，誤將前進鍵當作后退鍵。”王韜認為“小胖”沒有安全隱患：“汽車踩油門會往前開，但也有誤把油門當剎車的情況發(fā)生。如果發(fā)生事故，能把責任歸結(jié)到油門頭上嗎？”

????有專家指出，不能用“油門當剎車”的比喻來看待服務機器人問題。盡管是偶發(fā)事件，但其安全隱患絕不可掉以輕心，尤其是針對小朋友和老年人等弱勢群體的服務機器人。

????服務機器人“起步”　行業(yè)標準要跟上

????北京進化者機器人公司相關負責人稱，在現(xiàn)有技術(shù)條件下，機器人的動作必須符合預先設定的程序和規(guī)則。目前機器人能實現(xiàn)的最有自主意識的行為，是在預先設定的程序中，選擇最貼近當下的場景加以實施。因此，關于機器人攻擊人及相關的倫理探討，還為時過早，“目前的服務機器人還是低端化的機器人?！?/p>

????北京進化者的另一合作商深圳展景世紀科技有限公司市場總監(jiān)姚毅認為，所謂的機器人，其實就是在機器中內(nèi)置搜索、語音識別等技術(shù)，再連上網(wǎng)絡就能進行基本操作，“其實就和小時候玩的玩具一樣”。

????中國科學院深圳先進技術(shù)研究院院長樊建平表示，我國服務機器人尚處于起步階段，類似“玩具的智能化”。如娛樂對話機器人、掃地機器人，都是進行一定范圍的單一作業(yè)。“拿安全性來說，我國的老齡化問題日趨嚴重，需要大量的老人護工，是不是可以用機器人代替？機器人是不允許出錯的，否則帶來的可能是生命危險?！?/p>

????“小胖事件”暴露了服務機器人行業(yè)標準缺失的問題。我國機器人行業(yè)標準目前仍處于探索狀態(tài)，沒有可比性和參照性，亟待規(guī)范。同時，機器人一旦出事誰來管？也沒有明確解決方案。樊建平指出，未來我國需加快制定服務機器人的生產(chǎn)標準與安全標準。

????機器人市場升溫　更好服務人類是挑戰(zhàn)

????人類為什么要研制機器人？業(yè)界看來，研制機器人的初衷是協(xié)助人類工作，服務于人類的生活和學習。

????“機器人與人，可以形似而神不似，也可以神似而形不似，當前應更多研發(fā)的不是人型機器人，而是神似形不似的機器人。”中國工程院院士、中國人工智能學會理事長李德毅表示，盡管科技的發(fā)展會帶來無限可能，但機器人要達到能與人同樣的智力水平，依然困難重重。

????李德毅分析，一方面，現(xiàn)有機器人基于的理論和技術(shù)相對獨立，缺乏復雜綜合的考量。比如，當前能夠做出一個機械手臂實現(xiàn)抓瓶子，但如果要同時拿一支筆，就會非常困難；另一方面，現(xiàn)有的信息傳輸技術(shù)無法支撐和人一樣復雜的認知能力。比如，人的手一秒鐘產(chǎn)生的信息量能達到幾十個Ｇ，這樣海量的信息要實現(xiàn)感知、傳輸和分析，依然是不可能完成的任務。

????未來服務機器人市場隨著投資熱情的持續(xù)升溫，市場規(guī)模也會不斷增長。以深圳為例，據(jù)中科院深圳先進院統(tǒng)計：十年內(nèi)深圳的服務機器人產(chǎn)業(yè)規(guī)模將達到３０００億元－５０００億元。

????樊建平認為，服務機器人的發(fā)展已成為一種趨勢，未來生活的科技水平會越來越高，生活方式也將被改變。服務機器人的目標是“服務”二字，直接與人交互，為人類提供服務。這就對機器人的機械性能、安全性要求非常高。因此，未來服務機器人的發(fā)展應先從“對物”開始，然后再循序漸進開始“對人”。

?

?

?

相關鏈接：

?