大千世界

專家憂心:軍事機器人對人類構成威脅

3月2日在德國漢諾威舉辦的電腦展(CeBIT)中,出場表演的「足球機器人」技驚四座。
3月2日在德國漢諾威舉辦的電腦展(CeBIT)中,出場表演的「足球機器人」技驚四座。
Getty Images
第59期
向天星

今年3月初在德國漢諾威舉辦的電腦展(CeBIT),出場表演的「足球機器人」技驚四座,吸引了全場目光。然而,美國智庫布魯金斯研究所(Brookings Institution)資深研究員辛格博士(Dr. Peter Warren Singer)警告,看似蓬勃發展的機器人技術,隱藏著令人憂心的問題。

在伊拉克戰場上,美軍於地面部署了4,000多個武裝機器人,無人飛機也累積了數十萬小時的飛行時數。辛格指出,美國空軍招募的無人飛機領航員數量,已超過了載人飛機的飛行員。美國軍方規劃在2015年之前,軍隊的一半人員由機器人所取代。

據美國防部2007~2032年無人系統計劃(Unmanned Systems Roadmap 2007-2032)資料顯示,美國預計花費240億美元投入無人技術系統。專家預測,美國在10年內就可布署編制有150名士兵與2,000名機器人的特遣部隊。

英國雪菲爾大學(University of Sheffield)人工智慧與機器人專家夏基(Noel Sharkey)教授則警告:軍事機器人對人類構成威脅。

夏基指出,這些以戰爭為目的製造出來的持槍機器人,自主性愈來愈高,不但可輕易落入恐怖分子手中,隨著價格下跌,科技愈來愈簡單化,有朝一日或許會引發全球機器人軍備競賽。

迄今,機器人仍需由人類按下按鈕,或是扣扳機。但如果人類不小心,情況可能改觀。夏基說,最令人憂心的是,目前布署的半自動型軍用機器人,將發展到成為完全獨立的殺人機器。美軍明白表示,想盡快擁有自主型機器人(autonomous robots),就成本效益來說,可打一場無傷亡風險的戰爭。

夏基曾在英國《衛報》發表專文指出,美國防部為了平息反對聲浪,特別投資設計讓機器人士兵具備道德判斷能力。然而,機器人根本無法有效分辨前方是載滿敵軍的巴士或只是學童校車,遑論道德判斷。

在人類發展機器人早期,俄裔美籍作家兼生化學家以薩‧艾西莫夫(Isaac Asimov)在其科幻小說中發表了機器人三大定律:第一、機器人不能傷害人類,見到人類陷入危險也不能置之不理。第二、在不違反第一原則下,機器人必須服從人類命令。第三、在不違反第一、第二原則下,機器人必須保護自己。

但是,各國無視機器人三大定律,爭相製造戰爭機器,這個定律能發揮多少作用令人質疑。

辛格表示,機器人內部所設定的道德程式不是重點,使用機器人的人類之道德水準才攸關重大。夏基則說:「我在人工智慧領域鑽研數十年,機器人可決定人類生死的想法,令我十分恐懼。」

你可能會有興趣的文章

愛的迴響1:虎山國小 全國「第一座」愛的書庫
每個星期一、三、五的下午,是南投縣草屯鎮虎山國小「愛的書庫」開放借書的時間。設在二樓一間教室的書庫裡,…
火車快飛
「把把!我要玩風車!」火車上,一對父女親密的互動吸引了眾人的目光。那是一個甜美稚嫩的小女孩,坐在爸爸懷中,嬌嗔地大聲說著話,…
京奧滿週年 當局承諾沒兌現
為了獲得奧運會主辦權,中共當局曾向國際社會做出承諾將會改善人權、實行新聞自由,如今京奧過去已一年,國際人權團體表示,…
大老闆們在盛和塾學到哪些經營祕訣?
 以日本「經營之聖」稻盛和夫為學習楷模的企業學習組織「盛和塾」,自1983年成立至今已有32年歷史,…
「我們都是高瑜」 中國就有希望!
大陸原中新社記者高瑜1988年10月任《經濟學週報》副總編輯。於1989年6月3日和1993年10月2日兩次遭中共逮捕入獄,…
大自然的毀滅與新生(五)
本專欄從256期開始推出新系列,透過阿丹的鏡頭,記錄乾旱春日下美國紐約州的一場野火。 前幾期的畫面中,呈現出訓練有素的「護林員」(…
最糟糕密碼排行你上榜了嗎?
美國安全軟體公司飛濺資料公司(SplashData)針對網路上500萬筆洩露的密碼分析後,公布了2018年「最爛密碼」,其中數字組合「…
最後一次諮商
「這會是我最後一次的諮商了!」初次與周老師見面是在8年前的某個嚴冬午後,她由先生陪著到辦公室來,互相招呼後便瑟縮地趺坐在沙發椅上,…