7月初，美國達拉斯警察局在處理一次針對警方的暴力事件中，用遠程控制方式讓一個排爆機器人炸死了犯罪嫌疑人。雖然此前機器人和無人機已在軍方獲得廣泛的應用，但在美國本土，執(zhí)法部門用機器人殺人還尚屬首次。

　　此事一出就迅速引發(fā)了大量的關(guān)注和討論，諸如“機器人殺人”這樣充滿噱頭的字眼大量出現(xiàn)在新聞標題中。那么人們是否應該為此感到緊張和擔憂呢？

　　軍用無人機

　　戰(zhàn)爭一直以來都是推動技術(shù)前進的重要力量，在戰(zhàn)場上遙控殺戮自然不是什么新鮮事物。

　　早點的例子有英國在1346年克雷西戰(zhàn)役中引入的英格蘭長弓和第二次世界大戰(zhàn)期間，納粹德國研制的V-1和V-2火箭。

　　在14—15世紀的英法百年戰(zhàn)爭中，長弓是英國弓箭手的主戰(zhàn)武器。射程可達300米左右，具有一定的破甲能力，能在對陣時對敵方?jīng)_鋒的士兵和戰(zhàn)馬造成巨大傷害。納粹德國的V-1和V-2火箭在當時是一種極為先進的武器，可謂是現(xiàn)代彈道導彈的鼻祖。V-2火箭的最大速度可以達到4倍音速，幾乎無法防御。英國因火箭襲擊死亡1.16萬人，傷6.6萬人。

　　如今，遙控武器的使用更為普遍。“捕食者”和“收割者”這樣的無人機就是其中的代表，它們早已被用于傳統(tǒng)戰(zhàn)場。

　　與有人駕駛飛機相比，無人機更為高效，具有輕便靈活、滯空時間長、不易被發(fā)現(xiàn)的特點。此外，還能避免飛行員的死傷。美國白宮今年7月1日發(fā)布數(shù)據(jù)稱，2009年至2015年，美國在阿富汗、伊拉克和敘利亞3個戰(zhàn)區(qū)以外地區(qū)共發(fā)動473次襲擊，其中大部分是無人機襲擊。無人機已從美國情報機構(gòu)的實驗項目發(fā)展成美國在海外高度依賴的空中打擊力量。目前，歐洲正在研制神經(jīng)元無人機，隨著人工智能技術(shù)發(fā)展，無人機的自主作戰(zhàn)能力將越來越強。

　　但是，批評者認為，由于這種打擊手段缺乏風險，從根本上降低了使用致命武器的門檻，極易導致濫用。此外，近年來備受詬病的還有無人機造成平民傷亡等附帶損傷問題。

　　地面武裝機器人

　　除了天上飛的，還有地上跑的。如今，機器人同樣被部署到地面部隊。

　　韓國就用機器人哨兵來守備邊界。這些機器人配有熱感應、運動檢測裝置和機關(guān)槍與榴彈發(fā)射器。研發(fā)人員表示，其優(yōu)點是不會疲倦，不會睡著，能隨時保持警戒。當感知到潛在的威脅后，它會立即通知指揮中心，在接到開火命令后進行射擊。

　　值得注意的是，其開火命令仍然由人類發(fā)出。這回到了“達拉斯事件”的關(guān)鍵點上——機器人仍然是在人類的控制之下。未來我們真正需要擔心的不是遙控武器而是那些能夠自主作戰(zhàn)的自動化武器，而這兩者經(jīng)常被錯誤地混為一談。真正的自主機器人系統(tǒng)將不再需要人類發(fā)出的開火或引爆命令，這也是韓國武裝機器人未來發(fā)展的目標。下一步這些機器人可能會被教會如何辨別敵友，然后再自行開火。

　　未來學家設想一群預設了目標的將戰(zhàn)爭法和交戰(zhàn)規(guī)則編入程序的納米機器人進行戰(zhàn)斗的情景，美國海軍已經(jīng)在用無人機集群進行這樣的嘗試。但目前的問題是這種機器人如何應對復雜局面和倫理困境，如在某種特定場景下是否開火，以及面臨可能出現(xiàn)的平民傷亡如何抉擇。這與目前自動駕駛汽車面臨的問題幾乎別無二致——是選擇撞上一群孩子，還是讓自己的乘客受傷。

　　這些擔憂在自動化領(lǐng)域也是一個老話題。此前爭議最大的是美國在冷戰(zhàn)期間設計的一種在遭到核打擊后第一時間進行反擊的計算機系統(tǒng)。

　　網(wǎng)絡安全隱憂

　　當自動化遇到互聯(lián)網(wǎng)后，這一問題會變得更為復雜。

　　同樣是在冷戰(zhàn)期間，美國制造了一臺被稱為半自動地面防空系統(tǒng)（Sage）的裝置。它可以被稱為最早由人工操作的實時控制計算機系統(tǒng)，借助聯(lián)網(wǎng)的計算機，它能接收各個雷達站傳來的信息，識別出入侵美國領(lǐng)空的蘇聯(lián)飛機。不久后，用于反擊的導彈系統(tǒng)也被接入其中。一位美國空軍上尉曾對此表示過擔憂，認為用計算機控制導彈發(fā)射非常危險。如果有人侵入這樣的計算機系統(tǒng)，將導彈瞄準美國的城市而非蘇聯(lián)的轟炸機那會怎樣？

　　這些來自自動化和遙控系統(tǒng)的問題，可以說是目前我們所面臨的網(wǎng)絡安全問題的始祖。然而，時至今日，遠程控制和全自動化系統(tǒng)的風險依然存在。

　　雖然軍事用途的無人機和機器人大都會通過特殊的加密通道進行控制。但任何黑客都會告訴你這句網(wǎng)絡安全領(lǐng)域的經(jīng)典語錄——“沒有絕對安全的系統(tǒng)”。

　　如今，機器人已經(jīng)開始接管汽車的方向盤，未來它們也將獲得武器的控制權(quán)。雖說，各種自動化武器已在戰(zhàn)爭中獲得了大量的應用，但本土安全和治安是一個完全不同的領(lǐng)域。

　　軍用機器人距離普通人的生活比較遙遠，而警用機器人就在你我的身邊。“警方如何劃定使用機器人的場合和界限？”“機器人是否會被濫用，增加過度執(zhí)法的可能？”“達拉斯事件”后，類似的擔憂成為了現(xiàn)實的問題。

　　對于使用機器人來說，風險和利益如何平衡，遠程控制與全自動化孰優(yōu)孰劣目前還不清楚。但可以確定的是，隨著新技術(shù)和新使用場景的出現(xiàn)，必須立即著手修正現(xiàn)有法規(guī)和政策，設定必要的界限，確保更為安全的使用機器人，為人類造福。