舊金山政府在全美首次允許警方使用機(jī)器人擊斃嫌犯，這一決定引發(fā)了巨大的爭議。這是否會在未來打開一個(gè)潘多拉魔盒，讓機(jī)器人鎮(zhèn)壓抗議示威成為現(xiàn)實(shí)，更顛覆機(jī)器人“不可殺人”的人工智能倫理準(zhǔn)則？

    治安惡化與爭議決議

上周二，舊金山議會通過了一項(xiàng)議案，同意授權(quán)舊金山警察局在必要的情況下，將警用機(jī)器人用于致命用途。用通俗的話說，他們批準(zhǔn)警方在保護(hù)生命且沒有其他選擇的必要情況下，用機(jī)器人遠(yuǎn)程殺死嫌犯。

這一極具爭議的決定不僅立即引發(fā)了全美媒體關(guān)注，也讓持續(xù)數(shù)年的“殺人機(jī)器人”話題重新成為了討論焦點(diǎn)。這份議案上個(gè)月提交討論時(shí)，就引發(fā)了舊金山灣區(qū)社會各界的普遍關(guān)注和激烈討論。

正式表決之前，舊金山市議會已經(jīng)就此事討論了數(shù)周時(shí)間。而投票表決當(dāng)天，舊金山市議會圍繞著這一議題，進(jìn)行了兩個(gè)多小時(shí)的激烈辯論。最終還是以8:3的投票結(jié)果，批準(zhǔn)了舊金山警察局的裝備使用授權(quán)。

舊金山市議會批準(zhǔn)這一議案的背景是，他們正承受著民眾要求打擊犯罪的呼聲。和美國很多大城市一樣，舊金山過去幾年也面臨著嚴(yán)重的治安惡化問題，讓民眾和商家怨聲載道。車窗被砸已經(jīng)成為舊金山停車的尋常體驗(yàn)。

由于警方應(yīng)顧不暇，舊金山核心商業(yè)區(qū)多次發(fā)生光天化日之下肆無忌憚?chuàng)尳俪泻蜕莩奁飞痰甑氖录簧偕痰曛荒苓x擇關(guān)門撤離。除了打砸搶奪的財(cái)物犯罪案件居高不下，持槍搶劫殺人的惡性暴力犯罪事件也在日益增多。80多萬人口的舊金山去年殺人案56起，比疫情之前2019年的41起有明顯增長。

由于對治安惡化問題不滿，今年7月，舊金山選民通過特別公投罷免了對犯罪問題應(yīng)對不力的激進(jìn)左派地方檢察官布丁(Chesa Boudin)。在連任壓力下，舊金山市長承諾采取措施嚴(yán)打犯罪，而舊金山議會也連續(xù)引入新技術(shù)手段來遏制犯罪。今年9月，舊金山議會批準(zhǔn)警方在特定情況下獲取私人監(jiān)控?cái)z像頭數(shù)據(jù)。

在上周二的辯論過程中，支持與反對雙方都指責(zé)對方在制造恐慌。雙方都提出了自己的理由和擔(dān)憂。支持者認(rèn)為這一授權(quán)是非常慎重和明確限制的，是在極端情況下給警方提供最后手段；但反對者則認(rèn)為可能會帶來警方濫用武力的風(fēng)險(xiǎn)，更會加劇警方和有色人種，尤其是非裔之間的沖突。

提出這一議案的舊金山華裔議員陳詩敏(Connie Chan)表示，她理解外界對警方使用武力的擔(dān)憂情緒，但“我們需要根據(jù)加州法律使用這些裝備。這絕對不是一個(gè)輕率的討論。”另一位議員曼德爾曼(Rafael Mandelman)也投下支持票。他表示，激進(jìn)派將警察視為危險(xiǎn)和不值得信任的對立面，這對公共安全無益。

而反對的非裔議員沃爾頓(Shamann Walton)則強(qiáng)調(diào)，自己不是在針對警方，而是擔(dān)心提升警方武器裝備可能會增加警察與有色人種發(fā)生負(fù)面沖突的機(jī)會。相對而言，非裔民眾更為擔(dān)憂和反對警方濫用武力的可能性。

值得一提的是，舊金山檢察官也站在了警察局的對立面。就在舊金山議會表決前一天，舊金山檢察官辦公室發(fā)表公開信，認(rèn)為授權(quán)機(jī)器人遠(yuǎn)程殺人有悖于舊金山的進(jìn)步價(jià)值觀，他們因此呼吁市議會禁止警方使用機(jī)器人針對任何人采用武力。

    隨時(shí)可改裝加載武器

為什么會有這項(xiàng)授權(quán)表決？根據(jù)今年生效的一部加州新法律，加州警察局裝備軍用級別的設(shè)備需要獲取使用批準(zhǔn)。為了預(yù)防恐怖襲擊事件，過去十年美國諸多城市的警察局都購置了一批軍用級別的防爆機(jī)器人。舊金山警察局也不例外，因此需要提交設(shè)備使用授權(quán)申請。

但舊金山警察局此次在申請授權(quán)的時(shí)候，加入了一個(gè)極端案例的使用場景申請，即在“公眾或者警察生命遭受迫切威脅，無法使用其他武力手段時(shí)，允許他們將機(jī)器人用于致命武器選擇”。這意味著，他們有權(quán)將機(jī)器人改裝成攻擊性武器，從而遠(yuǎn)程擊斃或者炸死恐怖嫌犯。

舊金山警察局副局長拉扎爾(David Lazar)在市議會辯論環(huán)節(jié)中提到，他們申請極端情況授權(quán)是為了應(yīng)對2017年拉斯維加斯大規(guī)模槍擊案那樣的案例。“我們必須要考慮，在那樣的情況下，(動(dòng)用機(jī)器人)是一個(gè)可能的選擇?！?/span>

拉斯維加斯槍擊案是美國歷史上最血腥的大規(guī)模槍擊和國內(nèi)恐怖襲擊事件。2017年10月1日，一名男子在賭城曼德拉灣酒店32樓套間，用二十多支經(jīng)過改裝的半自動(dòng)步槍向樓下參加音樂會的人群瘋狂射擊了1000多發(fā)子彈。警方直到1個(gè)多小時(shí)之后才找到嫌犯，但他已經(jīng)自殺身亡，作案動(dòng)機(jī)迄今依然成謎。此次槍擊案導(dǎo)致61人死亡(包括嫌犯)，還有500多人受傷。

或許拉扎爾提到的這一場景太過令人震撼，最終舊金山議會還是以多數(shù)票同意了警察局的申請。但議會也對此作出了特別規(guī)定，要求警察只能在使用其他武力或避免戰(zhàn)術(shù)之后，或認(rèn)定他們無法通過其他手段控制嫌犯之后，才能使用機(jī)器人用于致命用途。而且，只有少數(shù)高級別警官才能批準(zhǔn)使用機(jī)器人作為致命武力。

為了化解外界對“殺人機(jī)器人”的擔(dān)憂情緒，舊金山警察局則強(qiáng)調(diào)，他們現(xiàn)有的機(jī)器人并沒有安裝武器，目前也沒有計(jì)劃這么做。但是在得到授權(quán)之后，如果在生命受到威脅時(shí)，他們就可以在機(jī)器人上安裝爆炸物，“接近、迷惑以及讓暴力、攜帶武器或者危險(xiǎn)的嫌犯失去行動(dòng)能力”，“安裝這些設(shè)備的機(jī)器人只會被用在極端情況下，用于保護(hù)或者防止無辜民眾繼續(xù)喪生?！?/span>

根據(jù)舊金山警局公布的裝備清單，他們目前共有17部拆彈機(jī)器人，其中12部可以投入使用。這些設(shè)備采購于2010-2017年，主要用于處理爆炸物、危險(xiǎn)品或者在低能見度環(huán)境，此前從未安裝或被用于爆炸用途過。除了申請用于致命用途之外，舊金山警察局還申請將這些機(jī)器人用于“訓(xùn)練和模擬、刑事拘捕、重要事件、突發(fā)情況、執(zhí)行逮捕或處理可疑設(shè)備等情況”。

雖然舊金山警察局當(dāng)前機(jī)器人并沒有安裝致命武器，但其中部分較新的型號是可以配裝武器并且遠(yuǎn)程遙控操作的。型號F5A的拆彈機(jī)器人可以通過配件安裝大口徑步槍；另一部QinetiQ Talon的機(jī)器人也可以改裝成軍用版本，安裝手雷發(fā)射器、機(jī)槍以及反器材步槍，這原本就是美國陸軍使用的同款機(jī)器人的警用版。

換句話說，在得到舊金山市議會批準(zhǔn)之后，舊金山警察局在滿足使用條件的情況下，隨時(shí)都可以將目前的拆彈機(jī)器人改裝成一部遠(yuǎn)程操作和直接開火的機(jī)器人。而這正是外界擔(dān)憂的原因所在。

    擔(dān)憂警方濫用機(jī)器人

與舊金山隔海相望的奧克蘭警察局上個(gè)月則因?yàn)楣娍棺h，放棄了類似的改裝機(jī)器人用于極端場景的授權(quán)申請。種族矛盾是奧克蘭警方不得不考慮的因素。這里的黑人與拉丁裔人口比例合計(jì)超過45%，是舊金山灣區(qū)比例最高的地區(qū)。

盡管緊鄰硅谷，奧克蘭卻是美國治安最糟糕的城市。去年暴力犯罪率高達(dá)75.5，遠(yuǎn)遠(yuǎn)高于美國平均水平22.7。新冠疫情更是加劇了社會矛盾和治安問題。奧克蘭這座43萬人口的城市，去年謀殺案高達(dá)133起，槍擊案更是接近600起，均創(chuàng)下了2006年以來的最高紀(jì)錄。

既然美國大城市社會治安這么糟糕，為什么還有那么多人反對授權(quán)警察更先進(jìn)的武器應(yīng)對襲擊嫌犯？為什么警用機(jī)器人改裝成武器，會引發(fā)那么大的爭議？

2020年美國新冠疫情爆發(fā)之后，社會矛盾進(jìn)一步激化，更出現(xiàn)了多次大規(guī)模種族騷亂事件。在遏制游行示威行動(dòng)中，美國各地的警察都與示威者發(fā)生了不同程度的沖突，更使用了催淚彈、煙霧彈等平暴手段。

此次舊金山警方獲準(zhǔn)使用機(jī)器人擊斃嫌犯，即便明確規(guī)定了極端場景，也讓不少人擔(dān)心未來美國警方是否可能濫用機(jī)器人這種尖端科技手段來鎮(zhèn)壓民眾抗議示威活動(dòng)，擔(dān)心屆時(shí)可能出現(xiàn)警方機(jī)器人阻止示威者前行的科幻場面。

南加州大學(xué)法學(xué)院教授伊麗莎白·喬(Elizabeth Joh)認(rèn)為，弗洛伊德事件引發(fā)全球反種族歧視抗議僅僅過去兩年時(shí)間，舊金山批準(zhǔn)警方使用機(jī)器人作為武器會影響民眾對執(zhí)法部門的信任?！拔覀兪欠裨敢馍钤谝粋€(gè)警察用機(jī)器人殺人的世界，我肯定不愿意。”

雖然此次舊金山議會在全美率先批準(zhǔn)警方改裝機(jī)器人，但達(dá)拉斯警察局早在2016年，就在一起大規(guī)模槍擊案中，率先將拆彈機(jī)器人用于攻擊用途并殺死嫌犯。

那年7月，一名曾經(jīng)上過阿富汗戰(zhàn)場的陸軍退伍軍人，因?yàn)閷γ绹鐣头N族問題不滿，在達(dá)拉斯市區(qū)用狙擊步槍殺死了5名警察并擊傷9名平民與警察，這是美國自911事件之后警察死傷最多的襲擊事件。達(dá)拉斯警方在與槍手對峙數(shù)個(gè)小時(shí)并且談判無果的情況下，在他們拆彈機(jī)器人MARCbot上加裝炸彈，遠(yuǎn)程遙控移動(dòng)到嫌犯附近引爆，炸死了這位拒絕放下武器的嫌犯。

達(dá)拉斯警方擊斃殺人嫌犯并沒有爭議，但使用遙控機(jī)器人擊斃卻引發(fā)了巨大的爭議，因?yàn)檫@是美國警方首次在國內(nèi)使用機(jī)器人殺人。達(dá)拉斯警察局長對此解釋說，“當(dāng)時(shí)實(shí)在沒有其他選擇，這是唯一減少傷亡的手段?！?/span>

在此之前，美國警察也曾經(jīng)多次使用機(jī)器人來應(yīng)對嫌犯，但并沒有用機(jī)器人來直接擊斃嫌犯。2013年新墨西哥州特警就使用了機(jī)器人潛入嫌犯所在房間進(jìn)行偵查，2016年加州警察也用過機(jī)器人和嫌犯進(jìn)行談判和運(yùn)送物資，避免派出談判專家。機(jī)器人的存在，大大降低了警察直接面對嫌犯的風(fēng)險(xiǎn)。

    機(jī)器人早被用于戰(zhàn)場

實(shí)際上，此次舊金山警方尋求授權(quán)的機(jī)器人，早就被美國軍方投入戰(zhàn)場使用。2011年的《不斷變化的戰(zhàn)爭角色》(The Changing Character of War)一書記載，美軍士兵在伊拉克遇到伏擊危險(xiǎn)的時(shí)候，就會讓MARCbot機(jī)器人先去探路，如果發(fā)現(xiàn)敵人就直接遠(yuǎn)程引爆安裝在上面的Claymore地雷。售價(jià)僅為5000美元的MARCbot機(jī)器人因?yàn)閭€(gè)頭小、動(dòng)靜輕、成本低等優(yōu)勢，成為美軍士兵的“最愛替死鬼”。

從某種程度來說，無人機(jī)也是作戰(zhàn)機(jī)器人。從阿富汗戰(zhàn)爭時(shí)期開始，無人機(jī)就開始從偵查用途轉(zhuǎn)向攻擊手段，被美軍普遍用于遠(yuǎn)程襲擊。而從2020年的亞美尼亞阿塞拜疆納卡沖突起，無人機(jī)更是成為了現(xiàn)代戰(zhàn)爭主力。阿塞拜疆軍方派出大量攜帶炸彈的無人機(jī)對亞美尼亞地面部隊(duì)以及防空體系展開了密集攻擊，成為他們贏得戰(zhàn)爭的重要手段。

今年10月，波士頓動(dòng)力、Agility Robotics、ANYbotics等五家機(jī)器人公司聯(lián)合簽署了一份請?jiān)笗粲跤脩舨灰獙⑺麄兊臋C(jī)器人用于攻擊用途?！霸谶h(yuǎn)程遙控或者自動(dòng)運(yùn)行的機(jī)器人上加裝武器，會帶來對人類的新風(fēng)險(xiǎn)以及嚴(yán)重的道德問題。”

然而，這份請?jiān)笗皇窍笳饔猛?，并沒有任何約束力。美國軍方本就是這些機(jī)器人公司的重要客戶和資金來源，波士頓動(dòng)力的機(jī)器狗也被美國軍方和警察用于后勤、偵查等諸多用途。波士頓動(dòng)力根本無力阻止美軍將自己的機(jī)器狗改裝成攜帶武器的殺人狗。

相比遠(yuǎn)程遙控的機(jī)器人與無人機(jī)，更為可怕的威脅則來自于“AI殺人機(jī)器人”，即搭載視覺識別等人工智能技術(shù)的新一代全自動(dòng)武器。這類機(jī)器人或無人機(jī)可以無需人工操作，靠著計(jì)算芯片和多種傳感器，根據(jù)預(yù)先設(shè)定的程序自動(dòng)選擇攻擊目標(biāo)并發(fā)起攻擊。

目前還沒有此類機(jī)器人投入使用的正式記錄，但未來一旦出現(xiàn)并投入使用，勢必會動(dòng)搖“不可用于殺人“的機(jī)器人倫理準(zhǔn)則。隨著AI技術(shù)的不斷成熟，歐美各界都在擔(dān)憂如果不采取全球協(xié)調(diào)一致的有效措施，”AI殺人機(jī)器人”的出現(xiàn)只會是時(shí)間問題。

早在2013年，科學(xué)界和法律界的專家就組建了“國際機(jī)器人武器控制委員會”(International Committee for Robot Arms Control)，致力于推動(dòng)各國和平使用機(jī)器人，對機(jī)器人武器研發(fā)生產(chǎn)采取共同監(jiān)管措施。該組織明確提出，“不能允許機(jī)器人自主作出殺人的決定”。

2015年，霍金等全球1000多名知名科學(xué)家和人工智能專家聯(lián)合發(fā)表公開信，警告未來全球可能會出現(xiàn)人工智能軍備競賽，督促聯(lián)合國發(fā)布攻擊性自動(dòng)化武器的禁令。其中包括了特斯拉CEO馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲尼亞克以及谷歌DeepMind項(xiàng)目負(fù)責(zé)人等來自硅谷的代表。

公開信寫道，“盡管不合法，自動(dòng)化武器的使用會在未來幾年，而不是幾十年內(nèi)成為現(xiàn)實(shí)。這會給人類社會帶來極大的風(fēng)險(xiǎn)，自動(dòng)化武器會成為火藥和核武器之后的第三次武器革命。我們必須呼吁聯(lián)合國禁止此類武器，就像禁止化學(xué)武器一樣。”

版權(quán)說明：
本文僅代表作者個(gè)人觀點(diǎn)，版權(quán)歸原創(chuàng)者所有。部分圖片源自網(wǎng)絡(luò)，未能核實(shí)歸屬。本文僅為分享，不為商業(yè)用途。若錯(cuò)標(biāo)或侵權(quán)，請與我們聯(lián)系刪除。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com