作者：理查德-W-史蒂文斯（Richard W. Stevens）是一名律師、作家，也是發(fā)現(xiàn)研究所沃爾特-布拉德利自然與人工智能中心的研究員。他撰寫了大量關(guān)于代碼和軟件系統(tǒng)如何證明生物系統(tǒng)中的智能設(shè)計的文章。他以優(yōu)異成績獲得圣地亞哥大學(xué)法學(xué)院法學(xué)博士學(xué)位和加州大學(xué)圣地亞哥分校計算機科學(xué)學(xué)位。理查德曾在加利福尼亞州和華盛頓特區(qū)從事民事和行政法訴訟，在喬治-華盛頓大學(xué)和喬治-梅森大學(xué)法學(xué)院教授法律研究和寫作，現(xiàn)在專門撰寫處置性動議和上訴辯護狀。他已撰寫或與人合著了四本書，還撰寫了大量文章，并就法律寫作、經(jīng)濟學(xué)、《權(quán)利法案》和基督教辯護學(xué)等主題發(fā)表過演講。他的第五本書《調(diào)查辯護》即將出版。

美國聯(lián)邦機構(gòu)的權(quán)力準備延伸到您的一舉一動。

接下來，當 Siri 或 Alexa 通知你時，你就可以坐在駕駛座上了：

"對不起，您不能開車。本車暫時禁用。請稍后再試。

沒有超馳功能，也沒有 "丟失密碼 "功能來繞過鎖定。不管你要去哪里，也不管你有多急需離開。人工智能系統(tǒng)都會判定你不適合駕駛。

這又是一個烏托邦式的幻想嗎？當然不是。美國國會和總統(tǒng)頒布了第 117-58 號公法（2021 年 11 月 15 日），要求制定國家規(guī)則，要求乘用車 "配備先進的酒駕和醉駕預(yù)防技術(shù)"。這么一說，誰還會反對呢？畢竟，人工智能系統(tǒng)將拯救生命。

2023 年 11 月，美國國會在強烈反對聲中批準繼續(xù)撥款，這意味著 "先進的酒駕和醉駕預(yù)防技術(shù) "最快將于 2026 年出現(xiàn)在汽車上。由人工智能驅(qū)動的系統(tǒng)將"（i）被動監(jiān)測機動車駕駛員的表現(xiàn)，以準確識別該駕駛員是否可能受損；（ii）如果檢測到受損，則防止或限制機動車操作"。

技術(shù)就在這里

駕駛員審批系統(tǒng)如何運行？CorrActions 開發(fā)了 "一種基于運動的純軟件駕駛員監(jiān)控產(chǎn)品"，它使用 "無意識的、不可控制的肌肉子運動來監(jiān)控大腦活動"。輸入來自方向盤或駕駛員的智能手機。

CorrActions 稱，該系統(tǒng) "可以檢測到多種認知狀態(tài)"，如 "疲勞、注意力不集中、焦慮、酗酒/吸毒等"。據(jù)報道，駕駛員與智能手機應(yīng)用程序的互動所提供的信息足以確定血液中的酒精含量（BAC），準確率高達 90%，而且絕不會誤報高 BAC。

解決方案帶來的問題

現(xiàn)在考慮一下：聯(lián)邦政府機構(gòu)使用人工智能來決定美國 3.5 億多人中是否有人可以駕駛汽車。人工智能設(shè)計師建立了駕駛員審批系統(tǒng)。酒后駕車問題迎刃而解。聯(lián)邦政府和人工智能都沉浸在英雄的榮耀中。

然而，我們必須面對大局問題和日常權(quán)衡。首先考慮一下駕駛員審批系統(tǒng)（DAS）所帶來的日常實際問題。當你喝了幾杯啤酒后，你的汽車根本無法行駛：

●你的妻子突然臨產(chǎn)

●你的孩子生病、受傷或流血

●龍卷風肆虐您所在的城市

●您需要把車開離灌木叢火場

●你需要把車從熱水器漏水的車庫里開出來

不管喝了多少啤酒，沒有哪個系統(tǒng)能永遠完美運行。電池會耗盡，電線會磨損，駕駛員審批系統(tǒng)也會發(fā)生故障，無法使用任何車輛。它不會知道也不會關(guān)心你為什么要開車。

在任何情況下，駕駛員審批系統(tǒng)都無法評估您的情況是否緊急。安全管理局無法權(quán)衡您駕車的風險與收益。它不知道也不關(guān)心您的行程是在一條很少使用的道路上，或者醫(yī)療診所離您只有兩英里遠。它只是一個聯(lián)邦授權(quán)的機器人，執(zhí)行著全國性的 "一刀切 "規(guī)則。

索賠, 訴訟, 事實, 觀點, 真理, 正義

人們希望安全系統(tǒng)能夠記錄并保存每位駕駛員的 "認知狀態(tài) "數(shù)據(jù)。當然，警方調(diào)查人員和保險公司在考慮事故的 "過錯方 "時會尋求這些數(shù)據(jù)。各部門是否會將 DAS 記錄的駕駛員 "損傷"、"疲勞"、"焦慮 "或 "注意力不集中 "作為不容置疑的事實？

如果公平和正義仍然重要，那就不會。任何在法律案件中提供證據(jù)的設(shè)備都需要經(jīng)過有效性和可靠性評估。要使用有關(guān)精神狀態(tài)的駕駛員審批系統(tǒng)報告，就需要設(shè)計者提供確鑿的證據(jù)，證明機器的準確性、最近的測試和校準情況，以及內(nèi)部和外部有害因素是否會影響報告。駕駛員審批系統(tǒng)是否會受到電氣或無線電干擾、干擾、數(shù)據(jù)損壞、人為黑客攻擊或軟件更新錯誤的影響？

深入挖掘：例如，如果駕駛員審批系統(tǒng)報告 "損傷"、"焦慮 "或 "注意力不集中"，這些答案是否只有 "是 "或 "否"？報告是否會顯示灰色陰影或嚴重程度？也許報告會用 0 到 9 的等級來表示情緒狀態(tài)。這個等級從何而來？誰來決定焦慮=5，注意力不集中=6，就不能開車或讓車停在路上？

沒有任何東西能確保駕駛員審批系統(tǒng)以任何客觀的方式 "正確"。就像測謊儀既不是 "測謊儀 "也不是 "測真儀 "一樣，駕駛員審批系統(tǒng)也將受限于設(shè)計者在以下方面的選擇：(1) 哪些數(shù)據(jù)是相關(guān)的；(2) 如何計算結(jié)果；(3) 如何呈現(xiàn)計算機對高度主觀的人類生理和心理因素得出的結(jié)論。在所有車輛中安裝駕駛員審批系統(tǒng)，要么會導(dǎo)致人工智能的絕對統(tǒng)治，要么會引發(fā)大量訴訟，在爭議中尋求真相和人類的公平結(jié)果。

DAS 2.0：危險的仆人，渴望的主人

再從大處著眼：社會對政府如何決策、如何將權(quán)力強加于公民的心態(tài)。聯(lián)邦駕駛員審批系統(tǒng)授權(quán)將這樣一種觀念正常化，即使用人工智能的政府機構(gòu)可以而且應(yīng)該 "解決 "健康、安全和財政問題。一個機構(gòu)及其官僚可以 "聽從 "他們認為是超級專家的人工智能系統(tǒng)的 "命令"。不再有 "人為錯誤"--人工智能成為超級智者。任何公民都不能合理地質(zhì)疑這種智能的決定。專家與電腦的統(tǒng)治成為政府模式。

駕駛員審批系統(tǒng)概念本身實際上就是在乞求擴大政府權(quán)力。如今，駕駛員審批系統(tǒng)被稱為與汽車駕駛員互動的 "被動監(jiān)控 "系統(tǒng)。一旦強制并廣泛安裝駕駛員審批系統(tǒng)，聰明的想法就會層出不窮，例如，限制或阻止欠稅的人、被指控違規(guī)的人、被認為是麻煩制造者的人、或 "碳足跡 "超過某個數(shù)字的人使用汽車。

技術(shù)將不斷發(fā)展，將駕駛員審批系統(tǒng)與中央控制系統(tǒng)連接起來，以推進當下的官僚政策。就像今天的 Alexa 可以監(jiān)聽人們的談話和用詞一樣，駕駛員審批系統(tǒng) 2.0 也可以檢測私下討論的語言和思想。

強制要求政府在私家車上使用監(jiān)控技術(shù)，將使個人的行動、思想、言論和行為受到自上而下的控制。阿克頓勛爵可能會這樣說權(quán)力使人腐化，而人工智能的權(quán)力使人成倍腐化。