數(shù)萬年來，人 + 工具，一直是雙刃劍般的組合。它們既可進(jìn)行協(xié)同創(chuàng)造，也可實(shí)現(xiàn)協(xié)同破壞。兩個(gè)結(jié)果，均取決于“人”的動(dòng)機(jī)與“人”的操作規(guī)范。
人工智能時(shí)代，在人機(jī)協(xié)同過程中，我們依舊對(duì)“人”的影響頗為有限，但或許可以控制“工具”。
車，便是被控制的工具之一。未來的乘用車，大規(guī)模地嵌入自動(dòng)駕駛，尤其是輔助駕駛系統(tǒng)，是必然的趨勢(shì)。地平線 CEO 早前曾預(yù)言，對(duì)于未來乘用智能汽車而言，自動(dòng)駕駛是通用必選項(xiàng)，但它并不會(huì)帶來差異化價(jià)值。
“也就是說，用戶會(huì)因?yàn)槿狈ψ詣?dòng)駕駛功能而不買某款車型，而不會(huì)因?yàn)樽詣?dòng)駕駛功能而買這款車型。”
這既是個(gè)人所需，也是公共所需。那么自動(dòng)駕駛，在遇到人為犯罪的駕駛場景時(shí)，能否在緊急情況下實(shí)現(xiàn)規(guī)避和降低損害？
專家告訴我們，從工程實(shí)現(xiàn)上，欲避免這類事件，或最大化減輕后果，分兩種途徑：
一種是實(shí)現(xiàn)汽車完全自動(dòng)駕駛化（L4/L5），相當(dāng)于把開車這件事，完全交給了無人駕駛系統(tǒng)，甚至沒有方向盤。從源頭上避免駕駛員主觀惡意操作的發(fā)生，但要達(dá)到這一條件，相對(duì)較為遙遠(yuǎn)。
一種是在輔助駕駛（L3 以下）的前提下，在系統(tǒng)內(nèi)寫入極端情況的規(guī)則，一旦觸發(fā)極端規(guī)則，系統(tǒng)便擁有最高操作權(quán)限，及時(shí)“違背”人類駕駛員的不當(dāng)行為，通過汽車已有功能，阻止加速，或進(jìn)行自動(dòng)緊急剎車等操作。
系統(tǒng)在違背駕駛員意愿下接管汽車，是好事嗎？
有人指出，如果有駕駛者超速和闖紅燈（會(huì)避開行人和車輛），是因?yàn)榧胰诵枰メt(yī)院急救，這個(gè)時(shí)候機(jī)器如果在人工駕駛期間，強(qiáng)行介入去控制車輛，影響到救急，是否有悖倫理？
確實(shí)，類似的自動(dòng)駕駛倫理問題，一直廣泛存在。
人類駕駛員作出在機(jī)器看來可能不當(dāng)?shù)臎Q策，有時(shí)候往往是基于不得已的特殊情況下，瞬間發(fā)生的本能反應(yīng)，以及基于過往的經(jīng)驗(yàn)和認(rèn)知做出判斷。
但與此同時(shí)，人類駕駛員也將為其決策，承擔(dān)社會(huì)和法律責(zé)任。
而機(jī)器在緊急情況下的駕駛決策，均需要工程師們事先給定機(jī)器一個(gè)判斷邏輯和決策規(guī)則，讓其遵循。
但規(guī)則能全部制定正確嗎？
答案是否定的。
MIT 曾發(fā)表了一篇論文，整理了 2016 年一個(gè)叫做“道德機(jī)器”的在線測(cè)試的數(shù)據(jù)。
“道德機(jī)器”對(duì) 9 個(gè)不同的影響因素進(jìn)行了測(cè)試，其中包括了：
車禍發(fā)生時(shí)撞男性，還是女性？
撞多數(shù)人，還是少數(shù)人？
年輕人，還是老年人？
守交通規(guī)則的行人，還是亂穿馬路的人？
社會(huì)地位高的人，還是社會(huì)地位低的人？
……
當(dāng)一個(gè)個(gè)扎心的問題擺在自動(dòng)駕駛工作人員面前時(shí)，所有人陷入了沉默。
業(yè)內(nèi)專家告訴我們，上述情況屬于開放性的道德問題，人類自己都沒有標(biāo)準(zhǔn)答案，因此也無法把這些問題的最終決策，寫入系統(tǒng)內(nèi)。
倫理也分類別
但有些極端情況，是可定義、可規(guī)則化，有明確答案的。
以近期的大連事件為例，劉某駕車在等候綠燈指示后，突然在 7 秒鐘內(nèi)將所駕車輛車速從 0 時(shí)速加速至 108 公里 / 小時(shí)（該路段限速 60 公里 / 小時(shí)），并沖闖紅燈，以駕車沖撞路人的極端方式實(shí)施犯罪，造成 5 死 5 傷。
紅燈期間、猛加速、沖向行人。
此行為基本滿足了定性的全部條件，因此無論駕駛員遇到了何種情況，都是可以通過機(jī)器強(qiáng)行介入控制的。
比如當(dāng)車體上的攝像頭或激光雷達(dá)檢測(cè)到紅燈和行人，以及距離時(shí)，可及時(shí)限制駕駛員的突然加速行為。
目前常見的輔助駕駛功能，主要為自適應(yīng)巡航、前碰撞預(yù)警、自動(dòng)緊急剎車、車道保持輔助、換道輔助等。
配備了自動(dòng)剎車功能的汽車，當(dāng)駕駛員在遇到危險(xiǎn)沒有做出有效反應(yīng)的情況下，系統(tǒng)可以自動(dòng)緊急剎車。
但它并不能在特定情況下，擁有最高控制權(quán)限，完全強(qiáng)制接管車輛。
也就是說，若人類駕駛員即便在危險(xiǎn)場景下，依舊執(zhí)意要加速行駛，以及其他惡意操作，哪怕?lián)碛凶詣?dòng)緊急剎車功能，系統(tǒng)也毫無辦法。
因此，技術(shù)人員需為輔助駕駛功能，賦予部分極端場景中，高于駕駛員的最高駕駛控制權(quán)限。
目前已有部分廠商也正在這樣做。
當(dāng)今常見的主動(dòng)剎車系統(tǒng)
目前市場上已有的 BAS 與自動(dòng)剎車系統(tǒng)，利用攝像頭或雷達(dá)檢測(cè)前方車輛，結(jié)合一定的行駛速度，分析出可能發(fā)生的碰撞時(shí)（如下圖 d3 的距離），系統(tǒng)便警示駕駛員。
當(dāng)進(jìn)入 d2 距離時(shí)，自動(dòng)準(zhǔn)備足夠的制動(dòng)力，只要駕駛員踩下剎車，就會(huì)立刻發(fā)揮最大的制動(dòng)效能。但前提是需要駕駛員踩下剎車。
當(dāng)距離縮小到 d1 時(shí)，如果駕駛員并未踩剎車，自動(dòng)緊急剎車系統(tǒng)則立即進(jìn)行主動(dòng)剎車。
即便如此，它只是輔助，而不是取代。
人們通常會(huì)犯一個(gè)錯(cuò)誤，把“輔助”當(dāng)做“取代”，因此形成惰性，放松警惕，以為機(jī)器能包辦一切，最終釀成意外事故。
同樣的問題，也存在于醫(yī)療 AI 領(lǐng)域。
AI 在影像科中扮演的角色，是輔助醫(yī)生讀片。如果醫(yī)生抱有 AI 這個(gè)不成熟的助手可以承辦一切的心態(tài)，從而降低自身的閱片標(biāo)準(zhǔn)，同樣會(huì)帶來醫(yī)療事故。
因此，要么全盤交給精度達(dá)到最高等級(jí)的機(jī)器；要么人必須與尚未成熟的機(jī)器進(jìn)行強(qiáng)協(xié)同，拋棄依賴。
目前的 AI，顯然都處于后者階段。
自動(dòng)駕駛，是一個(gè)集技術(shù)與倫理于一體的產(chǎn)品，更是一個(gè)富有生命力的組織形態(tài)。
技術(shù)無法凌駕于倫理之上，但可以一定程度上阻止惡意破壞倫理的人。
在倫理之內(nèi)，把工具變得可控和智能，是所有科技從業(yè)者的社會(huì)使命。
關(guān)鍵詞： 自動(dòng)駕駛 事故
