關(guān)于電車難題，你可能并不陌生：一輛失控的電車正沿著一條軌道向下沖去。軌道前方有五個(gè)工人, 如果電車沖過(guò)去，他們肯定會(huì)被撞死。但你可以用一個(gè)操縱桿把電車轉(zhuǎn)向鄰近的軌道上，但是那個(gè)軌道上也有一個(gè)工人，如果電車沖過(guò)去了，他也同樣會(huì)被撞死。你是讓電車變換軌道撞死一個(gè)人，還是什么都不做，讓它撞死五個(gè)人？

這是電車難題最著名的版本，一個(gè)在20世紀(jì)70年代普及開(kāi)來(lái)的哲學(xué)思想實(shí)驗(yàn)。它還有其他變體：比如你是否愿意把一個(gè)胖子從橋上推下來(lái)，讓電車停下來(lái)，而不是殺死那些較瘦的工人？電車難題除了作為一個(gè)哲學(xué)實(shí)驗(yàn)外，還被用作心理學(xué)實(shí)驗(yàn)中的一種工具——最近，人們已經(jīng)把它當(dāng)作衡量自動(dòng)駕駛汽車的道德標(biāo)準(zhǔn)了。

自動(dòng)駕駛汽車應(yīng)該優(yōu)先保護(hù)行人還是先保護(hù)乘客？那老人與小孩相比呢？如果汽車可以獲得與車禍發(fā)生相關(guān)的信息，它是否應(yīng)該使用這些數(shù)據(jù)來(lái)做出決定？電車難題已經(jīng)在自動(dòng)駕駛汽車領(lǐng)域流行起來(lái)了。事實(shí)上，麻省理工學(xué)院的工程師們已經(jīng)建立了一個(gè)名為“道德機(jī)器”（Moral Machine）的測(cè)試，旨在記錄人們對(duì)自動(dòng)駕駛汽車在各種條件下應(yīng)如何反應(yīng)的看法。

但是，用電車難題來(lái)理解當(dāng)前的自動(dòng)駕駛汽車是存在問(wèn)題的。它在解決自動(dòng)駕駛汽車或工人的道德問(wèn)題上做得非常糟糕。為這些目的部署它，尤其是將其作為工程上或政策制定上的答案或參照，會(huì)讓機(jī)器道德變得不完整或者更加危險(xiǎn)。

哲學(xué)家朱迪思·賈維斯·湯姆森（Judith Jarvis Thomson）在1976年創(chuàng)造了“電車難題”。不過(guò)，這一設(shè)想最早是由另一位哲學(xué)家菲利帕?福特(Philippa Foot)，在1967年發(fā)表的論文《墮胎問(wèn)題和教條雙重影響》中提出的，他認(rèn)為，人們的意圖和他們所能預(yù)見(jiàn)的東西之間是有區(qū)別的。福特以墮胎為例， 外科醫(yī)生對(duì)一名孕婦進(jìn)行子宮切除術(shù)時(shí)，能預(yù)見(jiàn)到嬰的兒死亡，他應(yīng)該這么做嗎？與此同時(shí)，一位外科醫(yī)生為了挽救母親的生命而終止了胎兒的生命，應(yīng)該這樣做嗎？雖然案例非常相似，但最后得出的道德結(jié)論卻不盡相同。

福特提出了許多相關(guān)的場(chǎng)景, 其中之一就是現(xiàn)在著名的電車難題。 另一種假設(shè)是, 一群暴徒威脅說(shuō)，如果法官不處決一個(gè)無(wú)辜的人，他們就會(huì)報(bào)復(fù)，殺死更多的人。法官該怎么辦？這看起來(lái)似乎是一個(gè)電車難題——在更多或更少的死亡之間做出選擇。 但是，大多數(shù)支持電車操縱員撞死一名工人的人，也會(huì)對(duì)陷害無(wú)辜的人感到震驚，福特寫(xiě)道。

她的結(jié)論是, 一個(gè)人做什么和一個(gè)人被允許做什么是有區(qū)別的。福特寫(xiě)道, 特別是“避免傷害和提供援助之間的區(qū)別確實(shí)非常重要?！?/p>

福特的簡(jiǎn)短論文為當(dāng)代讀者提供了一種更細(xì)致入微的方法，來(lái)思考涉及自動(dòng)駕駛汽車的道德場(chǎng)景，而不是只用所謂的電車難題來(lái)分析。 在某種程度上，這是因?yàn)楦Ｌ刈裱嗽趤喞锸慷嗟轮笠环N被稱為道德倫理的傳統(tǒng)。 

但是，遵循道德規(guī)范并不會(huì)引發(fā)目前大多數(shù)關(guān)于自動(dòng)駕駛汽車的爭(zhēng)論。相反，對(duì)最終結(jié)果是自動(dòng)駕駛汽車占主導(dǎo)的社會(huì)的關(guān)注，是最令人擔(dān)憂的。在道德哲學(xué)中，這種不同于道德倫理學(xué)的方法被稱為結(jié)果主義。結(jié)果主義者——包括最著名的功利主義者——首先關(guān)心的是行為的結(jié)果和后果。

這種功利主義思想已經(jīng)深深植根于自動(dòng)駕駛汽車的修辭之中。甚至，在自動(dòng)駕駛汽車的擁護(hù)者們開(kāi)始決定車禍發(fā)生時(shí)撞誰(shuí)之前，就已經(jīng)存在了。推動(dòng)自動(dòng)駕駛車輛大規(guī)模采用的一個(gè)共同理由是，它們能把道路上的安全性大幅度提高。2016年，美國(guó)有37000多人死于車禍。由于94%以上的車禍都是由司機(jī)的錯(cuò)誤造成的，用可靠的機(jī)器代替容易出錯(cuò)的人，對(duì)于社會(huì)來(lái)說(shuō)，顯然具備凈效益。

問(wèn)題是，把注意力集中在結(jié)果上，可能會(huì)使人們對(duì)自動(dòng)駕駛汽車的優(yōu)點(diǎn)和缺點(diǎn)視而不見(jiàn)。 正如福特提出的，工人面對(duì)電車難題和法官面對(duì)暴徒威脅的道德場(chǎng)景是不同的。因此，同樣的以人為代價(jià)的自動(dòng)駕駛汽車的結(jié)果，可能會(huì)帶來(lái)截然不同的道德、法律和公民后果。

最近, 亞利桑那州坦佩市的一輛Uber的自動(dòng)駕駛汽車撞死了49歲的伊萊恩 · 赫茨伯格（Elaine Hertzberg）——一個(gè)騎著自行車過(guò)馬路的行人。 在我寫(xiě)下關(guān)于這場(chǎng)車禍可能產(chǎn)生的法律影響的文章之后， 一些讀者以功利主義的冷笑回應(yīng)。 畢竟，2015年美國(guó)有5376名行人被汽車撞死, 新聞媒體也不會(huì)把每一個(gè)人都當(dāng)作特例來(lái)報(bào)道。 很快, 自動(dòng)駕駛汽車可以減少或消除行人死亡。 如果你用電車難題的術(shù)語(yǔ)來(lái)說(shuō)，軌道代表的是時(shí)間而不是空間。一個(gè)人死亡仍然是一個(gè)悲劇。但如果她的死亡，意味著在預(yù)防成千上萬(wàn)個(gè)人死亡方面取得進(jìn)展，那么也許這是合理的。

問(wèn)題在于, 這種立場(chǎng)的假設(shè)是，赫茨伯格的死與普通的汽車造成的數(shù)千人的死亡完全相同。 從統(tǒng)計(jì)學(xué)上來(lái)說(shuō), 這可能是正確的, 但從道德上講, 并不一定如此。

在未來(lái)，如果它們能有效地運(yùn)行，自動(dòng)駕駛汽車就有可能預(yù)防像坦佩市這樣的車禍?zhǔn)鹿柿?。傳感器和?jì)算機(jī)對(duì)周圍環(huán)境的反應(yīng)比人類更好，也會(huì)表現(xiàn)得更加理性。 隨著Uber這次車禍的細(xì)節(jié)逐漸浮出水面，一些專家得出結(jié)論，這次車禍本來(lái)是能夠避免的。此外，Uber的自動(dòng)駕駛汽車似乎沒(méi)有達(dá)到公司的目標(biāo)，即在3月份發(fā)生車禍時(shí)，每行駛13英里的路程只需要人為干預(yù)一次。與此同時(shí)，谷歌的兄弟公司W(wǎng)aymo聲稱，它的自動(dòng)駕駛汽車在不需要人為干預(yù)的情況下，平均可以行駛5600英里。

那么， 在亞利桑那州的道路上，Waymo的自動(dòng)駕駛汽車和Uber的自動(dòng)駕駛汽車之間的區(qū)別，可能比人操作汽車和計(jì)算機(jī)操作汽車之間的區(qū)別更重要。但是，為了吸引更多的公司到亞利桑那州研究、測(cè)試，從而推動(dòng)就業(yè)。亞利桑那州州長(zhǎng)道格·杜西（Doug Ducey）允許在沒(méi)有重大監(jiān)管的情況下，讓所有的這類汽車上路測(cè)試。

這些條件的存在，決定了不能從電車難題的角度來(lái)考慮這個(gè)問(wèn)題。如果要問(wèn)Uber是否應(yīng)該撞上赫茨伯格還是突然轉(zhuǎn)向(讓安全員員面臨危險(xiǎn)，避免行人被撞)，則需要假定Uber的車輛可以先看到行人并做出相應(yīng)的響應(yīng)。需要假定這種能力是可靠和有保證的——相當(dāng)于一種機(jī)械行為，就像切換電車軌道那樣。這種背景，在發(fā)生在坦佩市的車禍?zhǔn)鹿手邢Я恕?/p>

不過(guò)，福特已經(jīng)預(yù)料到了在她的案例中背景缺失的情況。“在現(xiàn)實(shí)生活中，”她寫(xiě)道，“很難確定電車轉(zhuǎn)向后，站在軌道上的那個(gè)人會(huì)被殺死。 也許他會(huì)在車身側(cè)面找到一個(gè)立足點(diǎn)，并在車輛駛過(guò)時(shí)緊緊抓住。”解決這種無(wú)限可能性的一種方法是運(yùn)行無(wú)限的電車難題，從公眾對(duì)這些問(wèn)題的反應(yīng)中收集模式。這就是麻省理工學(xué)院道德機(jī)器的方法，它與機(jī)器學(xué)習(xí)系統(tǒng)工作的最佳方式相匹配：使用大數(shù)據(jù)集。但還有一種辦法——在最適當(dāng)?shù)牡赖卤尘跋驴紤]具體問(wèn)題。

碰巧的是, 福特也提出了一個(gè)不同的例子, 與電車難題相比，這個(gè)例子與坦佩市實(shí)際發(fā)生的事情有更多的共同點(diǎn)。 想象一下, 在醫(yī)院里有五個(gè)病人。 通過(guò)使用某種氣體可以挽救他們的生命, 但是使用這種氣體，會(huì)向另一個(gè)無(wú)法移動(dòng)的病人的房間里釋放致命的煙霧。 在這種情況下, 產(chǎn)生的后與經(jīng)典的電車難題是相同的。然而，對(duì)許多人來(lái)說(shuō)，結(jié)果并不那么明顯。這僅僅是因?yàn)轭A(yù)期效果和可預(yù)見(jiàn)的效果之間的差別，也是因?yàn)楸苊鈧?，?dǎo)致的道德欲望有著不同的運(yùn)作方式。

在電車難題中，司機(jī)面臨兩種相似的傷害之間的矛盾，沒(méi)有其他的選擇。但在醫(yī)院的氣體例子中，醫(yī)生面臨著提供援助和造成傷害之間的矛盾。事實(shí)上，Uber的情況更為棘手，因?yàn)樗袇⑴c方——不管是汽車制造公司、駕駛它的司機(jī)還是監(jiān)管它的政府——似乎都沒(méi)有充分了解車輛目前(而不是未來(lái))造成損害的能力。這使得 Uber這場(chǎng)事故的道德背景不再是關(guān)于未來(lái)減少車禍，更多的是關(guān)于政府監(jiān)管、公司信息披露和交通政策的現(xiàn)狀的問(wèn)題。但是，這些話題遠(yuǎn)不如一輛失控的電車更吸引人。

如果這是技術(shù)專家、公民和政策制定者真正想要的道德哲學(xué)的先例。那么，他們最好把Uber的這場(chǎng)車禍看作是一個(gè)關(guān)于道德運(yùn)氣（moral luck）的例子，這是哲學(xué)家托馬斯·內(nèi)格爾( Thomas Nagel )提出的一個(gè)觀點(diǎn)。有一個(gè)經(jīng)典的例子:一個(gè)喝醉的人晚上開(kāi)車回家。雖然喝醉了，但他最后還是毫無(wú)意外地到達(dá)了目的地。然后想象另一個(gè)場(chǎng)景。一個(gè)人在同樣的情況下開(kāi)車的時(shí)候， 但他意外撞死了一個(gè)過(guò)馬路的孩子。

認(rèn)為后者比前者更應(yīng)受責(zé)備似乎是理所當(dāng)然的，但兩人都采取了同樣的自愿行動(dòng)。唯一不同的就是結(jié)果。

從這個(gè)角度來(lái)看，Uber帶來(lái)的車禍并不代表一種價(jià)值中立，更不是所謂的正義：犧牲一個(gè)行人，來(lái)確保有效部署自動(dòng)駕駛汽車的世界里確保更多人的安全。相反，它強(qiáng)調(diào)了這樣一個(gè)事實(shí)，即積極的結(jié)果——更安全的汽車、更安全的行人等等——很容易成為自動(dòng)駕駛汽車的道德運(yùn)氣的一部分，因?yàn)樗鼪](méi)有犯下一個(gè)應(yīng)受譴責(zé)的行為。當(dāng)然，現(xiàn)在不是了。

道德運(yùn)氣也為自動(dòng)駕駛汽車開(kāi)辟了其他的審議途徑。在自動(dòng)駕駛汽車的情況下，自愿行動(dòng)更難確定。Uber的司機(jī)是否知道并理解他們行為的所有后果？假設(shè)人類駕駛員可以干預(yù)其正在觀察的機(jī)器的操作而不是主動(dòng)操作，這種假設(shè)是否合理？在亞利桑那州明確邀請(qǐng)自動(dòng)駕駛汽車在實(shí)際道路上進(jìn)行實(shí)驗(yàn)性的測(cè)試的情況下，Uber是否也應(yīng)受到譴責(zé)？所有這些問(wèn)題現(xiàn)在都在亞利桑那州和其他地方被問(wèn)及。 但這對(duì)伊萊恩·赫茨伯格來(lái)說(shuō)，只是一種冷漠的安慰。

這一切的意義并不在于指責(zé)或贊揚(yáng)最近Uber車禍中的特定行為者。也不是為了慶祝或哀嘆自動(dòng)駕駛汽車的未來(lái)。相反，這表明，無(wú)論是現(xiàn)在還是將來(lái), 解決和應(yīng)對(duì)自動(dòng)駕駛汽車需要更高的道德修養(yǎng)。

道德不是將簡(jiǎn)單的計(jì)算應(yīng)用于任何情況下的問(wèn)題，也不是將人類對(duì)一個(gè)模型案例的一整套意見(jiàn)應(yīng)用于在整個(gè)模型下的實(shí)例問(wèn)題。事實(shí)上，采取這些立場(chǎng)從一開(kāi)始就能得出功利主義的結(jié)論。當(dāng)工程師、評(píng)論家、記者或普通人，把電車難題當(dāng)做是一個(gè)非常適合（或許是為了方便）思考自動(dòng)駕駛汽車問(wèn)題的時(shí)候，他們拒絕考慮這些機(jī)器操作的更復(fù)雜的道德?tīng)顩r。

對(duì)于哲學(xué)家來(lái)說(shuō)，思想實(shí)驗(yàn)提供了一種考慮未知結(jié)果或重新考慮已接受的結(jié)果的方法。但它們只是思考的工具，而不是現(xiàn)成行動(dòng)的指南。特別是，電車難題的普及，讓人們誤認(rèn)為自動(dòng)駕駛汽車是一種已經(jīng)存在、可靠、同質(zhì)的技術(shù)——這樣就可以提出、甚至回答關(guān)于其假想道德行為的抽象問(wèn)題。但是，想要這種情況發(fā)生，還需要等上好幾年。與此同時(shí)，公民、政府、汽車制造商和科技公司，必須就自動(dòng)駕駛汽車在今天和明天可能產(chǎn)生的道德后果，提出更困難、更復(fù)雜的問(wèn)題。是時(shí)候在電車把所有人撞死之前踩剎車了。

返回第一電動(dòng)網(wǎng)首頁(yè) >