技術(shù)
導(dǎo)讀:即使自動(dòng)駕駛汽車決定殺人的特殊情況可能不到0.001%,但是風(fēng)險(xiǎn)因素如何分配?
圖片來自“123rf.com.cn”
每個(gè)人都曾想擁有自己的自動(dòng)駕駛汽車,但自動(dòng)駕駛汽車并不完美。首先需要肯定一點(diǎn),自動(dòng)駕駛汽車仍然需要像你和我一樣做出決定,而這樣的結(jié)果是它們并沒有完全消除碰撞的可能性,從某一個(gè)角度來看,自動(dòng)駕駛汽車只是減少它發(fā)生的可能性而已,越來越多在自動(dòng)駕駛模式下的汽車發(fā)生事故的報(bào)告能說明這點(diǎn)。
諸多的自動(dòng)駕駛汽車事故報(bào)告可以表明,自動(dòng)駕駛汽車不會(huì)主動(dòng)去碰撞行人(殺人),而是選擇被動(dòng)情況下不得不碰撞行人(被動(dòng)殺人),汽車不會(huì)故意殺人,但如果發(fā)生碰撞,自動(dòng)駕駛系統(tǒng)中會(huì)有相關(guān)機(jī)制告知自動(dòng)駕駛汽車不能做什么。如果讓自動(dòng)駕駛汽車選擇在兩個(gè)不同的人群之間碰撞,那么選擇不殺死一個(gè)人對(duì)另一個(gè)人來說則是致命的,這反映的一個(gè)問題就是自動(dòng)駕駛汽車的優(yōu)先項(xiàng)和他的“價(jià)值觀”,這是自動(dòng)駕駛機(jī)制編程人員的一個(gè)基本考慮因素,因?yàn)樗麄儧Q定計(jì)算機(jī)的功能,以及汽車在各種復(fù)雜工況中的行動(dòng)方式。那么是誰,通過什么方式以什么形式確定的優(yōu)先項(xiàng)和機(jī)器的“價(jià)值觀”呢?
如果你在Netflix上觀看了Circle(2015),你就會(huì)知道它是怎么回事!這部劇能讓我們思考人類的未來,以及我們每天做出決定對(duì)別人的影響 -每個(gè)人都要拼命“活在當(dāng)下”,證明他們的價(jià)值。電影的前提很簡(jiǎn)單:影片講述被俘虜?shù)娜耍鎸?duì)即將到來的處決,五十個(gè)陌生人被迫從中選擇一個(gè)值得存活下去的人的故事。Circle是一部關(guān)于人性的電影,當(dāng)我們被迫在最壞的情況下做出決定時(shí),我們?nèi)绾卧u(píng)價(jià)彼此以及人們?nèi)绾畏磻?yīng)。這部電影講述了什么使我們成為人類的核心——我們是誰,我們相信什么,以及最終,我們將會(huì)花費(fèi)多少時(shí)間去拯救我們自己 ,但是自動(dòng)駕駛汽車似乎沒有這么多人性和道德的考量!
你認(rèn)為正確的道德選擇很可能與你周圍的人想的完全不一樣。因?yàn)榈赖率侵饔^的,而 每個(gè)人的價(jià)值觀都不同。無論你喜歡與否,我們都必須承認(rèn)的一點(diǎn)是我們的選擇都是缺陷的:我們根據(jù)我們過去的經(jīng)驗(yàn)和預(yù)判及偏見來做出決定, 關(guān)于你是否應(yīng)該在事故中拯救A或B也很難辯論,因?yàn)槟愀鶕?jù)你已經(jīng)制定的一些抽象標(biāo)準(zhǔn)以及社會(huì)接受的東西判斷一個(gè)人的價(jià)值。 什么是好人的標(biāo)準(zhǔn)在哪里? 因此,除了通用道德之外,人們普遍認(rèn)為“對(duì)社會(huì)更重要”是評(píng)價(jià)的標(biāo)準(zhǔn)之一。醫(yī)生,孕婦和孩子是更值得關(guān)注的人,即使在泰坦尼克號(hào)上,婦女和兒童也是第一批登上安全船的人,這種道德選擇已經(jīng)深入人心。
看著不同的人做不同的選擇是一件很有意思的事情。做選擇能體現(xiàn)人的性格,就像Trolley problem問題一樣。電影Circle結(jié)束時(shí),您可以看到不同房間中的其他組決定誰能活下去的結(jié)果,很讓人震驚。如果我們回歸到“生活主題”中:我們應(yīng)該思考我們?cè)撝匾暿裁矗菏侨后w還是個(gè)體?
用戶(有時(shí))永遠(yuǎn)是對(duì)的
如果發(fā)生車禍,而你懷孕的妹妹和她的丈夫正好就在其中,如果你是一名醫(yī)生或隨機(jī)的一名陌生人,大家都不難猜測(cè),你會(huì)來救你的妹妹和妹夫。 但是如果車禍中還有其他隨行乘客呢,為了拯救你的家人,隨行的乘客將不得不死你會(huì)作何選擇。你可能仍然會(huì)救你的妹妹和妹夫,這時(shí)候我意識(shí)到,因?yàn)槿藗儾⒉豢偸窍胍瘸丝?,更多的關(guān)注殺死了多少人和什么類型的人。
可以對(duì)汽車進(jìn)行編程來實(shí)現(xiàn)“最佳情況”, 這看起來很容易。但困難的是,沒有人愿意買一輛在發(fā)生事故時(shí)犧牲乘客的汽車,這對(duì)企業(yè)來說很糟糕,這對(duì)他們的營(yíng)銷或銷售產(chǎn)品時(shí)帶來選擇困境,自動(dòng)駕駛汽車是否應(yīng)該被編程不惜一切代價(jià)來避免事故?如果懷孕的母親和丈夫違反交通規(guī)則的情況下該如何選擇?就目前來看仍然沒有確定的答案。這篇文章的構(gòu)思啟發(fā)源于麻省理工學(xué)院的測(cè)驗(yàn),讓你在自駕車的不同場(chǎng)景中選擇行動(dòng)(選擇誰不被殺)。 在測(cè)驗(yàn)結(jié)束時(shí),他們會(huì)為您提供結(jié)果摘要,令人驚訝的是,我的“最佳拯救角色”是一位女醫(yī)生,而我最“被該殺的角色”則是一位老人,我覺得結(jié)果令我很沮喪,但就其實(shí)際以及我個(gè)人的偏見和經(jīng)驗(yàn)而言,結(jié)果仍然是有道理的。
此外需要注意的是,這并不一定是您處于該情況時(shí)將執(zhí)行的準(zhǔn)確且唯一操作,因?yàn)槔碚撆c實(shí)踐中的一切都有所不同。 如果感興趣可以參與道德測(cè)試:道德機(jī)器 ?- 麻省理工學(xué)院。
性別偏好
當(dāng)您看到結(jié)果時(shí),您還會(huì)了解到與你一起參加測(cè)試的其他人的結(jié)果??偟膩碚f,人們傾向于挽救女孩而不是男孩。這可以追溯到一些古老的生物學(xué)推理,因?yàn)榕缘闹饕巧欠敝澈蜕?,而這依賴來自于對(duì)女性的刻板印象,即女性是“照顧者”并表現(xiàn)出母性行為,這使得殺害她們更加殘忍。
這個(gè)結(jié)果很有趣,因?yàn)榧词巩?dāng)今世界的人仍然很多人認(rèn)為在求助選擇時(shí)候選擇一個(gè)女人而不是一個(gè)男人。雖然這個(gè)小樣本量并不是一個(gè)很具有代表性的統(tǒng)計(jì)數(shù)據(jù)結(jié)果,但確實(shí)提供了一種暗示性的趨勢(shì)。如果你考慮性別角色和過去的男性優(yōu)勢(shì),你仍然能夠預(yù)測(cè)到未來的潛在結(jié)果如何。當(dāng)然我并不知道偏見不會(huì)徹底消除,因?yàn)槲覀兛梢园l(fā)現(xiàn)這種偏見已經(jīng)滲透到了各個(gè)領(lǐng)域!
人類>動(dòng)物
人們不僅拯救女孩而不是男孩,而且還會(huì)一次又一次地拯救人類超過動(dòng)物。有一個(gè)物種偏好,僅僅因?yàn)槲覀兪侨祟惒⒕哂凶晕冶Wo(hù)的基本本能。如果你與那只動(dòng)物有所屬關(guān)系,比如它是你的寵物,那可能就會(huì)略有不同,這恰恰反映了人自私的本性。
拋棄老人,留下幼童
前面我曾經(jīng)說過,上述實(shí)驗(yàn)中我的“殺死最多的人物”是一位老人,我不知道我是否潛意識(shí)的同意這一點(diǎn),但我很明確的認(rèn)為老年人有價(jià)值。 無可否認(rèn),根據(jù)過去的經(jīng)驗(yàn),老一輩人是智慧和知識(shí)的載體。雖然他們可能沒有以最典型的方式為社會(huì)做出具體貢獻(xiàn),但誰能說他們的知識(shí)和/或智慧無效呢?
當(dāng)然,時(shí)代變了,幾個(gè)世紀(jì)前的智慧和經(jīng)驗(yàn)并不適用于當(dāng)代社會(huì)。當(dāng)我們做選擇的時(shí)候,我們?nèi)匀豢赡軆A向于拯救這些幼童,因?yàn)樗麄冞€沒有完整的擁有過自己的一生,而老年人已經(jīng)體驗(yàn)了他們經(jīng)歷的一切,我知道這就是我所做上述選擇的原因。因?yàn)樵谖宜认碌哪莻€(gè)年輕人很可能是下一個(gè)伊隆馬斯克,很可能會(huì)對(duì)社會(huì)帶來更多價(jià)值,但從反面來看,這個(gè)年幼的孩子有可能也是壞人,但這是一個(gè)事實(shí),無論你喜不喜歡,其實(shí)我們決定不了這個(gè)幼童的未來走向,但我們?nèi)匀桓鼉A向于拯救他們。
留下醫(yī)生
在做決定時(shí),我發(fā)現(xiàn)傾向于拯救醫(yī)生而不是流浪者。我并不是唯一一個(gè)做出這樣選擇的人。我認(rèn)為這不是一種好的思維方式,因?yàn)樯鐣?huì)地位不應(yīng)該是你生還是死的決定因素。
所有國(guó)家都表現(xiàn)出令人不安的選擇偏好,即拯救地位較高的人,例如,高管人數(shù)超過流浪者,我們也發(fā)現(xiàn)這與一個(gè)國(guó)家的經(jīng)濟(jì)不平等程度密切相關(guān),在存在更大的不平等的情況下,更傾向于犧牲無家可歸者。
我們重視醫(yī)生,因?yàn)槲覀冋J(rèn)為他們的工作對(duì)人類的生存至關(guān)重要,事實(shí)上確實(shí)如此,不是每個(gè)人都能做到這一點(diǎn),醫(yī)生需要接受大量的教育才能開始就醫(yī),但是醫(yī)生不是每個(gè)人過好生活所需的唯一角色,我們不能忽視的一點(diǎn)是,沒有農(nóng)民,我們照樣不能吃到飯菜,沒有工程師,就沒有橋梁和工廠,沒有教育工作者,你將如何學(xué)習(xí)?
這讓我意識(shí)到測(cè)驗(yàn)本身是有缺陷的,因?yàn)榻o出的關(guān)于不同選擇的信息是有限的,但是缺陷不來源于測(cè)試,而是源于固有的社會(huì)缺陷和社會(huì)偏見,我們對(duì)一個(gè)人的重視程度是基于他們對(duì)社會(huì)的貢獻(xiàn)嗎?我們的答案很多時(shí)候是肯定的。
把這個(gè)問題想成“選擇不殺誰”是很苛刻的。但這是我們處境的現(xiàn)實(shí),我們都知道。
那么答案是什么?在發(fā)生事故之前,你只需要踩剎車...... 哈哈,不 - 我只是在開玩笑。雖然這是一種可能性,但制造自動(dòng)駕駛汽車必須考慮到大量不同的情況,包括你不能踩剎車而汽車必須做選擇的情況。關(guān)于自動(dòng)駕駛汽車殺人的道德決定,這可能是罕見的(或我們希望是),但是不可避免的問題, 而這個(gè)問題最大的隱患在于沒有真正的答案。目前來看沒有關(guān)于什么是“正確”和什么是“錯(cuò)誤”的機(jī)制,我們每個(gè)人都會(huì)拯救不同的人,那么誰的道德規(guī)范適用于自動(dòng)駕駛汽車? 這種自動(dòng)駕駛汽車決定殺人的特殊情況可能不到0.001%,但是風(fēng)險(xiǎn)因素如何分配?
我對(duì)這些問題沒有全部答案,但我希望我們能一起思考。