无人驾驶汽车的歧视：撞死同性恋留下直男的末日诅咒

你还记得你六神无主方寸大乱那天吗？你开车照着四五个路人就去了，等你意识到自己在做什么时，刹车已经来不及了。值得庆幸的是，你开的这辆无人驾驶汽车从你手中夺过方向盘，向右猛打才保住了这些人的性命。正好站在右边的另一位人则很不幸，他没躲过这飞来横祸。

你的机器人汽车做出的决定是正确的吗？当然，这一幕，是人们在谈到人工智能的道德问题时没法绕开的臭名昭著的「电车困境」，它是一个似是而非的场景，因为即使是现在的汽车都有防撞功能：有些可以自主刹车避免碰撞，另外一些也可以变道。

这个实验之所以是个道德困境，因为它几乎没有明确的对错分野。能伤害尽量少的人当然更好，如果必须死人，那么死一个总比五个强。不过，车打转弯直接导致一个人的死亡：这算是车子故意杀人。但它如果不打转向，这五个人就会死，汽车制造商仍然会被指责对这五人草菅人命。换句话说：你打转向是混蛋，不打转向更是混蛋不如。

那么，为什么不让用户选择汽车的「道德模式」呢？比如：一位客户将他的汽车设定为万事以他的生命安全为重；另一位用户则可能叫车子对生命一视同仁，最大程度地减少整体伤亡；还有一个客户则希望尽量减少自己的法律责任和诉讼成本；此外，还有许许多多其它设定。

一旦道德选择权杖交到用户手里，制造商们就不用里外不是人遭千夫所指了，对吧？在一项调查中，有 44％受访者更加青睐可选择的道德设定，而只有 12％的人认为制造商应预先设定道德标准。人们心声如此，为什么不给他们想要的呢？

汽车公司难辞其咎

如果我们的目标是减轻汽车制造商的责任的话，那么该策略还是不行，因为即使是用户对卷入车祸的不同价值权重拥有最终决定权，汽车制造商还是难辞其咎。要理解这点，让我们把这一选择设定得再离谱些 ：

试想一下，汽车厂商创造的偏好设定是这样的，能够引导我们保全混合动力汽车而非耗油的卡车，保全上了保险的汽车而非没上的，保全戴头盔的摩托车手而把没戴的冷落一旁。或者更令人不安的是，进一步还会出现这样的道德设定，我们会挽救孩子而不是老人，男人而非女人，有钱人而非穷人，或者直男直女而非同性恋，基督徒而非穆斯林。

在一场需要选出受害者的事故中，汽车制造商给用户任何选择本身就是值得商榷的，也就是说，这一选项天然包括对某一类群司机的歧视。在一个无法回避的碰撞场景里，保全某一群人是以牺牲另一群人为代价。

当然，这里面的某些选择一望而知便是不恰当的；虽说并非都是如此，其中确有一些是根植于仇恨。不过，认为我们一己之命比别人的重要——尤其是比与你素不相识的 5 个、10 个、20 个或 100 个人还要重要，这就是恰当的吗？（对一己的爱与对别人的仇恨或漠然有何本质不同？）

以自我为中心这种轻率无情的心态是如今很多社会问题的根源。做正确的事往往是困难的，正因为它与我们自己的利益相悖。

在以上同一调查中，36％的受访者同意无人驾驶汽车牺牲自己的生命，以避免撞到一个孩子，而 64％的人会则希望这个孩子死去，以挽救他们自己的生命。这是说我们永远不能在此问题上达成共识。

问题的关键是：即使撞车时的道德设定是你来选择的，事故受害者还是可以就以下几点控告汽车制造商（1）汽车制造商创建了一个使他成为标的的算法（2）像他这样处于算法弱势一端的人在某些场景里必然会成为受害者时，允许你运行这一算法。

把责任推给用户

即使这些道德设置能让制造商们免于责难，你猜怎么着？那我们这些用户就要全权负责这些伤亡事件了。充其量，这一道德设定只是把责任从制造商抛给了用户，而对于这一责任本身没有任何消解。车主们仍然需要经过深刻的自我反省和哲学性研究，仔细思考他能以何种道德准则过活，而这一准则能够深发到他生活的方方面面。

这点有着极深的含义。在一种重要的意义上，任何源自我们自身道德设定的可预见伤亡都是有预谋的。通过把自己而非别人设为优先位，一旦出现必有一伤的单赢局面（no-win），我们很清楚别人会先成为标的。我们做出了让这一切发生的意思表示。这是预谋杀人。

在汽车还远非自动化的今天，我们尚可以洗脱罪责，因为是不幸的无助的本能反应让我们救了自己，而不小心杀了一个孩子或是一群人。我们没有太多的时间去思考，只能做出草率决定，即使它们根本就是我们要做的真正决定，而不是什么单纯的不自主的第一时间条件反射；你也永远无从考证这点。

Deus in Machina

所以，道德设定并不是解决无人驾驶汽车摊派的道德困境的终南捷径。其他可能的解决方案包括设定生产商的有限法律责任，类似对疫苗生产商的法律保护。或者，如果行业不愿或不能制定道德标准的话，监管机构可以介入做工作，但业内还是应该要先行先试。

无人驾驶汽车时代的来临，我们要为此前根本没有规划概念的随机事件进行缜密的设定，而这就把我们带入了超现实的领土。像爱丽丝幻游的仙境，我们不知道哪个方向是上还是下，对还是错。但是我们的技术如此强大，它使我们变得全知全能，赋嘈杂以秩序，当我们将控制感引入到曾经为本能或随机把控的疆域时，我们就得为做对的事承担新的责任。