前段时间 GeekCar 译介了一篇 《无人驾驶汽车的歧视：撞死同性恋留下直男的末日诅咒》，原文作者 Patrick Lin 做出这样惊世骇俗的极端设想，皆为论证无人驾驶汽车能够做出道德选择并非解决这一新科技微妙争议的恰切之道。但是，一辆无视你的道德选择的车就更好了吗？我们应该找到一个折衷的路径。
首先，让我们假设一种情景，称为隧道难题：你正乘坐一辆无人驾驶汽车在单车道山路上行驶，速度很快，就快进入一条狭长的隧道了。就在此时，一个小孩跑过来挡在了隧道口，汽车刹车不迭，撞车已是在所难免。它有且只有两个选择：撞向孩子，或者打转向撞隧道壁，结果了你。
现在我们扪心自问，谁有权利去决定汽车是走直线还是打转向？制造商？车主？抑或是参议员？
Lin 在上篇文章里指出，在由 Open Roboethics Initiative 发起的一项民意调查里，受访者需要回答的正是这些问题。有 77％的受访者认为用户或立法者应当做出决定，认为制造商和设计师有此权利的只有 12%。
我们应当对此感到惊讶吗？我看不尽然。隧道困境牵扯的是深刻的道德问题，没有标准的正确答案。在这种情况下，一个人的深入骨髓的道德认同会直接导致直行还是转弯的天壤之别。
在哲学家伯纳德·威廉姆斯（Bernard Williams）看来，有些时候我们的道德认同应当分出优先级，即使这会导致违反直觉的结果，比如牺牲多数人而只挽救了少数人。在隧道难题上，任意剥夺个人的道德偏好，生硬地把一个决定编到汽车程序里，这冒的是将人们与自身道德认同间离开来的风险，你能生生忍受与你价值观南辕北辙的事态徐徐展开却束手无策的感觉吗？我不能，尤其是这一切并非地震海啸台风这样的不可抗力，这一切都来于一个非生物为你做的选择。
一种求解方法已经存在
在医疗领域，当必须做出道义选择时，惯例是护士和医生必须将合理的治疗方案告知患者，让患者依据个人情况做出明智的决定，这一程序称为「知情同意」，它背后的理念是个人拥有对自己身体的决定权。无论是在伦理层面还是法律层面，知情同意在医疗保健领域都可谓非常重要，如果一位医学专家未能取得知情同意，他甚至会面临职业疏忽的指控。知情同意也并不总是医疗行业的执业标准。医师们也常常善意欺骗患者，为他们做出重要的医疗决定。
知情同意的引入并不意味着把事情简单化。事实上，它反而将医疗服务复杂化了。知情同意给那些面临着艰难决定的病人背上了沉重的负担；同时它也将医疗保健专业人士暴露到了新的职业疏忽风险当中。它引入的卷轶浩繁的文书工作和与病人耗时的谈话实际上增加了医疗服务的成本。而且，还需要专业医护人员将复杂的概念解释给对医嘱一无所知的病人。
你也可以争辩说知情同意只是将责任推给了用户。批评者认为，知情同意不公地强迫个人做出他们疲于应对的困难决定。然而，尽管知情同意带来了这么多复杂的挑战，我们还是很难想象人们会接受别一种医疗制度，即医生护士不征求患者的同意径直做出重要决定。
那么，我们又为什么要接受设计师和工程师代表我们做出一系列道德决策呢，像隧道困境这样的？解决这一道德问题的方法便是采用在医疗领域的成熟惯例：知情同意的稳健标准。当然，在实践中要做到这一点的一种方法（当然很可能还有其他方法）就是在无人驾驶汽车里设置合理的道德情境选择。
是时候重新思考机器人责任？
不管机器人专家采纳何种设计，出了事律师们还是会起诉人类这点毋庸置疑。如果我们在责任归属上拒不灵活变通，引入道德设置选项只会让用户和制造商们陷入各种各样复杂的道德诉讼。可喜的是，有越来越多的人秉承这样一种信念，即要是想规范无人驾驶汽车和其他人工智能，深刻的司法改革就必不可少。
对于初出茅庐者而言，在涉及到深刻的道德选择时汽车制造商如未能获得用户的知情同意，那么这就属于产品缺陷。正如医生在继续进行医学治疗前，如未能征求患者的知情同意就应该承担责任，所以当汽车制造商在无人驾驶汽车及其他技术的设计中如未能合理考虑用户明确的道德喜好，那么我们也可以考虑追究他们的责任。这种方法会大大地增加设计的复杂性。不过还是那句话，也没人说工程机器人就应该是简单的。
我们必须接受复杂性
如果我们在工程学上能够全情拥抱知情同意这一做法，也许结果会好些。如果我们设计出一辆车，前面有人挡住路了也只允许用户选择直行，那么这也太可笑了；同时，如果这辆车允许车主牺牲自己以挽救一个孩子，只要这符合他的道德信念，那么这就完全合理。
机器人，以及他们提出的道德问题，是非常复杂的。但如果我们要转变自己对于设计和工程伦理的思维方式，并对蒸蒸日上的机器人产业做出恰当的应对，那么这个问题就值得我们深入思考。这种思维转变需要我们去拥抱道德和法律的复杂性。不幸的是，赋混乱以秩序并不能给我们一个简单的世界，我们仍不免费思量。
编译自：Wired
