“取人性命怎能没有罪恶？”哲学家圣奥古斯丁提出了一个让大伙吃饱饭后纠结的难题。故事的开始是这样的，一位汉子站在铁道边，突然看到1辆失控的电车冲向5个绑在铁轨上的人，只要他扳动开关，铁轨就会进入岔道，扎死另一条铁轨上的1个人，这时候他该选择1个人丧命还是5个人丧命？

虚渊玄用《Fate/Zero》描述了同样的问题让看客们纠结到脸滚键盘，这场称为“岔道困境”的难题被讨论了将近100年之久。而在现实中同样带来了一大波问题，比如今天要提到的自动驾驶。

自动驾驶的岔道困境

无人干预的自动驾驶意味着人工智能权限高于人类，系统必须自行判断跟随、刹车、停车命令。但无可避免的是，交通事故概率下降不代表着完全不发生。自动驾驶的伦理道德在于，是否将人命损失减少到最小为最优先判断。道理很简单，当自动驾驶判断刹车失控即将撞上正在穿越人行道的人群，自动驾驶是否有权选择撞向两旁路灯柱，牺牲你自己来挽救更多的人群？仔细想想，这种带自杀功能的自动驾驶还要自掏腰包真的有些不甘心。

与之相反，如果保证乘车者的最大利益，自动驾驶对整个社会环境是否会构成新的威胁？来自法国图卢兹经济学院的Jean-Francois Bonnefon团队曾经展开了了一项公众调查，希望通过舆论获得大部分人都能接受的答案。他们的提出的问题如下：如果你正在乘坐的自动驾驶汽车冲向人群，刹车已坏，自动驾驶应该选择撞墙丢掉你的性命还是人群的？

不过团队并没有将这个问题抛给没事做嗑瓜子大妈，而是投向数百名负责亚马逊Mechanical Turk工程师，因为技术确定通常先于舆论产生，工程师在无形中其实已经确定了社会趋势。与此同时，为了弱化工程师的主观判断，团队另外提供了更多细节，包括工程师在这场可怕的车祸中扮演的角色，可能是计算机、行人、方向盘还是车里那个可怜的司机。

结果是工程师们同样认为自动驾驶应该追求死亡人数的最小化，但这场讨论也点到为止，因为随后更多人表示只要他们不开这种车就行。
Jean-Francois Bonnefon团队的研究可能带来的只有饭后闲谈，美国国家公路交通安全管理局NNHTSA已经展开行动，他们需要自动驾驶功能具备一套自动防故障机制，便于由管理局决定自动驾驶的伦理走向。

更为致命的是，目前自动驾驶的判断精度仍然需要改善，比如停在路上的购物车与婴儿车相仿，系统应该如何正确识别车内是否有生命。但即使判断精度提高也并不能帮助自动驾驶解决伦理问题，在工程师习惯于追求利益最大化、伤亡最小化的判断理念下，传感器越多、人工智能越高级、面部识别软件越进步，车内的乘坐者则会越容易成为最大的受害者。
自动驾驶决策也进一步推进了伦理判断的透明化，目前汽车厂商的编程、碰撞设计优化是被严格保密不被三方获知，但自动驾驶一旦需要执行一套公开的标准，人们对自动驾驶伦理判断的质疑则愈发明显。也正因为如此，厂商们反而更希望对自家的自动驾驶判断过程保密，除了避免竞争对手和黑客窥探，也能维护自身利益。但有趣的是这个期望与NHTSA可能参与接管自动驾驶自动防故障机制的观点相违背，让人十分纠结。

最后：问题又来了

把利益最大化几乎成为了每一个参与讨论者的结论，选择牺牲一人的结果获得了多数票，但我们只需要稍微把岔道困境的场景转变一下，问题再次袭来。在一所医院中有5个急需救治的病人，他们各需要1个不同的器官救命，这时候1个身体健康只是获得了小感冒的病人走进医院，医生能否有资格将这个可怜的小感冒同学大卸八块让5个病人恢复健康？

好了，别多想，这篇文章看起来有点暴力但没有任何人实际受伤，而你更大的概率是被绑在那铁轨上的5人之一，或者5个病人之一罢了。