御龙英雄半自动驾驶就安全?人类的"完全信任"是最大隐患关节康复器

　　国外媒体Vox发布资深撰稿人蒂莫西·李（Timothy B. Lee）的文章称，提供各种先进的驾驶辅助功能，逐渐过渡到无人驾驶，还是直奔全自动驾驶？这是涉足无人驾驶的各家公司要抉择的一个问题。全自动驾驶的实现尚需时日，而半自动驾驶汽车则存在一大隐患：消费者很快就相信该类技术，自动驾驶过程中完全放松警觉。

　　以下是文章主要内容：

　　围绕无人驾驶汽车的讨论很重要的一个时刻出现在2016年5月7日，当日约书亚·布朗（Joshua Brown）在他驾驶的特斯拉汽车撞向一辆拖车式卡车后身亡。布朗启用了特斯拉的Autopilot自动驾驶模式，该软件没能在日照下检测到卡车的白色边缘。他的车全速（时速74英里）猛烈撞向该辆卡车——撞掉了车顶，同时也导致布朗身亡。

　　该事故被很多人定性为无人驾驶汽车的第一起事故，它引起了美国国家运输安全委员会（NTSB）的注意。上个月，该委员会就该事故公布了数百页的新细节报告。

　　但试图让无人驾驶变成现实的汽车行业并不认同这种定性。特斯拉称，Autopilot并不是无人驾驶技术，而是更类似于一种先进的巡航控制形式。该公司指出，在启用Autopilot模式后，驾驶者需要全程将双手放在驾驶盘上，同时眼睛要保持盯着前方道路。NTSB上个月公布的计算机日志显示，布朗的车子曾7次警告他要将双手放在驾驶盘上。每一次，布朗都是将手放在驾驶盘上面几秒钟长——放几秒钟足够让警告消失——之后又将手离开驾驶盘。

　　1月，美国国家公路交通安全管理局对卷入该案件的特斯拉表示支持，总结称Autopilot系统并无缺陷。“并不是所有系统都是万能的，”该机构的发言人布莱恩·托马斯（Bryan Thomas）表示，“有些驾驶场景自动化紧急制动系统是无法应对的。”

　　不过，布朗的死亡还是汽车厂商们在将无人驾驶汽车推向市场的征程中将面临的最大挑战之一。大多数的汽车公司都打算逐步实现无人驾驶功能：未来几年出售配备越来越先进的驾驶辅助功能的汽车，最终才推出没有踏板或者驾驶盘的全自动化驾驶汽车。

　　然而，那样的发展策略有一隐患：人们会很快就相信无人驾驶技术，就像布朗那样。经过数百甚至数千英里毫无差错的驾驶后，人们可能会变得不再留心路况，这会带来致命的危险。是什么让无人驾驶汽车变得更加安全呢？业界的回答揭示了很多我们的驾驶习惯方面的信息——同时也揭示我们很容易就会变得依赖于新的技术。

　　半自动驾驶汽车会不断提醒司机

　　特斯拉当前对于无人驾驶的处理方式是，让带有半自动化驾驶功能的汽车提醒驾驶者注意路况。自布朗身亡以来，该公司加倍投入发展该类技术。

　　本月早些时候，我去拜访了特斯拉位于帕洛阿尔托的总部，亲自试驾Model S。在我获准独自驾驶该款汽车之前，一位特斯拉员工向我指导了一番，期间她强调称Autopilot并不是全自动化驾驶系统。她指出，在第一次启动Autopilot功能之前，司机必须要阅读和同意显示在位于特斯拉中控台的17英寸屏幕上的免责声明。该免责声明强调需要全程将双手放在驾驶盘上。

　　这并不只是随便的建议。Model S配备传感器来检测我的双手是否放在驾驶盘上。如果检测到我没有那么做，那仪表盘最终会开始闪光，直到我将手放回在驾驶盘上为止。

　　约书亚·布朗的特斯拉汽车也警告过他——警告了7次——但他没有足够重视。自该事故以后，特斯拉制定了更加严格的“三振出局”规定：如果司机连续三次忽视警告，那在剩余的行程中他就不再能够使用Autopilot功能。如果该司机还是没有握住驾驶盘，那该汽车就会假定他不能行动，然后慢慢停车，同时打开危险报警闪光灯。

　　其它的汽车公司正在开发类似的技术。例如，奥迪不久之后将会推出一款名为“交通堵塞领航员”的产品，让司机可以在高速公路上免手以最高为每小时35英里的速度行驶（奥迪称，距离实现高速公路全速驾驶还有四五年时间。）在最近试驾期间，奥迪工程师考希克·拉古（Kaushik Raghu）告诉我，交通堵塞领航员技术将包括一个“司机可得性监控系统”，以便确保司机没有持续打瞌睡或者往后看。

　　卡迪拉克最近公布的高速公路驾驶技术Super Cruise也提供类似的功能。驾驶盘上安装的红外摄像机能够判断司机是否在看着前方的公路，有没有低头看手机。如果司机的双眼太长时间没盯着前方道路，那汽车就会开始发出提示音，直到司机重新往公路看为止。

　　在造访正在开发先进司机监控技术的创业公司Nauto的时候，我明白了Super Cruise大概是怎么运作的。Nauto生产的装在挡风玻璃上的设备会监视着司机，会判断司机有没有在看路。如果整合到无人驾驶汽车——又或者普通的汽车——这类技术有望防止大量的分心驾驶和高速公路死亡事故。

　　为什么几乎完美的自动驾驶系统也有风险

　　在曾领导谷歌无人驾驶汽车工程师团队的克里斯·厄姆森（Chris Urmson）看来，决定为司机提供驾驶辅助，还是将司机完全剔除出驾驶的过程，是“行业最大的公开讨论话题之一。”厄姆森于去年离开谷歌，创办属于自己的创业公司。

　　谷歌这些年来一直在思考该问题。它近期将旗下无人驾驶汽车项目更名为Waymo。早在2014年，谷歌无人驾驶汽车工程师纳撒尼尔·费尔菲尔德（Nathaniel Fairfield）在一个计算机视觉大会上发表演讲，描述了谷歌为高速公路驾驶打造无人驾驶技术，但后来认定该计划太过危险的历程。Waymo客户将永远都不被允许去触碰其汽车的驾驶盘。

　　谷歌无人驾驶汽车技术的早期版本跟特斯拉的Autopilot或者我几周前试驾的奥迪原型车非常相似。司机负责在行程开始和结束阶段的街道行驶，但在高速公路上可以启动无人驾驶模式。标记明确的道路以及没有行人和其它的障碍，让高速公路上的无人驾驶成了一个相对简单的计算机科学问题。

　　费尔菲尔德指出，问题在于，人们太快开始相信那个系统了。“人们一开始觉得不切实际，接着又觉得半信半疑，最后变得过于信任。”他说。在看到谷歌的高速公路驾驶技术连续几个小时都毫无差错以后，人们就变得“完完全全信任”它的有效性了。

　　“车内的摄像头记录到，在汽车行驶期间，员工们爬到后座去，伸出车窗外，甚至搂抱接吻。”约翰·马尔科夫（John Markoff）在《纽约时报》报道称。

　　即使一项技术能够完美无瑕地驾驶100甚至1000英里，也有可能偶尔出现灾难性的错误。但经过一英里又一英里毫无差错的自动驾驶以后，司机不大可能会去密切留意路况。这意味着，要是汽车突然遇到一个它无法应对的问题，那将汽车的控制权移交给人类司机可能反而会让事情变得更加糟糕。

　　这是航空业数十年来一直在努力克服的一个问题。2009年，法国航空447号班机在从里约热内卢飞往巴黎的途中坠入汪洋大海。该事故的起因是：飞机的传感器上的冰块导致自动驾驶功能停止运行。由于缺乏在没有计算机辅助的情况下处理飞机问题的经验，飞行员恰恰犯下了错误：本应降低机头，但他却拉高机头。飞机因此失速，之后坠入海洋，机上的228人全部遇难。

　　“很显然，自动化技术在该事故中要负上责任，但它要负多大的责任则存在一些争议。”知名网络杂志《Slate》2015年的一篇文章在谈到该事故时指出，“也许，系统设计得很不好，让飞行员觉得迷惑，又或者可能由于多年来一直依靠自动化技术，让飞行员措手不及，不懂得如何接管飞机的驾驶。”

　　这是自动化系统的矛盾之处：自动驾驶系统做得越出色，人类就会越依赖于它，要是突然之间他们不得不去接管飞机的驾驶，他们就会措手不及。

　　不难想象，无人驾驶汽车也有可能会发生类似的事情——年轻一代的司机尤其容易出现问题。随着驾驶辅助技术变得越来越普及，未来将会有越来越多从未在没有计算机辅助的情况下驾驶的青少年司机。但如果这些汽车被设计得会在遇到意想不到的情况时将驾驶任务交还给人类司机，那么人类司机可能会措手不及，在生死攸关的关头恰恰出错。

　　无人驾驶汽车越是接近全自动化，就越难让司机保持警惕。如果连续数千英里司机都不必作出任何的驾驶决策，即使汽车能够迫使他们将双手一直放在驾驶盘上，同时一直注意看路，那他们也有可能会犯浑。达到特定技术水平以后，让汽车自己猜该如何做，可能都比让可能头脑一片混乱或者缺乏实践的司机接管驾驶盘来得安全。

　　Waymo要直奔全自动驾驶

　　谷歌最终得出结论：半自动化驾驶的汽车在技术上是个死胡同。相反，该公司给自己设定了打造全自动化驾驶汽车的目标——一种非常可靠，永远都不需要人类司机干预的全自动化驾驶汽车。

　　前谷歌工程师厄姆森认为，驾驶辅助和全自动化驾驶“实际上是两项截然不同的技术。”

　　“在驾驶辅助系统中，大多时候，那些辅助功能不用好过用。”厄姆森4月在演讲时指出，“只有在你有百分百的把握你不会遭遇事故的时候，你才应该启用该系统。它会指引你选择使用各种技术，但它们会制约你应对意外情况的能力。”

　　与之相反，Waymo正尝试打造永远都不将驾驶盘交给人类乘客的汽车。那意味着它的软件不管在什么可想到的情形都必须能够选择合理而安全的应对方式。这意味着要部署备用系统，以确保即使有重要部件失灵，汽车都能够从容不迫地作出应对。

　　“我们的无人驾驶汽车每一辆都配有应急的辅助计算机，预防主计算机离线的小概率事件。”谷歌在2016年的报告中写道，“它唯一的责任就是监控主计算机，需要的话，它会安全地将汽车开到路边，或者完全停下来。它甚至能够搞清楚像不停在十字路口中间，避免给其它司机带来危险这样的事情。”

　　相比开发指望人来处理棘手情况的驾驶辅助技术，开发能够从容处理任何意外情况的软件——以及备用的防弹硬件——可以说是一项要困难得多的技术难题。但它也有一个很大的优势：如果汽车决不将控制权交给人类司机，那它就完全不必担心司机是否会措手不及的问题。

　　目前，Waymo倒还让司机坐在驾驶盘后，但这些司机是接受过特殊的无人驾驶汽车处理训练的Waymo员工。不管有多无聊乏味，他们都要持续注意路况。他们也应该能够从这份差事中获得报酬。最近几个月，这项工作可以说变得极其无聊了。根据监管文件，Waymo无人驾驶汽车在加州已经行驶了超过60万英里，期间将控制权交给人类司机的次数只有124次。

　　那相当于是每行驶5000英里才“自驾脱离”（disengagement，司机因为汽车的自动化驾驶软件出问题或者出于安全原因而不得不接管汽车）一次，比2015年提升了4倍之多，且是目前为止各家公司在加州公路上的无人驾驶汽车测试的最佳表现。按照该进步速度，Waymo再过几年就将能够超过人类的驾驶安全性。如果说那些加州数据有什么启示的话，那就是像通用汽车、福特、宝马和奔驰这样的竞争对手还得追赶很长一段路。

　　Waymo目前似乎是无人驾驶汽车领域明显的领跑者，但试图直接奔向全自动化驾驶技术的策略，让该公司承受了很大的风险。要达到更高的可靠性水平——比如，从99.99%可靠到99.9999%可靠——可能要花费数年时间。在此期间，采取渐进式策略的公司可能会逐步进占市场。

　　渐进式策略的一大优势在于，它可让汽车公司收集到大量的数据，许多专家认为坐拥大量数据对于无人驾驶汽车的开发成败至关重要。Waymo的汽车在公路上的行驶里程已经超过300万英里，这为它带来了可用于完善其软件算法的原始数据。相比之下，特斯拉已经从客户的汽车收集了超过10亿英里的真实传感器数据。所有的那些额外数据都有利于特斯拉取得更多的进展来实现全自动化，进而最终赶上并超越具有先发优势的Waymo。