自动驾驶汽车和飞机的安全性问题

摘要: 研究人员表明，随着计算机驱动的汽车和飞机变得越来越普遍，预防事故的关键是知道您不知道的事物。

自动驾驶汽车和飞机的安全性问题

自动驾驶汽车和飞机已经不再是未来的事物。仅在旧金山市，两家出租车公司通过2023年8月已经累计行驶了800万英里的自动驾驶里程。而在美国，已经有超过85万辆无人机注册，不包括军方拥有的无人机。

然而，人们对安全性存在合理的担忧。例如，在截至2022年5月的10个月内，美国国家公路交通安全管理局报告了近400起涉及使用某种形式的自动控制的汽车的事故。这些事故导致6人死亡，5人受重伤。

通常解决这个问题的方法是通过“测试到极限”的方式，即不断测试这些系统，直到确定它们安全为止。然而，你永远无法确定这个过程是否能发现所有潜在的缺陷。伊利诺伊大学厄巴纳-香槟分校的计算机科学家Sayan Mitra表示：“人们会一直测试，直到耗尽资源和耐心。”然而，仅仅依靠测试是无法提供保证的。

Mitra及其团队可以提供保证。他的团队已经成功证明了车辆的车道跟踪能力和无人机的降落系统的安全性。他们的策略现在正在被用于帮助无人机在航空母舰上降落，波音计划今年在一架试验飞机上进行测试。卡内基梅隆大学和美国国家航空航天局的研究科学家Corina Pasareanu表示：“他们提供端到端的安全保证的方法非常重要。”

他们的工作涉及保证用于自动驾驶车辆的机器学习算法的结果的可靠性。在高层次上，许多自动驾驶车辆有两个组成部分：感知系统和控制系统。感知系统告诉你，例如，你的车离车道中心有多远，或者飞机的飞行方向和与水平线的角度。该系统通过将来自摄像头和其他传感工具的原始数据输入基于神经网络的机器学习算法来重新创建车辆外部环境。

这些评估结果随后被发送到一个单独的系统，即控制模块，该模块决定要采取什么行动。例如，如果有即将出现的障碍物，它会决定是刹车还是绕过障碍物。麻省理工学院的副教授Luca Carlone表示，虽然控制模块依赖于成熟的技术，“但它是根据感知结果做出决策的，而不能保证这些结果是正确的。”

为了提供安全保证，Mitra的团队致力于确保车辆的感知系统的可靠性。他们首先假设当车辆外部世界的完美渲染可用时，可以保证安全性。然后，他们确定感知系统在重新创建车辆周围环境时引入了多少误差。

这种策略的关键是量化涉及的不确定性，即误差范围，或者正如Mitra所说的“已知的未知”。这个计算来自他和他的团队所称的感知合同。在软件工程中，合同是对于给定的计算机程序输入，输出将落在指定范围内的承诺。确定这个范围并不容易。车辆的传感器有多准确？无人机能够容忍多少雾、雨或者太阳光的干扰？但是，如果你能将车辆保持在一个指定的不确定性范围内，并且确定该范围的确定性足够准确，Mitra的团队证明你可以确保其安全性。