一场200多万人的测试,教会自动驾驶车辆如何“救人”

到2020年,预计将有多达1000万辆自动驾驶汽车上路,届时,它们将面临艰难的抉择。可以理解的是,建立一个能够解决经典“电车问题”的决策系统相对紧迫。

到2020年,预计将有多达1000万辆自动驾驶汽车上路,届时,它们将面临艰难的抉择。可以理解的是,建立一个能够解决经典“电车问题”的决策系统相对紧迫。在这个问题中,一个人(或电脑,视情况而定)被迫决定是否要牺牲几个人的生命来换取一个人的生命。

令人鼓舞的是,科学家们已经开始为此奠定基础。

麻省理工学院近日发表的一篇新论文,分析了“道德机器”的在线测试的结果,任务要求受访者在虚构的驾驶场景做出道德选择。来自两百多个国家和地区的200多万受访者最终解决了9个可怕的难题,其中包括杀害行人或横穿马路者、年轻人或老年人以及女性或男性。

一些调查结果并不令人惊讶。总的来说,参与调查的人表示,他们希望挽救更多的生命,人类优于动物,儿童优于成年人。

一些汽车制造商和政府机构一直提倡自动驾驶汽车将比人工驾驶更加安全,然而实验中“民意的表现”却与这个安全承诺正好相悖:人们选择让自动驾驶汽车撞向路障,牺牲乘客而拯救路人。

但并非所有趋势都跨越了地理、种族和社会经济的界限。

来自欠发达国家的人,特别是那些人均GDP较低的国家的人,不太可能像那些拥有强大的公民机构的工业化国家的人那样撞上横穿马路者。

与此同时,亚洲和中东地区的居民,比如中国、日本和沙特阿拉伯等国家,比较倾向于拯救年长的行人,而北美和欧洲的调查对象更倾向于拯救富人。研究人员将其归因于集体主义心态。

当然,这项研究并不是福音真理。因为道德机器测验是自我选择的,其问题是以二元的、人为的方式提出的,每个结果都会导致人或动物的死亡。其意义旨在促进讨论。

研究人员之一的Lin表示:“这些测试去掉了混乱的变量,集中在我们感兴趣的特定变量上。这从根本上说是一个道德问题。”

麻省理工学院媒体实验室副教授Iyad Rahwan对此表示:“如果我们不能理解这些心理障碍并通过法规和公共宣传来将之解决,我们就有可能葬送整个行业。”

即使是最复杂的人工智能系统也远不能像人类那样进行推理,但有些人正为此不断努力。

去年4月,英特尔以153亿美元的价格收购了以色列特拉维夫的Mobileye。该公司去年10月在韩国首尔举行的世界知识论坛(World Knowledge Forum)上,就该问题提出了一个解决方案——责任敏感安全(RSS)。在随附的白皮书中,英特尔将其描述为一种“常识”的道路决策方法,用于在路上进行决策,编写良好的习惯,,例如保持安全的跟车距离并为其他车辆提供优先通行权。

“分配故障的能力是关键。就像世界上最好的人类驾驶员一样,自动驾驶汽车也无法避免因无法控制的行为而导致的事故,”Mobileye首席执行官兼英特尔高级副总裁Amnon Shashua去年在一份声明中表示。“但最负责任、最警觉、最谨慎的驾驶员不太可能发生事故,尤其是在他们拥有360度视野和快递反应时间的情况下。你可以将其看作是自动驾驶车辆。”

谷歌也进行了相关实验。2014年,谷歌无人车之父Sebastian Thrun表示,在发生车祸时,自动驾驶汽车将选择与两个较小的物体碰撞。两年后,前谷歌无人车负责人、Aurora Innovation联合创始人兼CEO Chris Urmson表示,他们将“尽最大努力避免撞到无保护的道路使用者:骑自行车的人和行人。”

美国国防高级研究计划局(DARPA)正在研究模拟认知核心领域的计算模型:物体(直觉物理学)、地点(空间导航)和代理(演员),作为其机器常识项目的一部分。

立法可能会迫使这些系统快速发展。德国在去年成为第一个为自动驾驶汽车的决策提出指导方针的国家,建议对所有人类生命一视同仁。欧洲正在制定自己的政策,它可能会通过认证计划或立法来执行。在美国,国会已经为潜在监管制定了公共原则。

无论如何,汽车制造商都有自己的工作要做。涉及自动驾驶汽车的相关事故降低了公众对该技术的信心;今年夏天,布鲁金斯学会(Brookings Institution)、智库HNTB和公路和汽车安全倡议组织(AHAS)进行的三项独立研究发现,大多数人不相信自动驾驶汽车的安全性。超过60%的人表示,他们“不倾向”乘坐自动驾驶汽车,近70%的人表示“担心”与他们分享道路。

阅读:

精彩评论:

推荐文章RECOMMEND

订阅 "华为电商" 频道, 观看更多华为电商精彩文章