请选择 进入手机版 | 继续访问电脑版

新鲜西安

地方网站 [切换]
查看: 3803|回复: 17

[提车作业] 无人驾驶汽车的道德与伦理困境

[复制链接]
  • TA的每日心情
    开心
    2015-8-20 00:04
  • 签到天数: 24 天

    [LV.4]偶尔看看III

    542

    主题

    595

    帖子

    2197

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    2197
    发表于 2015-11-22 20:33:21 | 显示全部楼层 |阅读模式
    4996418310017489465.jpg

    图片来源:Bill Buchanan, Author provided


    人们每天都在做一些冒险性的决定。比如,当马路上车辆稀少时,你可能会为了抄近路直接横穿马路而不走人行天桥。当人们面对一些危险情况时,一瞬间的抉择其实蕴含了非常深刻的哲学意义。假设一个小孩突然跑到你正在疾驶的车前,此时你将方向盘向左打是深不见底的万丈深渊,向右打则有一只活泼可爱的小猫咪。你会怎样抉择?


    随着无人驾驶汽车的诞生,人类看起来似乎不再会被这样的艰难抉择困扰了。然而,目前的无人驾驶汽车仍然存在着巨大的不足和缺陷——缺少紧急、精确的超驰控制系统。这使得汽车制造商们陷入了规则系统与伦理道德的两难境地。车载电脑系统可以协助人们停车、自动控速驾驶以及掌控紧急危险情况等等,但是这也意味着无人驾驶车也同样会面临那些困扰人类的艰难抉择。


    如何在紧急交通状况中做出正确抉择?


    关于无人驾驶汽车在遭遇紧急状况时的”道德判断”,通常会有以下的标准——


    1. 根据可能出现的事故结果估算出最低伤亡数量,无论动物还是人,对待每个生命体都一视同仁。


    2. 根据可能出现的事故结果估算出最低儿童伤亡数量。


    3. 假设在一次交通事故中,1个人的风险值为10,1只小猫的风险值为4,1只小狗的风险值为2,1匹马的风险值为1。那么无人驾驶汽车需要将一次事故中每个类别的风险值加起来,取最低分数值的方案进行避险。比如,当面临”左侧是两只小猫,右侧是一群小狗”的抉择时,由于一群小狗的风险值要比两只小猫的风险值高,那么汽车就会自动选择驶向小猫,而不是小狗。

    13480548380976940674.jpg

    图片说明:为无人驾驶汽车设计的道德标准分值卡。图片来源:Bill Buchanan/Edinburgh Napier University


    那么,假如在风险值评估的过程中,车外的生命体(人和动物)得分比车内的司机和乘客得分还要高,又该怎么办呢?难道要为了拯救他人而牺牲自己吗?


    于是,法国图卢兹经济学院(Toulouse School of Economics)的科学家们进行了一项模拟实验。在研究中,研究人员通过亚马逊土耳其机器人程序( Amazon’s Mechanical Turk,亚马逊公司开发的一项新业务,该程序能为研究者,尤其是人文社会科学研究者提供较为快捷、经济的网上调研及实验平台)选取了数百名受试者。然后要求这些受试者对交通事故场景进行分析:当一辆汽车为了躲避行人,突然转向撞上一个障碍物且导致司机死亡时,旁边的行人会因此而处于安全状态吗?


    研究结果表明,大部分受试者都赞同通过设计汽车智能控制程序将交通事故造成的死亡人数降至最低,但一谈到具体细节时,他们又不是很确定了。而且大部分受试者都希望别人使用无人驾驶汽车,但是放到自己身上,这想法就没那么强烈了。人们通常会觉得为救他人而不顾自己的安危是功利主义(一种提倡追求“大多数人最大幸福”的理论)的一种本能体现,理所应当,可当假设自己是车上的司机时,他们就不会这样认为了。


    人工智能能够有效规避交通事故吗?


    近年来,人工智能逐渐成为各种科幻电影及小说的主要素材之一,如电影《终结者》为人们展示了人工智能统治人类的情景;英国左翼作家乔治-奥威尔(Orwell George)的《1984》描绘了机器人记录和分析人类所经历的每件事情;斯坦利-库布里克(Stanley Kubrick)执导的著名电影《2001环游太空》使人们看到了未来世界中人工智能的蛛丝马迹……虽然现实中人工智能的发展水平尚不足以达到虚幻场景中的这种程度,但是许多科幻小说的情节其实都是现实中主流科学技术应用的一种体现。互联网和云计算更是为人工智能技术领域的重大突破提供了巨大的发展平台,展现了人工智能对人类智慧的挑战。


    随着人工智能的发展,智能语音装置已日渐被广泛应用于日常的电子设备中。从手机到汽车,智能语音装置以其贴心周到的服务和功能为人们的日常生活带来了极大的便利。因特尔公司预测,到2020年将出现1.52亿辆“联网”汽车,预计每年会产生11 PB的数据(1PB=1024TB=250字节),相当于40000多个250G硬盘的容量。那这样的智能汽车到底有多智能呢?据因特尔公司介绍,这些智能汽车将和人类一样“聪明”。1.52亿辆智能汽车将共享相关数据,同时对数据进行分析,然后在驾驶过程中根据路况做出正确决策。

    5213258713882391728.jpg

    图片说明:因特尔公司提出的智能联网汽车。图片来源:intel.com


    人工智能的发展与应用也可能引发一些”不和谐”的问题。因此,为了保护人类,美国科幻作家艾萨克-阿西莫夫(Isaac Asimov)在1940年提出了著名的”机器人三定律”(three laws of robotics):


    1. 机器人不得伤害人类,或看到人类受到伤害而袖手旁观。


    2. 机器人必须服从人类发出的指令,但指令与第一条原则相矛盾时例外。



    3. 机器人必须保护自己,但不得与第一、第二条原则相冲突。


    这三大定律之间相互约束,对后世关于机器人作品的创作具有一定的指导意义。虽然阿西莫夫并没有解决当人类面对紧急交通状况时的两难问题,但是如今利用更强大的数据收集传感器、更多的数据收集来源以及更完善的数据处理能力,使艰难的行动抉择变成了冷静的数据分析。


    假设一辆汽车本来可以利用智能驾驶程序来避险,但是它没有,或者这辆车在对可能伤亡的生命体进行道德程序估算之后而故意撞了人,那又该怎么办呢?如果是我们在开车,那责任当然就要由我们来承担,但是无人驾驶汽车在行驶过程始终中是由智能计算机控制的,所以谁来为错误的决策买单呢?


    回复

    使用道具 举报

    该用户从未签到

    0

    主题

    777

    帖子

    1556

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1556
    发表于 2015-11-22 20:33:32 | 显示全部楼层
    什么情况,要了解一下。
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    810

    帖子

    1622

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1622
    发表于 2015-11-22 20:35:58 | 显示全部楼层
    写的挺好
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    768

    帖子

    1538

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1538
    发表于 2015-11-22 20:36:52 | 显示全部楼层
    好好 学习了 确实不错
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    793

    帖子

    1588

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1588
    发表于 2015-11-22 20:37:21 | 显示全部楼层
    楼主,辛苦了!
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    806

    帖子

    1614

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1614
    发表于 2015-11-22 20:38:34 | 显示全部楼层
    写的挺好
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    768

    帖子

    1538

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1538
    发表于 2015-11-22 20:40:11 | 显示全部楼层
    楼主,辛苦了!
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    758

    帖子

    1518

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1518
    发表于 2015-11-22 20:40:46 | 显示全部楼层
    什么情况,要了解一下。
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    722

    帖子

    1446

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1446
    发表于 2015-11-22 20:41:36 | 显示全部楼层
    路过打个酱油
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    0

    主题

    810

    帖子

    1622

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1622
    发表于 2015-11-22 20:42:54 | 显示全部楼层
    写的挺好
    回复 支持 反对

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    快速回复 返回顶部 返回列表