无人驾驶的问题:核心代码将由谁来控制?
来源:科技资讯 发布时间:2015-12-25 11:32:03

无人驾驶的问题:核心代码将由谁来控制?

许多汽车商都在开发无人驾驶汽车,在不久的未来,无人驾驶汽车必将进入我们的生活。在一些人兴奋地期待之时,另一些人却表示担忧。难道我们真的愿意将自己的生命交给几行代码吗?这些代码到底由谁来控制?英国《卫报》最近刊文对此问题进行探讨,下面是文章节选:

绕不开的有轨电子难题

1967年时,哲学家菲利帕.福特(Philippa Foot)曾提出一个关于有轨电子的伦理学难题:

一个疯子将5个无辜的人绑在轨道上。一辆失控的电车迎面开来,即将碾过这5个人,幸好可以拉下火车的控制杆,将它转向另一个方向。问题在于,在另一条轨道上也有1个无辜的人。拉下控制杆的确可以救下5个人,但会牺牲另外那1个人。你应该怎么做才符合伦理?

这个难题后来还演化出许多版本,比如让你选择撞死5无辜的人,或者将一个胖子推下去阻止电车前进;又比如这个胖子刚好就是将5个无辜者绑在电轨上的人,等等。

同样的,我们可以将类似的争论引入到无人驾驶汽车的讨论中来。讨论的问题可以这样概括:你的无人驾驶汽车即将与一辆巴士相撞,车上全是学生,车子意识到要么牺牲你去挽救一车的学生,要么救你而放弃那些学生,在设计程序时我们应该怎么选择呢?

借鉴iPhone模式能保证无人驾驶汽车安全吗?

我们可以换一个方式来看待这个问题:如果你想设计一辆汽车,让它在特定环境下故意谋杀司机,你如何保证司机不会修改程序让他的汽车无法故意谋杀人?

其实我们已经有了一个明显的答案,那就是借鉴iPhone模式。我们可以设计一辆汽车,只允许它安装运输部(或者制造商)提供的软件,然后制定严格的法规,谁修改软件就处以重罪。这就是目前iPhone王国推行的法规,游戏主机和许多其它设备也都这样做,它们纷纷配上数字锁,即内部人说的“DRM”(数字版权管理)。《数字千年版权法案》(Digital Millennium Copyright Act)等法律禁止人们移除数字锁,防止受版权保护的著作被盗版,如果谁胆敢发布信息帮助他人解除数字锁,同样也逃不过法律的制裁。

自动驾驶汽车程序必须对公路上高速移动的目标负责,尤其是那些脆弱的人类,这似乎是理所当然的,但它会带来一个很大的问题:在现实中根本行不通。

每个被锁定的设备都可以轻易“越狱”。早期的数字锁法规之所以制定,最主要目的并不是为了阻止人们重新配置设备,而是确保没有企业和设备帮助他们破解。给手机解锁并不是什么难事,你可以从网上轻易下载软件解锁手机,也可以让非法破解手机的企业帮你代劳。

没有制造商的允许无人可以重置自动驾驶汽车,如果说这就是确保无人驾驶汽车安全的前提条件,那么无人驾驶汽车将永远不会安全,因为总会有人能破解软件的。

不要忘了是软件就有漏洞!

即使我们可以锁定汽车的设置,它也同样不安全。数字锁会在电脑程序中占据一个特定区域,就连电脑所有者也无法进入。要让数字锁管用,它的相关文件必须连所有者都看不到。当我们命令操作系统列出数字锁所在目录的文件时,系统要掩盖或者忽略数字锁文件,以防止用户删除或者替换它。当我们命令操作系统列出所有运程程序的列表时,数字锁程序也应该被忽略,以防止用户终止程序。

不要忘了,所有的电脑都有漏洞。就算是那些使用多年的软件,它的源代码已经被无数程序员检查过,也存在微小的漏洞。汽车体格庞大,行驶速度快,它的破坏力很大,可以杀死司机及周围的人。如果软件不够安全,攻击者就可以劫持刹车、加速器或转向装置,最终导致悲剧发生。相反,如果我们设计出用户无法修改的无人驾驶汽车,将汽车使用者修改程序视为自私(比如在碰到有轨电车难题时只求自保)的行为,情况会更糟糕。

无论无人驾驶汽车有什么问题,当它将自己的乘客当成敌人时,问题会变得更严重。

执法者留下的漏洞被恐怖分子利用

在连网设备的世界里已经出现“合法拦截”,设备常常留下一些后门供警察监管,这些后门又往往成为安全威胁的根源。尽管如此,执法者仍然希望留下更多的后门。以后的自驾汽车也会留下后门,警察可以向你的车发信号,强迫它停在路边。漏洞会带来更多问题,骗子和杀人犯可以在车中内置相似功能,乘客将成为他们的“礼物”,恐怖分子也可以利用这种功能进行攻击。

问题还不只这些。城市规划者之所以关注自动驾驶汽车,主要是因为它有可能降低路上的汽车数量,将私家车转为公用分享的车,被Uber等企业控制。我们可以乘车,但车不是我们自己的,我们无法修改,上面谈的问题会变得更复杂。Uber等企业会指定第三方来修改。它们也可能会允许用户作出一些修改,比如增加用户控制的紧急刹车功能,它可能会委托给保险商管理,不用想也知道,保险商肯定不希望这样的功能出现。

让我们忘了电车吧,最终无人驾驶汽车会改变劳工关系,增加监听能力,重新分配财富!

标签: 谁来 将由 核心 无人驾驶 代码

猜你喜欢

“赋能金融,共筑安全”知虎科技2023年金融行业生

赋能金融,共筑安全知虎科技2023年金融行业生态大会于5月18日在上海静安喜来登大酒店7楼会议大厅隆...更多

2023-05-18 21:28:11

2023电信日|思特奇以科技创新为翼,携手运营商数

2023年517世界电信日主题是通过信息通信技术增强最不发达国家的能力。据悉,全球27亿没有接入互联网...更多

2023-05-17 16:03:35

数字中国建设峰会 | 思特奇:构筑数字经济生态

4月27日,以汇聚数据资源 赋能数字经济为主题的数字中国建设峰会数据资源论坛在福州海峡国际会展中...更多

2023-05-05 16:06:03

CCBN2023丨思特奇以技术创新为指引 携手中国广电

科技创新浪潮驱动下,中国广电正着力推进有线电视网络整合和广电5G建设一体化发展,并向数字经济、...更多

2023-04-23 12:06:44

CCBN2023 | 思特奇伍鑫:5G+端到端IT支撑,助力

4月19日,在第29届中国国际广播电视信息网络展览会(CCBN2023)展会上,北京思特奇信息技术股份有限公...更多

2023-04-21 13:31:32

CCBN2023|融创5G新时代!思特奇亮相第二十九届中

4月19-21日,第二十九届中国国际广播电视信息网络展览会(CCBN2023)在北京首钢会展中心隆重召开。...更多

2023-04-20 11:17:03

新品发布 | 护航数智新时代 中国中小企业协会

2023年4月8日,由国家发展和改革委员会、工业和信息化部、辽宁省人民政府指导,中国中小企业协会、...更多

2023-04-11 10:49:43

以生态促发展 共赢数字经济 | 思特奇亮相2023

4月8-9日,2023中国·辽宁专精特新中小企业博览会在沈阳全球工业互联网大会会议中心隆重举行。作为...更多

2023-04-10 15:14:45

融合创新 数字赋能 | 思特奇与您相约CCBN2023

2023年4月19-21日,第二十九届中国国际广播电视信息网络展览会(CCBN2023)将在北京首钢会展中心盛...更多

2023-04-04 11:11:58

数智赋能产业升级 | 思特奇邀您莅临2023中国·

4月8-9日,由辽宁省人民政府指导,中国中小企业协会、辽宁省工业和信息化厅、沈阳市人民政府主办的2...更多

2023-04-03 12:44:51