人工智能杀人事件

最近有两起“意外死亡事件”,特别引人注目。一则是 7/1 日发生在台湾海峡的海军误射飞弹,击中台湾渔船,夺走船长性命事件,另一则是发生在 5/7 日,于美国佛罗里达州发生的首起特斯拉自驾模式车祸死亡意外,但也同样在 7/1 日曝光。


最近有两起“意外死亡事件”,特别引人注目。一则是 7/1 日发生在台湾海峡的海军误射飞弹,击中台湾渔船,夺走船长性命事件,另一则是发生在 5/7 日,于美国佛罗里达州发生的首起特斯拉自驾模式车祸死亡意外,但也同样在 7/1 日曝光。
  
这两起事件都还有赖两地司法单位妥善调查,我也不是法官或检察官,但从我的角度来说,我认为这是两起与人工智能有关的杀人事件,而我们必须开始认真看待人工智能的伦理与法律问题。
 

人工智能杀人事件

 
在这两天,不管你关注的是哪一件意外,我想共同的问题都是:这到底是怎么发生的?先从发生在台湾的误射飞弹事件说起,在事件发生后,各种阴谋论众说纷纭。在那么夸张的事件发生后,大家都处于一头雾水,对“结论”的需求自然会酝酿出这样的故事,也算是正常能量释放的一种。大家不解的是:飞弹发射不是应该有很多关卡吗?发现是误射不是可以遥控解体吗?为什么会锁定一艘渔船?为何击中了却没有爆炸?为何一位中士就能够独力搞出这种事情?是疲劳、压力、求好心切、自认熟练而轻忽、还是军纪不彰而忽视 SOP?不管是阴谋论还是各种墨菲定律的集合体……许多说法都归因于“人”。这些说法(包括有报导指出中士本人也说自己因为担心操演最近都睡不好)倾向于将这些问题归咎在“人”身上,认为机器并没有问题。是人没有好好设计,没有好好操作。
 
也就是说,就是因为发射飞弹的过程中还有太多人为操作,而人会累、会懒、会偷鸡摸狗,所以犯了这次的错。那改善之道真的是更加倚赖人吗?美军算是世界一等一的军队了,不管是人还是科技,但误射误炸事件依旧频传,例如去年 10 月 3 日发生的昆都士医院空袭事件。
 
从这个事件来说,我们该做的反而是将更多的权限交给机器,用算法来降低人为影响,让计算机来做出更好的判断,而非加上更多道由血肉之躯裁决的关卡(或所谓的干部督导)。从减少错误、实时反应等面向来说,都该继续提高自动化程度,不是吗?除了军武科技以外,从股市交易到脸书广告,再到自动汽车,我们不都在往这条路上走吗?
 
但,若看仔细一点,这位酿祸的中士选择了作战模式–>自动程序–>发射,然后飞弹就发射了。飞弹为何为击中渔船夺命呢?并非凑巧,没有瞄准,也非刻意锁定,而是飞弹的算法让飞弹自行搜寻附近的标的,自行决定攻击对象,然后击中。
 

雄风 1 型飞弹现已退役,取而代之的雄二与雄三,具有终端导引模式。上午被误击的雄3,所输入键入的方位虽然只是操演用的假方位,事前并未锁定特定船只,但飞弹抵达相关海域后,会自动开启寻标器,由前而后、由左而右地搜索当地海域的目标,翔利升号渔船不幸遭到锁定,遭弹体贯穿,但因飞弹引信未被启动,所以没有爆炸。

 
也就是说,中士虽然选错模式,按了发射钮,但真正让飞弹击中渔船的是飞弹上的寻标器跟算法。若用凯文凯利的说法,飞弹就是带有毁灭意图的“科技体”。若今天这位中士射出的弓箭或子弹或是榴弹,在中士跟不幸的目标之间,仅存在自然定理,例如重力、风力、地球自转等等。但在这起飞弹误射事件中,人工智能(尽管初阶)是最终的决定者。更类似的案例是各种 UCAV 无人战斗航空载具,虽然都强调由人类远程实时控制,但若真的投入战争,由程控,造成伤亡,若要归咎战争罪,是该怪派出无人机的军人、程序设计师,还是人工智能呢?
 
值得对照的是,在特斯拉这起刚曝光的车祸事故中,诸多的讨论都聚焦在自动驾驶“科技”的盲点,例如虎嗅网转载这篇来自微信公众号 Robotics 的文章写到:
 

“7 月 1 日一早,特斯拉发表博客叙述了 NHTSA(美国国家公路交通安全管理局)正在着手调查第一起 Tesla 自动驾驶致死的车祸。该车祸是今年 5 月 7 日美国弗罗里达洲一位名叫 Joshua Brown 的 40 岁大哥开着一辆以自动驾驶模式行驶的 Model S 在高速公路上行驶,全速撞到一辆正在垂直横穿高速的白色拖挂卡车(如图)。”

用户喜欢...

澳大利亚墨尔本85岁老奶奶斯威本大学读博研究人工智能

中新网9月30日电 据澳洲网30日报道,大多数人到了老年,都在慢慢地享受退休生活,但来自澳大利亚墨尔本的85岁奶奶斯科特(Anne Scott)仍在学习,并成为斯威本大学最年长的博士生,向学校里的...


选择正确人工智能数据存储的6个注意事项

企业如果采用错误的存储人工智能平台可能会产生严重影响,因此需要了解可能影响产品选择和策略的6个注意事项。 人工智能和机器学习将成为帮助企业利用其核心数字资产创造竞争优势的两...


宝安:AI赋能 铸梦未来—人工智能发展论坛圆满落幕

人工智能技术自20世纪50年代出现以来,已不断渗透入市场各个行业,但回归实际,如何有效利用人工智能技术提升企业效率和竞争力,实现人工智能技术与实体经济的深度融合?如何借力人工智...


人工智能可以增强人类能力的四种方式

根据调研机构Gartner公司的调查,到2021年,全球各地的组织将通过人工智能创造将近3万亿美元的商业价值。 有些人表示,人工智能技术有朝一日可能完全取代工作场所中的人类。至少在可预见...


三星人工智能家庭机器人设计专利外观图公布:采用球形设计 可移动

三星人工智能家庭机器人设计专利外观图公布:采用球形设计 可移动 据Letsgodigital报道,近日三星一款人工智能家庭机器人设计专利外观图公布,采用球形设计,可以进行移动。 据了解,201...


任正非:历史会证明人工智能、5G将给人类创造财富

任正非和华为公司战略部总裁张文林对话美国著名计算机科学家Jerry Kaplan和英国皇家工程院院士Peter Cochrane。在对话中,主持人问到为什么人们对华为和华为所做的事情有这么多的不信任呢?对...


阿里巴巴首次公布人工智能调用规模:每天调用超1万亿次 服务全球10亿人

在今天的2019云栖大会上,阿里巴巴首次公布人工智能调用规模:每天调用超1万亿次,服务全球10亿人,日处理图像10亿张、视频120万小时、语音55万小时及自然语言5千亿句。阿里表示,其已经...


谷歌公司实施人工智能的6个步骤

一个专家团队在各种实际项目中的人工智能应用中学到了知识和经验,他们为采用人工智能的企业首席信息官提出了六个步骤的建议。 人工智能(AI)是提高人类解决问题能力的关键,但与人工智...


应用案例:大狼屋酒店的人工智能可以准确识别住客的情绪

酒店和娱乐业正在实施人工智能以扫描客人的评论,这是在重大IT现代化过程中改善客户服务的基石。 大狼屋酒店(GWL)正在使用人工智能软件,以更好地了解住客在其以冒险为主题的小屋中的体...


阿里人工智能实验室:天猫精灵销量连续两年中国第一、全球第三

阿里巴巴人工智能实验室暨天猫精灵秋季发布会今天下午举行,在发布会上宣布,天猫精灵销量连续两年中国第一、全球第三,另外精灵联盟可连接的AIoT设备达到了2.35亿台。 阿里表示,机器...


华为在伦敦开设人工智能研究实验室 谷歌英国总部就在对面

据外媒报道,华为在英国伦敦悄悄开设了一个新的人工智能研究实验室,而谷歌英国总部就在对面。 据悉,华为的这座新办公室位于伦敦的国王十字区附近的黄金地段,拥有约60名完全专注于...


华为投资类脑人工智能公司 认缴出资额约为48.56万元

天眼查数据显示,近日,深思考人工智能的运营主体深思考人工智能机器人科技(北京)有限公司发生工商变更,新增股东为哈勃科技投资有限公司,认缴出资额约为48.56万元,持股比例为3.67%。...


百度与人民日报共建人工智能媒体实验室

9月19日,百度与人民日报联合成立人工智能媒体实验室。人工智能媒体实验室将基于百度大脑的核心能力,支持与满足媒体工作中的关键操作性需求。第一期的研究方向是利用百度成熟的语音...


华为网络人工智能引擎(NAIE)正式商用发布 主要基于公有云模式

在HUAWEI CONNECT 2019期间,华为正式商用发布网络人工智能引擎(NAIE)。据了解华为网络人工智能引擎主要基于公有云模式,提供数据治理相关的数据湖服务,以及模型开发相关的模型训练等服务,...


人工智能到底能做什么 今天带你全方面了解

电子垃圾 利用人工智能和物联网实现环境可持续发展有助于最大限度地发挥当前的环境保护作用。根据英特尔2018年的一份报告,200个环保企业中有74%同意人工智能有助于解决环境问题。 每年...


人工智能统计调查:AI普及让1.2亿劳动者需要接受再培训

最近一些人工智能的健康和进展状况相关调查、研究、预测和其他定量评估凸显出重新培训员工的必要性;人工智能在8年级科学考试的评分从F提高到A;以及AI市场将在2023年达到979亿美元的预测。...