人工智能就是网络安全的未来

它既是问题又是解答。

人工智能就是网络安全的未来

 
 
它既是问题又是解答。
 
不久的将来,随着人工智能系统变得能力更强,我们会开始看到更多自动化与日益精密的社交工程攻击(social engineering attack,编按:通常是指利用小技巧来操弄人们的心理,以骗取对方的数据)。人工智能驱动的网络攻击崛起,预料会造成大量出现网络渗透、个人资料窃取,以及智能型计算机病毒迅速扩散等现象。讽刺的是,我们若要防御人工智能驱动的黑客攻击,最佳希望也寄托在使用人工智能上。但这非常有可能导致人工智能的军备竞赛,就长期来说,这造成的后果可能非常棘手,特别是当政府重大机构也加入了网络战争。
 
我的研究领域介于人工智能与网络安全的交会处。其中我特别专注研究,如何不让人工智能系统沦为不良行为的受害者,以及如何不让民众受到失败或恶意的人工智能所伤害。这项工作落在更广大的人工智能安全架构下,尝试创造有杰出能力,同时又是安全且有益的人工智能。
 
目前已有许多文章探讨可能伴随“真正的人工智能”而来的诸多问题,有可能是来自这类发明造成的直接冲击,也可能是程序设计人员失误导致的影响。然而,科学文献对恶意设计与人工智能黑客攻击的探讨明显不足。我们可以这么说,有关恶意的智慧所造成的危险,任何事都是可能的。根据博斯特伦(Bostrom)的正交理论(orthogonality thesis),人工智能系统可能会出现各种智能程度和目标的组合。这些目标,可透过最初的设计或透过黑客入侵来导入,也可以在之后才导入,也就是以现成的软件来“轻松新增自己的目标”。结果就是,人工智能系统可能尝试造成前所未见的破坏,或者,这样的破坏是受到过往事件的启发,而这些都取决于人工智能系统执行的是谁的命令,下指令的人可能是政府、企业、反社会人士、独裁者、军事工业复合体、恐怖分子等。
 
即使是今日,人工智能可以用来防卫、也可以攻击网络基础设施,并且能增加黑客可锁定的攻击面,也就是黑客有多少个方式可选择用来侵入某个系统。我预期,未来随着人工智能能力的提升,它们将达到、进而超越人类在各个领域的表现水平,我们已陆续在各种游戏如西洋棋和围棋,目睹这样的情况上演,同时,这现象也出现在重要的人类工作中,像是投资和驾驶。对企业领导人来说,重要的是要了解,未来的情况与现在关注的事项有什么差异,以及该如何因应。
 
如果今日某个网络安全系统出错,造成的损害可能让人感到不愉快,但大部分的情况都还可以容忍,例如可能有人损失金钱或隐私。但就人类层级以上的人工智能来说,后果恐怕不堪设想。人工超级智能(superintelligent AI, SAI)系统的单一错误,恐怕就会造成生存风险事件,也就是可能破坏全球人类的事件。这种风险很严重,因为事实显示,全球科技和物理界最聪明的人士,包括史帝芬.霍金(Stephen Hawking)、比尔.盖兹(Bill Gates)、伊隆.马斯克(Elon Musk),都曾担忧人工智能有可能演进到人类无法掌控的地步。
 
当今日的一个网络系统出错,通常还有机会修正,或是至少在下一回做得更好。但在人工超级智能安全系统下,失败或成功是完全不同的两回事。你要不就是有一套安全、可控制的人工超级智慧,要不就是没有。一般来说,网络安全的目标,是减少成功攻击单一系统的次数;相反地,人工超级智能的目标,是要确保没有攻击能成功避开已运行的安全机制。特别是脑机接口(brain computer interface)的崛起,会为人类黑客与人工智能黑客,创造梦幻的攻击目标。脑机界面已不再那么遥不可及,它们已应用在医疗装置和游戏上了。如果成功侵入脑机接口,盗取的不只是关键信息,像是身分证字号或银行账号,还有我们内心深处的梦想、喜好和秘密。这可能会对个人隐私、言论自由、平等机会和各种人权,造成空前的新危机。
 
有人建议,企业领导人应熟悉最尖端的人工智能安全与安全研究,可惜,目前这些研究的情况与1990年代的网络安全状态类似,也类似当前物联网(Internet of Things)欠缺安全的状况。领导人掌握更多知识,就能合理考虑,如何为自己的产品或服务添加人工智能,才能强化用户体验,同时,也能衡量让用户面临额外数据外泄与可能危险的潜在成本。聘请专门的人工智能安全专家,可能是重要的下一步,因为大部分网络安全专家,都没有接受过预期或防止人工智能系统受攻击的训练。我期待,持续进行的研究,会提出新的解决方案,以便安全地让人工智能纳入市场。(刘纯佑译)










用户喜欢...

澳大利亚墨尔本85岁老奶奶斯威本大学读博研究人工智能

中新网9月30日电 据澳洲网30日报道,大多数人到了老年,都在慢慢地享受退休生活,但来自澳大利亚墨尔本的85岁奶奶斯科特(Anne Scott)仍在学习,并成为斯威本大学最年长的博士生,向学校里的...


食品加工过程浪费太大 日企想用AI技术减少一点

9月30日消息,据国外媒体报道,日本企业正利用人工智能和大数据减少食品生产环节的浪费问题。 根据一项将于10月1日生效的法律,日本地方政府将制定减少食品浪费的行动计划,寻求企业部...


世界名画暗藏玄机?AI可发现梵高画作中的隐藏作品

科学家们发明了一种人工智能算法来从画作的X光片识别早前的画像,从而发现戈雅、梵高和凡艾克等名家的隐藏作品。 艺术馆管理员和艺术历史学家经常扫描艺术品,因为许多大师级画家重复...


选择正确人工智能数据存储的6个注意事项

企业如果采用错误的存储人工智能平台可能会产生严重影响,因此需要了解可能影响产品选择和策略的6个注意事项。 人工智能和机器学习将成为帮助企业利用其核心数字资产创造竞争优势的两...


宝安:AI赋能 铸梦未来—人工智能发展论坛圆满落幕

人工智能技术自20世纪50年代出现以来,已不断渗透入市场各个行业,但回归实际,如何有效利用人工智能技术提升企业效率和竞争力,实现人工智能技术与实体经济的深度融合?如何借力人工智...


微信支付推出海外首个AI跨境智慧缴费小程序“Billax必付通”

微信支付官方表示,微信支付推出了海外首个AI跨境智慧缴费小程序Billax必付通,正式迈入澳洲的民生领域,把小程序变成扫码枪,账单再多,AI识别一键缴纳,还可享受优惠汇率。 Billax必付通...


人工智能可以增强人类能力的四种方式

根据调研机构Gartner公司的调查,到2021年,全球各地的组织将通过人工智能创造将近3万亿美元的商业价值。 有些人表示,人工智能技术有朝一日可能完全取代工作场所中的人类。至少在可预见...


提前18个月预测厄尔尼诺现象 AI精准度高达74%

自然界存在着很多神奇的现象,我们可以坐看大海的潮起潮落;我们期待见到流星许个愿望;我们被美丽的极光深深的吸引着。然而有些自然现象是毁灭性的,比如这篇文章提到的厄尔尼诺现象。...


亚马逊与腾讯等达成AI合作 共组语音互操作性联盟

9月27日下午消息,亚马逊宣布将联手腾讯在内的多家科技公司,共同成立语音互操作性联盟(VII),以期让具备语音控制能力的产品更具灵活性。 据了解,语音互操作性联盟将会着力打造在同一...


三星人工智能家庭机器人设计专利外观图公布:采用球形设计 可移动

三星人工智能家庭机器人设计专利外观图公布:采用球形设计 可移动 据Letsgodigital报道,近日三星一款人工智能家庭机器人设计专利外观图公布,采用球形设计,可以进行移动。 据了解,201...


余承东:麒麟990在硬件算力、定点能力等AI性能方面超过苹果A13芯片

9月26日下午消息,华为今日在国内发布了Mate30系列。 华为消费者业务CEO余承东在会上将麒麟990芯片与苹果的A13芯片做对比。他援引中国电信2019年终端洞察报告的数据称,麒麟990芯片在硬件算力...


任正非:历史会证明人工智能、5G将给人类创造财富

任正非和华为公司战略部总裁张文林对话美国著名计算机科学家Jerry Kaplan和英国皇家工程院院士Peter Cochrane。在对话中,主持人问到为什么人们对华为和华为所做的事情有这么多的不信任呢?对...


阿里巴巴首次公布人工智能调用规模:每天调用超1万亿次 服务全球10亿人

在今天的2019云栖大会上,阿里巴巴首次公布人工智能调用规模:每天调用超1万亿次,服务全球10亿人,日处理图像10亿张、视频120万小时、语音55万小时及自然语言5千亿句。阿里表示,其已经...


谷歌公司实施人工智能的6个步骤

一个专家团队在各种实际项目中的人工智能应用中学到了知识和经验,他们为采用人工智能的企业首席信息官提出了六个步骤的建议。 人工智能(AI)是提高人类解决问题能力的关键,但与人工智...


应用案例:大狼屋酒店的人工智能可以准确识别住客的情绪

酒店和娱乐业正在实施人工智能以扫描客人的评论,这是在重大IT现代化过程中改善客户服务的基石。 大狼屋酒店(GWL)正在使用人工智能软件,以更好地了解住客在其以冒险为主题的小屋中的体...


阿里人工智能实验室:天猫精灵销量连续两年中国第一、全球第三

阿里巴巴人工智能实验室暨天猫精灵秋季发布会今天下午举行,在发布会上宣布,天猫精灵销量连续两年中国第一、全球第三,另外精灵联盟可连接的AIoT设备达到了2.35亿台。 阿里表示,机器...