召唤恶魔!人工智能恐毁灭人类?

目前,人工智能仍然不断进击。上个月初,媒体爆料脸书在进行人工智能测试时,赫然发现聊天机器人没有按照原先输入的内容对话,竟然“自创语言”彼此沟通。

召唤恶魔!人工智能恐毁灭人类?

 
 
今年五月,人类与人工智能的围棋大战以AlphaGo大获全胜告终。赛后棋王柯洁哽咽着说:“AlphaGo太完美,我很痛苦,看不到任何胜利的希望。”
 
在李世石、柯洁相继落败之后,AlphaGo证明了在围棋这个领域,人类已经不是人工智能的对手。这也激发了一连串关于人工智能的讨论。
 
目前,人工智能仍然不断进击。上个月初,媒体爆料脸书在进行人工智能测试时,赫然发现聊天机器人没有按照原先输入的内容对话,竟然“自创语言”彼此沟通。
 
“我能我我其它一切,”AI鲍勃(Bob)说。
 
AI艾丽斯(Alice)回答:“球是零对我来说对我来说我对我来说对我来说对。”
 
脸书研发人员发现后,立即关闭这项人工智能型(AI)语言程序……为何AI间会自创沟通语言,目前还没有定论,虽然脸书后来澄清说并没因害怕而终止实验,并说学界早已了解AI会为了更快接收讯息并解决难题而自创语言。
 
针对这股AI潮流,电动车先驱特斯拉(Telsa)执行官马斯克(Elon Musk)最近不断提出警告。他认为发展具有一般人类智能的AI,等于是“召唤恶魔”,越来越厉害的超级计算机,有朝一日可能会控制信息并发动战争,危及人类文明存亡,是比北韩还要严重的威胁。
 
依赖人工智能 已成人类现实课题
 
马斯克说,一旦人们了解人工智能的真实情况,人类将会感到极度恐惧,且应该恐惧。他建议政府应该立刻立法规范AI的发展──“没有人喜欢被规范,但是任何可能造成公众危险的事物,包含汽车、飞机、食物与药物都有规则管制,AI也应该如此。”
 
不只马斯克,包括比尔盖兹、物理学大师霍金都曾警告,人工智能可能有可怕后果,甚至导致人类的终结。一旦人工智能机器人意识到,可以与同类相互联系、合作,或把人类视为“威胁”或是“浪费资源的存在”,都会为人类带来灭顶之灾。
 
事实上,人类一直都对人工智能感到戒慎恐惧。我们的电影作品中也一直出现人工智能反叛人类的永恒命题,代表作像是《复仇者联盟二:奥创纪元》、《X战警:未来昔日》、《黑客任务》、《魔鬼终结者》等等,那么,机器人反抗人类,甚至控制人类、毁灭人类的情节真的可能发生吗?
 
回顾历史,现代人类的科学文明是从十八世纪末、十九世纪初西方工业革命开始,以科学逻辑为基础发展而来。然而,现在谈到逻辑、理性,有谁能比AI还高明呢?
 
而且正因为我们下意识就认定人工智能比人类优秀,因为它们按照既定的程序逻辑运作,理论上应该不会出错…所以现在警察依据数据库办案、海关人员根据计算机数据审核出入境,当活生生的人出现在我们面前抗辩时,只要他说的情况与计算机讯息不一样,我们就会直接认定是眼前的人错了;这么说来,我们人类被人工智能“统治”早已经变成一个现实问题。
 
人工智能消灭人性
 
人类最可贵的地方就是独特的人性,而且每个人的性格都十分特别,交织成超越科学逻辑的人类社会运作方式。例如在东方,我们讲“情、理、法”,法律也要考虑“理”与“情”,所以有“法律不外乎人情”的诫命。是呀,如果理性、逻辑、法则可以驾驭一切,那人类可自由发挥的空间就越发限缩,最终社会将变得冷冰冰的,不再有人情温暖与人文创意。
 
特别是人工智能受限于程序特性,本来就倾向用非人的方法达成目标,要它学习人类的同理心、善良、温暖特质,确实十分困难。所以在人工智能的统治之下,“人性”可说注定会被消灭。
 
最后,笔者想到,我们的计算机其实常常发生不明状况,所以大家才流行在主机上放乖乖呀。这么说来,计算机系统发生问题其实根本就是另类的“常态”,那么谁敢保证人工智能不会发生问题呢?而且如果是“强人工智能”,就是有能力和一般人一样思考的AI,它如果故障,或发生短路,谁能保证它不会觉得自己比人类厉害,可以消灭人类取而代之呢?














用户喜欢...

ARM在AI中受到攻击

用于加速客户端机器学习任务的近十多种处理器内核正在竞争SoC中的一些点,其中一些已经被设计用于智能手机。他们的目标是比处理器IP巨人Arm更快地获得市场优势,预计将很快宣布它自己的...


Qualcomm将人工智能和视觉处理带入物联网

高通在2017财年超过10亿美元的物联网收入后,宣布为物联网应用专门构建新的产品系列。该公司最初宣布推出一系列IoT芯片组,QCS603和QCS605,以及软件和参考设计,这些都被称为高通视觉智能平...


布局AI生态 推动人机交互深度变革

全球人机界面交互技术领先厂商Synaptics尤具代表性。一项数据表明,目前Synaptics的主要收入来自PC和手机市场,一个占88%,一个占12%。 随着全球PC市场的持续走衰和智能手机市场的高度饱和,...


联发科技将AI推向边缘

联发科技在消费电子展上展示了其后智能手机时代的准备工作,进入数个新领域,包括用于数据交换芯片,汽车和边缘设备的AI处理器。 联发科首席财务官David Ku谈到计划将一定的AI功能带到包...


AI是5G网络下最好的伙伴或者说是最好的加速器

随着通信技术的发展,我们正在从4G时代向5G时代过渡。5G技术将会如何改变人们的工作生活成为行业和大众关注的焦点。美国当地时间1月10日,百度集团总裁兼COO出席CES 5G Panel,与来自高通和...


日本加速推动人工智能(AI)+物联网(IoT) 摸索制造业未来走向

全球制造业导入人工智能(AI)、物联网(IoT)等技术,激荡出AIoT(AI+IoT)新发展,逐渐改变了既有的商业模式,在日本东京...


2018年人工智能还有这五大棘手问题待攻克

在所有关于杀手机器人的高调宣传下,2017年在人工智能方面取得了一些显著的进步。例如,今年初名为Libratus(冷扑大...


无人驾驶车离现实还有多远?

无人驾驶技术需要达到99.9999999999%的准确度才可能达到真正普及的条件,这似乎是一段不算短的路。...


人工智能也有负能量,我们得提前做好准备

最近几天,各种对2018年的科技预测层出不穷,其中对AI的畅想占了大头,内容差不多是一片喜庆祥和。 但事有两来,当我们开始从AI中收获价值的时候,技术升级后带来的潜在风险也在升温。...


推荐 10 个饱受好评且功能独特的开源人工智能项目

关于人工智能的项目,相信大家都看过或者用过不少了,但它们的大多数看上去都十分“高大上”,让人感觉要掌握他们犹如习屠龙之术一样。事实上,有很多关于人工智能的项目还是十分实...


AI和大数据2017“成长的烦恼”

人工智能和大数据在2017年的发展遇到了以下10个成长的烦恼: 1.人工智能无IQ标准 人工智能领域发展最好的一个领域是无人驾驶,而究其原因不外乎其拥有了从L0到L5的全球通用标准。但是在...


中国电信发布智能音箱,智能家居语音通道正式开启

随着语音交互技术及人工智能的不断发展,应用场景从语音助手、智能音箱等方面加速扩围。2014年11月,亚马逊推出...


透视CES 2018:Segway-Ninebot携黑科技产品将再次亮相

CES 2018国际消费电子展将在美国拉斯维加斯正式拉开帷幕。全球智能短交通和服务类机器人领域的领军企业 -- Segway-...


给AI换个“大动力小心脏”之OCR异构加速

OCR在通用文字识别等场景下有广泛应用,基于FPGA异构加速的OCR识别相比CPU/GPU实现具有延时小、成本低的优势。我们设计了多FPGA芯片协同的异构加速架构,能快速适配业务OCR模型变化,检测识...


机器换人趋势不可阻挡 人类该如何应对

11月30日消息,目前,世界上的许多国家都在被一个问题困扰——如何照看越来越多的老人。看护机器人是一款专门为...


中远智信CEO陈虎:智能家居的伪智能正在向人工智能进化

智能家居的发展有近20多年的历史,在过去的2017年,随着智能化产业进入新的市场格局,智能家居有望成为市场下一...