如何消除人工智能邪恶化的危险

  随着越来越多的个人、政府、企业将人工智能技术视为一种邪恶,很明显人们需要指标来确保人工智能是一个良好“公民”。

  那么如何衡量人工智能应用程序中的“邪恶”?

  这可能听起来像一个滑稽的问题,但人们应该问一下自己,将“邪恶”这个词应用于任何一个应用程序意味着什么。而且,如果“邪恶的人工智能”是应该避免的结果,那么可以了解一下如何对其进行衡量,以便能够证明它不存在于交付的工作产品中。

  显然,这对人们来说纯粹是一个实验,但只要仔细阅读人工智能行业最近的新闻,就会感觉这个话题的严肃性。具体来说,人们注意到MLPerf公司最近发布了用于人工智能推理和培训的最新版本的基准测试套件。MLPerf公司是由40个人工智能平台供应商组成的集团,其中包括硬件、软件、云计算服务提供商。

  作为一个明确的标志,其标准基准测试正在人工智能供应商中获得相当大的吸引力,一些厂商开始公布他们的平台技术在这些套件下的比较情况。例如,谷歌云声称其用于自然语言处理和目标检测的TPU Pod在最新的MLPerf基准测试赛中打破了人工智能模型训练的记录。尽管只是在速度上发布基准数字,换句话说,缩短训练特定人工智能模型以获得特定结果所需的时间,但在未来某个不确定的时刻,可以记录TPU Pod技术在支持这些工作负载方面所带来的规模提升和成本降低。

  这其中没有什么本质上的“邪恶”,但它更多的是人工智能运行时执行的基准,而不是人工智能的潜在疯狂。考虑到这项技术目前在社会上所面临的疑惑,有必要衡量任何特定的人工智能举措可能侵犯隐私、对弱势群体造成社会经济偏见以及从事其他不利行为的可能性。

  这些“邪恶的人工智能” 指标将更多地应用于整个人工智能DevOps管道,而不是任何特定的可交付应用程序。将人工智能中的“邪恶”值进行基准测试应该归结为按照以下方式对相关的DevOps进程进行评分:

  •数据敏感性:人工智能倡议是否在人工智能应用程序中对个人身份信息的访问、使用和建模采用了一系列符合法规的控制措施?

  •模型可变性:人工智能开发人员是否考虑了依赖特定人工智能算法或模型(如面部识别)的下游风险,这些算法或模型的预期良性使用(如验证用户登录)也可能在“双重用途”场景中得到滥用。

  •算法问责制:AI DevOps流程是否使用不可变审计日志进行检测,以确保能够查看用于构建、培训、部署、管理符合道德标准的应用程序的每个数据元素、模型变量、开发任务和操作流程?开发人员是否制定了程序,以确保每个AI DevOps任务、中间工作产品和可交付应用程序在与相关道德约束或目标的相关性方面都能以简单语言进行解释?

  •质量保证检查点:AI DevOps流程中是否有质量控制检查点,在这些流程中进行进一步的审查,以验证是否存在可能破坏道德目标的隐藏漏洞,如有偏见的二阶特征相关性。

  •开发人员的同理心:人工智能开发者如何彻底地将主题专家、用户和利益相关者的道德相关反馈考虑到围绕人工智能应用程序迭代开发的协作、测试和评估过程中?

  如果这些基准定期发布,人工智能社区将大大减少该技术对社会潜在不利影响的数量。如果没有对人工智能的DevOps过程中可能蔓延的“邪恶”数量进行基准测试,可能会加剧以下趋势:

  监管范围过大:人工智能经常作为一种必要的邪恶进入公共政策讨论。以这种方式接近这一主题往往会增加政府制定严厉规定的可能性,从而影响许多其他有前途的“双重用途”人工智能举措。拥有明确的清单或人工智能实践记分卡可能正是监管机构需要知道推荐或禁止的内容。如果不存在这样的基准框架,那么从社会角度来看,当行业认证计划等替代方法可能成为最有效的人工智能风险缓解制度时,纳税人可能不得不承担大量减少人工智能应用程序的责任和代价。

  企业变得虚伪:许多企业设立了“人工智能道德”委员会,向开发人员和其他业务职能部门提供高级指导。对于人工智能开发者来说,忽视这类指导并不罕见,尤其是如果人工智能是企业展示营销、客户服务、销售和其他数字业务流程结果的秘诀。那么这种状况可能会影响企业致力于减轻人工智能负面影响的诚意。拥有人工智能道德优化基准可能正是企业在其人工智能开发实践中建立有效的道德护栏所需要的措施。

  员工感到沮丧:一些才华横溢的开发人员如果认为人工智能将可能导致社会道德滑坡,他们可能不愿意参与人工智能项目。如果企业中有一种人工智能持不同意见的文化,它可能会削弱其维持卓越中心和探索技术创新应用的能力。将人工智能实践计分卡与广为接受的企业公民计划相结合,可能有助于缓解这种担忧,从而鼓励新一代开发人员贡献他们的最佳工作,而不感到他们在为邪恶的目标服务。

  妖魔化人工智能的危险与利用技术实现邪恶目的的危险一样真实。如果没有那样“良好的人工智能”基准,那么企业可能无法从这套颠覆性的工具、平台和方法中获得最大价值。

  如果毫无根据的怀疑阻止整个社会利用人工智能的承诺,那么我们都会变得更穷。

  如果没有根据的怀疑阻止社会利用人工智能的承诺,那么人们的工作和生活都会受到不良的影响。

用户喜欢...

澳大利亚墨尔本85岁老奶奶斯威本大学读博研究人工智能

中新网9月30日电 据澳洲网30日报道,大多数人到了老年,都在慢慢地享受退休生活,但来自澳大利亚墨尔本的85岁奶奶斯科特(Anne Scott)仍在学习,并成为斯威本大学最年长的博士生,向学校里的...


选择正确人工智能数据存储的6个注意事项

企业如果采用错误的存储人工智能平台可能会产生严重影响,因此需要了解可能影响产品选择和策略的6个注意事项。 人工智能和机器学习将成为帮助企业利用其核心数字资产创造竞争优势的两...


宝安:AI赋能 铸梦未来—人工智能发展论坛圆满落幕

人工智能技术自20世纪50年代出现以来,已不断渗透入市场各个行业,但回归实际,如何有效利用人工智能技术提升企业效率和竞争力,实现人工智能技术与实体经济的深度融合?如何借力人工智...


人工智能可以增强人类能力的四种方式

根据调研机构Gartner公司的调查,到2021年,全球各地的组织将通过人工智能创造将近3万亿美元的商业价值。 有些人表示,人工智能技术有朝一日可能完全取代工作场所中的人类。至少在可预见...


三星人工智能家庭机器人设计专利外观图公布:采用球形设计 可移动

三星人工智能家庭机器人设计专利外观图公布:采用球形设计 可移动 据Letsgodigital报道,近日三星一款人工智能家庭机器人设计专利外观图公布,采用球形设计,可以进行移动。 据了解,201...


任正非:历史会证明人工智能、5G将给人类创造财富

任正非和华为公司战略部总裁张文林对话美国著名计算机科学家Jerry Kaplan和英国皇家工程院院士Peter Cochrane。在对话中,主持人问到为什么人们对华为和华为所做的事情有这么多的不信任呢?对...


阿里巴巴首次公布人工智能调用规模:每天调用超1万亿次 服务全球10亿人

在今天的2019云栖大会上,阿里巴巴首次公布人工智能调用规模:每天调用超1万亿次,服务全球10亿人,日处理图像10亿张、视频120万小时、语音55万小时及自然语言5千亿句。阿里表示,其已经...


谷歌公司实施人工智能的6个步骤

一个专家团队在各种实际项目中的人工智能应用中学到了知识和经验,他们为采用人工智能的企业首席信息官提出了六个步骤的建议。 人工智能(AI)是提高人类解决问题能力的关键,但与人工智...


应用案例:大狼屋酒店的人工智能可以准确识别住客的情绪

酒店和娱乐业正在实施人工智能以扫描客人的评论,这是在重大IT现代化过程中改善客户服务的基石。 大狼屋酒店(GWL)正在使用人工智能软件,以更好地了解住客在其以冒险为主题的小屋中的体...


阿里人工智能实验室:天猫精灵销量连续两年中国第一、全球第三

阿里巴巴人工智能实验室暨天猫精灵秋季发布会今天下午举行,在发布会上宣布,天猫精灵销量连续两年中国第一、全球第三,另外精灵联盟可连接的AIoT设备达到了2.35亿台。 阿里表示,机器...


华为在伦敦开设人工智能研究实验室 谷歌英国总部就在对面

据外媒报道,华为在英国伦敦悄悄开设了一个新的人工智能研究实验室,而谷歌英国总部就在对面。 据悉,华为的这座新办公室位于伦敦的国王十字区附近的黄金地段,拥有约60名完全专注于...


华为投资类脑人工智能公司 认缴出资额约为48.56万元

天眼查数据显示,近日,深思考人工智能的运营主体深思考人工智能机器人科技(北京)有限公司发生工商变更,新增股东为哈勃科技投资有限公司,认缴出资额约为48.56万元,持股比例为3.67%。...


百度与人民日报共建人工智能媒体实验室

9月19日,百度与人民日报联合成立人工智能媒体实验室。人工智能媒体实验室将基于百度大脑的核心能力,支持与满足媒体工作中的关键操作性需求。第一期的研究方向是利用百度成熟的语音...


华为网络人工智能引擎(NAIE)正式商用发布 主要基于公有云模式

在HUAWEI CONNECT 2019期间,华为正式商用发布网络人工智能引擎(NAIE)。据了解华为网络人工智能引擎主要基于公有云模式,提供数据治理相关的数据湖服务,以及模型开发相关的模型训练等服务,...


人工智能到底能做什么 今天带你全方面了解

电子垃圾 利用人工智能和物联网实现环境可持续发展有助于最大限度地发挥当前的环境保护作用。根据英特尔2018年的一份报告,200个环保企业中有74%同意人工智能有助于解决环境问题。 每年...


人工智能统计调查:AI普及让1.2亿劳动者需要接受再培训

最近一些人工智能的健康和进展状况相关调查、研究、预测和其他定量评估凸显出重新培训员工的必要性;人工智能在8年级科学考试的评分从F提高到A;以及AI市场将在2023年达到979亿美元的预测。...