如何克服人工智能在贷款决策中的偏见

  应用在贷款中的人工智能技术可以加快贷款流程,并实现决策的自动化。

  几个月前,人工智能初创厂商Upstart公司宣布自成立以来筹集了1.6亿美元的资金,并与奥马哈第一国民银行和堪萨斯城第一联邦银行签署了协议。

  Upstart公司因其创新的贷款方式而获得用户认可。其推出的平台使用所谓的“替代数据”训练的人工智能技术确定合格的贷款人。这样的替代数据包括关于申请人的购买习惯、电话记录、喜欢的游戏,以及在社交媒体的平均信用评分等信息。

  然而,在贷款中使用替代数据并不会使使贷款过程更快、更公平,以及完全符合GDPR标准。并且不是一个新奇事物。

  早期的信贷机构聘请专家来调查当地有关客户的评价。例如,美国在1935年就对社区的集体信誉进行了分类。在2002年的最近一个案例中,加拿大一位轮胎销售主管分析了去年的交易数据,发现购买屋顶清洁工具的客户比购买廉价机油的客户在财务上更可靠。

  然而,过去和现在有着显著的区别。早些时候,人们收集并处理了替代和传统数据,包括债务收入比、贷款价值比、个人信用记录等。现在,这种算法仍在发展和进步,而许多人认为它更客观、更快。

  然而令人担忧的是,人工智能可能会比人类更具偏见。需要注意的是:如果不控制算法如何自学,那么人工智能的决策可能会更加片面。

  人工智能偏见的蔓延

  一般来说,人工智能偏见不是偶然发生的,训练算法的人员会让它变得主观。受某些个人、文化、教育和特定位置因素的影响,即使是最佳算法训练人员也可能使用固有偏见的输入数据。

  如果没有及时发现,可能会导致产生具偏见的决定,这将随着时间的推移而加剧。这是因为算法根据以前的算法做出新的决策,其自身发展最终比其操作开始时复杂得多(雪球效应)。简而言之,人工智能在不断地自学,无论训练材料是否正确。

  以下了解一下人工智能在做出的贷款决策中可能会产生什么样的歧视。了解以下的例子,可以遵循关键的想法:人工智能偏见通常源于人类的偏见。

  人工智能可以基于性别进行区分

  传统上,男性在高收入和高职位方面的比例很高,而女性仍然面临所谓的“玻璃天花板”职业发展和薪酬差距问题。因此,尽管女性的储蓄能力和支付能力都比男性强,但与男性相比,女性企业家获得的商业贷款越来越少。

  人工智能的使用可能只会加剧这种趋势,因为性别歧视的输入数据可能会导致大量的女性贷款被拒。基于错误的统计数据,人工智能算法可能更倾向于男性申请者而不是女性申请者,即使所有其他参数都相似。

  人工智能可以根据种族区分

  这听起来不太可能,但黑人申请人被拒绝贷款的可能性是白人的两倍。如果用于算法学习的输入数据反映了这种种族差异,那么它可以很快地实施,并开始越来越多拒绝黑人贷款。

  替代数据也可能成为人工智能“种族主义”的来源。算法将申请者之前罚款和逮捕信息输入其中。事实是,这样的信息并不是中立的。据《华盛顿邮报》报道,非裔美国人比美国白人更容易成为警察的目标,而且在很多情况下都是毫无根据的。

  其他类型的数据也是如此。少数种族群体面临着收入、职业和社区的不平等。所有这些指标可能成为人工智能对非白人申请人说“不”的坚实理由。

  人工智能可以根据年龄区分

  信用记录越多,人们就越了解某个人的信誉。老年人通常拥有更好的信用记录,因为他们背后有更多的金融交易。相反,年轻一代有关业务的数据较少,这可能成为拒绝的一个不公平原因。

  人工智能可以根据教育来区分

  一些人工智能借贷算法在做出信用决策时可以分析申请人的语法和拼写习惯。一种算法可能根据学习错误的拼写习惯或错别字来了解申请人的文化程度,从而导致很多申请人信誉不良。

  从长远来看,该算法开始拒绝具有写作困难或障碍的符合条件的申请者,即使他们与支付能力无关。

  解决贷款中的偏见

  总的来说,为了使人工智能运行的贷款过程不受偏见的影响,需要让输入数据从任何可能的人类偏见中清除,从性别、种族主义到年龄歧视中清除出来。

  为了使训练数据更加中立,组织应该组建更多不同的人工智能开发团队,包括贷款方和数据科学家,贷款方可以告知工程师他们工作的具体细节。更重要的是,这些金融机构应该培训参与人工智能决策的每个人,以便在他们的工作中遵守和执行公平和非歧视性的做法。否则,如果不采取措施确保多样性和包容性,贷款企业就有可能推出严重违反反歧视和公平借贷法律的人工智能算法。

  实现更公平的人工智能的另一个步骤是审核算法做出的借贷决策;工作人员应评估这些决策。GDPR法规第22条支持这一观点,声称人们不应受到纯粹的自动化决策的影响,特别是这可能产生法律效力。

  事实上,说起来容易做起来难。然而如果不加以解决,无意识的人工智能偏见问题可能会使贷款业务处于困境,并且不亚于任何故意的偏见行为,只有通过数据科学家和贷款专业人员的共同努力才能避免迫在眉睫的风险。

用户喜欢...

澳大利亚墨尔本85岁老奶奶斯威本大学读博研究人工智能

中新网9月30日电 据澳洲网30日报道,大多数人到了老年,都在慢慢地享受退休生活,但来自澳大利亚墨尔本的85岁奶奶斯科特(Anne Scott)仍在学习,并成为斯威本大学最年长的博士生,向学校里的...


选择正确人工智能数据存储的6个注意事项

企业如果采用错误的存储人工智能平台可能会产生严重影响,因此需要了解可能影响产品选择和策略的6个注意事项。 人工智能和机器学习将成为帮助企业利用其核心数字资产创造竞争优势的两...


宝安:AI赋能 铸梦未来—人工智能发展论坛圆满落幕

人工智能技术自20世纪50年代出现以来,已不断渗透入市场各个行业,但回归实际,如何有效利用人工智能技术提升企业效率和竞争力,实现人工智能技术与实体经济的深度融合?如何借力人工智...


人工智能可以增强人类能力的四种方式

根据调研机构Gartner公司的调查,到2021年,全球各地的组织将通过人工智能创造将近3万亿美元的商业价值。 有些人表示,人工智能技术有朝一日可能完全取代工作场所中的人类。至少在可预见...


三星人工智能家庭机器人设计专利外观图公布:采用球形设计 可移动

三星人工智能家庭机器人设计专利外观图公布:采用球形设计 可移动 据Letsgodigital报道,近日三星一款人工智能家庭机器人设计专利外观图公布,采用球形设计,可以进行移动。 据了解,201...


任正非:历史会证明人工智能、5G将给人类创造财富

任正非和华为公司战略部总裁张文林对话美国著名计算机科学家Jerry Kaplan和英国皇家工程院院士Peter Cochrane。在对话中,主持人问到为什么人们对华为和华为所做的事情有这么多的不信任呢?对...


阿里巴巴首次公布人工智能调用规模:每天调用超1万亿次 服务全球10亿人

在今天的2019云栖大会上,阿里巴巴首次公布人工智能调用规模:每天调用超1万亿次,服务全球10亿人,日处理图像10亿张、视频120万小时、语音55万小时及自然语言5千亿句。阿里表示,其已经...


谷歌公司实施人工智能的6个步骤

一个专家团队在各种实际项目中的人工智能应用中学到了知识和经验,他们为采用人工智能的企业首席信息官提出了六个步骤的建议。 人工智能(AI)是提高人类解决问题能力的关键,但与人工智...


应用案例:大狼屋酒店的人工智能可以准确识别住客的情绪

酒店和娱乐业正在实施人工智能以扫描客人的评论,这是在重大IT现代化过程中改善客户服务的基石。 大狼屋酒店(GWL)正在使用人工智能软件,以更好地了解住客在其以冒险为主题的小屋中的体...


阿里人工智能实验室:天猫精灵销量连续两年中国第一、全球第三

阿里巴巴人工智能实验室暨天猫精灵秋季发布会今天下午举行,在发布会上宣布,天猫精灵销量连续两年中国第一、全球第三,另外精灵联盟可连接的AIoT设备达到了2.35亿台。 阿里表示,机器...


华为在伦敦开设人工智能研究实验室 谷歌英国总部就在对面

据外媒报道,华为在英国伦敦悄悄开设了一个新的人工智能研究实验室,而谷歌英国总部就在对面。 据悉,华为的这座新办公室位于伦敦的国王十字区附近的黄金地段,拥有约60名完全专注于...


华为投资类脑人工智能公司 认缴出资额约为48.56万元

天眼查数据显示,近日,深思考人工智能的运营主体深思考人工智能机器人科技(北京)有限公司发生工商变更,新增股东为哈勃科技投资有限公司,认缴出资额约为48.56万元,持股比例为3.67%。...


百度与人民日报共建人工智能媒体实验室

9月19日,百度与人民日报联合成立人工智能媒体实验室。人工智能媒体实验室将基于百度大脑的核心能力,支持与满足媒体工作中的关键操作性需求。第一期的研究方向是利用百度成熟的语音...


华为网络人工智能引擎(NAIE)正式商用发布 主要基于公有云模式

在HUAWEI CONNECT 2019期间,华为正式商用发布网络人工智能引擎(NAIE)。据了解华为网络人工智能引擎主要基于公有云模式,提供数据治理相关的数据湖服务,以及模型开发相关的模型训练等服务,...


人工智能到底能做什么 今天带你全方面了解

电子垃圾 利用人工智能和物联网实现环境可持续发展有助于最大限度地发挥当前的环境保护作用。根据英特尔2018年的一份报告,200个环保企业中有74%同意人工智能有助于解决环境问题。 每年...


人工智能统计调查:AI普及让1.2亿劳动者需要接受再培训

最近一些人工智能的健康和进展状况相关调查、研究、预测和其他定量评估凸显出重新培训员工的必要性;人工智能在8年级科学考试的评分从F提高到A;以及AI市场将在2023年达到979亿美元的预测。...