汇丰银行在人工智能中的不信任现象比比皆是银行
发表时间：2023-11-13 09:02:54
文章来源：炫佑科技
浏览次数：154
菏泽炫佑科技
汇丰银行在人工智能中的不信任现象比比皆是银行
尤其是银行，正在努力审查机器学习 (ML) 模型和人工智能软件的透明度和可解释性。 这些软件提供从欺诈检测到资产追踪的一切。 汇丰银行也不例外，但这家英国银行正在使用软件来帮助其逐渐增加对算法的信任。 这些算法容易出现偏差、数据漂移和其他可能给企业带来风险的问题。
汇丰银行首席信息官加文表示，随着越来越多的消费者在冠状病毒大流行期间采用数字服务，汇丰银行的努力对于提高客户对其的信任至关重要。
“模型和我们向它们展示的人工智能之间需要保持平衡，以便它解释我们正在使用的内容汇丰银行在人工智能中的不信任现象比比皆是银行，并且它还应该具有我们需要的正确质量、血统和*准确的数据，”他告诉记者。 “我们认为我们无法在没有信任的环境中工作。”
为什么银行对人工智能犹豫不决
银行明白人工智能可以帮助他们实现自动化、扩大业务并保护客户资产，但如果他们无法向监管机构、审计委员会和消费者解释其算法如何工作，他们就不会采用该技术。 人们对人工智能的不信任比比皆是，而这些算法助长了面部识别方面的错误信息和种族偏见的传播。
在监管机构的监视下，金融服务公司往往对其用于支撑其业务的技术持谨慎态度，因为偏见可能会阻止合格的人获得贷款。 因此，根据 .com 的数据，2019 年只有 4% 的首席会计官使用了人工智能。 该公司还发现，79%的企业高管将金融行业不愿采用人工智能归因于“对未知的恐惧”。 即使他们确实采用人工智能，它也通常是作为对欺诈交易的对冲，而不是作为数字产品和服务的加速器。
表示，在金融领域采用人工智能的关键是信任。 他将建立对人工智能的信任的重要性比作在汽车中添加安全带、车速表和其他安全功能。 “如果你不控制它，你的组织就会面临很多固有的风险，”补充道。 “我们不能允许数据模型中存在固有的偏差。”
由于消费者希望在大流行期间消费更多的数字服务，因此建立信任尤为重要。 汇丰银行发现，通过微信、点击支付和其他非接触式技术等社交媒体服务进行的交易有所增加。 报告称，必须密切监控此类服务的使用，因为随着越来越多的资金开始流经银行的数字足迹，更多的欺诈行为将会曝光。 它补充说，这些诈骗包括典型的信用卡欺诈和涉及涉及 COVID-19 测试的虚假交易的机会主义诈骗。
为人工智能部署护栏
为了帮助汇丰银行验证其人工智能模型并支持其提供的数字服务，它正在使用汇丰银行的软件，该软件的重点是降低业务风险。 执行主席 Manoj 表示，它可以帮助公司解释机器生成的预测，并揭示底层数据类型、数据集、ML 模型和 AI 开发流程中的偏差。 他将该解决方案描述为人工智能的测量工具。 可以充当值得信赖的人工智能的超文本传输协议。
他曾于 2007 年至 2014 年领导 IBM ，他表示该软件还将帮助识别“数据漂移”，从而告知 ML 模型中包含的数据信号是否随时间变化。 自 COVID-19 爆发以来，数据漂移已成为一个重大问题，因为客户的购买模式已转向在线购买，从卫生纸到个人防护设备的各种商品的购买量猛增，迫使零售商面临供应链挑战。 这些不断变化的动态正在生成必须纳入模型的新数据。
银行在这方面处于劣势，因为他们当前的人工智能模型正在急于解释新消费者模型生成的数据。 例如，如果一个人在大流行封锁之前从未在网上购物自动化软件开发，但突然在亚马逊上购物，就会在银行的欺诈检测系统中升起警报。
蒙罗说：“有些模型并不能反映我们在新冠疫情中所处的现实。” “但随着数字化应用的持续和加速，将会出现什么样的规范？”
使用“信任指数”来量化AI模型的数值评分，将有助于汇丰的数据模型解释这些新行为，这对于满足客户需求至关重要。 “这是关于当核心决策委托给机器时如何建立客户忠诚度和信任，”说。
其软件正在广泛应用于各种业务案例。 据称，在另一项概念验证中，一家公司正在使用交互式语音应答系统，在客户致电时将其引导至正确的支持联系人。
偏见之战
这个解决方案似乎是为银行量身定做的。 尽管银行仍对是否可以信任人工智能模型持怀疑态度，但他们仍然押注于此类新兴解决方案。
虽然它已经从英特尔、英特尔、英特尔集团和 USAA 等投资者那里筹集了 5000 万美元的资金，但无论它是否已经达到了能够为软件行业增加价值的*佳点，围绕该公司的炒作可能只会是笼罩在不确定性之中。 毫无疑问。
研究人工智能可解释性的分析师表示，使用决策树和回归算法的预测模型一直存在偏差，尤其是那些包含数千个 if/then/else 语句的预测模型。 “这些问题都不是新问题，也不是神经网络所独有的，”说。
她说，灌输对人工智能的信任的关键是确保软件开发人员能够在交付给企业之前通过彻底的测试和验证来提供高质量的人工智能模型。 人们相信，良好的护栏规划将是满足所有利益相关者需求的关键。
在这一点上，汇丰银行也表示同意。 “将风险和合规性融入我们的文化并不是事后的想法，”他说，“设计和解决方案中固有的控制和透明度需要内置。”
人工智能（ce），英文缩写为AI。 它是研究、开发模拟、延伸和扩展人的智能的理论、方法、技术和应用系统的一门新技术科学。
