英国监管机构对人工智能在金融服务中的作用表达担忧

随着越来越多的金融机构在信用评估等关键职能中部署人工智能，一群英国立法者表达了担忧，认为行业可能尚未准备好应对一次重大的AI相关事件。

这些立法者最近建议金融行为监管局（FCA）和英格兰银行实施以AI为重点的压力测试，以帮助金融服务公司应对由技术引发的潜在问题。

委员会还呼吁英国采取更积极的措施应对这些风险。例如，建议FCA发布指导方针，明确消费者保护规则如何适用于AI，以及高级金融服务管理人员在多大程度上应理解其系统中嵌入的AI组件。

缺陷与风险

根据报告，由于AI带来的重大风险，这些措施变得日益必要。这种新兴技术中常出现的缺陷可能导致不准确的信贷决策、增加的欺诈风险以及虚假信息的传播。

报告还强调了与主要AI模型相关的集中风险，这在很大程度上由美国领先的科技巨头推动。这些集中系统可能扭曲消费者决策，促使金融市场出现羊群效应。

此外，英国立法者指出，代理型AI的出现以及对代理型商务的追捧，已为金融机构带来了潜在的转折点。Experian也表达了类似观点，指出商家和金融机构目前缺乏区分合法AI代理与恶意机器人工具的能力。

当前的难题

尽管存在这些担忧，AI的动态优势确保其仍将是金融机构的优先事项。

FIS的数据显示，超过四分之三的企业和技术领导者认为，AI增强了其组织的欺诈检测和风险管理能力。大约一半的受访者还表示，未来两年内其组织计划增加AI投资。

与此同时，英格兰银行的一位官员最近强调，英国金融行业尚未充分利用数据分析进行欺诈检测。这突显了许多金融机构面临的核心困境：领导者必须制定策略，最大化AI的益处，同时减轻其固有的风险。

标签：代理型AI、代理型商务、AI代理、人工智能、英格兰银行、英国