人工智能、信任与被忽视群体——专访 Commonwealth 高级副总裁 Paula Grieco

Paula Grieco 是 Commonwealth 的高级副总裁。

发现顶级金融科技新闻和活动！

订阅 FinTech Weekly 的新闻通讯

由摩根大通、Coinbase、贝莱德、Klarna 等高管阅读

金融人工智能还有很长的路要走——不仅在速度、准确性甚至监管方面，更在于它赢得信任的方式。尤其是来自那些在新技术推出时并不总是第一批接受者的群体。

在 FinTech Weekly，我们一直关注 Commonwealth 的工作，这是一家致力于为低收入和中等收入（LMI）家庭建立金融安全的非营利组织。他们的实地调研，在我们最近的社论中有所探讨，揭示了一个明显的矛盾：虽然LMI用户对聊天机器人等工具持开放态度，但他们仍在等待真正为他们服务的体验——而不是为他人重新包装的功能。

本周，我们深入探讨。

我们与 Paula Grieco，Commonwealth 的高级副总裁，进行了交流，了解实现人工智能对弱势群体既有效又安全的真正需求。从设计原则到赢得信任，从协助驾驶到聊天机器人疲劳，她分享了为何意图比创新本身更为重要。

这是一个脚踏实地、深思熟虑的观点，关于包容性金融科技应有的样子——以及应当是什么样子。

请阅读以下完整访谈。

2. Commonwealth 最近与摩根大通的合作为AI在改善LMI家庭金融安全中的作用提供了关键洞察。这项研究中最令人惊讶或最具影响力的发现是什么？

我们的研究揭示了AI，特别是聊天机器人，在为低收入社区提供个性化指导和支持方面的巨大潜力——前提是聊天机器人在设计时充分考虑了这一群体的需求和视角。

两个主要发现：

• 客户普遍认为聊天机器人是改善财务状况的积极工具。我们的数据显示，57%的受访者表示使用聊天机器人改善了他们的财务状况。研究还显示，低至中等收入（LMI）群体希望拥有信用建设、预算管理和债务管理等功能。

• 受访者重视无评判空间的聊天机器人，可以在不担心羞耻或自我意识的情况下提出敏感的财务问题，而面对面与人类代表交流时可能会有这些顾虑。

3. 你如何看待对话式AI在金融服务领域，特别是对弱势社区的未来发展？

理想情况下，由生成式AI驱动的下一代聊天机器人将成为更好支持这些家庭财务活动的AI财务助手，并赢得那些对金融系统持警惕态度、担心数据在线共享的群体的信任。金融服务提供商有巨大机会为他们的聊天机器人提供更复杂、更细腻、以行动为导向的能力。

目前，客户使用金融聊天机器人主要是为了获取账户信息或解决问题。我们国家调查中，少于20%的受访者曾用聊天机器人获取财务建议、教育、产品推荐、申请信用或贷款、开设或关闭账户。然而，研究发现，市场对能协助完成这些银行操作的聊天机器人存在需求。在开发聊天机器人时专注于这些功能，可能会增加其使用率和实用性。

对于尚未准备好直接向消费者推出生成式AI财务协助的银行和金融机构，这项技术可以支持银行员工（如客户代表）在互动中提供更好、更准确、更及时的回应。

4. 保障AI驱动的金融工具对黑人、拉丁裔和女性主导家庭公平有效面临的最大挑战有哪些？

随着新兴技术的发展，必须有意识地确保低至中等收入群体的需求被纳入开发过程和设计决策中。我们发现，与金融机构早期建立私营/慈善合作关系，有助于推动这些努力。通过积累证据基础，也有助于建立商业案例。

我们看到在增加赢得信任等设计指导方面具有巨大潜力，这可以让对话式AI在支持财务健康方面发挥作用，而无需大幅增加成本。

5. 依据你的研究，金融服务提供商在整合AI以支持LMI用户时，应考虑哪些关键设计原则？

Commonwealth 创建了“金融AI善用指南”，为服务LMI群体的金融机构提供可操作的设计指导。我们基于与金融机构、聊天机器人供应商及LMI人群的全面调研，制定了这些建议。

该指南围绕四个主要设计目标展开。每个目标我举一两个例子：

2. 赢得信任：大多数调研受访者在使用聊天机器人时最关心的是安全性。金融机构可以强调数据安全，通过提前说明采取的措施，以及让用户控制存储哪些数据。

3. 促进参与：让用户清楚这些工具能为他们做什么、何时能帮到他们，创造功能的清晰性。同时，追求“智能主动性”。例如，集成在最需要时弹出的聊天机器人，而不是过于强势或侵入式的推送，避免被认为是垃圾信息。

4. 提升价值：预见客户需求。实体网点有限，为聊天机器人完成一些客户可能需要去银行办理的小操作提供了机会。平衡自动化与控制，让用户可以开启或关闭自动财务功能，并加入“安全网”功能，在余额低于某个阈值时暂停自动转账。

5. 提升可及性：提供多语言支持和匹配客户基础的指导，重点关注移动端功能。我们的调研显示，超过一半的受访者更喜欢通过手机访问银行服务。

6. 你能分享一些成功案例或研究，说明对话式AI如何显著改善LMI人群的财务福祉吗？

我们知道，57%的实地测试用户表示使用金融聊天机器人对他们的财务状况产生了积极影响。虽然这些早期结果令人鼓舞，但生成式AI工具仍处于起步阶段，我们的持续研究将不断积累其在改善LMI人群财务福祉方面的有效性证据。

7. 在实施AI驱动的金融工具时，金融机构应注意哪些风险或意外后果？

重要的是，不能让低收入群体被排除在外。在开发工具时，理解其固有的机遇和服务LMI客户的方式至关重要。

目前，有许多机构专注于AI工具的固有风险、偏见和大规模语言模型的准确性。除此之外，我们还要确保一个核心问题得到解决：金融建议对用户个人财务状况的相关性。金融机构可以通过确保提供的信息准确、透明，来增加客户参与度和赢得信任。

AI为低收入人群提供了前所未有的机会，获取传统上难以获得的建议和工具，无论是投资工具还是个人理财管理。这些工具可以个性化定制，满足他们的特殊需求。这为金融服务提供商扩大客户基础提供了巨大机遇。

8. 金融机构如何衡量AI驱动工具对用户财务安全和福祉的实际影响？

基本的财务健康指标：存款是否增加？债务是否减少？信用评分是否提升？我们还可以调查与聊天机器人互动的体验——信任是否增强？对改善财务福祉有帮助的产品兴趣是否增加？在提供建议后，用户是否采取了行动？

银行还可以通过A/B测试，比较使用聊天机器人和未使用的不同用户群体，观察是否存在可衡量的差异。

9. 人工监督在金融服务中部署AI工具时扮演什么角色？提供者如何在自动化与人工支持之间找到平衡？

提升对AI的信任的一个方法是确保在关键时刻有人类可以介入。这也是客户面对面银行员工协助的优势所在。引入协助驾驶（co-pilots）可以帮助客户服务代表更快、更好地满足客户的复杂需求，同时在关键点提供人性化的接触。

使用对话式AI还能让客服代表更高效地服务客户，尤其是在需要真人介入的场合。透明度也至关重要，比如让用户知道自己是在与聊天机器人还是真人交流。

10. 展望未来，未来五年内AI在金融包容性方面最令人激动的机遇有哪些？

生成式AI代表了对话式AI的下一次演变，能提供更个性化、更具情境感的互动，远比目前大多数金融聊天机器人基于决策树的结构更接近人类支持。金融领域中，生成式AI的初步应用主要集中在后台支持，帮助客户服务人员。未来，如何在金融场景中大规模提供个性化支持，是推动行业发展的关键。

赢得信任将是广泛采用生成式AI的关键。我们的实地测试和焦点小组显示，参与者对新技术持更大怀疑态度，但其潜在优势巨大。提供更先进的支持，尤其是在金融服务中的应用，将使生成式AI成为最值得关注的技术。那些能开发出可信赖、可靠的生成式AI支持的企业，将站在客户关系建设的前沿。

我们还看到一些具体的机会，比如协助驾驶和个人助理，提供量身定制的全面财务指导，类似个人理财教练。我们也预期对话式AI在帮助员工理解复杂福利体系、促进财务健康方面会发挥重要作用。

11. 你如何看待像 Commonwealth 这样的非营利组织在推动负责任使用AI中的作用？

历史上，技术设计多偏向高收入群体，忽视了LMI家庭的需求。通过我们的“全民新兴科技”计划（ETA），我们致力于确保财务脆弱人群的需求被理解、被关注、被引入相关讨论，并融入解决方案中。我们正处于扩大AI应用的关键转折点，迫切需要持续研究，探索AI如何积极影响这一群体。

目前，关于这一话题的研究和应用还很少，一些受访机构也提到需要更大规模的研究，以积累证据，支持内部设计决策。我们通过产出有影响力的研究和实地测试，展示生成式AI如何支持LMI家庭的财务健康，并为更积极地为这一细分市场设计产品提供商业依据。

未来，包容性技术设计的系统性影响将取决于主要金融机构将这些洞察应用到大规模实践中。对我们而言，将包容性设计推向规模，依赖于利用研究成果，与寻求利用AI改善客户和员工财务健康的更大组织合作。

12. 你会给希望利用AI同时保持客户信任和透明度的金融机构什么建议？

LMI家庭更倾向于与真人面对面银行服务，但他们的实体网点接入最少。这一差距为AI提供了绝佳机会，可以在不增加网点或客服人员的情况下，提供他们所需的个性化支持。

但要实现更广泛的应用，金融机构必须赢得并增强LMI群体对聊天机器人的信任——这既涉及聊天机器人体验的具体细节，也涉及行业整体，随着AI技术的普及，安全性和质量的提升。

用户最关心的两个问题是安全和隐私。普遍而言，公众对对话式AI的信任度不足，担心其不能有效保护数据或为自身利益服务。虽然许多企业对AI的潜力充满期待，但LMI群体可能会更持怀疑态度，认为这项新技术尚未充分证明其价值。

透明的数据政策、令人安心的品牌和信息传递，以及将真人代理作为备选，都有助于建立和赢得信任。通过生成式AI开发更有用、更个性化的互动，超越目前提供的基本信息（如账户余额和近期交易），也能更好地展示技术的价值。

此外，强调“赢得信任”的概念也很重要。目标不仅是让人们相信聊天机器人，更要设计出值得信赖的聊天机器人，让这种信任成为合理的结果。