AI、信任與被忽視群體——專訪 Commonwealth 高級副總裁 Paula Grieco

Paula Grieco 是 Commonwealth 的高級副總裁。

探索頂尖金融科技新聞與活動！

訂閱 FinTech Weekly 的電子報

由 JP Morgan、Coinbase、Blackrock、Klarna 等高層管理人員閱讀

金融人工智慧（AI）仍有很長的路要走——不僅在速度、準確性或甚至規範方面，更在於它贏得信任的方式。尤其是來自那些傳統上在新技術推出時並非第一線的群體。

在 FinTech Weekly，我們一直關注 Commonwealth 的工作，這是一個專注於為低收入和中等收入（LMI）家庭建立金融安全的非營利組織。他們的實地調查，在我們近期的專欄中展現出一個明顯的矛盾：雖然LMI用戶對聊天機器人等工具持開放態度，但他們仍在等待真正為自己服務的體驗——而非為他人重新包裝的功能。

本週，我們深入探討。

我們與 Paula Grieco，Commonwealth 的高級副總裁，進行了對話，了解如何讓人工智慧在服務不足的社群中真正有效且安全。從設計原則到贏得信任，從協同駕駛到聊天機器人的疲勞，她分享了為何意圖比僅僅追求創新更為重要。

這是一個務實且深思熟慮的觀點，關於包容性金融科技應該——也能——長什麼樣子。

請閱讀完整訪談內容。

2.  Commonwealth 最近與摩根大通（JPMorgan Chase）的合作提供了關於AI在提升LMI家庭金融安全方面的關鍵見解。這次研究中最令人驚訝或最具影響力的發現是什麼？

我們的研究揭示了AI，特別是聊天機器人，在為低收入社群提供個性化指導和支持方面的巨大潛力——前提是這些聊天機器人的設計充分考慮到這個群體的需求與觀點。

兩個主要發現：

• 客戶普遍認為聊天機器人是改善財務狀況的積極工具。我們的數據顯示，57%的受訪者表示使用聊天機器人改善了他們的財務狀況。研究還顯示，低至中等收入（LMI）群體希望擁有信用建立、預算規劃和債務管理等功能。

• 受訪者重視一個無偏見的空間，能在與聊天機器人交流時提出敏感的財務問題，而不用擔心面對面與人類代表時可能產生的羞恥或自我意識。

3.  你如何看待對話式AI在金融服務領域，特別是對服務不足社群的未來發展？

理想情況下，下一代由生成式AI驅動的聊天機器人將成為更能支持這些家庭財務活動的AI金融助手，並贏得那些對金融系統持警惕態度、並且不願意在線分享資料的群體的信任。金融服務提供者有巨大機會為他們的聊天機器人提供更複雜、更細緻、且具有行動導向的功能。

目前，客戶使用金融聊天機器人的主要目的是查詢帳戶資訊或解決問題。我們的全國調查中，少於20%的受訪者曾用過聊天機器人進行財務建議、教育、產品推薦、申請信貸或貸款，以及開戶或關戶。然而，我們的研究發現，市場上對能協助完成這些銀行操作的聊天機器人有需求。在開發這類功能時，專注於這些特點可能會增加其使用率和實用性。

對於尚未準備直接向消費者推出生成式AI金融協同駕駛的銀行和金融機構，這項技術可以支援銀行員工，例如客戶代表，在互動中提供更佳、更準確且更及時的回應。

4.  在確保AI驅動的金融工具對黑人、拉丁裔和女性主導家庭公平且有效方面，面臨哪些最大挑戰？

所有新興技術都需要有意識的努力，確保低至中等收入者的需求在開發過程和設計決策中被納入。我們發現，早期與金融機構建立私營/慈善合作夥伴關係，有助於推動這些努力。透過累積證據，也能幫助建立商業案例。

我們看到在提升贏得信任等設計指導方面具有巨大潛力，這可以讓對話式AI在支持財務健康方面發揮作用，而不會帶來高額成本。

5.  根據你的研究，金融服務提供者在整合AI以支持LMI用戶時，應考慮哪些關鍵設計原則？

Commonwealth 已經制定了一份資源——《金融AI善用指南》（Financial AI for Good Guide），旨在為服務LMI群體的金融機構提供可行的設計指導。我們根據與金融機構、聊天機器人供應商及LMI群體的全面研究，制定了這些建議。

該指南圍繞四個主要設計目標組織。以下是每個目標的幾個例子：

2. 贏得信任：大多數研究受訪者在使用聊天機器人時最關心的是安全性。金融機構可以強調資料安全，通過提前說明其採取的措施，並讓用戶控制存儲的資料。

3. 促進參與：讓用戶清楚了解這些工具能為他們做什麼、何時能幫助他們，並創造明確的功能界面。同時，追求“智能主動性”。例如，整合在最有用的時候彈出的聊天機器人，而非過於強勢或侵入性，避免讓人覺得像垃圾訊息。

4. 增加價值：預測客戶需求。由於實體分行的有限接觸，聊天機器人可以完成一些客戶可能需要親自到銀行辦理的小事。平衡自動化與控制，允許用戶開啟或關閉自動理財功能，並加入“安全網”功能，在餘額低於某個門檻時暫停自動轉帳。

5. 改善可及性：提供多語言支持，並根據客戶群提供相應指導，重點放在手機友好功能。我們的研究顯示，超過一半的受訪者偏好通過手機進行銀行業務。

6.  你是否有任何成功案例或案例研究，顯示對話式AI顯著改善了LMI個體的財務福祉？

我們知道，57%的實地測試用戶表示使用金融聊天機器人對他們的財務狀況產生了積極影響。雖然這些早期結果令人鼓舞，但生成式AI工具仍處於初期階段，我們的持續研究將進一步累積其在改善LMI群體財務福祉方面的證據。

7.  在推行AI驅動的金融工具時，金融機構應注意哪些風險或意外後果？

重要的是，不能讓低收入群體被排除在外。在開發工具時，金融機構應理解其內在的機會與服務LMI客戶的方式。我們也關注AI驅動工具的固有風險與偏見，以及大型語言模型的準確性問題。除此之外，我們特別重視一個核心問題：金融建議對用戶個人財務狀況的相關性。金融機構可以通過確保提供的資訊準確、並保持透明，來提升客戶參與度與信任。

AI為低收入者提供了前所未有的機會，讓他們獲取傳統上難以取得的建議與工具，無論是投資工具還是個人理財管理。這些工具可以根據個人情況進行個性化定制，為金融提供者擴展客戶群提供巨大契機。

8.  金融機構如何衡量AI驅動工具對用戶財務安全與福祉的實際影響？

基本的財務健康指標包括：儲蓄是否增加、債務是否減少、信用分數是否提升。也可以調查與聊天機器人的互動體驗——信任是否提升？用戶對改善財務福祉的產品是否更感興趣？此外，是否在接受建議後採取了行動？

銀行還可以進行A/B測試，對比使用聊天機器人的消費者群體與未使用者的差異，以衡量效果。

9.  在金融服務中，人類監督扮演什麼角色？提供者如何在自動化與人力支持之間取得平衡？

提升對AI的信任，關鍵在於確保在適當時候有人類可以介入。這也是客戶服務人員使用協同駕駛（co-pilots）的好處。需要時提供真人協助，能增強信任與體驗。

使用對話式AI，客戶服務代表能更快速、更有效地滿足客戶的複雜需求，同時在關鍵時刻提供人性化的接觸。

透明度也至關重要，例如，讓用戶知道自己是在與聊天機器人還是真人對話。

10.  展望未來，未來五年內，AI在促進金融包容性方面最令人興奮的機會是什麼？

生成式AI代表對話式AI的下一個進化階段，能提供更個性化、更具情境感的互動，遠比目前大多數金融聊天機器人的決策樹結構更接近人類支持。金融領域中，生成式AI的初步應用多集中在後台支援，幫助客服人員。未來，如何在金融場景中大規模提供個性化支持，是推動行業發展的關鍵。

贏得信任將是推廣生成式AI的關鍵，因為我們的實地測試和焦點團體顯示，參與者對其持較保留態度。儘管如此，提供更高層次支持的潛力，使生成式AI成為金融行業最值得關注的技術。能建立可信賴、可靠的生成式AI支持的企業，將站在這個新時代客戶關係建立的前沿。

我們還看到一些具體機會，例如：協同駕駛和個人助理，能提供量身定制的全面財務指導，甚至可以看作是個人理財教練。同時，我們預期對話式AI在促進員工財務健康方面也能扮演重要角色，提供資訊與指導，幫助他們應對複雜的員工福利制度。

11.  你如何看待像 Commonwealth 這樣的非營利組織在塑造負責任使用AI於金融服務中的角色？

歷史上，科技設計多偏重於高收入消費者的採用，忽略了LMI家庭的需求。通過我們的“全民新興科技”計畫（Emerging Tech for All, ETA），我們致力於確保金融弱勢群體的需求被理解、被看見，並納入相關討論與解決方案中。在擴展AI應用的關鍵轉折點，我們認為迫切需要持續研究，找出AI能正面影響這個族群的方式。

目前，這個議題的研究與實踐仍較少，我們訪談的部分供應商也提到需要更大規模的研究來建立證據，支持內部推動這類設計。我們正透過產出有影響力的研究與實地測試，展示生成式AI如何支持LMI家庭的財務健康，並為更積極設計服務這個未被充分服務的消費者群體提供商業理由。

展望未來，包容性科技設計的系統性影響將取決於金融行業主要角色對這些洞見的規模化應用。對我們而言，推動包容性設計的擴展，將依賴於將研究成果與大型組織合作，利用AI進步來支持客戶與員工的財務健康。

12.  你會給希望利用AI，同時維持客戶信任與透明度的金融機構什麼建議？

LMI家庭更傾向於與真人面對面銀行業務，但實體分行的接觸卻最少。這個差距提供了一個關鍵機會，讓AI能在不增加分行或客服人員的情況下，提供個性化支持，滿足LMI家庭的需求。

然而，要推動更廣泛的採用，金融機構必須贏得並建立更多LMI用戶對聊天機器人的信任——這部分與聊天機器人的體驗有關，也與整個行業AI技術的接受度、資料安全與品質的提升有關。

用戶最關心的問題是安全性與隱私。普遍來說，大家對對話式AI的信任度較低，擔心其幫助能力、資料保護或是否符合自身利益。雖然商業界對AI的潛力充滿期待，但LMI群體可能較為懷疑，認為這項新技術尚未展現出明顯的價值。

建立透明的資料政策、令人安心的品牌與訊息，以及將真人代理作為備援，都有助於建立與贏得信任。透過生成式AI，提供超越基本資訊（如帳戶餘額、近期交易）的個性化互動，也能展現技術的價值。

同時，強調“贏得信任”的概念也很重要。目標不僅是讓人相信聊天機器人，而是要設計出值得信賴的系統，使這種信任成為合理的結果。