
為贏得客戶信任,我們正積極爭取ISO 42001認證。Dynatrace的人工智慧可觀測性技術透過深入解析大型語言模型及其行為模式,協助我們滿足眾多控制要求。
將人工智慧嵌入保險生態系統
CDL作為英國個人保險市場的命脈,透過聚合商與經紀人推動約60%的交易量。這些服務商仰賴CDL平台建構自有數位服務,包含消費者互動的網站與應用程式。在競爭激烈的市場中,遲緩的回應速度可能導致保險業者錯失收入機會,因此CDL必須在其平台提供快速可靠的使用者體驗。
為進一步突顯差異化優勢,CDL正致力整合人工智慧代理服務,以自動化核心保險流程,讓客戶能更順暢地與供應商互動。初期階段,客戶可透過AI代理完成簡易保單管理任務,例如更新聯絡資訊、取消行銷通訊訂閱或存取檔案。未來將進一步強化功能,讓客戶能透過AI代理即時完成保單中途調整與續約,甚至在數分鐘內完成新保單申辦。
當我們最初開始使用人工智慧時,便深知需要人工智慧可觀測性,更需要一套產業標準。OpenLLMetry 為我們實現了這一點,而 Dynatrace 自始便全力支持這項標準。
對亞馬遜Bedrock的獨到見解
CDL人工智慧願景的核心引擎室建基於多項AWS服務,包括API Gateway、Lambda及Bedrock。其技術團隊深知信任與透明度將是新人工智慧能力普及的關鍵,同時必須確保對大型語言模型代幣消耗與成本的可視性。因此可觀測性成為成功的先決條件。CDL早已採用Dynatrace作為技術堆疊的單一可信數據來源。該平台的AI可觀測性功能與AWS的戰略合作關係,使其成為自然之選。
「AWS賦予我們運用AI的能力,而Dynatrace則給予我們信心,」CDL架構主管Matt Eisengruber表示:「憑藉Dynatrace提供的AI可觀測性,我們得以大幅加速藍圖。它消除了猜測成分,使我們能更快將AI代理推向市場。我們只需整合Dynatrace SDK,即可即時掌握Bedrock平台的運作狀態。面對AI這類重大轉型變革,Dynatrace是實現企業級大規模部署的關鍵推手。」
AWS 與 Dynatrace 的結合使我們在大型語言模型成本建模方面佔據主動地位。這為內部治理團隊帶來的信心是無可比擬的。
與 Dynatrace 攜手前行
- 全面掌控:Dynatrace對OpenLLMetry的支援使CDL能以最低成本維持對Amazon Bedrock的可視性,讓團隊得以追蹤從用戶提示到AI輸出的完整流程。這為CDL的治理團隊提供無與倫比的洞察力,不僅滿足監管與客戶需求的信任與透明度,更優化了LLM的消耗成本。例如,CDL發現過時的Anthropic版本導致代幣耗盡問題,僅需更新模型即可輕鬆解決。
- 滿意度提升:CDL運用Dynatrace追蹤關鍵指標如Apdex,藉此深入理解服務對消費者行為的影響。此舉協助團隊掌握終端客戶體驗,確保服務能達成最佳成效。由此,CDL 的客戶滿意度評分提升了 10%。
- 降低成本:除優化 LLM 使用成本外,Dynatrace 更協助 CDL 將原本分散的工具鏈整合至單一統一平台。CDL 從使用 10 種可觀測性解決方案精簡至僅需一種,不僅大幅整合授權成本,更將新團隊成員的上手時間從數日縮短至數分鐘。
- 加速問題解決:Dynatrace讓CDL能在單一平台整合指標、日誌與追蹤資料,建立團隊可快速釐清幾乎所有問題根源的單一可信來源。如此一來,團隊能將精力聚焦於在用戶受影響前解決問題,為終端客戶提供更優質的保險體驗。
「Dynatrace徹底改變了CDL的運作模式,」CDL營運主管克里斯·巴克利表示。「保險生態系統高度互聯,過去當發生問題時,往往需耗費時間釐清責任歸屬與影響範圍。如今Dynatrace簡化了生態系統運作,使我們從被動應對轉為主動防範,在問題影響客戶前即予解決。透過Dynatrace建立的單一可信數據源,我們得以專注於關鍵事務,協助客戶為其終端客戶打造更優質的保險服務旅程。」
在生成式 AI 領域中,答案可能具有非確定性且會隨時間變化——即使使用相同提示詞亦然。Dynatrace 協助我們確保回應結果保持一致性,並符合人工智慧倫理規範。
免費試用



