案例簡介

? 本案例通過NVIDIA RIVA平臺，平安科技智能服銷應(yīng)用組自主研發(fā)了智能客服系統(tǒng)，集成了語音識別、語音合成、語義理解三大智能引擎，以智能語音機器人替代傳統(tǒng)的真人客服，實現(xiàn)自然的語音人機交互。

? 本案例主要應(yīng)用到NVIDIA RIVA平臺、NVIDIA NEMO模型訓(xùn)練平臺。

客戶簡介及應(yīng)用背景

平安科技是平安集團旗下的全資子公司，運用人工智能、智能認知、云計算、區(qū)塊鏈等技術(shù)，實現(xiàn)對平安集團旗下的產(chǎn)險、壽險、銀行、醫(yī)療、智慧城市等金融業(yè)務(wù)的賦能，是全球領(lǐng)先的高科技金融技術(shù)公司。

智能客服系統(tǒng)是平安科技自主研發(fā)的基于AI人工智能技術(shù)的算法平臺，為保險銀行等金融業(yè)務(wù)提供了業(yè)界領(lǐng)先的智能問答技術(shù)服務(wù)。智能客服系統(tǒng)每天會產(chǎn)生海量的語音數(shù)據(jù)，平安科技通過NVIDIA NEMO + RIVA平臺實現(xiàn)了對非結(jié)構(gòu)化的語音數(shù)據(jù)的結(jié)構(gòu)化高效處理，并應(yīng)用于語音算法模型的自動化訓(xùn)練。通過RIVA平臺，打破了原先傳統(tǒng)模型各個組件單獨訓(xùn)練的限制，極大地提高了算法模型訓(xùn)練的速度和效率。

客戶挑戰(zhàn)

智能客服坐席系統(tǒng)通過AI人工智能技術(shù)代替原有的人工坐席，從而能夠達到降低人力成本、改善服務(wù)質(zhì)量、最大化客戶資源利用率，幫助客戶快速定位需求。平安科技原有的傳統(tǒng)技術(shù)依賴于非常多的子模塊，以ASR語音識別技術(shù)為例，傳統(tǒng)模型需要分割成數(shù)據(jù)預(yù)處理，聲學(xué)模型、語言模型、文本字典、上下文相關(guān)模型等多個部分。多個子模塊不僅需要大量的人力成本去開發(fā)和維護，模塊之間的級聯(lián)誤差也會大大降低模型的識別準(zhǔn)確率。與此同時，傳統(tǒng)模型是單個服務(wù)器部署模型，而實際的業(yè)務(wù)場景，坐席的通話數(shù)量每天都會發(fā)生變化，很難做到和業(yè)務(wù)需求量進行算法模型資源的同步，造成業(yè)務(wù)空閑時大量的GPU資源的浪費。另外，現(xiàn)有傳統(tǒng)的ASR語音識別、TTS語音合成、NLP語義理解技術(shù)都是基于各自的技術(shù)框架，并沒有形成統(tǒng)一的算法平臺。

應(yīng)用方案

基于以上遇到的挑戰(zhàn)，平安科技采用了NVIDIA RIVA和NVIDIA NEMO平臺來提供技術(shù)支持，很大程度地解決了上述的問題。

平安智能客服坐席系統(tǒng)引入了由NVIDIA NEMO平臺訓(xùn)練的QuartzNet模型。QuartzNet是由NVIDIA提出的基于全卷積的端到端語音識別模型。端到端模型把原來傳統(tǒng)模型的各個子模塊都整合在了一起，將算法模型的訓(xùn)練速度提升了5倍，算法的識別率提高了5個百分點。高效的模型訓(xùn)練可以把算法模型應(yīng)用到更多的業(yè)務(wù)場景中，從而帶來更大的業(yè)務(wù)價值。

此外，平安科技還利用RIVA平臺實現(xiàn)了容器化的算法部署，并且實現(xiàn)了彈性伸縮的技術(shù)。彈性伸縮技術(shù)可以根據(jù)業(yè)務(wù)的需求量動態(tài)地調(diào)整算法引擎的實例數(shù)量，關(guān)閉不必要的GPU機器資源，從而節(jié)省了大量的機器成本。

與此同時，RIVA平臺還整合了ASR、TTS、NLP三個智能算法引擎，使得整個平安科技智能客服坐席系統(tǒng)實現(xiàn)了技術(shù)底層的統(tǒng)一。RIVA平臺還和平安科技聯(lián)邦Occam平臺進行了整合，在NVIDIA推出的 BERT 推理解決方案Fast Transformer的助力下，實現(xiàn)了高精度模型自動訓(xùn)練的能力，并且可以根據(jù)客戶的需求進行場景定制化，實現(xiàn)快速地算法迭代和升級。

使用效果及影響

通過NVIDIA的RIVA和NEMO平臺，平安科技智能坐席系統(tǒng)實現(xiàn)了從傳統(tǒng)模型到業(yè)界領(lǐng)先的端到端深度學(xué)習(xí)模型的轉(zhuǎn)換，實現(xiàn)了基于容器化彈性伸縮技術(shù)的算法引擎部署，并且整合了系統(tǒng)中三個算法引擎技術(shù)，極大地提高了算法平臺的訓(xùn)練效率和模型效果，幫助業(yè)務(wù)進行降本增效，促進了智能坐席系統(tǒng)在平安金融業(yè)務(wù)中的拓展和應(yīng)用。

與此同時，平安也與NVIDIA針對前沿的ASR語音識別技術(shù)進行了深度的合作，并在頂級國際會議ICME上發(fā)表了學(xué)術(shù)論文《Cross-Language Transfer Learning and Domain Adaptation for End-to-End Automatic Speech Recognition》。論文就NVIDIA NEMO平臺的QuartzNet語音識別模型，在跨領(lǐng)域、跨語言、跨口音地區(qū)等方面進行了大量地實驗，和深入地分析。論文闡述的遷移學(xué)習(xí)觀點和結(jié)論，進一步促進了平安科技智能坐席系統(tǒng)端到端語音識別模型的進化和演進。通過與NVIDIA的合作，平安繼續(xù)在語音頂會SLT上發(fā)表了《Multi-QuartzNet： Multi-Resolution Convolution for Speech Recognition with Multi-Layer Feature Fusion》。高水平學(xué)術(shù)論文指導(dǎo)平安科技客服系統(tǒng)持續(xù)更新和升級，客服系統(tǒng)實際遇到的問題反過來促進學(xué)術(shù)論文的研究，形成了學(xué)術(shù)研究和生產(chǎn)服務(wù)系統(tǒng)互惠互贏的雙向正循環(huán)。

“通過AI人工智能技術(shù)賦能傳統(tǒng)金融保險業(yè)務(wù)是當(dāng)下和未來主流的行業(yè)趨勢，也是平安集團非常重要的戰(zhàn)略發(fā)展目標(biāo)。智能客服坐席項目是平安科技的重點科技項目之一，通過智能客服可以高精度地實現(xiàn)對于客服意圖的智能匹配，更好地理解客服對產(chǎn)品的需求和意向。NVIDIA提供的RIVA和NEMO平臺，解決了我們在AI算法落地過程中的痛點問題，高效靈活地訓(xùn)練和部署算法模型，實現(xiàn)了毫秒級的實時語音識別響應(yīng)時間，97%的高精度保險業(yè)務(wù)場景意圖識別率，以及自然流暢地人聲合成語音。智能坐席系統(tǒng)只是平安科技邁向AI技術(shù)賦能業(yè)務(wù)的第一步，我們會將智能語音技術(shù)推廣到語音質(zhì)檢、安全風(fēng)控、用戶畫像等一系列業(yè)務(wù)場景中。通過AI技術(shù)和NVIDIA提供的技術(shù)平臺，打造出更多的人工智能算法產(chǎn)品，提高平安金融業(yè)務(wù)的生產(chǎn)效率，為平安的客戶提供更全面優(yōu)質(zhì)的產(chǎn)品體驗。” 平安科技副總工程師王健宗博士表示。

審核編輯：郭婷