摘要：這種無明確任務目標的聊天機器人也可以稱作為開放領(lǐng)域的聊天機器人。此外，聊天機器人應該給人個性表達一致的感覺。使用深度學習技術(shù)來開發(fā)聊天機器人相對傳統(tǒng)方法來說，整體思路非常簡單并可擴展。

作者：張俊林，中科院軟件所博士，技術(shù)書籍《這就是搜索引擎：核心技術(shù)詳解》、《大數(shù)據(jù)日知錄：架構(gòu)與算法》作者。曾擔任阿里巴巴、百度、新浪微博資深技術(shù)專家，目前是用友暢捷通工智能相關(guān)業(yè)務負責人，關(guān)注深度學習在自然語言處理方面的應用。?

聊天機器人（也可以稱為語音助手、聊天助手、對話機器人等）是目前非常熱的一個人工智能研發(fā)與產(chǎn)品方向。很多大型互聯(lián)網(wǎng)公司投入重金研發(fā)相關(guān)技術(shù)，并陸續(xù)推出了相關(guān)產(chǎn)品，比如蘋果Siri、微軟Cortana與小冰、Google Now、百度的“度秘”、亞馬遜的藍牙音箱Echo內(nèi)置的語音助手Alexa、Facebook推出的語音助手M、Siri創(chuàng)始人新推出的Viv……

究其原因在于大家都將聊天機器人定位為未來各種服務的入口，尤其是移動端App及可穿戴設備場景下提供各種服務的入口。

聊天機器人的類型

目前市場上有各種類型的聊天機器人，比如有京東JIMI客服機器人，兒童教育機器人，小冰娛樂聊天機器人，Alexa家居控制、車載控制機器人，Viv全方位服務類型機器人等。這是從應用方向?qū)α奶鞕C器人的一種劃分。

如果對應用目的或者技術(shù)手段進行抽象，聊天機器人可以有以下兩種劃分方法。

目標驅(qū)動（Goal Driven） VS 無目標驅(qū)動（Non-Goal Driven）聊天機器人

目標驅(qū)動的聊天機器人指的是聊天機器人有明確的服務目標或者服務對象，比如客服機器人、兒童教育機器人、類似Viv的提供天氣/訂票/訂餐等服務的服務機器人等，這種目標驅(qū)動的聊天機器人也可以稱作特定領(lǐng)域的聊天機器人。

無目標驅(qū)動聊天機器人指的是聊天機器人并非為特定領(lǐng)域服務目的而開發(fā)，比如純粹聊天或者出于娛樂聊天目的以及計算機游戲中的虛擬人物聊天機器人都屬于此類。這種無明確任務目標的聊天機器人也可以稱作為開放領(lǐng)域的聊天機器人。

檢索式 VS 生成式聊天機器人

檢索式聊天機器人指的是事先存在一個對話庫，聊天系統(tǒng)接收到用戶輸入句子后，通過在對話庫中以搜索匹配的方式進行應答內(nèi)容提取。很明顯，這種方式對對話庫要求很高，需要對話庫足夠大，能夠盡量多地匹配用戶問句，否則會經(jīng)常出現(xiàn)找不到合適回答內(nèi)容的情形（因為在真實場景下用戶說什么都是可能的），但它的好處是回答質(zhì)量高，因為對話庫中的內(nèi)容都是真實的對話數(shù)據(jù)，表達比較自然。

生成式聊天機器人則采取不同的技術(shù)思路，在接收到用戶輸入句子后，采用一定技術(shù)手段自動生成一句話作為應答，這個路線機器人的好處是可能覆蓋任意話題的用戶問句，但是缺點是生成應答句子質(zhì)量很可能會存在問題，比如語句不通順、句法錯誤等看上去比較低級的錯誤。

本文重點介紹開放領(lǐng)域、生成式的聊天機器人如何通過深度學習技術(shù)來構(gòu)建，很明顯這是最難處理的一種情況。

好聊天機器人應該具備的特點

一般而言，一個優(yōu)秀的開放領(lǐng)域聊天機器人應該具備如下特點：

首先，針對用戶的回答或者聊天內(nèi)容，機器人產(chǎn)生的應答句應該和用戶的問句語義一致并邏輯正確，如果聊天機器人答非所問或者不知所云，或者總是回答說“對不起，我不理解您的意思”，無疑是毀滅性的用戶體驗。

其次，回答應該語法正確。這個看似是基本要求，但是對于采用生成式對話技術(shù)的機器人來說其實有一定困難，因為機器人的回答是一個字一個字生成，要保證這種生成的若干個字句法正確，并不容易做得那么完美。

再次，應答應該是有趣、多樣而非沉悶無聊的。盡管有些應答看上去語義沒什么問題，但目前技術(shù)訓練出的聊天機器人很容易產(chǎn)生“安全回答”的問題，就是說，不論用戶輸入什么句子，聊天機器人總是回答“好啊”、“是嗎”等諸如此類，看上去語義說得過去，但是這給人很無聊的感覺。

此外，聊天機器人應該給人“個性表達一致”的感覺。因為人們和聊天機器人交流，從內(nèi)心習慣還是將溝通對象想象成一個人，而一個人應該有相對一致的個性特征，如果用戶連續(xù)問兩次“你多大了”，而聊天機器人分別給出不同的歲數(shù)，那么會給人交流對象精神分裂的印象，這即是典型的個性表達不一致。而好的聊天機器人應該對外體現(xiàn)出各種基本背景信息以及愛好、語言風格等方面一致的回答。

幾種主流技術(shù)思路

當前聊天機器人的幾種主流技術(shù)包括：基于人工模板、基于檢索、基于機器翻譯技術(shù)，以及基于深度學習的聊天機器人。

基于人工模板的技術(shù)通過人工設定對話場景，并對每個場景編寫針對性的對話模板，模板描述了用戶可能的問題以及對應的答案。這個技術(shù)路線的好處是精準，缺點是需要大量人工工作，而且可擴展性差，需要一個場景一個場景去擴展。目前市場上各種類似于Siri的對話機器人中都大量使用了人工模板的技術(shù)，但其精準性是其他方法還無法比擬的。

基于檢索技術(shù)的聊天機器人則走的是類似搜索引擎的路線，事先存儲好對話庫并建立索引，根據(jù)用戶問句，在對話庫中進行模糊匹配找到最合適的應答內(nèi)容。

基于機器翻譯技術(shù)的聊天機器人把聊天過程比擬成機器翻譯過程，就是說將用戶輸入聊天信息Message，翻譯成聊天機器人應答Response的過程類似于把英語翻譯成漢語?；谶@種假設，就完全可以將統(tǒng)計機器翻譯領(lǐng)域相對成熟的技術(shù)直接應用到聊天機器人開發(fā)中。

基于深度學習的聊天機器人技術(shù)是本文后續(xù)內(nèi)容主要介紹的技術(shù)路線，總體而言，絕大多數(shù)技術(shù)都是在Encoder-Decoder（或者稱作Sequence to Sequence）深度學習技術(shù)框架下改進的。使用深度學習技術(shù)來開發(fā)聊天機器人相對傳統(tǒng)方法來說，整體思路非常簡單并可擴展。

利用深度學習構(gòu)建聊天機器人

如上所述，目前對于開放領(lǐng)域生成式聊天機器人技術(shù)而言，多數(shù)采用了Encoder-Decoder框架，所以這里首先描述Encoder-Decoder框架技術(shù)原理。然后分別針對聊天機器人研究領(lǐng)域需要特殊考慮的主要問題及其對應的解決方案進行講解，這些主要問題分別是：多輪會話中的上下文機制、“安全回答”以及個性信息一致性問題。

Encoder-Decoder框架

Encoder-Decoder框架可以看作一種文本處理領(lǐng)域的研究模式，應用場景異常廣泛，不僅可用在對話機器人領(lǐng)域，還可以應用在機器翻譯、文本摘要、句法分析等各種場合。圖1是文本處理領(lǐng)域里常用的Encoder-Decoder框架最抽象的一種表示。Encoder-Decoder框架可以直觀地理解為適合處理由一個句子（或篇章）生成另外一個句子（或篇章）的通用處理模型。對于句子對（X,Y），我們的目標是給定輸入句子X，期待通過Encoder-Decoder框架來生成目標句子Y。X和Y可以是同一種語言，也可以是兩種不同的語言。而X和Y分別由各自的單詞序列構(gòu)成：

Encoder顧名思義就是對輸入句子X進行編碼，將輸入句子通過非線性變換轉(zhuǎn)化為中間語義表示C：

對于解碼器Decoder來說，其任務是根據(jù)句子X的中間語義表示C和之前已經(jīng)生成的歷史信息y1,y2……yi-1來生成i時刻要生成的單詞yi：

圖1 抽象的Encoder-Decoder框架

每個yi都依次這么產(chǎn)生，那么看起來就是整個系統(tǒng)根據(jù)輸入句子X生成了目標句子Y。

對于聊天機器人來說，完全可以使用上述的Encoder-Decoder框架來解決技術(shù)問題。

多輪會話中的上下文問題

利用上述Encoder-Decoder框架，聊天機器人可以根據(jù)用戶當前輸入Message自動生成應答Response，形成了一個有效的對話系統(tǒng)。但是一般人們聊天并不是單純的一問一答，回答的內(nèi)容常常要參考上下文信息Context，也就是在用戶當前輸入問句Message之前兩者的對話信息。因為存在多輪的一問一答，這種情形一般稱為多輪會話。

深度學習解決多輪會話的關(guān)鍵是如何將上下文聊天信息Context引入到Encoder-Decoder模型中。Context應該引入到Encoder中，因為這是除了當前輸入Message的額外信息，有助于Decoder生成更好的應答Response。目前不同的研究主體思路都是這樣，無非如何將Context信息在Encoder端建立模型或者說具體的融入模型有些不同。

表1 聊天機器人聊天效果示例?

在上文所述的Encoder-Decoder框架中，很容易想到一種直觀地將Context信息融入Encoder的思路：無上下文信息的Encoder-Decoder模型的輸入僅僅包含Message，只需要把上下文信息Context和信息Message拼接形成一個長的輸入提供給Encoder，這樣就把上下文信息融入模型中了。這個直覺本身沒有什么問題，但是對于采用RNN模型的Encoder來說，這種方式使得有時候輸入非常長，而對于RNN模型來說，輸入的線型序列長度越長，模型效果越差。所以簡單地拼接Context和Message的策略不會產(chǎn)生太好的聊天效果。

考慮到RNN對長度敏感的問題，文獻3提出了針對聊天機器人場景優(yōu)化的Encoder-Decoder模型，核心思想是將Encoder用多層前向神經(jīng)網(wǎng)絡來代替RNN模型，神經(jīng)網(wǎng)絡的輸出代表上下文信息Context和當前輸入Message的中間語義表示，而Decoder依據(jù)這個中間表示來生成對話Response。這樣做既能夠?qū)⑸舷挛男畔ontext和當前輸入語句Message通過多層前向神經(jīng)網(wǎng)絡編碼成Encoder-Decoder模型的中間語義表達，又避免了RNN對于過長輸入敏感的問題。圖2和圖3是論文中提出的兩種不同的融合方法，方法1對Context和Message不做明顯區(qū)分，直接拼接成一個輸入；而方法2則明確區(qū)分了Context和Message，在前向神經(jīng)網(wǎng)絡的第一層分別對其進行編碼，拼接結(jié)果作為深層網(wǎng)絡后續(xù)隱層的輸入，核心思想是強調(diào)Message的作用，因為畢竟Response是針對Message的應答，Context只是提供了背景信息，所以應該突出Message的作用。

當然，除了Encoder從RNN替換為深層前向神經(jīng)網(wǎng)絡外，文獻3與傳統(tǒng)Encoder-Decoder還有一個顯著區(qū)別，就是Decoder的RNN模型每個時刻t在輸出當前字符的時候，不僅僅依賴t-1時刻的隱層狀態(tài)和當前輸入，還顯示地將Encoder的中間語義編碼直接作為t時刻RNN節(jié)點的輸入，而不是像經(jīng)典Encoder-Decoder模型那樣把中間語義編碼當做Decoder中RNN的最初輸入。其出發(fā)點也很直觀，就是在生成每個輸出字符時反復強化中間語義編碼的作用，這對于輸出應答Response較長的情況是有幫助的。

文獻4給出了解決多輪會話上下文問題的另外一種思路（如圖4所示），稱作層級神經(jīng)網(wǎng)絡（Hierarchical Neural Network，簡稱HNN）。HNN本質(zhì)上也是Encoder-Decoder框架，主要區(qū)別在于Encoder采用了二級結(jié)構(gòu)，上下文Context中每個句子首先用“句子RNN（Sentence RNN）”對每個單詞進行編碼形成每個句子的中間表示，而第二級的RNN則將第一級句子RNN的中間表示結(jié)果按照上下文中句子出現(xiàn)先后順序序列進行編碼，這級RNN模型可稱作“上下文RNN（Context RNN）”，其尾節(jié)點處隱層節(jié)點狀態(tài)信息就是所有上下文Context以及當前輸入Message的語義編碼，以這個信息作為Decoder產(chǎn)生每個單詞的輸入之一，這樣就可以在生成應答Response時把上下文信息考慮進來。

綜上所述，深度學習解決多輪會話的上下文信息問題時大致思路相同，都是在Encoder階段把上下文信息Context及當前輸入Message同時編碼，從而可以參考上下文信息生成應答Response。

解決“安全回答”（Safe Response）問題

如果采用經(jīng)典的Encoder-Decoder模型構(gòu)建開放領(lǐng)域生成式聊天機器人系統(tǒng)，一個比較容易產(chǎn)生的嚴重問題就是“安全回答”。就是說不論用戶說什么內(nèi)容，聊天機器人都用少數(shù)非常常見的句子進行應答，比如英文的“I don’t know”、“Come on”、“I’ m OK”，中文的“是嗎”、“呵呵”等。雖然很多種情況下這么回答也不能說是錯誤的，但可以想象，如果用戶遇到這樣一位聊天對象會有多抓狂。

這個現(xiàn)象產(chǎn)生的主要原因是聊天訓練數(shù)據(jù)中確實有很多這種寬泛而無意義的應答，所以機器人通過Encoder-Decoder模型學會這種常見應答模式。如何解決聊天機器人“安全回答”問題，讓機器產(chǎn)生多樣化的應答是個重要的課題。

圖2 融合方法1

圖3 融合方法2

圖4 層級神經(jīng)網(wǎng)絡

文獻5即在Sequence-to-Sequence框架下來解決“安全回答”問題。在聊天場景下，使用Sequence-to-Sequence框架來進行模型訓練時，傳統(tǒng)的優(yōu)化目標基本上是較大似然法（MLE），就是說給定用戶輸入Message，通過訓練來較大化生成應答Response的概率：

其中M代表message，R代表Response。

文獻X提出了改進的優(yōu)化目標函數(shù)：較大化互信息（MMI），其目標函數(shù)如下：

可以從公式差異中看出，MMI的優(yōu)化目標除了較大化從Message生成應答Response的概率，同時加入了反向優(yōu)化目標，即較大化應答Response產(chǎn)生Message的概率（即log p(M|R)部分），是控制兩者哪個更重要的調(diào)節(jié)超參數(shù)。通過其名稱“互信息”以及具體公式可以看出，這個優(yōu)化目標函數(shù)要求應答Response和Message內(nèi)容密切相關(guān)而不僅僅是考慮哪個Response以更高概率出現(xiàn)，從而降低了那些非常常見的回答的生成概率，使得應答Response更多樣化且跟Message語義更相關(guān)。

采用MMI作為目標函數(shù)明顯解決了很多“安全回答”問題，表2是兩個不同優(yōu)化目標函數(shù)產(chǎn)生的應答Response的示例，其中Message列代表用戶輸入語句Message，S2S Response代表MLE優(yōu)化目標產(chǎn)生的應答，MMI Response代表MMI優(yōu)化目標產(chǎn)生的應答。

表2 S2S與MMI產(chǎn)生的應答

個性信息一致性問題

對于聊天助手等應用來說，聊天機器人往往會被用戶當做一個具有個性的虛擬人，比如經(jīng)常會問“你多大了”、“你的愛好是什么”、“你是哪里人啊”等問題。如果將聊天助手當做一個虛擬人，那么這位虛擬人相關(guān)的年齡、性別、愛好、語言風格等個性特征信息應該維護回答的一致性。利用經(jīng)典的Sequence-to-Sequence模型訓練出的聊天助手往往很難保持這種個性信息的一致性（不一致的例子請參考圖5），這是因為Sequence-to-Sequence模型訓練的都是單句Message對單句Response的映射關(guān)系，內(nèi)在并沒有統(tǒng)一維護聊天助手個性信息的場所，所以并不能保證相同的問題每次能夠產(chǎn)生完全相同的應答。另外，對于海量用戶來說，可能不同的用戶會喜歡不同聊天風格或者不同身份的聊天助手，所以聊天機器人應該能夠提供不同身份和個性信息的聊天助手，不同類型用戶可以采用相應類型的聊天助手來聊天，當然，在聊天過程中要盡量保持身份和個性信息的一致性。

那么如何在Sequence-to-Sequence框架下采用技術(shù)手段維護聊天助手的個性信息一致性呢？文獻6給出了一種比較典型的解決方案，我們可以改造出一個能夠?qū)崿F(xiàn)不同身份個性特征的聊天助手思路。圖6是其示意圖（注意：本文敘述的并非文獻6中的原始場景，而是本文作者參照文獻稍作修正的技術(shù)方案）。

其基本思路如下：聊天機器人系統(tǒng)可以定義不同身份、個性及語言風格的聊天助理，個性化信息通過Word Embedding的表達方式來體現(xiàn)，在維護聊天助手個性或身份一致性的時候，可以根據(jù)聊天對象選擇某種風格、身份的聊天助手。整體技術(shù)框架仍然采用Sequence-to-Sequence架構(gòu)，其實現(xiàn)思路是把聊天助手的個性信息導入到Decoder的輸出過程中，就是說在采用RNN的Decoder生成應答Response的時候，每個t時刻，神經(jīng)網(wǎng)絡節(jié)點除了RNN標準的輸入外，也將選定身份的個性化Word Embedding信息一并作為輸入。這樣就可以引導系統(tǒng)在輸出時傾向于輸出符合身份特征的個性化信息。

上述是一種深度學習框架下維護聊天助手個性一致的技術(shù)框架，很明顯還可以衍生出很多種其他方案，但是技術(shù)思路應該是類似的，核心思想是把聊天助手的個性信息在Decoder階段能夠體現(xiàn)出來，以達到維護個性一致的目的。

小結(jié)

上述內(nèi)容介紹了使用深度學習構(gòu)建聊天機器人采用的主體技術(shù)框架以及面臨的一些獨特問題及相應的解決方案。此外，還有一些問題值得探討，比如如何使得聊天機器人有主動引導話題的能力，因為一般聊天機器人都比較被動，話題往往都是由用戶發(fā)起和引導，聊天機器人只是作為應答方，很少主動引導新話題，而這很容易導致聊天冷場，所以如何主動引導話題也是聊天機器人應該具備的能力之一，文獻7提出了一種技術(shù)方案，此處不贅述，感興趣的讀者可自行參考。

圖5 個性信息不一致問題

（這是利用Twitter2500萬訓練數(shù)據(jù)經(jīng)過Sequence-to-Sequence模型訓練后的結(jié)果）

圖6 一種Sequence-to-Sequence框架下維護聊天助手個性信息一致性的方案

深度學習聊天機器人的優(yōu)點與需要改進的方向

相對基于檢索類或者機器翻譯類傳統(tǒng)技術(shù)而言，基于Encoder-Decoder深度學習框架的聊天機器人具有如下明顯優(yōu)點：

構(gòu)建過程是端到端（End-to-End）數(shù)據(jù)驅(qū)動的，只要給定訓練數(shù)據(jù)即可訓練出效果還不錯的聊天系統(tǒng)，省去了很多特征抽取以及各種復雜中間步驟的處理，比如省去句法分析與語義分析等傳統(tǒng)NLP繞不開的工作，使得系統(tǒng)開發(fā)效率大幅提高。

語言無關(guān)，可擴展性強。對于開發(fā)不同語言的聊天機器人來說，如果采用Encoder-Decoder技術(shù)框架，只需要使用不同語言的聊天數(shù)據(jù)進行訓練即可，不需要專門針對某種語言做相關(guān)的特定優(yōu)化措施，這使得系統(tǒng)可擴展性大大加強。

訓練數(shù)據(jù)擴大有助于持續(xù)提升系統(tǒng)效果。對于Encoder-Decoder深度學習模型來說，一般通過不斷增加訓練數(shù)據(jù)就能夠帶來持續(xù)的效果提升。

當然，開發(fā)出具備像人一樣能夠自然交流的聊天機器人目前還面臨著各種技術(shù)難題，具體到使用深度學習技術(shù)來構(gòu)建聊天機器人來說，目前在以下幾個方面還需大力加強：

聊天機器人的評價標準。聊天機器人效果質(zhì)量的評價標準對于持續(xù)提升系統(tǒng)是至關(guān)重要的，因為只有這樣才能有針對性地設計技術(shù)方案進行改進。聊天機器人在評價標準方面還有待深入研究，目前常用的標準包括機器翻譯的評價指標BLEU、語言模型評價標準困惑度等，還有很多工作是通過人工來進行效果評價，還沒有特別合適的專用于聊天機器人的評價標準，這是阻礙聊天機器人技術(shù)持續(xù)發(fā)展的一個障礙。

缺乏標準化的大規(guī)模訓練數(shù)據(jù)。就像上述深度學習模型優(yōu)點所述，訓練數(shù)據(jù)的不斷增加一般能夠帶來性能的持續(xù)提升。但是目前來說，標準化的特大規(guī)模人與人對話數(shù)據(jù)相對缺乏，很多研究都是通過Twitter或者微博評論等高成本的采集方式來收集對話訓練數(shù)據(jù)，或者使用電影字幕等比較間接的方式來積累訓練數(shù)據(jù)。如果能夠有大規(guī)模的標準聊天數(shù)據(jù)，很明顯將能夠極大促進技術(shù)進步。

技術(shù)仍處于發(fā)展初期。很明顯采用深度學習來構(gòu)建聊天機器人的技術(shù)研發(fā)還處于非常初期的階段，技術(shù)手段也好，實際系統(tǒng)效果也好，都有非常大的進步空間。

商業(yè)智能與數(shù)據(jù)分析群

興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價值的辦法，實際應用案例分享與討論，分析工具，ETL工具，數(shù)據(jù)倉庫，數(shù)據(jù)挖掘工具，報表系統(tǒng)等全方位知識

QQ群：81035754