機氣林智能科技2019提供自動化零件，工控產(chǎn)品，工業(yè)機器人，以及機器人零部件。

　　機氣林智能科技有話說：

經(jīng)過騰訊最近一次組織架構(gòu)大調(diào)整之后，知文團隊從原來的 SNG 事業(yè)群歸入了新成立的云與智慧產(chǎn)業(yè)事業(yè)群（CSIG），但服務(wù)和支持的相關(guān)產(chǎn)品和業(yè)務(wù)不變，包括騰訊云、QQ、QQ 空間等。這一團隊目前的研究重心，也依然放在自然語言智能交互，圍繞智能交互的內(nèi)涵和外延，學(xué)術(shù)研究則包括但不限于問答、對話系統(tǒng)、文本摘要、知識圖譜、機器閱讀理解等。

作為知文團隊的技術(shù)負(fù)責(zé)人，鐘黎主導(dǎo)了知文智能問答平臺、知文 NLP 平臺以及知文內(nèi)容理解產(chǎn)品的研發(fā)工作。在此之前，他曾負(fù)責(zé)騰訊社交網(wǎng)絡(luò)的文本分析與語義挖掘，為眾多相關(guān)產(chǎn)品和業(yè)務(wù)提供語義分析能力。他擁有豐富的大規(guī)模機器學(xué)習(xí)應(yīng)用經(jīng)驗，曾經(jīng)在微軟、PayPal、SoftBank AI Lab、IBM Research 等公司任職，并參與過機器人 NAO 及 Pepper 的原型研發(fā)、Watson 智能會議助理研發(fā)等。

根據(jù)鐘黎的介紹，騰訊知文問答系統(tǒng)主要可以分為四大層次：

第一層：應(yīng)用層，包括智能客服機器人、智能外呼機、投訴引導(dǎo)機器人、任務(wù)查詢機器人等各類具體業(yè)務(wù)場景機器人。

第二層：接入層，包括公有云、私有云、私有化部署等多種接入方式。

第三層：核心問答引擎，包括信息問答、知識圖譜問答、任務(wù)型問答、文檔型問答以及多輪交互等技術(shù)模塊。

第四層：基礎(chǔ)能力層，包括數(shù)據(jù)能力（行業(yè)與領(lǐng)域數(shù)據(jù)、知識庫管理、遷移學(xué)習(xí)），NLP 能力（基礎(chǔ) NLP 算法組件），深度學(xué)習(xí)能力（復(fù)雜模型優(yōu)化、深度學(xué)習(xí)工程化），數(shù)據(jù)分析能力（自動分析與監(jiān)控、趨勢分析、問題預(yù)測）等。

經(jīng)過數(shù)次迭代，知文不斷調(diào)整優(yōu)化知文的架構(gòu)，以為用戶提供更好的體驗。鐘黎告訴 AI 前線，知文的發(fā)展路徑整體來看是實際業(yè)務(wù)需求驅(qū)動的。最開始是緣起內(nèi)部業(yè)務(wù)關(guān)于客服的工單統(tǒng)計和分類的需求，輔助人工客服。之后，團隊發(fā)現(xiàn)其實可以用問答技術(shù)去解決大量頻繁、重復(fù)又比較簡單的問題，以減少人工客服的問詢量。隨著時間的推移，知文團隊又遇到新的業(yè)務(wù)需求，即沒有工單，而是有比較多知識和文檔的場景，因此又逐漸引入知識圖譜技術(shù)、機器閱讀理解技術(shù)。目前，知文的研究重點，一方面是在無標(biāo)注數(shù)據(jù)或者少量標(biāo)注數(shù)據(jù)下，知文問答平臺可以快速高效冷啟動的方案，另一方面是多輪會話下解決用戶意圖在多個機器人間來回跳轉(zhuǎn)的問題。

在規(guī)模和應(yīng)用上，知文系統(tǒng)已經(jīng)支持了 5 大行業(yè)的智能客服，得到 20 多家行業(yè)頭部客戶的采用，包括中國銀行的新一代客服機器人項目，以及由騰訊 CEO 馬化騰親自站臺的“一部手機游云南”項目。

經(jīng)過架構(gòu)的不斷優(yōu)化，知文核心問答機器人架構(gòu)至今已經(jīng)過四次迭代。鐘黎介紹道，這四大核心機器人主要是指信息問答機器人、文檔閱讀理解機器人、任務(wù)執(zhí)行機器人以及知識圖譜機器人，但具體的迭代路徑、方法和思考，鐘黎表示將會在 AICon 上揭曉。

NLP 和語音在技術(shù)上仍然有很多亟待解決的問題，為解決這些問題，知文問答系統(tǒng)做出了諸多優(yōu)化和創(chuàng)新。例如，在核心的問答匹配上，其匹配模型引入了 ELMO 表示、詞圖卷積、intra/inter-attention 機制、位序損失、GLU 通路等，比當(dāng)前主流的匹配模型如 MatchPyramid、AICNN、BiMPM 等有更好的表現(xiàn)。在文檔閱讀理解上，知文問答模型引入了 template answer guiding 以及 tree-based spanning，突破了大部分學(xué)術(shù)論文只能做答案在原文中完全匹配且完全基于監(jiān)督數(shù)據(jù)的方法。在任務(wù)型問答上，知文問答模型在 end-to-end 的記憶網(wǎng)絡(luò)上進行了知識增強，對于多輪的任務(wù)型場景，模型能夠有效地記憶更長的會話信息和槽位狀態(tài)。

對于一家企業(yè)來說，打造一個能夠滿足用戶大多數(shù)需求的問答機器人絕非易事，在技術(shù)和落地上均會面臨很多挑戰(zhàn)。鐘黎告訴 AI 前線，知文團隊在打造智能問答平臺的過程中遇到過很多技術(shù)難點，在業(yè)務(wù)落地上也是如此。

其中，知文在業(yè)務(wù)落地中常見的難點，第一個就是業(yè)務(wù)方往往沒有大量的標(biāo)注數(shù)據(jù)。智能問答平臺里包含了多個算法模型，如果每個都是監(jiān)督模型的話，意味著在上線之前需要“喂”進去大量的監(jiān)督數(shù)據(jù)，這對于業(yè)務(wù)方來說是很大的標(biāo)注負(fù)擔(dān)。第二個問題，就是業(yè)務(wù)方往往沒有特別地進行知識庫管理，大多數(shù)是一些歷史工單或者 FAQ 問題，這些數(shù)據(jù)的結(jié)構(gòu)化程度還不夠高，沒有形成知識圖譜或者層級關(guān)系?；谶@些數(shù)據(jù)做多輪和反問交互，對知文來說是一個挑戰(zhàn)。針對這些問題，知文平臺在數(shù)據(jù)標(biāo)注方面采用了 few-shot learning 的思想，并通過遷移學(xué)習(xí)的方式，如表征遷移、模型框架遷移等，極大地降低了業(yè)務(wù)接入的數(shù)據(jù)門檻；另一方面，在無結(jié)構(gòu)知識庫管理上，知文平臺通過自動圖譜構(gòu)建、動態(tài)子圖生成的方式，實現(xiàn)通用多輪和反問的交互方式。

騰訊知文問答系統(tǒng)的背后，是 NLP 和語音技術(shù)相結(jié)合的技術(shù)在提供支持，這呼應(yīng)了業(yè)界有人提出的觀點：NLP 與語音交互技術(shù)已然從獨立技術(shù)，走向融合協(xié)作的道路。對此，鐘黎認(rèn)為，NLP 與語音技術(shù)本身有著緊密的聯(lián)系，語音技術(shù)的很多模型也在 NLP 里得到了廣泛應(yīng)用。一個完整的自然語言交互方案，必然需要同時融合語音和 NLP 的技術(shù)，例如一個典型的流程，從用戶語音 query 進來，要經(jīng)過語音喚醒、ASR、NLU、QA、NLG、TTS 等最后返回語音回答給用戶。騰訊知文的自然語言交互方案，現(xiàn)在也是正在從基于文本 NLP 技術(shù)，到融合語音的完整自然語言交互技術(shù)。未來，一個更加自然、功能強大的智能語音交互產(chǎn)品，必然是充分融合了 NLP 與語音技術(shù)的成果。

雖然，NLP 和語音技術(shù)在最近幾年在技術(shù)和應(yīng)用上鮮有突破，但隨著更多研究人員和企業(yè)、組織進入這一領(lǐng)域，相信在未來，這一領(lǐng)域?qū)⑨j釀出新一輪爆發(fā)和突破。

關(guān)于 NLP 技術(shù)未來發(fā)展的趨勢，鐘黎認(rèn)為近期 NLP 領(lǐng)域值得關(guān)注的趨勢是表征與框架層的遷移學(xué)習(xí)，包括之前的 word2vec、glove，Al2 的 ELMO，OpenAI 的 GPT, Fast.AI 的 ULM，以及 Google 的 BERT，遷移學(xué)習(xí)從底層表示的遷移、語言模型的遷移，轉(zhuǎn)變到了模型框架的遷移。

這其中，他重點強調(diào)了谷歌提出的 BERT 模型?！巴ㄟ^海量無監(jiān)督數(shù)據(jù)的預(yù)訓(xùn)練，只需要在特定任務(wù)上對最后一層進行 task-specific 的修改，就能取得很好的效果，目前已經(jīng)在數(shù)十個任務(wù)上驗證了其有效性。這對于工業(yè)應(yīng)用是很大的福音，尤其對于小數(shù)據(jù)的任務(wù)，我們只需要通過小數(shù)據(jù)來 fine tune 最后一層，也能取得很好的效果。在 NLP 領(lǐng)域，大量的無標(biāo)注數(shù)據(jù)的潛力尚待挖掘，這些遷移學(xué)習(xí)的方法在一定程度證明了無標(biāo)注數(shù)據(jù)也是寶藏。非常期待在自然語言領(lǐng)域無監(jiān)督學(xué)習(xí)、小樣本學(xué)習(xí)能夠取得更多突破?！?/p>

落地，是所有技術(shù)最終的歸屬，無法落地，再好的技術(shù)也無用武之地。鐘黎認(rèn)為，NLP 其實不是新事物，在互聯(lián)網(wǎng)的落地應(yīng)用上應(yīng)該算是其他 AI 方向的“前輩”，從門戶和搜索引擎時代開始，NLP 就一直是核心技術(shù)。

現(xiàn)在來看，NLP 技術(shù)有兩個新的落地場景值得重點關(guān)注：一是多模態(tài)內(nèi)容分發(fā)與內(nèi)容消費，包括各種信息流、資訊圈等，大量的信息處理、聚合與觸達(dá)，都廣泛依賴 NLP 技術(shù)。另一個是普適計算下的自然語言交互，包括各種云 + 端的設(shè)備，例如手機、車載、音箱等等。

“人機交互的革命暗潮涌動，自然語言的方式將會在越來越多的場景發(fā)揮作用?！闭雇磥恚娎枞绱苏f道。