人機(jī)交互的內(nèi)涵外延及如何在交互中應(yīng)用知識(shí)

今天的報(bào)告分三個(gè)部分——人機(jī)交互的內(nèi)涵外延、人機(jī)交互中知識(shí)問(wèn)題、如何在交互中應(yīng)用知識(shí)。從內(nèi)涵的角度，人機(jī)交互是認(rèn)知智能展現(xiàn)的窗口；人工智能技術(shù)改變世界的途徑，其中包括通過(guò)交互控制這種改變和提供人機(jī)互動(dòng)的模態(tài)；人機(jī)交互是人工智能技術(shù)落地，改變我們生活和各種形態(tài)必要的而且是最重要的途徑。只有通過(guò)人和機(jī)器的交互，才能控制人工智能帶來(lái)技術(shù)上、生活上的各種變化，而避免人工智能“暴走”的風(fēng)險(xiǎn)。人工智能的外延角度，人機(jī)交互可以理解為落地的應(yīng)用，最典型的是人機(jī)對(duì)話，如客服；其次有智能信息管理，例如語(yǔ)義信息查詢等，在這個(gè)數(shù)字經(jīng)濟(jì)時(shí)代，信息智能管理或者是語(yǔ)義管理越來(lái)越重要；還有人機(jī)協(xié)同，比如輔助駕駛或者機(jī)器人助理，人們?cè)絹?lái)越感受到機(jī)器助理生活在你身邊。代表性的有SIRI。還會(huì)有各種APP給你做查詢、做規(guī)劃、做方案等。

知識(shí)相關(guān)問(wèn)題可以分為兩個(gè)方面，一是常識(shí)性知識(shí)；一個(gè)是領(lǐng)域相關(guān)知識(shí)。常識(shí)性知識(shí)中包括知識(shí)認(rèn)知問(wèn)題和建模算法問(wèn)題。從認(rèn)知角度上講，做計(jì)算的利用知識(shí)，更多看到光明的一面。然而從社會(huì)學(xué)的角度有很多不同的聲音（不是誰(shuí)對(duì)誰(shuí)錯(cuò)的問(wèn)題）。

下面這張圖是多倫多大學(xué)Frank Rudzicz教授報(bào)告中的截圖。SIRI實(shí)際的反饋，被認(rèn)為是AI倫理問(wèn)題的例子。因?yàn)檫@些例子批評(píng)SIRI，我認(rèn)為是不公平的，SIRI不可能回答這種問(wèn)題。因?yàn)椋到y(tǒng)沒(méi)有足夠的知識(shí)支持她回答這么深層語(yǔ)義的問(wèn)題。

從算法的角度。大家都知道帶來(lái)這次人工智能春天的主要是基于統(tǒng)計(jì)學(xué)的機(jī)器學(xué)習(xí)算法。然而統(tǒng)計(jì)學(xué)有偏差。如下圖所示。

She is a doctor and he is a nurse這句話沒(méi)有問(wèn)題。但是，其內(nèi)容可能會(huì)影響系統(tǒng)輸出可信度，原因來(lái)自于訓(xùn)練語(yǔ)料。這是法律專家認(rèn)為人工智能有性別歧視問(wèn)題給出的例子。第二個(gè)例子是關(guān)于四川料理是不是辣的問(wèn)題。這樣的問(wèn)題在機(jī)器對(duì)話中，往往叫做上下文不一致性問(wèn)題。但是我認(rèn)為這個(gè)是一個(gè)常識(shí)性問(wèn)題。因?yàn)椋恢浪拇侠硪岳睘橹鞯娜?，也?huì)犯這樣的錯(cuò)誤。

關(guān)于領(lǐng)域相關(guān)知識(shí)我想強(qiáng)調(diào)數(shù)據(jù)與知識(shí)庫(kù)構(gòu)建兩個(gè)問(wèn)題?，F(xiàn)在是大數(shù)據(jù)時(shí)代，大數(shù)據(jù)的這一波熱潮興起在人工智能之前，包括移動(dòng)互聯(lián)網(wǎng)帶來(lái)大數(shù)據(jù)時(shí)代，但是我們做知識(shí)相關(guān)實(shí)際項(xiàng)目時(shí)，它真的不見(jiàn)得是大數(shù)據(jù)，有時(shí)可能沒(méi)有大數(shù)據(jù)。給一個(gè)例子如下圖所示。

無(wú)法確定數(shù)據(jù)標(biāo)注方法是最大的問(wèn)題。

另一個(gè)問(wèn)題是知識(shí)圖譜構(gòu)建問(wèn)題，其中包括如何構(gòu)建、評(píng)價(jià)和更新知識(shí)圖譜，和誰(shuí)去做知識(shí)圖譜構(gòu)建這件事情。作為學(xué)術(shù)研究者，總覺(jué)得應(yīng)該是企業(yè)懂業(yè)務(wù)的人構(gòu)建知識(shí)圖譜。但是實(shí)際上行不通，企業(yè)業(yè)務(wù)專家的業(yè)務(wù)邏輯和我們想建的知識(shí)圖譜的邏輯不（完全）一致。因此，只有雙方坐下來(lái)反復(fù)、深入溝通，才可能完成。

知識(shí)應(yīng)用有兩大方向——建模過(guò)程中融入知識(shí)和在系統(tǒng)框架中利用知識(shí)。

在建模中如何融入知識(shí)，包括知識(shí)表示、知識(shí)推理影射，以及多路徑融合和知識(shí)動(dòng)態(tài)分析。這里介紹幾個(gè)我們課題組博士生的工作。論文列表如下：

舉一個(gè)例子，TransG模型。目前最通用的知識(shí)三元組表示方法是用向量關(guān)系表示實(shí)體關(guān)系，一個(gè)頭向量，一個(gè)尾向量，還有中間的關(guān)系向量。事實(shí)上，知識(shí)表達(dá)關(guān)系內(nèi)涵特別豐富，例如，a part of這個(gè)關(guān)系，一個(gè)城市是一個(gè)國(guó)家的部分，一個(gè)椅子腿是桌子的部分.....用一個(gè)向量去表示是非常困難的。博士生所提出的混合高斯的方法可以比較好地解決這類問(wèn)題。

另一個(gè)例子是2013年發(fā)表在SIGIR的工作，討論如何從動(dòng)態(tài)變化的社交媒體內(nèi)容上挖掘動(dòng)態(tài)的、有時(shí)效性的知識(shí)。比如這是奧巴馬，隨著不同的時(shí)間在互聯(lián)網(wǎng)上尋找他相關(guān)的最熱的話題，對(duì)這個(gè)話題進(jìn)行描述，展示相關(guān)內(nèi)容。如下圖所示。最開(kāi)始就是奧巴馬參加選舉，有各種各樣的話題。他連任時(shí)又有一些新的話題。這也是一個(gè)圖譜概念，把知識(shí)跟互聯(lián)網(wǎng)上的信息關(guān)聯(lián)起，不停獲取和更新知識(shí)。

在建模時(shí)融合知識(shí)的另一類工作是以生成模塊為背景的工作。如：

對(duì)生成語(yǔ)句的控制?！拔曳浅ｐI”，在不同的情況下，可以給出不同的語(yǔ)句。這就是一種對(duì)機(jī)器的控制。我們希望機(jī)器人能被人控制的。對(duì)機(jī)器人的評(píng)價(jià)有“智能”和“智障”，有些用戶說(shuō)“我寧愿機(jī)器智障，也不想讓他抽風(fēng)”。因此，能夠控制機(jī)器的輸出，控制其語(yǔ)音行為、控制風(fēng)險(xiǎn)是非常重要的。

另一個(gè)工作是情緒化對(duì)話生成?？刂茩C(jī)器表達(dá)的情緒，讓機(jī)器人可以更生動(dòng)一些。也是通過(guò)控制機(jī)器的語(yǔ)言，進(jìn)而控制其動(dòng)作。另一個(gè)例子是個(gè)性化的對(duì)話生成。例如下圖，這個(gè)寶寶叫旺仔，是一個(gè)3歲、喜歡玩游戲和彈琴的男孩。這個(gè)工作生成的系統(tǒng)可以控制輸出內(nèi)容，不僅僅是迎合用戶的問(wèn)題，而是有自己的基本原則。

最后一部分是如何在系統(tǒng)架構(gòu)中通過(guò)知識(shí)，迭代學(xué)習(xí)。還沒(méi)有很好的論文發(fā)表主要考慮如何將環(huán)境數(shù)據(jù)、語(yǔ)義理解和知識(shí)圖譜維護(hù)這三個(gè)環(huán)節(jié)聯(lián)合建模。

結(jié)論：知識(shí)是必須的，知識(shí)缺失的系統(tǒng)無(wú)法達(dá)成人類對(duì)智能系統(tǒng)的期待。知識(shí)是可用的，某種意義上已經(jīng)能夠支持開(kāi)放領(lǐng)域、特定領(lǐng)域多種信息服務(wù)。知識(shí)相關(guān)研究遠(yuǎn)遠(yuǎn)不夠，知識(shí)表示、知識(shí)融合、知識(shí)評(píng)估等有極大的發(fā)展空間。研究不是孤立的，知識(shí)的研究與多種信息處理技術(shù)息息相關(guān)。例如數(shù)據(jù)采集、語(yǔ)義計(jì)算、語(yǔ)義理解、推理等、等。簡(jiǎn)而言之“任重道遠(yuǎn)”。