一種針對機器人自主學習的輸出內容過濾方法及機器人的制作方法
【專利摘要】本發明公開了一種針對機器人自主學習的輸出內容過濾方法以及一種機器人。本發明的方法包括：采集用戶反饋；分析所述用戶反饋中是否包含針對最近一個交互輸出的評價；當所述用戶反饋中包含所述評價時分析所述評價以確定所述交互輸出中的需過濾內容；將所述需過濾內容加入過濾內容庫；基于所述過濾內容庫調整之后的交互輸出。根據本發明的方法，可以有效的對采用自學習模式的機器人的交互輸出進行內容過濾，從而保持機器人輸出內容的純潔性。
【專利說明】
一種針對機器人自主學習的輸出內容過濾方法及機器人
技術領域
[0001 ]本發明涉及機器人領域，具體說涉及一種針對機器人自主學習的輸出內容過濾方法及機器人。
【背景技術】
[0002]隨著機器人技術的不斷發展，機器人的智能水平不斷提高，機器人的交互應答的智能化程度也不斷提高。
[0003]為了進一步提高機器人的交互應答的智能化水平，越來越多的機器人具備了自主學習能力。隨著機器人自主學習能力的增強，機器人的新知識積累速度以及新知識量不斷提尚O
[0004]然而，現有的機器人并不能很好的辨別學習到的新知識是否正確。這就導致機器人基于自主學習獲取的新知識所做出的交互回應可能會包含錯誤的或者是不恰當的輸出內容，機器人交互輸出的內容純凈度(例如語言純凈度)得不到保證。
[0005]因此，為了保持交互輸出的內容純凈度，需要一種針對機器人自主學習的輸出內容過濾方法。

【發明內容】

[0006]為了保持交互輸出的內容純凈度，本發明提供了一種針對機器人自主學習的輸出內容過濾方法，所述方法包括:
[0007]采集用戶反饋；
[0008]分析所述用戶反饋中是否包含針對最近一個交互輸出的評價；
[0009]當所述用戶反饋中包含所述評價時分析所述評價以確定所述交互輸出中的需過濾內容；
[0010]將所述需過濾內容加入過濾內容庫；
[0011]基于所述過濾內容庫調整之后的交互輸出。
[0012]在一實施例中，將所述需過濾內容加入過濾內容庫，其中，對所述需過濾內容進行審核，根據通過審核的所述需過濾內容加入所述過濾內容庫。
[0013]在一實施例中，對所述需過濾內容進行審核，其中，所述審核包括:
[0014]置信度審核，計算所述需過濾內容的置信度，當所述置信度大于設置的閥值時所述需過濾內容通過審核。
[0015]在一實施例中:
[0016]將所述需過濾內容加入過濾內容候選庫；
[0017]對所述過濾內容候選庫的內容進行第一次審核，將通過第一次審核的需過濾內容加入過濾內容備選庫；
[0018]對所述過濾內容備選庫的內容進行第二次審核，將通過第二次審核的需過濾內容加入所述過濾內容庫。
[0019]在一實施例中，基于所述過濾內容庫調整之后的機器人輸出，其中:
[0020]基于所述過濾內容庫對機器人需要輸出的交互輸出添加過濾標記，所述過濾標記對應所述交互輸出中需要過濾的輸出內容；
[0021]根據所述過濾標記對機器人需要輸出的交互輸出進行內容過濾調整。
[0022 ]本發明還提出了一種機器人，所述機器人包括:
[0023]采集模塊，其配置為采集用戶反饋；
[0024]評價確認模塊，其配置為分析所述用戶反饋中是否包含針對最近一個交互輸出的評價；
[0025]評價分析模塊，其配置為當所述用戶反饋中包含所述評價時分析所述評價以確定所述交互輸出中的需過濾內容；
[0026]存儲模塊，其配置為存儲過濾內容庫并將所述需過濾內容加入所述過濾內容庫；
[0027]輸出調整模塊，其配置為基于所述過濾內容庫調整之后的交互輸出。
[0028]在一實施例中，所述存儲模塊還配置為對所述需過濾內容進行審核，將通過審核的所述需過濾內容加入所述過濾內容庫。
[0029]在一實施例中，所述存儲模塊還配置為對所述需過濾內容進行審核，其中，所述審核包括:
[0030]置信度審核，計算所述需過濾內容的置信度，當所述置信度大于設置的閥值時所述需過濾內容通過審核。
[0031 ]在一實施例中，所述存儲模塊配置為:
[0032]將所述需過濾內容加入過濾內容候選庫；
[0033]對所述過濾內容候選庫的內容進行第一次審核，將通過第一次審核的需過濾內容加入過濾內容備選庫；
[0034]對所述過濾內容備選庫的內容進行第二次審核，將通過第二次審核的需過濾內容加入所述過濾內容庫。
[0035]在一實施例中，所述輸出調整模塊配置為:
[0036]基于所述過濾內容庫對機器人需要輸出的交互輸出添加過濾標記，所述過濾標記對應所述交互輸出中需要過濾的輸出內容；
[0037]根據所述過濾標記對機器人需要輸出的交互輸出進行內容過濾調整。
[0038]根據本發明的方法，可以有效的對采用自學習模式的機器人的交互輸出進行內容過濾，從而保持機器人輸出內容的純潔性。
[0039]本發明的其它特征或優點將在隨后的說明書中闡述。并且，本發明的部分特征或優點將通過說明書而變得顯而易見，或者通過實施本發明而被了解。本發明的目的和部分優點可通過在說明書、權利要求書以及附圖中所特別指出的步驟來實現或獲得。
【附圖說明】
[0040]附圖用來提供對本發明的進一步理解，并且構成說明書的一部分，與本發明的實施例共同用于解釋本發明，并不構成對本發明的限制。在附圖中:
[0041 ]圖1是根據本發明一實施例的方法流程圖；
[0042]圖2以及圖3分別是根據本發明兩個實施例的方法部分流程圖；
[0043]圖4是根據本發明一實施例的機器人邏輯結構簡圖。
【具體實施方式】
[0044]以下將結合附圖及實施例來詳細說明本發明的實施方式，借此本發明的實施人員可以充分理解本發明如何應用技術手段來解決技術問題，并達成技術效果的實現過程并依據上述實現過程具體實施本發明。需要說明的是，只要不構成沖突，本發明中的各個實施例以及各實施例中的各個特征可以相互結合，所形成的技術方案均在本發明的保護范圍之內。
[0045]隨著機器人技術的不斷發展，機器人的智能水平不斷提高，機器人的交互應答的智能化程度也不斷提高。
[0046]為了進一步提高機器人的交互應答的智能化水平，越來越多的機器人具備了自主學習能力。隨著機器人自主學習能力的增強，機器人的新知識積累速度以及新知識量不斷提尚O
[0047]然而，現有的機器人并不能很好的辨別學習到的新知識是否正確。這就導致機器人基于自主學習獲取的新知識所做出的交互回應可能會包含錯誤的或者是不恰當的輸出內容，機器人交互輸出的內容純凈度(例如語言純凈度)得不到保證。
[0048]因此，為了保持交互輸出的內容純凈度，本發明提出了一種針對機器人自主學習的輸出內容過濾方法。本發明的基本原理是對機器人經由自主學習而生成并輸出的交互內容進行過濾，從而避免機器人輸出錯誤的或是不恰當的交互內容，進而保持采用自主學習方案的機器人的交互輸出的內容純凈度。
[0049]在本發明的方法中，其關鍵過程之一在于如何對機器人輸出的交互內容進行過濾。針對上述問題，在本發明的方法中，采用了基于過濾內容庫的過濾方式。
[0050]即預先構造過濾內容庫，在過濾內容庫中存儲需要過濾的交互內容的樣本(不能輸出的內容)。當機器人進行交互輸出時，攔截機器人最初生成的待輸出交互內容;基于過濾內容庫中的過濾樣本對待輸出交互內容進行對比分析，將待輸出交互內容中與過濾樣本對應的內容(需要過濾的內容)過濾掉，將進行完過濾處理的交互內容作為最終的輸出內容進行交互輸出。這樣就能保證輸出的交互內容中不會包含需要過濾的內容(與過濾樣本對應的內容)，從而保持了交互輸出的內容純凈度。
[0051]然而，對于采用自主學習模式的機器人來說，其交互輸出的基本模式是:采用自主學習的方式不斷積累增加知識訊息，并利用知識訊息構成交互輸出內容。也就是說，機器人輸出的交互內容中很可能包含新進學習的新知識訊息。由于知識訊息不斷積累增加，因此初始狀態下不可能預測將來所增加的知識訊息。這就導致預設的樣本庫中不可能包含可以對比分析所有知識訊息。隨著知識訊息不斷積累增加，基于預設的過濾內容庫是不可能完成對交互輸出內容的對比分析的。
[0052]為了解決預設的過濾內容庫容量不夠大的問題，在本發明中，采用了隨著機器人自主學習進程不斷擴充過濾內容庫的機制。在自主學習過程，機器人自身并不能辨別的新學習的知識訊息是否是需要被過濾掉的內容，因此機器人自身也就無法自主的擴充過濾內容庫。針對上述問題，在本發明中，利用第三方(交互對象)來間接的審核機器人新學習的知識，其具體原理如下。
[0053]機器人自主學習的最終成果往往會直接體現到機器人的交互輸出中。即機器人會不斷將新學習到知識訊息融入輸出的交互內容中，雖然機器人本身并不能完美判斷自身輸出的內容是否錯誤或適當，但是作為機器人交互對象的用戶，其具有判斷機器人輸出的內容是否錯誤或適當的能力。
[0054]因此，在本發明中，首先采集機器人交互對象(用戶)的反饋;然后分析用戶反饋中是否包含針對最近一個交互輸出的評價;當用戶反饋中包含評價時分析評價以確定最近一個交互輸出中的需過濾內容;將需過濾內容加入過濾內容庫。這樣過濾內容庫就得到了擴展。在之后的交互輸出中，機器人基于擴展后的過濾內容庫調整之后的交互輸出，就能避免再次輸出上述流程中的需過濾內容。
[0055]舉例來說，機器人通過自主學習掌握了新名詞A，名詞A是一個不能應用于普通交互場合的名詞。在之后的人機交互過程中機器人將名詞A作為內容元素構成了交互內容。由于名詞A是機器人新學習到的，因此原有的過濾內容庫中并不存在與之對應的樣本，這就到導致名詞A直接輸出給了用戶。用戶發現機器人的交互輸出內容中存在名詞A，所以在之后的回饋內容中向機器人指出名詞A是不適當的、不能在當前的交互場合使用的(評價)。機器人通過對該評價的分析，將名詞A加入過濾內容庫。在之后的人機交互過程中，如果機器人再次將名詞A作為內容元素構成了交互內容。由于過濾內容庫存在與名詞A對應的樣本，因此名詞A被過濾掉，最終輸出給用戶的交互內容不會包含名詞A。
[0056]接下來基于附圖詳細描述根據本發明具體實施例的方法的執行流程。附圖的流程圖中示出的步驟可以在包含諸如一組計算機可執行指令的計算機系統中執行。雖然在流程圖中示出了各步驟的邏輯順序，但是在某些情況下，可以以不同于此處的順序執行所示出或描述的步驟。
[0057]在本發明一實施例中，如圖1所示，首先采集用戶反饋(步驟S110);然后分析用戶反饋中是否包含針對最近一個交互輸出的評價(步驟S120)，當用戶反饋中不包含針對最近一個交互輸出的評價時繼續返回執行步驟S110;當用戶反饋中包含評價時分析評價以確定最近一個交互輸出中的需過濾內容(步驟S130);接下來將需過濾內容加入過濾內容庫，擴充過濾內容庫(步驟S140);最后在之后的交互輸出中，基于擴展后的過濾內容庫調整之后的交互輸出(步驟S150)，就能避免再次輸出上述流程中的需過濾內容。
[0058]在圖1所示的步驟中，關鍵步驟之一在于步驟S120，判斷用戶反饋中是否包含針對最近一個交互輸出的評價。具體的，在本發明一實施例中，機器人在與人進行交互的過程中，不斷的用自然語言處理(NLP)相關技術判斷用戶的交互是否是對上次交互的有效反饋(評價)。比如用戶反饋:“你怎么這么黃” “你這種說法是不禮貌的” “你這種說法用在這里不合適等等。
[0059]進一步的，在圖1所示的步驟中，關鍵步驟之一還在于步驟S140，擴充過濾內容庫。步驟S140執行過程中需要解決的問題之一就是如何將需過濾內容加入過濾內容庫。最簡單的，在本發明一實施例中，將步驟S130中確定的需過濾內容直接作為過濾樣本加入過濾內容庫。
[0060]但是，基于這種直接加入的方法，在多次擴充過濾內容庫后勢必造成數據的混亂，并且隨著多次將相近或相同內容的樣本加入過濾內容庫，過濾內容庫中的數據冗余以及重復比率會大大增加，不但造成不必要的數據存儲空間浪費(存儲冗余重復的過濾內容庫數據)，而且隨著過濾內容庫中內容的混亂程度以及重復冗余程度的增加，步驟S150中交互內容過濾調整的執行效率也會大大降低。
[0061]進一步的，步驟120以及步驟S130的執行均是建立在機器人對用戶反饋內容的分析基礎上的，當機器人分析理解錯誤時或者用戶的反饋內容本身就包含錯誤信息時，步驟S130中確定的需過濾內容也就是錯誤的，如果直接將需過濾內容加入過濾內容庫，就會造成在之后的交互輸出時將不需要過濾的內容也過濾掉。
[0062]針對上述問題，為了保證加入到過濾內容庫的需過濾內容確實有效，降低過濾內容庫中內容的混亂程度、重復率，在本發明一實施例中，在步驟S140的執行過程中引入了審核機制。即在將需過濾內容加入過濾內容庫的過程中對需過濾內容進行審核，將通過審核的需過濾內容加入過濾內容庫。
[0063]在統計學中，一個概率樣本的置信區間(Confidence interval)是對這個樣本的某個總體參數的區間估計。置信區間展現的是這個參數的真實值有一定概率落在測量結果的周圍的程度。置信區間給出的是被測量參數的測量值的可信程度，即前面所要求的“一定概率”。基于上述原理，在本發明一實施例中，對需過濾內容進行的審核包括置信度審核。具體的，計算需過濾內容的置信度，當置信度大于設置的閥值時需過濾內容通過審核。
[0064]進一步的，為了進一步審核需過濾內容，在本發明一實施例中，采用了多層審核的方式。即采用不同的審核機制多次遞進式的對需過濾內容進行審核，當通過了當前審核時進入到下一層的審核，只有通過了所有審核才可以加入過濾內容庫。
[0065]例如，在本發明一實施例中，首先將需過濾內容加入過濾內容候選庫;然后對過濾內容候選庫的內容進行第一次審核，將通過第一次審核的需過濾內容加入過濾內容備選庫;接著對過濾內容備選庫的內容進行第二次審核，將通過第二次審核的需過濾內容加入過濾內容庫。
[0066]具體的，在本發明一實施例中，如圖2所示，首先獲取圖1中步驟S130確定的需過濾內容(步驟S200);然后將需過濾內容加入過濾內容候選庫(步驟S210);然后對過濾內容候選庫的內容進行置信度審核，如果沒通過置信度審核，則返回步驟S200;如果通過了置信度審核，則將需過濾內容加入過濾內容備選庫(步驟S230);接著對過濾內容備選庫的內容進行人工審核(步驟S240)，如果沒通過人工審核，則返回步驟S200 ；如果通過了人工審核，則將需過濾內容加入過濾內容庫(步驟S250)。
[0067]進一步的，在圖1所示的步驟中，關鍵步驟之一還在于步驟S150，基于過濾內容庫調整之后的機器人輸出。在本發明一實施例中，首先基于過濾內容庫對機器人需要輸出的交互輸出添加過濾標記，過濾標記對應交互輸出中需要過濾的輸出內容;然后根據過濾標記對機器人需要輸出的交互輸出進行內容過濾調整。
[0068]具體的，機器人的交互系統將相關結果集(生成的待輸出的交互內容)交給過濾系統進行過濾，過濾系統將附加有相關過濾標志的結果集(待輸出交互內容)返回給交互系統。交互系統根據過濾標志進行結果集(待輸出交互內容)的綜合(對標記有過濾標志的內容進行刪除替換)，并得出最終的結果。
[0069]在具體應用環境中，很多機器人具有多模態的輸出功能。即機器人包含多個不同模態的交互內容生成引擎，每個引擎對應生成一種模態的交互輸出內容，機器人最終輸出的交互內容是上述多個模態的交互內容的綜合。
[0070]由于機器人最終輸出的交互內容是上述多個模態的交互內容的綜合，基于過濾內容庫對綜合的多模態交互內容進行過濾調整很容易造成不同模態間內容的混亂重復。為了解決這一問題，在本發明一實施例中，分別對每個模態的交互輸出內容進行過濾調整，然后將過濾調整后的內容進行統一綜合后再輸出。
[0071]在一具體應用環境中，機器人具有三個交互內容生成引擎，思維引擎、自學習引擎以及情感引擎。根據本發明一實施例的方法，如圖3所示，首先分別獲取三個交互內容生成引擎的交互輸出內容(步驟S300)，三個引擎分別各自生成交互輸出內容到過濾系統;然后分別進行過濾標志標記(步驟S301)，由過濾系統分別對三個模態的交互輸出內容進行過濾標志的標記并將標記后的內容分別返回給三個引擎;三個引擎接收到帶有標記的內容后分別對交互輸出內容進行過濾調整(步驟S302)，對帶有過濾標記的內容進行刪除或者替換；這樣就得到了三個模態下的過濾完成的交互輸出內容。
[0072]接下來將三個模態的交互輸出內容進行綜合，首先綜合思維、自學習引擎的交互輸出內容(在本發明其他實施例中，也可以先綜合其他引擎的內容，綜合的先后順序并不是固定的)。首先執行步驟S310，判斷思維、自學習引擎的交互輸出內容的置信度差值是否足夠大(是否大于預設的閾值)。如果置信度差值足夠大，則說明思維、自學習引擎的交互輸出內容可以分別輸出，那么只需將這兩個模態的交互輸出內容簡單組合就可以獲取思維和自學習的綜合內容(直接跳轉到步驟S314)。
[0073]如果置信度差值不足夠大，則說明思維、自學習引擎的交互輸出內容不可以分別輸出(具有一定的相關度)。那么接下來就執行步驟S311，判斷兩個模態的內容是否可以融合。如果可以融合，則執行步驟S312，進行內容融合，從而跳到步驟S314，獲取思維和自學習的綜合內容。
[0074]如果不可以融合，則執行步驟S313，拋棄兩個模態的交互輸出內容中的一個。從而跳到步驟S314，將剩下的一個模態的交互輸出內容作為思維和自學習的綜合內容。具體的，在步驟S313中，拋棄置信度較低的內容或是隨機拋棄一個內容。
[0075]接下來將思維和自學習的綜合內容與情感引擎的交互輸出內容進行綜合。首先執行步驟S320，判斷思維和自學習的綜合內容與情感引擎的交互輸出內容的置信度差值是否足夠大(是否大于預設的閾值)。如果置信度差值足夠大，則說明兩個交互輸出內容可以分別輸出，那么只需將這兩個交互輸出內容簡單組合就可以獲取三個引擎的綜合內容(直接跳轉到步驟S324)。
[0076]如果置信度差值不足夠大，則說明兩個交互輸出內容不可以分別輸出(具有一定的相關度)。那么接下來就執行步驟S321，判斷兩個內容是否可以融合。如果可以融合，則執行步驟S312，進行內容融合，從而跳到步驟S324，獲取三個引擎的綜合內容。
[0077]如果不可以融合，則執行步驟S323，拋棄兩個交互輸出內容中的一個。從而跳到步驟S324，將剩下的一個交互輸出內容作為三個引擎的綜合內容。具體的，在步驟S313中，拋棄置信度較低的內容或是隨機拋棄一個內容。
[0078]綜上，根據本發明的方法，可以有效的對采用自學習模式的機器人的交互輸出進行內容過濾，從而保持機器人輸出內容的純潔性。
[0079]基于本發明的方法，本發明還提出了一種可以對自身輸出內容進行過濾的機器人。在本發明一實施例中，如圖1所示，機器人包括:
[0080]采集模塊410，其配置為采集用戶反饋；
[0081]評價確認模塊420，其配置為分析用戶反饋中是否包含針對最近一個交互輸出的評價；
[0082]評價分析模塊430，其配置為當用戶反饋中包含評價時分析評價以確定交互輸出中的需過濾內容；
[0083]存儲模塊440，其配置為存儲過濾內容庫445并將需過濾內容加入過濾內容庫445;
[0084]輸出調整模塊450，其配置為基于過濾內容庫調整之后的交互輸出。
[0085]為了保證過濾內容庫中樣本的有效性，在本發明一實施例中，存儲模塊440還配置為對需過濾內容進行審核，將通過審核的需過濾內容加入所述過濾內容庫。具體的，在一實施例中，存儲模塊440還配置為對需過濾內容進行審核，其中，審核包括:置信度審核，計算需過濾內容的置信度，當置信度大于設置的閥值時需過濾內容通過審核。
[0086]進一步的，在一實施例中，存儲模塊440還配置為對需過濾內容進行多重審核。具體的，如圖1所示，除過濾內容庫445之外，存儲模塊440還包含過濾內容侯選庫441、第一審核單元442、過濾內容備選庫443、第二審核單元444。
[0087]存儲模塊440配置為:
[0088]將來自評價確認模塊430的需過濾內容加入過濾內容候選庫441;
[0089]由第一審核單元442對過濾內容候選庫441的內容進行第一次審核，將通過第一次審核的需過濾內容加入過濾內容備選庫443;
[0090]由第二審核單元444對過濾內容備選庫443的內容進行第二次審核，將通過第二次審核的需過濾內容加入過濾內容庫445。
[0091]為了有效進行內容過濾，進一步的，在本發明一實施例中，輸出調整模塊450配置為:
[0092]基于過濾內容庫對機器人需要輸出的交互輸出添加過濾標記，過濾標記對應交互輸出中需要過濾的輸出內容；
[0093]根據過濾標記對機器人需要輸出的交互輸出進行內容過濾調整。
[0094]具體的，在本發明一實施例中，輸出調整模塊450分為兩部分，其分別構造在機器人的交互內容生成系統以及內容過濾系統上。交互內容生成系統將待輸出的交互內容輸出到內容過濾系統，由內容過濾系統為交互輸出內容添加過濾標記，然后將附加有過濾標記的交互輸出內容返回給交互內容生成系統。交互內容生成系統根據過濾標記對機器人需要輸出的交互輸出進行內容過濾調整。
[0095]綜上，本發明的機器人可以在自學習模式下仍然對自身的交互輸出內容進行有效過濾，其輸出內容的純凈度得到有效保持。
[0096]以上所描述的裝置實施例僅僅是示意性的，其中所述作為分離部件說明的單元可以是或者也可以不是物理上分開的，作為單元顯示的部件可以是或者也可以不是物理單元，即可以位于一個地方，或者也可以分布到多個網絡單元上。可以根據實際的需要選擇其中的部分或者全部模塊來實現本實施例方案的目的。本領域普通技術人員在不付出創造性勞動的情況下，即可以理解并實施。
[0097]雖然本發明所公開的實施方式如上，但所述的內容只是為了便于理解本發明而采用的實施方式，并非用以限定本發明。本發明所述的方法還可有其他多種實施例。在不背離本發明實質的情況下，熟悉本領域的技術人員當可根據本發明作出各種相應的改變或變形，但這些相應的改變或變形都應屬于本發明的權利要求的保護范圍。
【主權項】
1.一種針對機器人自主學習的輸出內容過濾方法，其特征在于，所述方法包括: 采集用戶反饋； 分析所述用戶反饋中是否包含針對最近一個交互輸出的評價； 當所述用戶反饋中包含所述評價時分析所述評價以確定所述交互輸出中的需過濾內容； 將所述需過濾內容加入過濾內容庫； 基于所述過濾內容庫調整之后的交互輸出。2.根據權利要求1所述的方法，其特征在于，將所述需過濾內容加入過濾內容庫，其中，對所述需過濾內容進行審核，根據通過審核的所述需過濾內容加入所述過濾內容庫。3.根據權利要求2所述的方法，其特征在于，對所述需過濾內容進行審核，其中，所述審核包括: 置信度審核，計算所述需過濾內容的置信度，當所述置信度大于設置的閥值時所述需過濾內容通過審核。4.根據權利要求2所述的方法，其特征在于: 將所述需過濾內容加入過濾內容候選庫； 對所述過濾內容候選庫的內容進行第一次審核，將通過第一次審核的需過濾內容加入過濾內容備選庫； 對所述過濾內容備選庫的內容進行第二次審核，將通過第二次審核的需過濾內容加入所述過濾內容庫。5.根據權利要求1所述的方法，其特征在于，基于所述過濾內容庫調整之后的機器人輸出，其中: 基于所述過濾內容庫對機器人需要輸出的交互輸出添加過濾標記，所述過濾標記對應所述交互輸出中需要過濾的輸出內容； 根據所述過濾標記對機器人需要輸出的交互輸出進行內容過濾調整。6.一種機器人，其特征在于，所述機器人包括: 采集模塊，其配置為采集用戶反饋； 評價確認模塊，其配置為分析所述用戶反饋中是否包含針對最近一個交互輸出的評價； 評價分析模塊，其配置為當所述用戶反饋中包含所述評價時分析所述評價以確定所述交互輸出中的需過濾內容； 存儲模塊，其配置為存儲過濾內容庫并將所述需過濾內容加入所述過濾內容庫； 輸出調整模塊，其配置為基于所述過濾內容庫調整之后的交互輸出。7.根據權利要求6所述的機器人，其特征在于，所述存儲模塊還配置為對所述需過濾內容進行審核，將通過審核的所述需過濾內容加入所述過濾內容庫。8.根據權利要求7所述的機器人，其特征在于，所述存儲模塊還配置為對所述需過濾內容進行審核，其中，所述審核包括: 置信度審核，計算所述需過濾內容的置信度，當所述置信度大于設置的閥值時所述需過濾內容通過審核。9.根據權利要求7所述的機器人，其特征在于，所述存儲模塊配置為: 將所述需過濾內容加入過濾內容候選庫； 對所述過濾內容候選庫的內容進行第一次審核，將通過第一次審核的需過濾內容加入過濾內容備選庫； 對所述過濾內容備選庫的內容進行第二次審核，將通過第二次審核的需過濾內容加入所述過濾內容庫。10.根據權利要求6所述的機器人，其特征在于，所述輸出調整模塊配置為: 基于所述過濾內容庫對機器人需要輸出的交互輸出添加過濾標記，所述過濾標記對應所述交互輸出中需要過濾的輸出內容； 根據所述過濾標記對機器人需要輸出的交互輸出進行內容過濾調整。
【文檔編號】G06F17/30GK106055718SQ201610562854
【公開日】2016年10月26日
【申請日】2016年7月15日
【發明人】韋克禮
【申請人】北京光年無限科技有限公司