[發明專利]使用機器學習從電子文檔選擇回答跨距的方法及系統有效
| 申請號: | 201880036021.5 | 申請日: | 2018-10-29 |
| 公開(公告)號: | CN110678882B | 公開(公告)日: | 2023-06-06 |
| 發明(設計)人: | T.M.奎亞特科夫斯基;A.P.帕里克;S.斯瓦亞姆蒂普塔 | 申請(專利權)人: | 谷歌有限責任公司 |
| 主分類號: | G06F16/332 | 分類號: | G06F16/332;G06N3/044;G06N3/0499;G06N3/08 |
| 代理公司: | 北京市柳沈律師事務所 11105 | 代理人: | 金玉潔 |
| 地址: | 美國加利*** | 國省代碼: | 暫無信息 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 使用 機器 學習 電子 文檔 選擇 回答 跨距 方法 系統 | ||
1.一種計算機實現方法,從輸入文檔選擇回答包含多個問題標記的輸入問題的文本跨距,所述方法包括:
在所述輸入文檔中獲得多個文本跨距中的每一個的相應的第一數值表示;
對于所述多個文本跨距中的每一個:
對于所述輸入文檔中包含所述文本跨距的分段,基于所述問題中的所述問題標記和包含所述文本跨距的分段中的分段標記之間的相似度來確定問題-意識分段向量,
對于所述問題,同樣基于所述問題中的所述問題標記和包含所述文本跨距的分段中的分段標記之間的相似度來確定針對所述問題的分段-意識問題向量,以及
使用第二前饋神經網絡處理所述文本跨距的第一數值表示、所述問題-意識分段向量和所述分段-意識問題向量以生成所述文本跨距的第二數值表示;
對于所述多個文本跨距中的每個唯一文本跨距:
從與所述唯一文本跨距對應的所述文本跨距的第二數值表示確定所述唯一文本跨距的聚合表示,其中,確定所述唯一文本跨距的聚合表示包括使用第三前饋神經網絡處理與所述唯一文本跨距對應的所述文本跨距中每一個的所述第二數值表示,以生成所述文本跨距中每一個的相應轉換的數值表示;以及通過求和所述轉換的數值表示來確定所述聚合表示,且
從所述聚合表示確定所述唯一文本跨距的最終得分,所述最終得分衡量所述唯一文本跨距回答所述問題的良好程度;以及
選擇具有最高最終得分的唯一文本跨距作為對所述問題的回答。
2.根據權利要求1所述的方法,還包括:
響應于所述問題,輸出所選擇的唯一文本跨距。
3.根據權利要求2所述的方法,其中所述問題作為語音輸入被接收,并且其中輸出所述唯一文本跨距包括:
輸出所述文本跨距的口頭話語作為對所述問題的響應的一部分。
4.根據權利要求1-3中任一項所述的方法,其中確定所述唯一文本跨距的最終得分包括:
使用線性預測層處理所述唯一文本跨距的聚合表示以生成所述最終得分。
5.根據權利要求1-3中任一項所述的方法,其中對于所述輸入文檔中包含所述文本跨距的分段確定所述問題-意識分段向量包括:
確定每個分段標記的相應的伴隨向量,所述伴隨向量說明所述分段標記與所述問題標記的相似度;以及
從所述分段標記的伴隨向量確定所述問題-意識分段向量。
6.根據權利要求1-3中任一項所述的方法,其中對于所述問題確定所述分段-意識問題向量包括:
確定每個問題標記的相應的伴隨向量,所述伴隨向量衡量所述問題標記與所述分段標記的相似度;以及
從所述問題標記的伴隨向量確定所述分段-意識問題向量。
7.根據權利要求1-3中任一項所述的方法,其中所述第二數值表示是所述第二前饋神經網絡中的最后一個隱藏層的輸出。
8.根據權利要求1-3中任一項所述的方法,其中獲得所述輸入文檔中的所述多個文本跨距中的每一個的第一數值表示包括,對于每個文本跨距:
基于所述文本跨距中的標記,獲得所述文本跨距的初始表示;
基于所述問題標記,獲得所述問題的初始表示;以及
從所述文本跨距的初始表示和所述問題的初始表示確定所述文本跨距的問題-跨距表示。
9.根據權利要求8所述的方法,其中獲得所述輸入文檔中的所述多個文本跨距中的每一個的相應的第一數值表示包括,對于每個文本跨距:
基于所述文本跨距的左上下文中的所述標記,獲得所述文檔中所述文本跨距的左上下文的初始表示;
基于所述文本跨距的右上下文中的所述標記,獲得所述文檔中所述文本跨距的右上下文的初始表示;以及
從所述文本跨距的初始表示以及所述左上下文的初始表示和所述右上下文的初始表示確定所述文本跨距的跨距-上下文表示。
10.根據權利要求9所述的方法,其中所述第一數值表示是所述問題-跨距表示和所述跨距-上下文表示的拼接。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于谷歌有限責任公司,未經谷歌有限責任公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.17sss.com.cn/pat/books/201880036021.5/1.html,轉載請聲明來源鉆瓜專利網。





