[發明專利]惡意信息識別方法、惡意信息識別裝置及系統有效
| 申請號： | 201410341818.X | 申請日： | 2014-07-17 |
| 公開（公告）號： | CN105323145B | 公開（公告）日： | 2020-09-04 |
| 發明（設計）人： | 張龍攀;賀嘯 | 申請（專利權）人： | 騰訊科技（深圳）有限公司 |
| 主分類號： | H04L12/58 | 分類號： | H04L12/58;H04L29/06 |
| 代理公司： | 深圳翼盛智成知識產權事務所(普通合伙) 44300 | 代理人： | 黃威 |
| 地址： | 518000 廣東省深圳*** | 國省代碼： | 廣東;44 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 惡意 信息 識別 方法 裝置 系統 | ||
1.一種惡意信息識別方法，其特征在于，包括：
獲取會話群組的用戶上報的所述會話群組的實時會話信息；
使用惡意信息模型，對所述實時會話信息進行惡意信息判定，以獲取疑似惡意信息；
對所述會話群組的所有在線用戶發起所述疑似惡意信息的惡意信息判定請求，并接收所述用戶輸入的判定結果；所述判定結果為該疑似惡意信息是惡意信息、該疑似惡意信息不是惡意信息或放棄判定；以及
根據所述判定結果以及預設判定方法，識別所述疑似惡意信息中的惡意信息；
將識別結果反饋給在線用戶，以便用戶進行投訴處理。
2.根據權利要求1所述的惡意信息識別方法，其特征在于，所述識別所述疑似惡意信息中的惡意信息的步驟之后還包括：
使用識別結果對所述惡意信息模型進行修正。
3.根據權利要求1所述的惡意信息識別方法，其特征在于，所述獲取會話群組的實時會話信息的步驟包括：
從用戶上報端口獲取所述會話群組的實時會話信息。
4.根據權利要求3所述的惡意信息識別方法，其特征在于，所述使用惡意信息模型，對所述實時會話信息進行惡意信息判定，以獲取疑似惡意信息的步驟包括：
將從所述用戶上報端口獲取的所述實時會話信息設置為所述疑似惡意信息。
5.根據權利要求1所述的惡意信息識別方法，其特征在于，所述惡意信息識別方法包括：
接收所述疑似惡意信息的操作請求；以及
根據所述疑似惡意信息的操作請求，向所述操作請求的客戶端發送操作提示信息。
6.根據權利要求1所述的惡意信息識別方法，其特征在于，所述識別所述疑似惡意信息中的惡意信息的步驟包括：
如所述判定結果為所述會話群組中超過設定值的用戶判定所述疑似惡意信息為所述惡意信息，則判定所述疑似惡意信息為惡意信息；否則判定所述疑似惡意信息為非惡意信息。
7.根據權利要求1所述的惡意信息識別方法，其特征在于，所述獲取會話群組的實時會話信息的步驟包括：
獲取所述會話群組中每一條即時生成的實時會話信息。
8.一種惡意信息識別裝置，其特征在于，包括：
信息獲取模塊，用于獲取會話群組的用戶上報的所述會話群組的實時會話信息；
疑似惡意信息獲取模塊，用于使用惡意信息模型，對所述實時會話信息進行惡意信息判定，以獲取疑似惡意信息；
判定模塊，用于對所述會話群組的所有在線用戶發起所述疑似惡意信息的惡意信息判定請求，并接收所述用戶輸入的判定結果；所述判定結果為該疑似惡意信息是惡意信息、該疑似惡意信息不是惡意信息或放棄判定；以及
識別模塊，用于根據所述判定結果以及預設判定方法，識別所述疑似惡意信息中的惡意信息；
反饋模塊，將識別結果反饋給在線用戶，以便用戶進行投訴處理。
9.根據權利要求8所述的惡意信息識別裝置，其特征在于，所述惡意信息識別裝置還包括：
修正模塊，用于使用識別結果對所述惡意信息模型進行修正。
10.根據權利要求8所述的惡意信息識別裝置，其特征在于，所述信息獲取模塊還用于從用戶上報端口獲取所述會話群組的實時會話信息。
11.根據權利要求10所述的惡意信息識別裝置，其特征在于，所述疑似惡意信息獲取模塊還用于將從所述用戶上報端口獲取的所述實時會話信息設置為所述疑似惡意信息。
12.根據權利要求8所述的惡意信息識別裝置，其特征在于，所述惡意信息識別裝置還包括：
操作請求接收模塊，用于接收所述疑似惡意信息的操作請求；以及
操作提示信息發送模塊，用于根據所述疑似惡意信息的操作請求，向所述操作請求的客戶端發送操作提示信息。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于騰訊科技（深圳）有限公司，未經騰訊科技（深圳）有限公司許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.17sss.com.cn/pat/books/201410341818.X/1.html，轉載請聲明來源鉆瓜專利網。
- 信息記錄介質、信息記錄方法、信息記錄設備、信息再現方法和信息再現設備
- 信息記錄裝置、信息記錄方法、信息記錄介質、信息復制裝置和信息復制方法
- 信息記錄裝置、信息再現裝置、信息記錄方法、信息再現方法、信息記錄程序、信息再現程序、以及信息記錄介質
- 信息記錄裝置、信息再現裝置、信息記錄方法、信息再現方法、信息記錄程序、信息再現程序、以及信息記錄介質
- 信息記錄設備、信息重放設備、信息記錄方法、信息重放方法、以及信息記錄介質
- 信息存儲介質、信息記錄方法、信息重放方法、信息記錄設備、以及信息重放設備
- 信息存儲介質、信息記錄方法、信息回放方法、信息記錄設備和信息回放設備
- 信息記錄介質、信息記錄方法、信息記錄裝置、信息再現方法和信息再現裝置
- 信息終端，信息終端的信息呈現方法和信息呈現程序
- 信息創建、信息發送方法及信息創建、信息發送裝置
