[發明專利]數據聚合處理方法、裝置、設備及存儲介質在審
| 申請號: | 202010067848.1 | 申請日: | 2020-01-20 |
| 公開(公告)號: | CN111291082A | 公開(公告)日: | 2020-06-16 |
| 發明(設計)人: | 李巖巖;段建國;熊輝 | 申請(專利權)人: | 北京百度網訊科技有限公司 |
| 主分類號: | G06F16/2455 | 分類號: | G06F16/2455;G06F16/2453 |
| 代理公司: | 北京同立鈞成知識產權代理有限公司 11205 | 代理人: | 鈄颯颯;劉芳 |
| 地址: | 100085 北京市*** | 國省代碼: | 北京;11 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 數據 聚合 處理 方法 裝置 設備 存儲 介質 | ||
本申請公開了一種數據聚合處理方法、裝置、設備及存儲介質,該方法包括:通過獲取待聚合處理的原始數據,并將原始數據劃分為至少一個第一數據集合;確定至少一個第一數據集合中的每一個第一數據集合是否具有對應的歷史聚合記錄;若至少一個第一數據集合中存在至少一個具有歷史聚合記錄的第二數據集合,獲取每一個第二數據集合對應的歷史聚合結果,得到至少一個第一聚合結果;對每一個不具有歷史聚合記錄的第三數據集合進行聚合處理,得到至少一個第二聚合結果;根據至少一個第一聚合結果和至少一個第二聚合結果,確定原始數據的第三聚合結果。有利于提高數據聚合結果的復用性,提高數據聚合的聚合效率,和減少數據聚合的資源消耗。
技術領域
本申請涉及數據處理領域,尤其是一種數據聚合處理方法、裝置、設備及存儲介質。
背景技術
隨著互聯網技術的迅速發展,引發了數據呈現爆炸式增長態勢,數據已成為一種重要的戰略資源,相應的數據處理技術和數據處理服務也得以迅速發展。
相關技術中,在利用大數據提供決策支持時,使用大規模的計算資源和復雜的計算邏輯,進行海量數據的聚合處理工作。
然而,大規模的計算資源需要消耗很高的運行成本和維護成本,數據聚合工作成本消耗高;同時使用大規模的計算資源和復雜的計算邏輯進行數據聚合處理,存在運算效率低、專業性要求高的問題。
發明內容
本申請實施例提供一種數據聚合處理方法、裝置、設備及存儲介質,用于解決現有數據聚合方法存在的運算資源消耗高、運算效率低的問題。
第一方面,本申請提供了一種數據聚合處理方法,包括:
獲取待聚合處理的原始數據,并將所述原始數據劃分為至少一個第一數據集合;
確定所述至少一個第一數據集合中的每一個第一數據集合是否具有對應的歷史聚合記錄;
若所述至少一個第一數據集合中存在至少一個具有歷史聚合記錄的第二數據集合,獲取每一個所述第二數據集合對應的歷史聚合結果,得到至少一個第一聚合結果;
對每一個不具有歷史聚合記錄的第三數據集合進行聚合處理,得到至少一個第二聚合結果;
根據所述至少一個第一聚合結果和所述至少一個第二聚合結果,確定所述原始數據的第三聚合結果,并根據所述第三聚合結果確定所述原始數據的數據標簽。
將待聚合處理的原始數據劃分為至少一個第一數據集合,分別確定每一個第一數據集合的數據聚合結果,有利于有效提高數據聚合的聚合效率;確定具有歷史聚合記錄的第二數據集合,并不對已被聚合處理過的第二數據集合再次進行聚合處理,而是直接獲取第二數據集合的歷史聚合結果,有利于提高數據聚合結果的復用性,有利于降低數據聚合的資源消耗,和提高數據聚合的處理效率。
進一步地,將所述原始數據劃分為至少一個第一數據集合,包括:
建立與所述原始數據對應的第一計劃樹,所述第一計劃樹中包括至少一個第一連接節點和至少一個第一聚合節點,所述第一計劃樹的一個葉節點構成一個所述第一聚合節點,一個所述第一聚合節點所表征的數據構成一個所述第一數據集合。
建立與原始數據對應的第一計劃樹,有利于提高數據聚合結果的復用性,提高數據聚合運算的開發效率。
進一步地,建立與所述原始數據對應的第一計劃樹,包括:
獲取用戶指定的對所述原始數據進行分批次聚合處理中的每一次聚合處理的數據量度,構成所述至少一個第一數據集合中的每一個第一數據集合的數據量度閾值;
根據每一個所述第一數據集合的所述數據量度閾值,確定所述第一計劃樹的節點層數和所述至少一個第一聚合節點;
根據所述節點層數和所述至少一個第一聚合節點,建立所述第一計劃樹。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于北京百度網訊科技有限公司,未經北京百度網訊科技有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.17sss.com.cn/pat/books/202010067848.1/2.html,轉載請聲明來源鉆瓜專利網。
- 數據顯示系統、數據中繼設備、數據中繼方法、數據系統、接收設備和數據讀取方法
- 數據記錄方法、數據記錄裝置、數據記錄媒體、數據重播方法和數據重播裝置
- 數據發送方法、數據發送系統、數據發送裝置以及數據結構
- 數據顯示系統、數據中繼設備、數據中繼方法及數據系統
- 數據嵌入裝置、數據嵌入方法、數據提取裝置及數據提取方法
- 數據管理裝置、數據編輯裝置、數據閱覽裝置、數據管理方法、數據編輯方法以及數據閱覽方法
- 數據發送和數據接收設備、數據發送和數據接收方法
- 數據發送裝置、數據接收裝置、數據收發系統、數據發送方法、數據接收方法和數據收發方法
- 數據發送方法、數據再現方法、數據發送裝置及數據再現裝置
- 數據發送方法、數據再現方法、數據發送裝置及數據再現裝置





