[發明專利]使用低精度和高精度的混合推理在審
| 申請號： | 201810367462.5 | 申請日： | 2018-04-23 |
| 公開（公告）號： | CN108734643A | 公開（公告）日： | 2018-11-02 |
| 發明（設計）人： | E·烏爾德-阿邁德-瓦爾;B·拉克舍瑪南;T·史佩斯曼;J·雷;P·T·唐;M·斯特里克蘭德;陳曉明;姚安邦;B·J·阿什博;L·L·赫德;馬立偉 | 申請（專利權）人： | 英特爾公司 |
| 主分類號： | G06T1/20 | 分類號： | G06T1/20;G06N3/04;G06N3/08 |
| 代理公司： | 上海專利商標事務所有限公司 31100 | 代理人： | 張欣;黃嵩泉 |
| 地址： | 美國加利*** | 國省代碼： | 美國;US |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 操作數 解碼指令 圖形計算單元 指令解碼邏輯 計算設備 邏輯單元 指令操作 單個指令 機器學習 解碼 通用 推理 | ||
1.一種用于執行機器學習操作的計算設備，所述計算設備包括：
指令解碼邏輯，用于將包括多個操作數的單個指令解碼成單個經解碼指令，所述多個操作數具有不同的精度；以及
包括第一邏輯單元和第二邏輯單元的通用圖形計算單元，所述通用圖形計算單元用于執行所述單個經解碼指令，其中，執行所述單個經解碼指令包括以第一精度對所述多個操作數中的第一組操作數執行第一指令操作，并且同時以第二精度對所述多個操作數中的第二組操作數執行第二指令操作。
2.如權利要求1所述的計算設備，其中，所述通用圖形計算單元用于輸出所述單個指令的多個結果。
3.如權利要求2所述的計算設備，其中，所述通用圖形計算單元用于輸出具有不同精度的多個結果。
4.如權利要求3所述的計算設備，其中，所述多個結果包括浮點結果和整數結果。
5.如權利要求4所述的計算設備，其中，所述多個結果包括多個整數結果。
6.如權利要求1至5中任一項所述的計算設備，其中，所述第一邏輯單元是浮點單元，并且所述第一組操作數具有浮點數據類型。
7.如權利要求1至5中任一項所述的計算設備，其中，所述第二邏輯單元被配置成用于執行整數操作，并且所述第二組操作數具有整數數據類型。
8.如權利要求7所述的計算設備，其中，所述第二組操作數包括第一子組操作數和第二子組操作數。
9.如權利要求8所述的計算設備，其中，所述第二邏輯單元用于對所述第一子組操作數和所述第二子組操作數執行相同的操作。
10.如權利要求8所述的計算設備，其中，所述第二邏輯單元用于對所述第一子組操作數執行第一數學運算，并且對所述第二子組操作數執行所述第一數學運算的逆運算。
11.一種執行機器學習操作的方法，所述方法包括：
獲取并解碼包括多個操作數的單個指令，所述多個操作數引用具有不同精度的多個數據元素；
經由計算單元內的第一邏輯單元對所述多個數據元素中的第一組執行第一指令操作，所述多個數據元素中的所述第一組具有第一精度；
與經由所述第一邏輯單元執行所述第一指令操作并行地、經由所述計算單元內的第二邏輯單元對所述多個數據元素中的第二組執行第二指令操作，所述多個數據元素中的所述第二組具有第二精度；以及
輸出所述第一指令操作和所述第二指令操作的結果。
12.如權利要求11所述的方法，其中，所述多個數據元素中的所述第一組具有浮點數據類型。
13.如權利要求11所述的方法，其中，所述多個數據元素中的所述第二組具有整數數據類型。
14.如權利要求11所述的方法，另外包括分派與所述單個指令相關聯的多個線程，其中，分派所述多個線程包括將第一線程分派給所述第一邏輯單元并且將第二線程分派給所述第二邏輯單元。
15.一種通用圖形處理設備，包括用于執行如權利要求11至14中任一項所述的方法的裝置。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于英特爾公司，未經英特爾公司許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.17sss.com.cn/pat/books/201810367462.5/1.html，轉載請聲明來源鉆瓜專利網。
- 上一篇：對機器學習模型的動態分布訓練
- 下一篇：利用時間復用進行的HDR增強
