推斷處理系統(tǒng)、推斷處理裝置以及計算機(jī)程序產(chǎn)品。根據(jù)一種實施方式，推斷處理系統(tǒng)包括推斷處理裝置并且執(zhí)行推斷處理，以使得在后的推斷處理裝置對由在前的推斷處理裝置執(zhí)行的推斷處理的結(jié)果執(zhí)行推斷處理。該推斷處理系統(tǒng)包括：推斷結(jié)果存儲裝置，在其中存儲推斷處理裝置的推斷處理結(jié)果；處理延遲檢測器，其檢測推斷處理裝置的推斷處理中的延遲的發(fā)生；選擇器，其選擇可執(zhí)行具有延遲的推斷處理裝置的推斷處理的推斷處理裝置；以及輸入輸出控制器，其向選擇的推斷處理裝置輸入在具有延遲的推斷處理裝置之前的推斷處理裝置的推斷結(jié)果，并且使選擇的推斷處理裝置將推斷處理結(jié)果輸出到在具有延遲的推斷處理裝置之后的推斷處理裝置。

技術(shù)領(lǐng)域

本文描述的實施方式總體上涉及一種推斷處理系統(tǒng)、推斷處理裝置和計算機(jī)程序產(chǎn)品。

背景技術(shù)

傳統(tǒng)上，使用多個計算器(calculator)或計算單元的并行計算是已知的。例如，可以使用通過以太網(wǎng)(注冊商標(biāo))在計算器之間發(fā)送和接收數(shù)據(jù)的信息處理系統(tǒng)。

近年來，個人計算機(jī)(PC)的性能已得到改進(jìn)，從而能夠從外部獲取大量的無縫(seamless)數(shù)據(jù)(例如，圖像)以用于諸如推斷處理(inference processing)的并行處理。

但是，在并行處理中，根據(jù)要處理的實際對象，每個處理系統(tǒng)可能會有更大的負(fù)荷。

例如，在推斷由攝像機(jī)生成的圖像中所包括的人物的年齡和性別時，與處理非擁擠區(qū)域的圖像相比，處理擁擠區(qū)域的圖像時處理系統(tǒng)具有更大的負(fù)荷。

在兩個或更多個處理器進(jìn)行操作以使得在后階段(stage)的處理器使用在前處理器的處理結(jié)果來執(zhí)行處理的情況下，或者兩個或更多個處理系統(tǒng)可以執(zhí)行并行處理的情況下，任意處理器或處理系統(tǒng)都可能具有更大的處理負(fù)荷，從而導(dǎo)致處理延遲。在這種情況下，例如，使用在前處理器的結(jié)果的在后處理器和另一處理系統(tǒng)可能持續(xù)處于待機(jī)狀態(tài)，從而導(dǎo)致整個系統(tǒng)的效率降低。

因此，優(yōu)選提供一種能夠適當(dāng)?shù)胤峙涮幚碡?fù)荷并有效地進(jìn)行推斷處理的推斷處理系統(tǒng)、推斷處理裝置以及計算機(jī)程序產(chǎn)品。

發(fā)明內(nèi)容

根據(jù)一個方面，一種推斷處理系統(tǒng)包括推斷處理裝置并且執(zhí)行推斷處理，以使得在后推斷處理裝置對由在前推斷處理裝置執(zhí)行的推斷處理的結(jié)果執(zhí)行推斷處理。推斷處理系統(tǒng)包括：推斷結(jié)果存儲裝置，在該推斷結(jié)果存儲裝置中存儲推斷處理裝置的推斷處理的結(jié)果；處理延遲檢測器，該處理延遲檢測器被配置為檢測在推斷處理裝置的推斷處理中的延遲的發(fā)生；選擇器，該選擇器被配置為選擇推斷處理裝置中的一個推斷處理裝置，所述一個推斷處理裝置可以執(zhí)行與具有延遲的推斷處理裝置的推斷處理相同的推斷處理；以及輸入輸出控制器，該輸入輸出控制器被配置為將在具有延遲的推斷處理裝置之前的推斷處理裝置的推斷處理的結(jié)果輸入到由選擇器所選擇的推斷處理裝置，并且使所選擇的推斷處理裝置將推斷處理的結(jié)果輸出到在具有延遲的推斷處理裝置之后的推斷處理裝置。

附圖說明

圖1是根據(jù)一個實施方式的信息處理系統(tǒng)的示例性硬件配置的圖；

圖2是信息處理裝置和推斷處理裝置的示例性功能配置的圖；

圖3是中間結(jié)果的數(shù)據(jù)格式的示例的圖；

圖4是根據(jù)實施方式的處理流程圖；

圖5示出了根據(jù)第一實施方式的沒有處理延遲的操作；

圖6示出了根據(jù)第一實施方式的具有處理延遲的操作的圖。

圖7示出了根據(jù)第二實施方式的裝置的示例性配置和沒有處理延遲的操作；

圖8示出了根據(jù)第二實施方式的具有處理延遲的操作；

圖9示出了根據(jù)第三實施方式的裝置的示例性配置和沒有處理延遲的操作；以及