本申請公開了一種網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集緩存方法、裝置、設(shè)備及存儲介質(zhì)。該方法的步驟包括：統(tǒng)計網(wǎng)絡(luò)訓(xùn)練集群中未緩存待訓(xùn)練數(shù)據(jù)集的訓(xùn)練節(jié)點(diǎn)在緩存待訓(xùn)練數(shù)據(jù)集的過程中所需的磁盤性能開銷；監(jiān)控未緩存待訓(xùn)練數(shù)據(jù)集的訓(xùn)練節(jié)點(diǎn)的當(dāng)前性能參數(shù)；基于當(dāng)前性能參數(shù)在網(wǎng)絡(luò)訓(xùn)練集群中選取滿足磁盤性能開銷的目的節(jié)點(diǎn)；利用目的節(jié)點(diǎn)緩存由源節(jié)點(diǎn)傳入的待訓(xùn)練數(shù)據(jù)集，以基于目的節(jié)點(diǎn)對待訓(xùn)練數(shù)據(jù)集執(zhí)行網(wǎng)絡(luò)訓(xùn)練。本方法確保了訓(xùn)練節(jié)點(diǎn)緩存待訓(xùn)練數(shù)據(jù)集的可靠性，進(jìn)而確保了網(wǎng)絡(luò)訓(xùn)練的整體可靠性。此外，本申請還提供一種網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集緩存裝置、設(shè)備及存儲介質(zhì)，有益效果同上所述。

技術(shù)領(lǐng)域

本申請涉及深度學(xué)習(xí)領(lǐng)域，特別是涉及一種網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集緩存方法、裝置、設(shè)備及存儲介質(zhì)。

背景技術(shù)

深度學(xué)習(xí)在當(dāng)前得到了廣泛的運(yùn)用，深度學(xué)習(xí)指的是通過大量數(shù)據(jù)對神經(jīng)網(wǎng)絡(luò)進(jìn)行特征訓(xùn)練，產(chǎn)生具有識別相應(yīng)數(shù)據(jù)能力的網(wǎng)絡(luò)模型。

由于神經(jīng)網(wǎng)絡(luò)訓(xùn)練的過程中所使用的樣本數(shù)據(jù)集的多少，直接影響深度學(xué)習(xí)的效果，因此當(dāng)前往往以包含有多個訓(xùn)練節(jié)點(diǎn)以及數(shù)據(jù)集存儲節(jié)點(diǎn)的集群方式，采用多個訓(xùn)練節(jié)點(diǎn)共同利用數(shù)據(jù)集存儲節(jié)點(diǎn)中的數(shù)據(jù)集對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。在訓(xùn)練過程中，不同訓(xùn)練節(jié)點(diǎn)中緩存的數(shù)據(jù)集可能存在差異，并且當(dāng)前往往存在需要使用多個訓(xùn)練節(jié)點(diǎn)基于相同數(shù)據(jù)集進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練的情況，而神經(jīng)網(wǎng)絡(luò)訓(xùn)練的整體可靠性也是當(dāng)前本領(lǐng)域所關(guān)注的重點(diǎn)。

由此可見，提供一種網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集緩存方法，以確保訓(xùn)練節(jié)點(diǎn)緩存待訓(xùn)練數(shù)據(jù)集的可靠性，進(jìn)而確保網(wǎng)絡(luò)訓(xùn)練的整體可靠性，是本領(lǐng)域技術(shù)人員需要解決的問題。

發(fā)明內(nèi)容

本申請的目的是提供一種網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集緩存方法、裝置、設(shè)備及存儲介質(zhì)，以確保訓(xùn)練節(jié)點(diǎn)緩存待訓(xùn)練數(shù)據(jù)集的可靠性，進(jìn)而確保網(wǎng)絡(luò)訓(xùn)練的整體可靠性。

為解決上述技術(shù)問題，本申請?zhí)峁┮环N網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集緩存方法，包括：

統(tǒng)計網(wǎng)絡(luò)訓(xùn)練集群中未緩存待訓(xùn)練數(shù)據(jù)集的訓(xùn)練節(jié)點(diǎn)在緩存待訓(xùn)練數(shù)據(jù)集的過程中所需的磁盤性能開銷；

監(jiān)控未緩存待訓(xùn)練數(shù)據(jù)集的訓(xùn)練節(jié)點(diǎn)的當(dāng)前性能參數(shù)；

基于當(dāng)前性能參數(shù)在網(wǎng)絡(luò)訓(xùn)練集群中選取滿足磁盤性能開銷的目的節(jié)點(diǎn)；

利用目的節(jié)點(diǎn)緩存由源節(jié)點(diǎn)傳入的待訓(xùn)練數(shù)據(jù)集，以基于目的節(jié)點(diǎn)對待訓(xùn)練數(shù)據(jù)集執(zhí)行網(wǎng)絡(luò)訓(xùn)練。

優(yōu)選地，在利用目的節(jié)點(diǎn)緩存由源節(jié)點(diǎn)傳入的待訓(xùn)練數(shù)據(jù)集之前，方法還包括：

判斷網(wǎng)絡(luò)訓(xùn)練集群中是否存在緩存有待訓(xùn)練數(shù)據(jù)集的源訓(xùn)練節(jié)點(diǎn)；

若網(wǎng)絡(luò)訓(xùn)練集群中存在緩存有待訓(xùn)練數(shù)據(jù)集的源訓(xùn)練節(jié)點(diǎn)，則在源訓(xùn)練節(jié)點(diǎn)中選取與目的節(jié)點(diǎn)之間的空閑網(wǎng)絡(luò)帶寬最大的目標(biāo)源訓(xùn)練節(jié)點(diǎn)；

相應(yīng)的，利用目的節(jié)點(diǎn)緩存由源節(jié)點(diǎn)傳入的待訓(xùn)練數(shù)據(jù)集，包括：

利用目的節(jié)點(diǎn)緩存由目標(biāo)源訓(xùn)練節(jié)點(diǎn)傳入的待訓(xùn)練數(shù)據(jù)集。

優(yōu)選地，當(dāng)網(wǎng)絡(luò)訓(xùn)練集群中不存在緩存有待訓(xùn)練數(shù)據(jù)集的源訓(xùn)練節(jié)點(diǎn)時，利用目的節(jié)點(diǎn)緩存由源節(jié)點(diǎn)傳入的待訓(xùn)練數(shù)據(jù)集，包括：

利用目的節(jié)點(diǎn)緩存由網(wǎng)絡(luò)訓(xùn)練集群中的數(shù)據(jù)集存儲節(jié)點(diǎn)傳入的待訓(xùn)練數(shù)據(jù)集。

優(yōu)選地，統(tǒng)計網(wǎng)絡(luò)訓(xùn)練集群中未緩存待訓(xùn)練數(shù)據(jù)集的訓(xùn)練節(jié)點(diǎn)在緩存待訓(xùn)練數(shù)據(jù)集的過程中所需的磁盤性能開銷，包括：

基于未緩存待訓(xùn)練數(shù)據(jù)集的訓(xùn)練節(jié)點(diǎn)的硬件性能參數(shù)以及待訓(xùn)練數(shù)據(jù)集的數(shù)據(jù)屬性參數(shù)統(tǒng)計得到磁盤性能開銷。

優(yōu)選地，硬件性能參數(shù)包括磁盤轉(zhuǎn)速、磁盤平均巡道時間以及磁盤最大傳輸速率；

待訓(xùn)練數(shù)據(jù)集的數(shù)據(jù)屬性參數(shù)包括平均文件大小；平均文件大小基于待訓(xùn)練數(shù)據(jù)集的數(shù)據(jù)總量以及文件總量運(yùn)算得到。