管理工作負(fù)載存儲(chǔ)器分配的方法和設(shè)備的制造方法
【技術(shù)領(lǐng)域】
[0001 ]本公開內(nèi)容一般涉及存儲(chǔ)器管理，并且更具體地說，涉及管理工作負(fù)載存儲(chǔ)器分配的方法和設(shè)備。
【背景技術(shù)】
[0002]近年來，處理器已被開發(fā)以執(zhí)行增大的每秒浮點(diǎn)運(yùn)算數(shù)量(FLOPS)。促成增大的FLOPS的設(shè)計(jì)改進(jìn)包括但不限于更大的晶體管密度和多個(gè)核。在另外的晶體管和/或核添加到處理器時(shí)，出現(xiàn)了功耗和熱的對應(yīng)增大，這可對FLOPS性能起到反作用。
【附圖說明】
[0003]圖1是根據(jù)管理工作負(fù)載存儲(chǔ)器分配的本公開內(nèi)容的教導(dǎo)構(gòu)成的示例工作負(fù)載管理器的示意圖。
[0004]圖2是指示請求平臺(tái)的存儲(chǔ)器訪問的示例數(shù)據(jù)元素的示例表格。
[0005]圖3是指示請求平臺(tái)的存儲(chǔ)器訪問的示例數(shù)據(jù)陣列簡檔的示例表格。
[0006]圖4-6是表示可執(zhí)行以管理工作負(fù)載存儲(chǔ)器分配，實(shí)現(xiàn)圖1的示例工作負(fù)載管理器和/或構(gòu)建圖2和3的表格的示例機(jī)器可讀指令的流程圖。
[0007]圖7是可執(zhí)行圖4-6的示例機(jī)器可讀指令以實(shí)現(xiàn)圖1的示例工作負(fù)載管理器和/或構(gòu)建圖2和3的表格的示例系統(tǒng)的框圖。
【具體實(shí)施方式】
[0008]本文公開了管理工作負(fù)載存儲(chǔ)器分配的方法、制品和設(shè)備。示例方法包括識別與平臺(tái)相關(guān)聯(lián)的主存儲(chǔ)器和輔助存儲(chǔ)器，輔助存儲(chǔ)器具有與主存儲(chǔ)器的第二性能度量不同的第一性能度量，識別與在平臺(tái)上執(zhí)行期間由工作負(fù)載調(diào)用的多個(gè)數(shù)據(jù)元素相關(guān)聯(lián)的訪問度量，基于與多個(gè)數(shù)據(jù)元素的對應(yīng)數(shù)據(jù)元素相關(guān)聯(lián)的訪問度量，按優(yōu)先排列(pr1ritize)多個(gè)數(shù)據(jù)元素的列表，以及基于多個(gè)存儲(chǔ)器元素的第一存儲(chǔ)器元素的優(yōu)先級，將多個(gè)數(shù)據(jù)元素的第一數(shù)據(jù)元素從主存儲(chǔ)器重新分配到輔助存儲(chǔ)器。
[0009]圖1是控制工作負(fù)載存儲(chǔ)器分配的示例工作負(fù)載控制器100的示意圖。在圖1的所示示例中，工作負(fù)載管理器100包括工作負(fù)載管理器102、數(shù)據(jù)元素識別器104、數(shù)據(jù)元素跟蹤器106、數(shù)據(jù)元素性能計(jì)算器108、存儲(chǔ)器管理器110、代碼修改器112及鏈接程序(linker)接口 114。示例工作負(fù)載管理器100以通信方式連接到具有一個(gè)或更多個(gè)工作負(fù)載118、主存儲(chǔ)器120、輔助存儲(chǔ)器122和處理器124的示例平臺(tái)116。
[0010]圖1的平臺(tái)116的示例處理器124包括執(zhí)行示例工作負(fù)載118的任何數(shù)量的核。圖1的示例工作負(fù)載118可包括但不限于由編譯器機(jī)制從源代碼生成和鏈接的可執(zhí)行代碼(例如，二進(jìn)制碼)的一個(gè)或更多個(gè)程序。代碼的執(zhí)行可包括但不限于執(zhí)行一個(gè)或更多個(gè)程序，程序具有任何數(shù)量的相關(guān)聯(lián)動(dòng)態(tài)鏈路庫(DLL)、一起鏈接到相同程序的一個(gè)或更多個(gè)單獨(dú)的文件和/或集群使用模型，集群使用模型中工作負(fù)載包括帶有涉及一個(gè)或更多個(gè)過程的任何數(shù)量的共享庫的程序。在示例工作負(fù)載118執(zhí)行期間，處理器124可訪問主存儲(chǔ)器120以操控和/或以其它方式處理數(shù)據(jù)。數(shù)據(jù)可包括但不限于數(shù)據(jù)陣列、文件、堆(heap)和/或棧(stack)。在本文中使用時(shí)，對數(shù)據(jù)、陣列數(shù)據(jù)和/或數(shù)據(jù)陣列的引用包括可由處理器124處理和/或存儲(chǔ)在主存儲(chǔ)器120和/或輔助存儲(chǔ)器122中的所有類型的數(shù)據(jù)。在本文中使用時(shí)，主存儲(chǔ)器120包括閃存、只讀存儲(chǔ)器(ROM)、隨機(jī)存取存儲(chǔ)器(RAM)和/或硬盤驅(qū)動(dòng)器存儲(chǔ)器。主存儲(chǔ)器120例如可包括任何類型的雙倍數(shù)據(jù)率(DDR) RAM(例如，DDR2、DDR3、DDR4等)。
[0011]在一些示例中，平臺(tái)116的輔助存儲(chǔ)器122包括在與主存儲(chǔ)器120相比時(shí)展示更低等待時(shí)間、相干性和/或更高帶寬能力的增強(qiáng)性能設(shè)計(jì)。示例輔助存儲(chǔ)器122可包括在與示例主存儲(chǔ)器120對應(yīng)的對應(yīng)閃存、R0M、RAM和/或硬盤驅(qū)動(dòng)器存儲(chǔ)器相比時(shí)具有改進(jìn)性能度量的閃存、R0M、RAM和/或硬盤驅(qū)動(dòng)器存儲(chǔ)器。示例輔助存儲(chǔ)器122可基于其改進(jìn)的性能特性而具有相關(guān)聯(lián)溢價(jià)，并且因此，輔助存儲(chǔ)器122的對應(yīng)大小/容量可實(shí)質(zhì)上低于主存儲(chǔ)器120的大小/容量。相應(yīng)地，示例輔助存儲(chǔ)器122的利用由于其相對更高的成本和更低的大小而得到仔細(xì)審查。示例輔助存儲(chǔ)器122可包括但不限于暫存RAM。暫存RAM是相對高速的內(nèi)部存儲(chǔ)器，可以是協(xié)調(diào)的(coherent)，并且可位于處理器124上，在處理器124附近和/或在處理器封裝內(nèi)。
[0012]在操作中，示例工作負(fù)載管理器100識別改進(jìn)(例如，優(yōu)化)在示例平臺(tái)116上執(zhí)行的代碼的一個(gè)或更多個(gè)機(jī)會(huì)。如上所述，雖然添加到處理器124的另外晶體管和/或核可在執(zhí)行代碼時(shí)產(chǎn)生更快的結(jié)果，但添加的晶體管的對應(yīng)熱生成和/或功耗可在FLOPS性能方面最終提供減小的收益。為在執(zhí)行一個(gè)或更多個(gè)工作負(fù)載118時(shí)改進(jìn)平臺(tái)性能，示例工作負(fù)載管理器100識別工作負(fù)載118的存儲(chǔ)器利用模式。如果由示例處理器124創(chuàng)建和/或以其它方式操控的第一數(shù)據(jù)陣列展示相對高的需求(例如，與第二數(shù)據(jù)陣列相比時(shí)的讀/寫操作的數(shù)量、數(shù)據(jù)陣列實(shí)質(zhì)影響工作負(fù)載/平臺(tái)性能的程度、相對比較等)，則示例工作負(fù)載管理器100修改與示例工作負(fù)載118相關(guān)聯(lián)的代碼，以便為此類讀/寫操作利用相對更快類型的存儲(chǔ)器。示例工作負(fù)載管理器100執(zhí)行的代碼修改可包括但不限于源代碼修改、二進(jìn)制碼修改、動(dòng)態(tài)即時(shí)(JIT)編碼器修改等。在一些示例中，可重新鏈接代碼以在某種程度上改進(jìn)速度而無需一個(gè)或更多個(gè)編譯操作。諸如示例輔助存儲(chǔ)器122等更快類型的存儲(chǔ)器允許通過比主存儲(chǔ)器120更低的等待時(shí)間和/或更高的帶寬進(jìn)行讀/寫操作，由此改進(jìn)在示例平臺(tái)116上執(zhí)行時(shí)工作負(fù)載118的性能。
[0013]示例工作負(fù)載管理器102檢索和/或以其它方式接收來自平臺(tái)116的工作負(fù)載118，并且執(zhí)行在受監(jiān)視環(huán)境中的工作負(fù)載以表征其操作。在一些示例中，工作負(fù)載管理器102獲得，檢索和/或以其它方式獲得與示例平臺(tái)116相關(guān)聯(lián)的信息，如平臺(tái)116利用和/或以其它方式可用的一個(gè)或更多個(gè)類型的存儲(chǔ)器。如下面進(jìn)一步詳細(xì)所述，如果平臺(tái)116包括具有在與示例主存儲(chǔ)器120相比時(shí)改進(jìn)的操作特性的一個(gè)或更多個(gè)類型的存儲(chǔ)器(例如，輔助存儲(chǔ)器122)，則示例工作負(fù)載管理器100修改與工作負(fù)載118相關(guān)聯(lián)的代碼(例如，源代碼、一個(gè)或更多個(gè)二進(jìn)制碼、磁盤上有利于隨后執(zhí)行優(yōu)化的二進(jìn)制碼等)，以利用此類存儲(chǔ)器改進(jìn)平臺(tái)性能。示例工作負(fù)載管理器102可一次或更多次調(diào)用工作負(fù)載118以表征其數(shù)據(jù)陣列和存儲(chǔ)器利用行為。在一些示例中，工作負(fù)載管理器102調(diào)用工作負(fù)載118的多次執(zhí)行迭代以確定平均特性。在其它示例中，工作負(fù)載管理器102通過一個(gè)或更多個(gè)輸入?yún)?shù)調(diào)用工作負(fù)載118以識別對應(yīng)數(shù)據(jù)陣列和/或存儲(chǔ)器利用行為(例如，應(yīng)力試驗(yàn))。
[0014]在示例工作負(fù)載118執(zhí)行期間，示例數(shù)據(jù)元素識別器104識別到諸如示例主存儲(chǔ)器120等平臺(tái)116的一個(gè)或更多個(gè)存儲(chǔ)器的數(shù)據(jù)訪問的實(shí)例。示例數(shù)據(jù)元素跟蹤器106為示例工作負(fù)載118采用的每個(gè)數(shù)據(jù)陣列計(jì)數(shù)數(shù)據(jù)訪問的檢測到的實(shí)例的數(shù)量，并且存儲(chǔ)此類計(jì)數(shù)以便以后分析工作負(fù)載118行為。在其它示例中，收集和/或監(jiān)視訪問計(jì)數(shù)可能不足以確定在與一個(gè)或更多個(gè)其它數(shù)據(jù)陣列相比時(shí)關(guān)注的數(shù)據(jù)陣列的相對分級。在此類情況下，收集和/或監(jiān)視用于關(guān)注的每個(gè)數(shù)據(jù)陣列的每時(shí)間單位的訪問允許進(jìn)行哪個(gè)(些)數(shù)據(jù)陣列可對平臺(tái)和/或工作負(fù)載性能貢獻(xiàn)最大益處的相對分級。如上所述，每個(gè)數(shù)據(jù)陣列可包括由示例工作負(fù)載采用的任何類型的存儲(chǔ)器結(jié)構(gòu)，如陣列、文件、堆、棧、寄存器等。示例數(shù)據(jù)元素跟蹤器106也可從工作負(fù)載收集情報(bào)以發(fā)送到示例數(shù)據(jù)元素性能計(jì)算器108。
[0015]示例數(shù)據(jù)元素性能計(jì)算器108分析數(shù)據(jù)訪問的存儲(chǔ)實(shí)例，并且生成與執(zhí)行到存儲(chǔ)器的一個(gè)或更多個(gè)讀/寫操作的每個(gè)數(shù)據(jù)陣列相關(guān)聯(lián)的一個(gè)或更多個(gè)數(shù)據(jù)訪問行為的表格。如下面進(jìn)一步詳細(xì)所述，示例數(shù)據(jù)元素性能計(jì)算器108生成的表格可包括與每個(gè)數(shù)據(jù)陣列相關(guān)聯(lián)的存儲(chǔ)器訪問嘗試的數(shù)量的計(jì)數(shù)(訪問計(jì)數(shù))、存儲(chǔ)器訪問嘗試導(dǎo)致延遲(例如，處理器自旋、處理器等待存儲(chǔ)器變得可用于讀/寫操作、與負(fù)載和/或存儲(chǔ)相關(guān)聯(lián)的停頓)的實(shí)例數(shù)量的計(jì)數(shù)和/或在存儲(chǔ)器訪問嘗試造成處理器自旋(例如，處理器等待事件)的實(shí)例期間發(fā)生的周期數(shù)量。在