本申請涉及通信，尤其涉及一種請求調(diào)度的方法、裝置、電子設(shè)備和計算機(jī)可讀介質(zhì)。

背景技術(shù)：

1、微服務(wù)架構(gòu)(microservice?architecture)是一種架構(gòu)概念，旨在通過將功能分解到各個離散的服務(wù)中以實現(xiàn)對解決方案的解耦。在微服務(wù)架構(gòu)中，每個服務(wù)通常具有多個規(guī)格不同的實例。為了保證實例間負(fù)載均衡，應(yīng)用程序接口(application?programminginterface，api)網(wǎng)關(guān)需要對服務(wù)請求進(jìn)行調(diào)度。目前調(diào)度策略主要包括靜態(tài)調(diào)度策略和動態(tài)處理策略。其中，靜態(tài)調(diào)度策略包括使用輪詢、加權(quán)輪詢、源地址哈希等內(nèi)置靜態(tài)算法進(jìn)行集群調(diào)度，由于沒有考慮后端實例負(fù)載情況，可能因為實例資源規(guī)格、網(wǎng)絡(luò)帶寬等因素，造成導(dǎo)致負(fù)載不均衡。

2、主動檢測后端實例負(fù)載的動態(tài)調(diào)度策略，主要采用如加權(quán)最小連接數(shù)、最快響應(yīng)速度的方式，由于對上述參數(shù)缺乏有效的評估手段，計算得到的負(fù)載誤差較大，請求調(diào)度的準(zhǔn)確性較低。

技術(shù)實現(xiàn)思路

1、本申請實施例的目的是提供一種請求調(diào)度的方法、裝置、電子設(shè)備和計算機(jī)可讀介質(zhì)，能夠提高請求調(diào)度的準(zhǔn)確性。

2、為解決上述技術(shù)問題，本申請實施例是通過以下各方面實現(xiàn)的。

3、第一方面，本申請實施例提供了一種請求調(diào)度的方法，包括：確定各實例處理目標(biāo)請求所需的處理時長；確定各實例處理所述目標(biāo)請求前需要等待的排隊時長；根據(jù)所述處理時長和所述排隊時長，確定各實例響應(yīng)所述目標(biāo)請求所需的響應(yīng)時長；根據(jù)所述響應(yīng)時長，確定處理所述目標(biāo)請求的目標(biāo)實例。

4、第二方面，本申請實施例提供了一種請求調(diào)度的裝置，包括：第一確定模塊，用于確定各實例處理目標(biāo)請求所需的處理時長；第二確定模塊，用于確定各實例處理所述目標(biāo)請求前需要等待的排隊時長；第三確定模塊，用于根據(jù)所述處理時長和所述排隊時長，確定各實例響應(yīng)所述目標(biāo)請求所需的響應(yīng)時長；第四確定模塊，用于根據(jù)所述響應(yīng)時長，確定處理所述目標(biāo)請求的目標(biāo)實例。

5、第三方面，本申請實施例提供了一種電子設(shè)備，包括：存儲器、處理器和存儲在所述存儲器上并可在所述處理器上運(yùn)行的計算機(jī)可執(zhí)行指令，所述計算機(jī)可執(zhí)行指令被所述處理器執(zhí)行時實現(xiàn)上述第一方面所述的請求調(diào)度的方法。

6、第四方面，本申請實施例提供了一種計算機(jī)可讀存儲介質(zhì)，所述計算機(jī)可讀存儲介質(zhì)用于存儲計算機(jī)可執(zhí)行指令，所述計算機(jī)可執(zhí)行指令被處理器執(zhí)行時實現(xiàn)上述第一方面所述的請求調(diào)度的方法。

7、在本申請實施例中，通過確定各實例處理目標(biāo)請求所需的處理時長；確定各實例處理所述目標(biāo)請求前需要等待的排隊時長；根據(jù)所述處理時長和所述排隊時長，確定各實例響應(yīng)所述目標(biāo)請求所需的響應(yīng)時長；根據(jù)所述響應(yīng)時長，確定處理所述目標(biāo)請求的目標(biāo)實例，能夠提高請求調(diào)度的準(zhǔn)確性。

技術(shù)特征：

1.一種請求調(diào)度的方法，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述處理時長和所述排隊時長，確定各實例響應(yīng)所述目標(biāo)請求所需的響應(yīng)時長，包括：

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述第一權(quán)重由所述歷史時間段內(nèi)請求處理時長與請求數(shù)量的關(guān)系確定。

4.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述第二權(quán)重由所述歷史時間段內(nèi)請求排隊時長與請求數(shù)量的關(guān)系確定。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，根據(jù)所述響應(yīng)時長，確定處理所述目標(biāo)請求的目標(biāo)實例，包括：

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述根據(jù)所述響應(yīng)時長，確定處理所述目標(biāo)請求的目標(biāo)實例，還包括：

7.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述根據(jù)所述響應(yīng)時長，確定處理所述目標(biāo)請求的目標(biāo)實例之前，還包括：

8.一種請求調(diào)度的裝置，其特征在于，包括：

9.一種電子設(shè)備，包括：

10.一種計算機(jī)可讀介質(zhì)，所述計算機(jī)可讀介質(zhì)存儲一個或多個程序，所述一個或多個程序當(dāng)被包括多個應(yīng)用程序的電子設(shè)備執(zhí)行時，使得所述電子設(shè)備執(zhí)行以下權(quán)利要求1-7中任一項所述的請求調(diào)度的方法。

技術(shù)總結(jié)
本申請實施例提供了一種請求調(diào)度的方法，裝置、電子設(shè)備和計算機(jī)可讀介質(zhì)，涉及通信技術(shù)領(lǐng)域。所述方法包括：確定各實例處理目標(biāo)請求所需的處理時長；確定各實例處理所述目標(biāo)請求前需要等待的排隊時長；根據(jù)所述處理時長和所述排隊時長，確定各實例響應(yīng)所述目標(biāo)請求所需的響應(yīng)時長；根據(jù)所述響應(yīng)時長，確定處理所述目標(biāo)請求的目標(biāo)實例。

技術(shù)研發(fā)人員：張偉,彭華,徐煦,朱宇昕,田康,張博
受保護(hù)的技術(shù)使用者：中移雄安信息通信科技有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/10/21