本發(fā)明涉及大語言模型領(lǐng)域,尤其涉及一種大語言模型訓(xùn)練工作流的處理方法、系統(tǒng)以及計算機程序產(chǎn)品。
背景技術(shù):
1、隨著大語言模型的快速發(fā)展,各行各業(yè)均開始應(yīng)用大語言模型進行。大語言模型的應(yīng)用通常需要創(chuàng)建大語言模型工作流以實現(xiàn)數(shù)據(jù)處理與分析。然而現(xiàn)有技術(shù),通常是由用戶手動創(chuàng)建大語言模型工作流,而手動創(chuàng)建的工作流通常存在算子節(jié)點雜亂無章,不便于用戶清晰明了的看出工作流中算子節(jié)點間的邏輯關(guān)系,以及算子的運行狀態(tài)。
技術(shù)實現(xiàn)思路
1、本發(fā)明實施例提供一種大語言模型訓(xùn)練工作流的處理方法、系統(tǒng)以及計算機程序產(chǎn)品,解決現(xiàn)有技術(shù)中手動創(chuàng)建的大語言模型工作流通常存在算子節(jié)點雜亂無章,不便于用戶清晰明了的看出大語言模型工作流中算子節(jié)點間的邏輯關(guān)系,以及算子的運行狀態(tài)。
2、為解決上述技術(shù)問題,本發(fā)明提供一種大語言模型訓(xùn)練工作流的處理方法,所述方法包括:
3、步驟s1:獲取用戶基于業(yè)務(wù)場景創(chuàng)建的初始工作流;
4、步驟s2:基于所述初始工作流中各算子的輸入輸出關(guān)系確定各算子之間的層級關(guān)系;
5、步驟s3:基于所述各算子之間的層級關(guān)系對所述初始工作流進行調(diào)整,得到目標(biāo)工作流。
6、可選的,上述方法中,所述基于所述各算子之間的層級關(guān)系對所述初始工作流進行調(diào)整,得到目標(biāo)工作流包括:
7、步驟s31:基于所述各算子的層級關(guān)系對初始工作流的算子進行第一方向的位置排列;其中,層級越高的算子沿所述第一方向的位置越靠后;
8、步驟s32:基于算子路徑的分支數(shù)、不同路徑之間的交叉點數(shù)對所述初始工作流的算子進行第二方向的位置排列,得到目標(biāo)工作流。
9、可選的,上述方法中,所述基于所述初始工作流中各算子的輸入輸出關(guān)系確定各算子之間的層級關(guān)系包括:
10、步驟s21:將所述初始工作流中沒有輸入的算子確定為第一層級的算子;
11、步驟s22:基于所述第一層級的算子的輸出確定第二層級的算子;
12、步驟s23:基于所述第二層級的算子的輸出確定第三層級的算子,以此類推,直至所述初始工作流的所有算子均已經(jīng)確定層級;
13、其中,具有多個層級的算子的層級為所述多個層級中的最高層級。
14、可選的,上述方法中,所述基于算子路徑的分支數(shù)、不同路徑之間的交叉點數(shù)對所述初始工作流的算子進行第二方向的位置排列,得到目標(biāo)工作流包括:
15、步驟s321:將沒有分支的第一算子路徑排列在所述第二方向的一側(cè);
16、步驟s322:基于有分支的第二算子路徑與其他算子路徑的交叉點數(shù)調(diào)整所述第二算子路徑的算子在所述第二方向上的布局,得到目標(biāo)工作流。
17、可選的,上述方法中,所述基于有分支的第二算子路徑與其他算子路徑的交叉點數(shù)調(diào)整所述第二算子路徑的算子在所述第二方向上的布局,得到目標(biāo)工作流包括:
18、步驟s3221:確定有分支的第二算子路徑與其他算子路徑的交叉區(qū)域?qū)?yīng)的交叉點數(shù);
19、步驟s3222:將對應(yīng)交叉點數(shù)最大的交叉區(qū)域中的算子調(diào)整至對應(yīng)交叉點數(shù)最小的交叉區(qū)域中,得到目標(biāo)工作流。
20、可選的,上述方法中,所述基于所述各算子之間的層級關(guān)系對所述初始工作流進行調(diào)整,得到目標(biāo)工作流之后,所述方法包括:
21、步驟s4:計算所述目標(biāo)工作流的輪廓位置;
22、步驟s5:基于畫布大小以及縮放信息確定算子間隙;
23、步驟s6:基于所述目標(biāo)工作流的輪廓位置以及所述算子間隙對所述目標(biāo)工作流的顯示位置進行調(diào)整,使得所述目標(biāo)工作流處于所述畫布中的預(yù)設(shè)位置。
24、本發(fā)明實施例還提供了一種大語言模型訓(xùn)練工作流的處理方法,所述方法包括:
25、步驟s1:獲取用戶基于業(yè)務(wù)場景創(chuàng)建的初始工作流;
26、步驟s2:基于所述初始工作流中各算子的輸入輸出關(guān)系確定各算子之間的層級關(guān)系;
27、步驟s3:基于所述各算子之間的層級關(guān)系對所述初始工作流進行調(diào)整,得到目標(biāo)工作流;
28、步驟s4:獲取預(yù)設(shè)配置信息;
29、步驟s5:基于所述預(yù)設(shè)配置信息對所述目標(biāo)工作流的至少部分算子進行調(diào)整。
30、本發(fā)明實施例還提供了一種大語言模型訓(xùn)練工作流的處理裝置,所述裝置包括:
31、第一獲取模塊,用于獲取用戶基于業(yè)務(wù)場景創(chuàng)建的初始工作流;
32、第一確定模塊,用于基于所述初始工作流中各算子的輸入輸出關(guān)系確定各算子之間的層級關(guān)系;
33、第一調(diào)整模塊,用于基于所述各算子之間的層級關(guān)系對所述初始工作流進行調(diào)整,得到目標(biāo)工作流。
34、可選的,上述裝置中,所述第一調(diào)整模塊包括:
35、第一排列子模塊,用于基于所述各算子的層級關(guān)系對初始工作流的算子進行第一方向的位置排列;其中,層級越高的算子沿所述第一方向的位置越靠后;
36、第二排列子模塊,用于基于算子路徑的分支數(shù)、不同路徑之間的交叉點數(shù)對所述初始工作流的算子進行第二方向的位置排列,得到目標(biāo)工作流。
37、可選的,上述裝置中,所述第一確定模塊包括:
38、第一確定子模塊,用于將所述初始工作流中沒有輸入的算子確定為第一層級的算子;
39、第二確定子模塊,用于基于所述第一層級的算子的輸出確定第二層級的算子;
40、第三確定子模塊,用于基于所述第二層級的算子的輸出確定第三層級的算子,以此類推,直至所述初始工作流的所有算子均已經(jīng)確定層級;
41、其中,具有多個層級的算子的層級為所述多個層級中的最高層級。
42、可選的,上述裝置中,所述第二排列子模塊包括:
43、第一排列單元,用于將沒有分支的第一算子路徑排列在所述第二方向的一側(cè);
44、調(diào)整單元,用于基于有分支的第二算子路徑與其他算子路徑的交叉點數(shù)調(diào)整所述第二算子路徑的算子在所述第二方向上的布局,得到目標(biāo)工作流。
45、可選的,上述裝置中,所述調(diào)整單元具體用于:
46、確定有分支的第二算子路徑與其他算子路徑的交叉區(qū)域?qū)?yīng)的交叉點數(shù);
47、將對應(yīng)交叉點數(shù)最大的交叉區(qū)域中的算子調(diào)整至對應(yīng)交叉點數(shù)最小的交叉區(qū)域中,得到目標(biāo)工作流。
48、可選的,上述裝置還包括:
49、計算模塊,用于計算所述目標(biāo)工作流的輪廓位置;
50、第二確定模塊,用于基于畫布大小以及縮放信息確定算子間隙;
51、第二調(diào)整模塊,用于基于所述目標(biāo)工作流的輪廓位置以及所述算子間隙對所述目標(biāo)工作流的顯示位置進行調(diào)整,使得所述目標(biāo)工作流處于所述畫布中的預(yù)設(shè)位置。
52、本發(fā)明實施例還提供了一種大語言模型訓(xùn)練工作流的處理裝置,所述裝置包括:
53、第一獲取模塊,用于獲取用戶基于業(yè)務(wù)場景創(chuàng)建的初始工作流;
54、確定模塊,用于基于所述初始工作流中各算子的輸入輸出關(guān)系確定各算子之間的層級關(guān)系;
55、第一調(diào)整模塊,用于基于所述各算子之間的層級關(guān)系對所述初始工作流進行調(diào)整,得到目標(biāo)工作流;
56、第二獲取模塊,用于獲取預(yù)設(shè)配置信息;
57、第二調(diào)整模塊,用于基于所述預(yù)設(shè)配置信息對所述目標(biāo)工作流的至少部分算子進行調(diào)整。
58、本發(fā)明實施例還提供了一種大語言模型訓(xùn)練工作流的處理系統(tǒng),包括處理器、存儲器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序,所述計算機程序被所述處理器執(zhí)行時實現(xiàn)如上述的大語言模型訓(xùn)練工作流的處理方法的步驟。
59、本發(fā)明實施例還提供了一種計算機程序產(chǎn)品,包括計算機程序,所述計算機程序在被處理器執(zhí)行時實現(xiàn)如上述的大語言模型訓(xùn)練工作流的處理方法的步驟。
60、本發(fā)明實施例能夠自動對大語言模型訓(xùn)練工作流的布局進行調(diào)整,優(yōu)化大語言模型訓(xùn)練工作流的布局,使得用戶可以清晰的了解大語言模型訓(xùn)練工作流中算子節(jié)點間的邏輯關(guān)系,以及算子的運行狀態(tài)。