异构算力设备选择方法、装置、设备、介质、产品及系统与流程

专利2025-03-18  10


本发明涉及人工智能,特别是涉及一种异构算力设备选择方法、装置、设备、介质、产品及系统。


背景技术:

1、随着人工智能技术的快速发展,能够有效协同处理大量数据的异构计算系统,如多元异构计算系统,被广泛应用。在多元异构计算系统中,不同计算性能的异构算力,如异构计算芯片或计算卡,会被接入到同一个分布式计算系统中,算力需求方根据要处理的任务情况选择不同的算力资源,系统响应用户需求调用相应算力资源。

2、在相关技术中,算力需求方在选择算力资源时,需要向算力供应方的专业人员提供详细数据如算力使用类型数据或待处理任务的专业描述数据,以得到相应的算力资源推荐信息。这不仅要求算力需求方具有足够的知识储备,还需要耗费大量人力成本为匹配进行算力。

3、鉴于此,在供需双方无需技术语言沟通基础上,能够实现低成本地算力资源匹配,是本领域技术人员需要解决的技术问题。

4、需要说明的是,在上述背景技术部分公开的信息仅用于加强对本技术的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现思路

1、本发明提供了一种异构算力设备选择方法、装置、电子设备、非易失性存储介质、计算机程序产品及异构计算系统,不仅对算力需求方的专业知识和知识储备无要求,还能够实现低成本地算力资源匹配。

2、为解决上述技术问题,本发明提供以下技术方案:

3、本发明第一方面提供了一种异构算力设备选择方法,包括:

4、获取异构计算系统的异构算力资源状态数据;

5、获取算力需求方以自然语言形式描述的算力需求数据,并将所述算力需求数据转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据;

6、调用预先构建的算力匹配模型,基于所述算力需求标准数据及所述异构算力资源状态数据,确定与所述算力需求数据相匹配的算力匹配数据;其中,所述算力匹配模型构建了算力需求与算力资源间的匹配关系;

7、将所述算力匹配数据转换为以自然语言形式描述的算力资源选择结果进行输出。

8、在第一种示例性的实施方式中,所述将所述算力需求数据转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据,包括:

9、预先获取算力需求问答样本数据集;所述算力需求问答样本数据集包括多组算力需求问答样本,各算力需求问答样本至少包括算力需求问样本和对应的算力需求标准样本,所述算力需求问样本为以自然语言形式描述的算力需求信息,所述算力需求标准样本为满足所述算力需求数据格式的算力需求信息;

10、预先基于所述算力需求问答样本数据集训练格式转换模型;所述格式转换模型,用于将自然语言形式描述的算力需求数据,转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据;

11、将所述算力需求数据输入至训练好的格式转换模型,并将所述格式转换模型的输出作为算力需求标准数据。

12、在第二种示例性的实施方式中,所述将所述算力需求数据转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据之前,还包括:

13、获取完成预训练阶段的预训练语言模型;

14、获取算力需求问答样本数据集;所述算力需求问答样本数据集为所述预训练语言模型的微调数据集;

15、利用所述算力需求问答样本数据集对所述预训练语言模型进行微调处理,得到格式转换模型,以利用所述格式转换模型将所述算力需求数据转换为算力需求标准数据。

16、在第三种示例性的实施方式中,所述利用所述算力需求问答样本数据集对所述预训练语言模型进行微调处理,包括:

17、预先构建第一训练参数及第二训练参数;所述第一训练参数的输入维度与所述预训练语言模型的输入维度相同,输出维度与所述预训练语言模型的输出维度的第一差值大于第一预设阈值;所述第二训练参数的输出维度与所述预训练语言模型的输出维度相同,输入维度与所述预训练语言模型的输入维度的第二差值大于第二预设阈值;

18、初始化所述第一训练参数为高斯分布,初始化所述第二训练参数为0;

19、利用所述算力需求问答样本数据集对所述预训练语言模型进行微调过程中,固定所述预训练语言模型的预训练好的模型参数不变,更新所述第一训练参数及所述第二训练参数;

20、当训练好所述第一训练参数和所述第二训练参数,利用重参方式将所述第一训练参数、所述第二训练参数和所述模型参数合并。

21、在第四种示例性的实施方式中,所述将所述算力匹配数据转换为以自然语言形式描述的算力资源选择结果进行输出,包括:

22、预先获取算力匹配问答样本数据集;所述算力匹配问答样本数据集包括多组算力匹配问答样本,各算力匹配问答样本至少包括算力匹配问样本和对应的算力匹配答样本,所述算力匹配问样本为满足所述异构计算系统的算力输出数据格式的算力匹配信息,所述算力匹配答样本为以自然语言形式描述的算力匹配信息;

23、预先基于所述算力匹配问答样本数据集训练格式转换模型;所述格式转换模型,还用于将满足所述算力输出数据格式的算力匹配数据转换为以自然语言形式描述的算力资源选择结果;

24、获取转换提示信息;

25、根据所述转换提示信息和所述算力匹配数据,生成用户回复提示数据;

26、将所述用户回复提示数据,输入至所述格式转换模型,并将所述格式转换模型的输出作为算力资源选择结果。

27、在第五种示例性的实施方式中,所述将所述算力需求数据转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据之前,还包括:

28、获取完成预训练阶段的预训练语言模型;

29、获取问答样本微调数据集;所述问答样本微调数据集包括算力需求问答样本数据集和算力匹配问答样本数据集;

30、利用所述问答样本微调数据集对所述预训练语言模型进行微调处理,得到格式转换模型,以利用所述格式转换模型将所述算力需求数据转换为算力需求标准数据,并将所述算力匹配数据转换为算力资源选择结果。

31、在第六种示例性的实施方式中,所述获取异构计算系统的异构算力资源状态数据,包括:

32、获取各算力节点的未占用内存空间、各算力节点所在服务器的未占用内存空间及中央处理器利用率;

33、向数据库发送费用查询请求,获取各算力资源费率数据;

34、基于各算力资源费率数据、各算力节点的未占用内存空间、各算力节点所在服务器的未占用内存空间及中央处理器利用率,构造异构算力资源状态数据。

35、在第七种示例性的实施方式中,所述基于所述算力需求标准数据及所述异构算力资源状态数据,确定与所述算力需求数据相匹配的算力匹配数据,包括:

36、预先获取算力匹配样本数据集;所述算力匹配样本数据集包括多个算力匹配样本,各算力匹配样本至少包括一组对应的需求方属性样本数据和供应方属性样本数据,且所述需求方属性样本数据和所述供应方属性样本数据之间设置标识匹配信息的标签;

37、预先基于所述算力匹配样本数据集训练算力匹配模型;所述算力匹配模型,用于为所述算力需求数据确定相匹配的算力匹配数据;

38、将所述算力需求标准数据及所述异构算力资源状态数据,输入至训练好的算力匹配模型,并将所述算力匹配模型的输出作为算力匹配数据。

39、在第八种示例性的实施方式中,所述获取算力匹配样本数据集,包括:

40、预先配置匹配能力标签数据和匹配程度标签数据;所述匹配能力标签数据包括匹配标识值和不匹配标识值,所述匹配标识值用于标识所述需求方属性样本数据和所述供应方属性样本数据之间满足匹配需求,所述不匹配标识值用于标识所述需求方属性样本数据和所述供应方属性样本数据之间不满足匹配需求;

41、当接收到匹配能力标注指令,基于所述匹配能力标注指令所携带的标识值对所述算力匹配样本数据集的算力匹配样本进行匹配能力标注;

42、对各算力匹配样本,若当前算力匹配样本的匹配能力标签数据为匹配标识值,则获取所述当前算力匹配样本对应的匹配程度标识值,并根据所述匹配程度标识值生成所述当前算力匹配样本的匹配程度标签数据。

43、在第九种示例性的实施方式中,所述获取所述当前算力匹配样本对应的匹配程度标识值,包括:

44、调用预先构建的匹配分数计算关系式,计算所述需求方属性样本数据和所述供应方属性样本数据之间的匹配度分数值,以作为各算力匹配样本的匹配程度标识值;所述匹配分数计算关系式为:

45、label2-score= αy+ βt;

46、获取当前算力匹配样本的匹配度分数值;

47、式中,label2-score为匹配度分值,y为算力资源费率,t表示任务完成时间, α表示所述算力资源费率的第一权重因子, β表示所述任务完成时间的第二权重因子。

48、在第十种示例性的实施方式中,所述调用预先构建的算力匹配模型之前,还包括:

49、预先构建算力匹配模型的模型网络结构;所述模型网络结构包括需求方网络模型链路、供应方网络模型链路和特征拼接输出层;所述需求方网络模型链路用于提取需求方属性样本数据的需求特征数据,所述供应方网络模型链路用于提取供应方属性样本数据的供应特征数据,所述特征拼接输出层用于输出所述需求特征数据和所述供应特征数据的拼接特征;

50、基于所述特征拼接输出层输出的拼接特征确定匹配能力损失信息,基于所述需求特征数据和所述供应特征数据确定匹配程度损失信息;

51、基于所述匹配能力损失信息和所述匹配程度损失信息,不断对所述算力匹配模型的模型参数进行迭代更新,直至满足预设模型训练停止条件。

52、在第十一种示例性的实施方式中,所述需求方网络模型链路,按照所述需求方属性样本数据的数据流处理方向依次包括第一输入层、第一全连接层、第二全连接层和第三全连接层;

53、所述第一全连接层、所述第二全连接层和所述第三全连接层的各神经元的激活函数为线性整流函数。

54、在第十二示例性的实施方式中,所述供应方网络模型链路,按照所述供应方属性样本数据的数据流处理方向依次包括第二输入层、第四全连接层、第五全连接层和第六全连接层;

55、所述第四全连接层、所述第五全连接层和所述第六全连接层的各神经元的激活函数为线性整流函数。

56、在第十三种示例性的实施方式中,所述特征拼接输出层包括拼接层和第七全连接层;

57、所述第七全连接层与所述拼接层的输出相连;

58、所述拼接层用于将所述需求特征数据和所述供应特征数据进行拼接处理。

59、在第十四种示例性的实施方式中,所述基于所述特征拼接输出层输出的拼接特征确定匹配能力损失信息,包括:

60、调用匹配能力损失函数关系式,计算匹配能力损失信息;所述匹配能力损失函数关系式为:

61、l1=l1=softmax{h3(h1(x),h2(y)),g_1};

62、式中,l1表示匹配能力损失信息,softmax表示归一化指数函数,x表示需求方属性样本数据,y表示供应方属性样本数据,g_1表示匹配能力标签数据,h1(x)表示需求特征数据,h2(y)表示供应特征数据,h3表示特征拼接输出层的输出。

63、在第十五种示例性的实施方式中,所述基于所述需求特征数据和所述供应特征数据确定匹配程度损失信息,包括:

64、调用匹配程度损失函数关系式,计算匹配程度损失信息;所述匹配程度损失函数关系式为:

65、l2=[g_2-(1-sigmoid(||h1(x)-h2(y)||2))]2;

66、式中,l2表示匹配程度损失信息,sigmoid表示s型曲线函数,x表示需求方属性样本数据,y表示供应方属性样本数据,g_2表示匹配程度标签数据,h1(x)表示需求特征数据,h2(y)表示供应特征数据。

67、本发明第二方面提供了一种异构算力设备选择装置,包括:

68、资源数据获取模块,用于获取异构计算系统的异构算力资源状态数据;

69、需求数据获取模块,用于获取算力需求方以自然语言形式描述的算力需求数据;

70、需求数据转换模块,用于将所述算力需求数据转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据;

71、供需匹配模块,用于调用预先构建的算力匹配模型,基于所述算力需求标准数据及所述异构算力资源状态数据,确定与所述算力需求数据相匹配的算力匹配数据;其中,所述算力匹配模型构建了算力需求与算力资源间的匹配关系;

72、匹配结果输出模块,用于将所述算力匹配数据转换为以自然语言形式描述的算力资源选择结果进行输出。

73、本发明第三方面提供了一种电子设备,包括处理器,所述处理器用于执行存储器中存储的计算机程序时实现如前任一项所述异构算力设备选择方法的步骤。

74、本发明第四方面提供了一种非易失性存储介质,所述非易失性存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如前任一项所述异构算力设备选择方法的步骤。

75、本发明第五方面提供了一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现如前任一项所述异构算力设备选择方法的步骤。

76、本发明第六方面提供了一种异构计算系统,包括多类算力节点、处理器、监控器及存储器;

77、所述处理器分别与各算力节点、所述监控器相连,所述监控器与各算力节点相连;

78、所述监控器用于采集各算力节点的硬件数据,所述存储器存储算力资源费率数据;

79、所述处理器,用于获取所述监控器采集的硬件数据和所述算力资源费率数据作为异构算力资源状态数据,执行所述存储器存储的计算机程序时实现如前任一项所述的异构算力设备选择方法的步骤。

80、在第一种示例性的实施方式中,还包括用于提供人机交互界面的显示屏;

81、所述人机交互界面包括算力需求输入区域和算力资源选择结果显示区域;

82、所述算力需求输入区域,用于接收算力需求方输出的以自然语言形式描述的算力需求数据,所述算力资源选择结果显示区域,用于向所述算力需求方显示,与所述算力需求数据相匹配的算力资源选择结果;

83、所述处理器,还用于当检测到算力匹配请求被触发,则执行所述异构算力设备选择方法的步骤。

84、在第二种示例性的实施方式中,所述算力需求输入区域包括数据输入区域和/或算力匹配请求触发区域;所述数据输入区域为语音输入区域和/或文本输入区域;

85、其中,所述语音输入区域,用于接收算力需求方以自然语言形式描述的算力需求音频数据;

86、所述文本输入区域,用于接收算力需求方以自然语言形式描述的算力需求文本数据;

87、所述算力匹配请求触发区域,用于为所述算力需求方提供触发算力匹配请求的功能。

88、本发明提供的技术方案的优点在于,算力需求方以自然语言描述的算力需求信息转换为异构计算系统能够理解的算力需求数据,根据异构计算系统的算力资源的实时状态为算力需求方匹配合适的算力资源,并将最终算力资源选择结果以自然语言的形式输出给算力需求方,整个过程中,算力需求方与异构计算系统是通过自然语言进行沟通的,异构计算系统能够提供最逼近真人的高服务质量,用户沟通更顺畅,使用体验更好;进一步的,算力需求方只需明确算力需求,而无需了解算力本身的特性、算力所处环境以及要执行任务的专业描述,通过自然语言级别取代相关技术的技术语言级别便能够与异构计算系统进行交互,在无需算力需求方具有专业知识的基础上,便能够实现算力资源的选择,有效降低算力需求方的技术门槛,实用性和普适性更好,有利于提升用户使用体验;此外,算力匹配是通过算力匹配模型实现的,无需算力供应方提供昂贵的人力成本来实现,能够实现低成本地算力资源匹配。

89、此外,本发明还针对异构算力设备选择方法提供了相应的实现装置、电子设备、非易失性存储介质、计算机程序产品及异构计算系统,进一步使得所述方法更具有实用性,所述装置、电子设备、非易失性存储介质、计算机程序产品及异构计算系统具有相应的优点。

90、上面已提及的技术特征、下面将要提及的技术特征以及单独地在附图中显示的技术特征可以任意地相互组合,只要被组合的技术特征不是相互矛盾的。所有的可行的特征组合都是在本文中明确地记载的技术内容。在同一个语句中包含的多个分特征之中的任一个分特征可以独立地被应用,而不必一定与其他分特征一起被应用。应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本发明。


技术特征:

1.一种异构算力设备选择方法,其特征在于,包括:

2.根据权利要求1所述的异构算力设备选择方法,其特征在于,所述将所述算力需求数据转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据,包括:

3.根据权利要求1所述的异构算力设备选择方法,其特征在于,所述将所述算力需求数据转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据之前,还包括:

4.根据权利要求3所述的异构算力设备选择方法,其特征在于,所述利用所述算力需求问答样本数据集对所述预训练语言模型进行微调处理,包括:

5.根据权利要求3所述的异构算力设备选择方法,其特征在于,所述将所述算力匹配数据转换为以自然语言形式描述的算力资源选择结果进行输出,包括:

6.根据权利要求1所述的异构算力设备选择方法,其特征在于,所述将所述算力需求数据转换为满足所述异构计算系统的算力需求数据格式的算力需求标准数据之前,还包括:

7.根据权利要求1所述的异构算力设备选择方法,其特征在于,所述获取异构计算系统的异构算力资源状态数据,包括:

8.根据权利要求1至7任意一项所述的异构算力设备选择方法,其特征在于,所述基于所述算力需求标准数据及所述异构算力资源状态数据,确定与所述算力需求数据相匹配的算力匹配数据,包括:

9.根据权利要求8所述的异构算力设备选择方法,其特征在于,所述获取算力匹配样本数据集,包括:

10.根据权利要求9所述的异构算力设备选择方法,其特征在于,所述获取所述当前算力匹配样本对应的匹配程度标识值,包括:

11.根据权利要求1至7任意一项所述的异构算力设备选择方法,其特征在于,所述调用预先构建的算力匹配模型之前,还包括:

12.根据权利要求11所述的异构算力设备选择方法,其特征在于,所述需求方网络模型链路,按照所述需求方属性样本数据的数据流处理方向依次包括第一输入层、第一全连接层、第二全连接层和第三全连接层;

13.根据权利要求11所述的异构算力设备选择方法,其特征在于,所述供应方网络模型链路,按照所述供应方属性样本数据的数据流处理方向依次包括第二输入层、第四全连接层、第五全连接层和第六全连接层;

14.根据权利要求11所述的异构算力设备选择方法,其特征在于,所述特征拼接输出层包括拼接层和第七全连接层;

15.根据权利要求11所述的异构算力设备选择方法,其特征在于,所述基于所述特征拼接输出层输出的拼接特征确定匹配能力损失信息,包括:

16.根据权利要求11所述的异构算力设备选择方法,其特征在于,所述基于所述需求特征数据和所述供应特征数据确定匹配程度损失信息,包括:

17.一种异构算力设备选择装置,其特征在于,包括:

18.一种电子设备,其特征在于,包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现如权利要求1至16任一项所述异构算力设备选择方法的步骤。

19.一种非易失性存储介质,其特征在于,所述非易失性存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至16任一项所述异构算力设备选择方法的步骤。

20.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至16任一项所述异构算力设备选择方法的步骤。

21.一种异构计算系统,其特征在于,包括多类算力节点、处理器、监控器及存储器;

22.根据权利要求21所述的异构计算系统,其特征在于,还包括用于提供人机交互界面的显示屏;

23.根据权利要求22所述的异构计算系统,其特征在于,所述算力需求输入区域包括数据输入区域和/或算力匹配请求触发区域;所述数据输入区域为语音输入区域和/或文本输入区域;


技术总结
本发明公开了一种异构算力设备选择方法、装置、设备、介质、产品及系统,应用于人工智能技术领域。其中,方法包括获取算力需求方以自然语言形式描述的算力需求数据,并将算力需求数据转换为满足异构计算系统的算力需求数据格式的算力需求标准数据;调用预先构建的算力匹配模型,基于算力需求标准数据及异构计算系统的异构算力资源状态数据,确定与算力需求数据相匹配的算力匹配数据。将算力匹配数据转换为以自然语言形式描述的算力资源选择结果进行输出。本发明可以解决相关技术对算力需求方高要求和算力供应方高人力成本的问题,在供需双方无需技术语言级别沟通的基础上,能够实现低成本地算力资源匹配。

技术研发人员:唐轶男,郭振华,王丽,赵雅倩,李仁刚,曹芳,高开
受保护的技术使用者:山东海量信息技术研究院
技术研发日:
技术公布日:2024/6/26
转载请注明原文地址:https://doc.8miu.com/read-1817289.html

最新回复(0)