首页  专利技术  电子电路装置的制造及其应用技术

异构GPU调度系统、方法、存储介质、电子设备及产品与流程

2026-08-06 15:20:02 183次浏览

技术特征:

1.一种异构gpu调度系统,其特征在于,包括:调度策略计算平台、计算节点管理系统、多种gpu类型的gpu设备、各gpu类型分别对应的设备插件,其中,所述各类型的gpu分别对应的设备插件基于同一的封装标准进行封装得到;

2.根据权利要求1所述的系统,其特征在于,所述计算节点管理系统中预先存储多个所述gpu类型分别对应的节点创建脚本模板;

3.根据权利要求2所述的系统,其特征在于,所述计算节点参数包括目标gpu类型的gpu使用量资源量。

4.根据权利要求1所述的系统,其特征在于,所述调度策略计算平台用于:基于所述待处理任务的业务类型,确定与所述业务类型相匹配的目标gpu类型。

5.根据权利要求3所述的系统,其特征在于,任一所述gpu类型的gpu设备的资源状态信息包括资源使用数据和负载数据;

6.根据权利要求1所述的系统,其特征在于,所述系统还包括各所述gpu类型对应的通信组件,不同的gpu类型对应的通信组件提供不同的通信协议。

7.根据权利要求1所述的系统,其特征在于,所述调度策略计算平台还用于:在调度计算节点之后,将所述计算节点的资源状态信息和gpu类型对所述待处理任务进行验证,在所述计算节点的资源状态信息或所述计算节点的gpu类型中的至少一项与所述待处理任务不匹配的情况下,重新调度计算节点。

8.根据权利要求1所述的系统,其特征在于,所述调度策略计算平台配置有显示设备,所述显示设备展示交互界面,所述交互界面用于输入所述待处理任务的配置信息。

9.根据权利要求1所述的系统,其特征在于,所述待处理任务包括模型训练任务和推理任务的一项或多项。

10.根据权利要求9所述的系统,其特征在于,所述调度策略计算平台还用于基于所述目标gpu类型调用所述待处理任务的任务执行脚本模板;

11.一种异构gpu调度方法,其特征在于,应用于调度策略计算平台,所述方法包括:

12.一种异构gpu调度装置,其特征在于,配置于调度策略计算平台,所述装置包括:

13.一种电子设备,其特征在于,所述电子设备包括:

14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求11所述的异构gpu调度方法。

15.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求11所述的异构gpu调度方法。


技术总结
本发明涉及计算机技术领域,本发明公开了一种异构GPU调度系统、方法、存储介质、电子设备及产品,该系统包括:调度策略计算平台、计算节点管理系统、多种GPU类型的GPU设备、各GPU类型分别对应的设备插件,其中,各类型的GPU分别对应的设备插件基于同一的封装标准进行封装得到;调度策略计算平台用于基于待处理任务和/或各GPU类型的GPU设备的资源状态信息确定待处理任务对应的目标GPU类型;基于目标GPU类型对应的设备插件为目标GPU类型对应的计算节点分配目标GPU类型的GPU资源,以及调用目标GPU类型对应的计算节点,以执行待处理任务,解决了异构GPU调度不兼容的问题,实现了对异构GPU兼容调度。

技术研发人员:王静逸,曹岩,唐景峰,翟阳,王楠,张国超
受保护的技术使用者:中国建设银行股份有限公司
技术研发日:
技术公布日:2024/12/2
文档序号 : 【 40201805 】

技术研发人员:王静逸,曹岩,唐景峰,翟阳,王楠,张国超
技术所有人:中国建设银行股份有限公司

备 注:该技术已申请专利,仅供学习研究,如用于商业用途,请联系技术所有人。
声 明此信息收集于网络,如果你是此专利的发明人不想本网站收录此信息请联系我们,我们会在第一时间删除
王静逸曹岩唐景峰翟阳王楠张国超中国建设银行股份有限公司
一种脉冲激光测距方法及系统与流程 高效能火电厂DCS故障预测与诊断系统的制作方法
相关内容