本发明涉及计算机,尤其涉及一种分布式计算实现方法、装置、网卡芯片及介质。
背景技术:
1、图1a为目前人工智能芯片与网卡芯片(nic)进行交互的场景示意图,如图1a所示,人工智能芯片与网卡芯片完全独立,并采用高速串行计算机扩展总线标准(peripheralcomponent interconnect express,pcie)接口进行通信。其中,图形处理器(graphicsprocessing unit,gpu)为人工智能芯片,人工智能芯片与网卡芯片的比例可以是1:1或2:1。
2、现有技术中,所有与人工智能(artificial intelligence,ai)相关的计算全部都由gpu完成,包括分布式allreduce计算等,其通信的带宽会明显影响效率。
3、以ring allreduce计算为例,在当前主流的实现方式下,计算数据量与通信数据量大约为1:2,通信数据量由pcie接口承担,会严重影响分布式计算性能,造成分布式计算过程中的通信瓶颈。
技术实现思路
1、本发明提供了一种分布式计算实现方法、装置、网卡芯片及介质,可以解决现有技术中pcie接口带宽造成通信瓶颈的问题,提升分布式计算性能。
2、根据本发明的一方面,提供了一种分布式计算实现方法,应用于分布式计算系统中,所述分布式计算系统包括至少一个人工智能芯片以及网卡芯片,所述人工智能芯片采用pcie接口与网卡芯片进行通信;所述方法包括:
3、获取分布式计算系统中pcie接口对应的传输带宽,根据所述pcie接口对应的传输带宽,对网卡芯片的网口带宽进行调整;
4、响应于用户触发的分布式计算请求,通过所述网卡芯片根据调整后的网口带宽执行分布式计算操作;
5、通过所述网卡芯片,将分布式计算操作对应的执行结果,反馈至人工智能芯片以及远端计算设备。
6、可选的,通过所述网卡芯片根据调整后的网口带宽执行分布式计算操作,包括:
7、通过所述网卡芯片根据调整后的网口带宽,获取人工智能芯片以及远端计算设备分别对应的待计算的目标数据;
8、通过所述网卡芯片,根据所述目标数据执行分布式计算操作。
9、可选的,在通过所述网卡芯片根据调整后的网口带宽执行分布式计算操作之后,还包括:
10、通过所述网卡芯片,将分布式计算操作对应的执行结果存储至本地缓存器中。
11、可选的,通过所述网卡芯片,将分布式计算操作对应的执行结果,反馈至人工智能芯片,包括:
12、通过所述网卡芯片,从本地缓存器中获取所述执行结果,并采用pcie接口将所述执行结果反馈至人工智能芯片。
13、可选的,通过所述网卡芯片,将分布式计算操作对应的执行结果,反馈至远端计算设备,包括:
14、通过所述网卡芯片,从本地缓存器中获取所述执行结果,并根据调整后的网口带宽,将所述执行结果反馈至远端计算设备。
15、可选的,在将所述执行结果反馈至远端计算设备之后,还包括:
16、通过所述网卡芯片中的网口,获取远端计算设备针对所述执行结果反馈的响应数据,并根据所述响应数据与远端计算设备进行信息交互。
17、根据本发明的另一方面,提供了一种分布式计算实现装置,应用于分布式计算系统中,所述分布式计算系统包括至少一个人工智能芯片以及网卡芯片,所述人工智能芯片采用pcie接口与网卡芯片进行通信;所述装置包括:
18、带宽调整模块,用于获取分布式计算系统中pcie接口对应的传输带宽,根据所述pcie接口对应的传输带宽,对网卡芯片的网口带宽进行调整;
19、分布式计算模块,用于响应于用户触发的分布式计算请求,通过所述网卡芯片根据调整后的网口带宽执行分布式计算操作;
20、结果反馈模块,用于通过所述网卡芯片,将分布式计算操作对应的执行结果,反馈至人工智能芯片以及远端计算设备。
21、根据本发明的另一方面,提供了一种网卡芯片,所述网卡芯片包括:
22、至少一个处理器;以及
23、与所述至少一个处理器通信连接的存储器;其中,
24、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的分布式计算实现方法。
25、根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的分布式计算实现方法。
26、本发明实施例提供的技术方案,通过获取分布式计算系统中pcie接口对应的传输带宽,根据pcie接口对应的传输带宽,对网卡芯片的网口带宽进行调整,响应于用户触发的分布式计算请求,通过网卡芯片根据调整后的网口带宽执行分布式计算操作,通过网卡芯片将分布式计算操作对应的执行结果,反馈至人工智能芯片以及远端计算设备的技术手段,可以解决现有技术中pcie接口带宽造成通信瓶颈的问题,提升分布式计算性能。
27、应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
1.一种分布式计算实现方法,其特征在于,应用于分布式计算系统中,所述分布式计算系统包括至少一个人工智能芯片以及网卡芯片,所述人工智能芯片采用pcie接口与网卡芯片进行通信;所述方法包括:
2.根据权利要求1所述的方法,其特征在于,通过所述网卡芯片根据调整后的网口带宽执行分布式计算操作,包括:
3.根据权利要求1所述的方法,其特征在于,在通过所述网卡芯片根据调整后的网口带宽执行分布式计算操作之后,还包括:
4.根据权利要求3所述的方法,其特征在于,通过所述网卡芯片,将分布式计算操作对应的执行结果,反馈至人工智能芯片,包括:
5.根据权利要求3所述的方法,其特征在于,通过所述网卡芯片,将分布式计算操作对应的执行结果,反馈至远端计算设备,包括:
6.根据权利要求5所述的方法,其特征在于,在将所述执行结果反馈至远端计算设备之后,还包括:
7.一种分布式计算实现装置,其特征在于,应用于分布式计算系统中,所述分布式计算系统包括至少一个人工智能芯片以及网卡芯片,所述人工智能芯片采用pcie接口与网卡芯片进行通信;所述装置包括:
8.一种网卡芯片,其特征在于,所述网卡芯片包括:
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-6中任一项所述的分布式计算实现方法。
10.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的分布式计算实现方法。
