虚拟机调度方法和装置

本公开涉及云计算领域，特别涉及一种虚拟机调度方法和装置。

随着人工智能、网络云化等场景对计算资源提出了更高的要求，虚拟化平台引入GPU(Graphics Processing Unit，图形处理器)等异构加速资源辅助计算成为必然趋势。如何高效的实现异构加速资源的云化统一管理面临着新的挑战。

在诸如GPU的异构加速资源在协作计算的情况下，需要CPU将命令写入GPU主存，并通知GPU命令开始的地址与长度。GPU执行的程序以及相关的参数，一般放在与CPU共享的内存中，需要CPU不断更新。因此，如希望能够充分利用异构加速资源，需要事先为其预留相应的基础资源(如CPU(Central Processing Unit，中央处理器)、内存等)。

现有的调度机制主要有两种：

机制1、带有异构加速资源的主机单独构成资源池，普通虚拟机和异构加速虚拟机将分别分配到相应资源池中；

机制2、将异构加速资源作为PCI设备参与主机评分，普通虚拟机与异构加速虚拟机同等调度机制。

发明人通过研究发现，上述机制1虽然保证了异构加速资源的充分使用，但未能最大程度的使用平台所有硬件资源。上述机制2能够保证平台硬件资源的使用，为虚拟机提供全局最优的运行环境，但可能造成普通资源不足以调用异构加速资源的情况。即上述无法同时满足充分利用平台资源、为虚拟机选取全局最优运行环境的调度目的。

据此，本公开提供一种虚拟机调度方案，能够在保证充分利用异构加速资源的前提下，提高平台整体资源利用率及业务承载能力。

根据本公开实施例的第一方面，提供一种虚拟机调度方法，包括：根据预设映射规则，将主机的基础资源划分为预留资源和共享资源；根据主机资源结构，将全部主机划分为第一主机集合、第二主机集合和第三主机集合，其中所述第一主机集合中的主机具有异构加速资源且基础资源中具有共享资源，所述第二主机集合中的主机具有异构加速资源且基础资源中没有共享资源，所述第三主机集合中的主机没有异构加速资源；在接收到虚拟机调度请求后，根据所述调度请求判断所述虚拟机是否申请异构加速资源；若所述虚拟机申请异构加速资源，则检测在第一主机集合和第二主机集合中是否具有符合第一预设条件的主机，其中所述第一预设条件为主机的基础资源量不小于所述虚拟机申请的基础资源量，且主机的异构加速资源量不小于所述虚拟机申请的异构加速资源量；若在所述第一主机集合和所述第二主机集合中具有符合所述第一预设条件的主机，则计算符合所述第一预设条件的主机的第一权值；将具有最高第一权值的主机作为第一目标主机；将所述虚拟机调度到所述第一目标主机，更新所述第一目标主机的资源状态及所述第一目标主机所属的主机集合。

在一些实施例中，所述主机的第一权值与所述主机具有的基础资源量呈正相关关系，且与所述主机具有的异构加速资源量呈正相关关系。

在一些实施例中，若所述虚拟机不申请异构加速资源，则检测在第一主机集合和第三主机集合中是否具有符合第二预设条件的主机，其中所述第二预设条件为主机的基础资源中的共享资源量不小于所述虚拟机申请的基础资源量；若在第一主机集合和第三主机集合中具有符合第二预设条件的主机，则计算符合所述第二预设条件的主机的第二权值；将具有最高第二权值的主机作为第二目标主机；将所述虚拟机调度到所述第二目标主机，更新所述第二目标主机的资源状态及所述第二目标主机所属的主机集合。

在一些实施例中，所述主机的第二权值与所述主机具有的基础资源量呈正相关关系，且与所述主机具有的异构加速资源量呈负相关关系。

在一些实施例中，若在第一主机集合和第三主机集合中没有符合第二预设条件的主机，则检测在第一主机集合和第二主机集合中是否具有符合第三预设条件的主机，其中所述第三预设条件为主机的基础资源量不小于所述虚拟机申请的基础资源量；若在第一主机集合和第二主机集合中具有符合第三预设条件的主机，则计算符合所述第三预设条件的主机的第三权值；将具有最高第三权值的主机作为第三目标主机；将所述虚拟机调度到所述第三目标主机，更新所述第三目标主机的资源状态及所述第三目标主机所属的主机集合。

在一些实施例中，所述主机的第三权值与所述主机具有的基础资源量呈正相关关系，且与所述主机具有的异构加速资源量呈负相关关系。

根据本公开实施例的第二方面，提供一种虚拟机调度装置，包括：重组模块，被配置为根据预设映射规则，将主机的基础资源划分为预留资源和共享资源；根据主机资源结构，将全部主机划分为第一主机集合、第二主机集合和第三主机集合，其中所述第一主机集合中的主机具有异构加速资源且基础资源中具有共享资源，所述第二主机集合中的主机具有异构加速资源且基础资源中没有共享资源，所述第三主机集合中的主机没有异构加速资源；第一判断模块，被配置为在接收到虚拟机调度请求后，根据所述调度请求判断所述虚拟机是否申请异构加速资源；第二判断模块，被配置为若所述虚拟机申请异构加速资源，则检测在第一主机集合和第二主机集合中是否具有符合第一预设条件的主机，其中所述第一预设条件为主机的基础资源量不小于所述虚拟机申请的基础资源量，且主机的异构加速资源量不小于所述虚拟机申请的异构加速资源量；第一计算模块，被配置若在所述第一主机集合和所述第二主机集合中具有符合所述第一预设条件的主机，则计算符合所述第一预设条件的主机的第一权值；调度模块，被配置为将具有最高第一权值的主机作为第一目标主机，将所述虚拟机调度到所述第一目标主机，更新所述第一目标主机的资源状态及所述第一目标主机所属的主机集合。

在一些实施例中，所述主机的第一权值与所述主机具有的基础资源量呈正相关关系，且与所述主机具有的异构加速资源量呈正相关关系。

在一些实施例中，上述装置还包括：第三判断模块，被配置为若所述虚拟机不申请异构加速资源，则检测在第一主机集合和第三主机集合中是否具有符合第二预设条件的主机，其中所述第二预设条件为主机的基础资源中的共享资源量不小于所述虚拟机申请的基础资源量；第二计算模块，被配置为若在第一主机集合和第三主机集合中具有符合第二预设条件的主机，则计算符合所述第二预设条件的主机的第二权值；调度模块还被配置为将具有最高第二权值的主机作为第二目标主机，将所述虚拟机调度到所述第二目标主机，更新所述第二目标主机的资源状态及所述第二目标主机所属的主机集合。

在一些实施例中，所述主机的第二权值与所述主机具有的基础资源量呈正相关关系，且与所述主机具有的异构加速资源量呈负相关关系。

在一些实施例中，上述装置还包括：第四判断模块，被配置为若在第一主机集合和第三主机集合中没有符合第二预设条件的主机，则检测在第一主机集合和第二主机集合中是否具有符合第三预设条件的主机，其中所述第三预设条件为主机的基础资源量不小于所述虚拟机申请的基础资源量；第三计算模块，被配置为若在第一主机集合和第二主机集合中具有符合第三预设条件的主机，则计算符合所述第三预设条件的主机的第三权值；调度模块还被配置为将具有最高第三权值的主机作为第三目标主机，将所述虚拟机调度到所述第三目标主机，更新所述第三目标主机的资源状态及所述第三目标主机所属的主机集合。

在一些实施例中，所述主机的第三权值与所述主机具有的基础资源量呈正相关关系，且与所述主机具有的异构加速资源量呈负相关关系。

根据本公开实施例的第三方面，提供一种虚拟机调度装置，包括：存储器，被配置为存储指令；处理器，耦合到存储器，处理器被配置为基于存储器存储的指令执行实现如上述任一实施例所述的方法。

根据本公开实施例的第四方面，提供一种计算机可读存储介质，其中，计算机可读存储介质存储有计算机指令，指令被处理器执行时实现如上述任一实施例所述的方法。

通过以下参照附图对本公开的示例性实施例的详细描述，本公开的其它特征及其优点将会变得清楚。

为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本公开一个实施例的虚拟机调度方法的流程示意图；

图2为本公开另一个实施例的虚拟机调度方法的流程示意图；

图3为本公开一个实施例的虚拟机调度装置的结构示意图；

图4为本公开另一个实施例的虚拟机调度装置的结构示意图；

图5为本公开又一个实施例的虚拟机调度装置的结构示意图。

下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。

除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为授权说明书的一部分。

在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它示例可以具有不同的值。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

图1为本公开一个实施例的虚拟机调度方法的流程示意图。在一些实施例中，下列的虚拟机调度方法流程由虚拟机调度装置执行。

在步骤101，根据预设映射规则，将主机的基础资源划分为预留资源和共享资源。

在步骤102，根据主机资源结构，将全部主机划分为第一主机集合、第二主机集合和第三主机集合，其中所述第一主机集合中的主机具有异构加速资源且基础资源中具有共享资源，所述第二主机集合中的主机具有异构加速资源且基础资源中没有共享资源，所述第三主机集合中的主机没有异构加速资源。

例如，主机的异构加速资源为：

主机的基础资源为：

预留资源与异构加速资源之间的对应关系为：

因此，预留资源为共享资源为

根据异构加速资源、预留资源和共享资源，将平台中的主机划分为三个主机集合。

第一主机集合中的主机具有异构加速资源，且基础资源中具有共享资源。

第二主机集合中的主机具有异构加速资源，且基础资源中没有共享资源。

第三主机集合中的主机没有异构加速资源。

在步骤103，在接收到虚拟机调度请求后，根据调度请求判断虚拟机是否申请异构加速资源。

例如，所申请的异构加速资源为：

所申请的基础资源为：

在步骤104，若虚拟机申请异构加速资源，则检测在第一主机集合和第二主机集合中是否具有符合第一预设条件的主机。

在一些实施例中，第一预设条件为主机的基础资源量不小于虚拟机申请的基础资源量，且主机的异构加速资源量不小于虚拟机申请的异构加速资源量。

即，通过第一预设条件筛选满足且的主机。

在步骤105，若在第一主机集合和第二主机集合中具有符合第一预设条件的主机，则计算符合第一预设条件的主机的第一权值。

在一些实施例中，主机的第一权值与主机具有的基础资源量呈正相关关系，且与主机具有的异构加速资源量呈正相关关系。

在步骤106，将具有最高第一权值的主机作为第一目标主机。

在步骤107，将虚拟机调度到第一目标主机。

在步骤108，更新第一目标主机的资源状态及第一目标主机所属的主机集合。

在一些实施例中，若在第一主机集合和第二主机集合中没有符合第一预设条件的主机，则确认调度失败。

在本公开上述实施例提供的虚拟机调度方法中，根据虚拟机的资源需求和主机当前的资源状况进行相应的虚拟机调度，从而能够在保证充分利用异构加速资源的前提下，提高平台整体资源利用率及业务承载能力。

图2为本公开一个实施例的虚拟机调度方法的流程示意图。在一些实施例中，下列的虚拟机调度方法流程由虚拟机调度装置执行。

在步骤201，根据预设映射规则，将主机的基础资源划分为预留资源和共享资源。

在步骤202，根据主机资源结构，将全部主机划分为第一主机集合、第二主机集合和第三主机集合，其中所述第一主机集合中的主机具有异构加速资源且基础资源中具有共享资源，所述第二主机集合中的主机具有异构加速资源且基础资源中没有共享资源，所述第三主机集合中的主机没有异构加速资源。

在步骤203，接收虚拟机调度请求。

在步骤204，根据调度请求判断虚拟机是否申请异构加速资源。

若虚拟机申请异构加速资源，则执行步骤205；若虚拟机不申请异构加速资源，则执行步骤210。

在步骤205，检测在第一主机集合和第二主机集合中是否具有符合第一预设条件的主机。

在一些实施例中，第一预设条件为主机的基础资源量不小于虚拟机申请的基础资源量，且主机的异构加速资源量不小于虚拟机申请的异构加速资源量。

即，通过第一预设条件筛选满足且的主机。

若在第一主机集合和第二主机集合中具有符合第一预设条件的主机，则执行步骤206；若在第一主机集合和第二主机集合中没有符合第一预设条件的主机，则执行步骤209。

在步骤206，计算符合第一预设条件的主机的第一权值，将具有最高第一权值的主机作为第一目标主机。

在一些实施例中，主机的第一权值与主机具有的基础资源量呈正相关关系，且与主机具有的异构加速资源量呈正相关关系。

例如，主机的第一权值为：

fH＝α1xcpu+α2xmem+1+αjxj+c1xGPU+c2xFPGA+1+cixi

其中αj、ci为不小于0的参数。

在步骤207，将虚拟机调度到第一目标主机。

在步骤208，更新第一目标主机的资源状态及第一目标主机所属的主机集合。

在步骤209，确认调度失败。

在步骤210，检测在第一主机集合和第三主机集合中是否具有符合第二预设条件的主机。

在一些实施例中，第二预设条件为主机的基础资源中的共享资源量不小于虚拟机申请的基础资源量。

即，通过第二预设条件筛选满足的主机。

若在第一主机集合和第三主机集合中具有符合第二预设条件的主机，则执行步骤211；若在第一主机集合和第三主机集合中没有符合第二预设条件的主机，则执行步骤214。

在步骤211，计算符合第二预设条件的主机的第二权值，将具有最高第二权值的主机作为第二目标主机。

在一些实施例中，主机的第二权值与主机具有的基础资源量呈正相关关系，且与主机具有的异构加速资源量呈负相关关系。

例如，主机的第二权值为：

fN1＝α1shcpu+α2shmem+1+αjshj-b1xGPU-b2xFPGA-…

其中αj、bi为不小于0的参数。

在步骤212，将虚拟机调度到第二目标主机。

在步骤213，更新第二目标主机的资源状态及第二目标主机所属的主机集合。

在步骤214，检测在第一主机集合和第二主机集合中是否具有符合第三预设条件的主机。

在一些实施例中，第三预设条件为主机的基础资源量不小于虚拟机申请的基础资源量。

即，通过第三预设条件筛选满足的主机。

若在第一主机集合和第二主机集合中具有符合第三预设条件的主机，则执行步骤215；若在第一主机集合和第二主机集合中具有符合第三预设条件的主机，则执行步骤209。

在步骤215，计算符合第三预设条件的主机的第三权值，将具有最高第三权值的主机作为第三目标主机。

在一些实施例中，主机的第三权值与主机具有的基础资源量呈正相关关系，且与主机具有的异构加速资源量呈负相关关系。

例如，主机的第三权值为：

fN1＝α1xcpu+α2xmem+1+αjxj-b1xGPU-b2xFPGA-…-bixi

其中αj、bi为不小于0的参数。

在步骤216，将虚拟机调度到第三目标主机。

在步骤217，更新所述第三目标主机的资源状态及第三目标主机所属的主机集合。

图3为本公开一个实施例的虚拟机调度装置的结构示意图。如图3所示，虚拟机调度装置包括重组模块31、第一判断模块32、第二判断模块33、第一计算模块34和调度模块35。

重组模块31被配置为根据预设映射规则，将主机的基础资源划分为预留资源和共享资源。并根据主机资源结构，将全部主机划分为第一主机集合、第二主机集合和第三主机集合，其中所述第一主机集合中的主机具有异构加速资源且基础资源中具有共享资源，所述第二主机集合中的主机具有异构加速资源且基础资源中没有共享资源，所述第三主机集合中的主机没有异构加速资源。

第一判断模块32被配置为在接收到虚拟机调度请求后，根据调度请求判断虚拟机是否申请异构加速资源。

第二判断模块33被配置为若虚拟机申请异构加速资源，则检测在第一主机集合和第二主机集合中是否具有符合第一预设条件的主机。

即，通过第一预设条件筛选满足且的主机。

在一些实施例中，第一预设条件为主机的基础资源量不小于虚拟机申请的基础资源量，且主机的异构加速资源量不小于虚拟机申请的异构加速资源量。

第一计算模块34被配置若在第一主机集合和第二主机集合中具有符合第一预设条件的主机，则计算符合第一预设条件的主机的第一权值。

在一些实施例中，主机的第一权值与主机具有的基础资源量呈正相关关系，且与主机具有的异构加速资源量呈正相关关系。

调度模块35被配置为将具有最高第一权值的主机作为第一目标主机，将虚拟机调度到第一目标主机，更新第一目标主机的资源状态及第一目标主机所属的主机集合。

在一些实施例中，调度模块35还被配置为若在第一主机集合和第二主机集合中没有符合第一预设条件的主机，则确认调度失败。

在本公开上述实施例提供的虚拟机调度装置中，根据虚拟机的资源需求和主机当前的资源状况进行相应的虚拟机调度，从而能够在保证充分利用异构加速资源的前提下，提高平台整体资源利用率及业务承载能力。

图4为本公开另一个实施例的虚拟机调度装置的结构示意图。图4与图3的不同之处在于，在图4所示实施例中，虚拟机调度装置还包括第三判断模块36和第二计算模块37。

第三判断模块36被配置为若虚拟机不申请异构加速资源，则检测在第一主机集合和第三主机集合中是否具有符合第二预设条件的主机。

在一些实施例中，第二预设条件为主机的基础资源中的共享资源量不小于虚拟机申请的基础资源量。

即，通过第二预设条件筛选满足的主机。

第二计算模块37被配置为若在第一主机集合和第三主机集合中具有符合第二预设条件的主机，则计算符合第二预设条件的主机的第二权值。

在一些实施例中，主机的第二权值与主机具有的基础资源量呈正相关关系，且与主机具有的异构加速资源量呈负相关关系。

调度模块35还被配置为将具有最高第二权值的主机作为第二目标主机，将虚拟机调度到第二目标主机，更新第二目标主机的资源状态及第二目标主机所属的主机集合。

在一些实施例中，如图4所示，虚拟机调度装置还包括第四判断模块38和第三计算模块39。

第四判断模块38被配置为若在第一主机集合和第三主机集合中没有符合第二预设条件的主机，则检测在第一主机集合和第二主机集合中是否具有符合第三预设条件的主机。

在一些实施例中，第三预设条件为主机的基础资源量不小于虚拟机申请的基础资源量。

即，通过第三预设条件筛选满足的主机。

第三计算模块39被配置为若在第一主机集合和第二主机集合中具有符合第三预设条件的主机，则计算符合第三预设条件的主机的第三权值。

在一些实施例中，主机的第三权值与主机具有的基础资源量呈正相关关系，且与主机具有的异构加速资源量呈负相关关系。

调度模块35还被配置为将具有最高第三权值的主机作为第三目标主机，将虚拟机调度到第三目标主机，更新第三目标主机的资源状态及第三目标主机所属的主机集合。

在一些实施例中，调度模块35还被配置为若在第一主机集合和第二主机集合中没有符合第三预设条件的主机，则确认调度失败。

图5为本公开另一个实施例的虚拟机调度装置的结构示意图。如图5所示，虚拟机调度装置包括存储器51和处理器52。

存储器51用于存储指令，处理器52耦合到存储器51，处理器52被配置为基于存储器存储的指令执行实现如图1至图2中任一实施例涉及的方法。

如图5所示，该虚拟机调度装置还包括通信接口53，用于与其它设备进行信息交互。同时，该虚拟机调度装置还包括总线54，处理器52、通信接口53、以及存储器51通过总线54完成相互间的通信。

存储器51可以包含高速RAM存储器，也可还包括非易失性存储器(non-volatilememory)，例如至少一个磁盘存储器。存储器51也可以是存储器阵列。存储器51还可能被分块，并且块可按一定的规则组合成虚拟卷。

此外，处理器52可以是一个中央处理器CPU，或者可以是专用集成电路ASIC，或是被配置成实施本公开实施例的一个或多个集成电路。

本公开同时还涉及一种计算机可读存储介质，其中计算机可读存储介质存储有计算机指令，指令被处理器执行时实现如图1至图2中任一实施例涉及的方法。

在一些实施例中，在上面所描述的功能单元可以实现为用于执行本公开所描述功能的通用处理器、可编程逻辑控制器(Programmable Logic Controller，简称：PLC)、数字信号处理器(Digital Signal Processor，简称：DSP)、专用集成电路(ApplicationSpecific Integrated Circuit，简称：ASIC)、现场可编程门阵列(Field-ProgrammableGate Array，简称：FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件或者其任意适当组合。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

本公开的描述是为了示例和描述起见而给出的，而并不是无遗漏的或者将本公开限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本公开的原理和实际应用，并且使本领域的普通技术人员能够理解本公开从而设计适于特定用途的带有各种修改的各种实施例。