logo好方法网

一种资源分配方法、装置、存储介质和电子设备


技术摘要:
本申请适用于计算机技术领域,提供了一种资源分配方法、装置、存储介质和电子设备,包括:获取数据处理任务,以及与所述数据处理任务中的M个数据块分别关联的子数据块信息,M≥1,M为整数;根据所述M个数据块的子数据块信息,分别确定所述M个数据块的资源分配优先级;  全部
背景技术:
随着科技的发展,信息时代到来,大数据时代也随之而来。大数据的爆炸式增长使 得对计算设备的要求越来越高。在处理大型数据集时,计算设备的内存压力也越来越大,如 何将有限的缓存资源进行有效的分配,是当前需要解决的问题。 现有技术中,常用的缓存分配策略包括最近最少使用(Least  Recently  Used, LRU)策略、最近最久未使用(least  frequently  used,LFU)策略等。LRU策略与LFU策略的都 是优先为最近被使用的数据分配缓存资源,这就导致,在可分配资源有限的情况下,有些最 近未被使用但也确实需要缓存资源的数据可能无法得到资源分配,例如突发性任务或者周 期性任务。现有的缓存分配方式不适用于偶然和定期处理的数据,在并行处理过程中缓存 资源分配的有效性不高,易导致响应不及时。
技术实现要素:
本申请实施例提供了一种资源分配方法、装置、存储介质和电子设备,可以解决现 有的缓存分配方式不适用于偶然和定期处理的数据,在并行处理过程中缓存资源分配的有 效性不高,易导致响应不及时的问题。 第一方面,本申请实施例提供了一种资源分配方法,包括: 获取数据处理任务,以及与所述数据处理任务中的M个数据块分别关联的子数据 块信息,M≥1,M为整数; 根据所述M个数据块的子数据块信息,分别确定所述M个数据块的资源分配优先 级; 基于所述M个数据块的资源分配优先级,为所述M个数据块进行资源分配。 在第一方面的一种可能的实现方式中,所述根据所述M个数据块的子数据块信息, 分别确定所述M个数据块的资源分配优先级的步骤,包括: 针对所述M个数据块中的每一数据块,根据所述数据块的子数据块信息,确定所述 数据块的处理路径,并根据所述数据块的处理路径确定处理所述数据块的开销值; 根据所述M个数据块的开销值,确定所述M个数据块的资源分配优先级。 在第一方面的一种可能的实现方式中,所述根据各个数据块的资源分配优先级进 行资源分配的步骤,包括: 获取当前可分配的资源上限值; 根据当前可分配的资源上限值,按所述资源分配优先级从高到低依次为所述M个 数据块分配资源。 在第一方面的一种可能的实现方式中,所述M个数据块中存在N个数据块已分配资 4 CN 111597040 A 说 明 书 2/12 页 源,所述资源分配方法还包括: 根据所述N个数据块的子数据块信息,分别确定所述N个数据块的后继依赖信息, 每个所述数据块的后继依赖信息用于描述所述数据块被所述数据块的子数据块访问的次 数; 根据所述N个数据块的后继依赖信息,确定所述N个数据块的资源释放优先级; 根据所述N个数据块的资源释放优先级,释放所述N个数据块所占用的资源。 在第一方面的一种可能的实现方式中,所述M个数据块中存在N个数据块已分配资 源,所述资源分配方法还包括: 根据所述N个数据块的子数据块信息,分别确定所述N个数据块的后继依赖信息, 每个所述数据块的后继依赖信息用于描述所述数据块被所述数据块的子数据块访问的次 数; 根据所述N个数据块的后继依赖信息与所述N个数据块的资源分配优先级,确定所 述N个数据块的资源释放优先级; 根据所述N个数据块的资源释放优先级,释放所述N个数据块所占用的资源。 在第一方面的一种可能的实现方式中,所述数据处理任务携带任务类型标识,所 述获取与所述数据处理任务中的M个数据块分别关联的子数据块信息的步骤,包括: 根据所述任务类型标识,确定所述数据处理任务的任务类型; 若所述数据处理任务的任务类型为周期任务,则获取所述数据处理任务对应的历 史日志; 从所述历史日志中提取与所述数据处理任务中的M个数据块分别关联的子数据块 信息。 第二方面,本申请实施例提供了一种资源分配装置,包括: 第一信息获取单元,用于获取数据处理任务,以及与所述数据处理任务中的M个数 据块分别关联的子数据块信息,M≥1,M为整数; 分配优先级确定单元,用于根据所述M个数据块的子数据块信息,分别确定所述M 个数据块的资源分配优先级; 资源分配单元,用于基于所述M个数据块的资源分配优先级,为所述M个数据块进 行资源分配。 第三方面,本申请实施例提供了一种电子设备,包括存储器、处理器以及存储在所 述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实 现如上述第一方面所述的资源分配方法。 第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储 介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面所述的资源 分配方法。 第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在电子 设备上运行时,使得电子设备执行如上述第一方面所述的资源分配方法。 本申请实施例中,通过获取数据处理任务,以及与所述数据处理任务中的M个数据 块分别关联的子数据块信息,然后根据所述M个数据块的子数据块信息,分别确定所述M个 数据块的资源分配优先级,可使得资源分配优先级的确定更为准确有效,再基于所述M个数 5 CN 111597040 A 说 明 书 3/12 页 据块的资源分配优先级,为所述M个数据块进行资源分配,提高资源分配的有效性,进而加 快响应速度,同时,增强资源分配的适用性。 附图说明 为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述 中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些 实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些 附图获得其他的附图。 图1是本申请实施例提供的资源分配方法的实现流程图; 图1.1是本申请实施例提供的资源分配方法中数据块及其关联子数据块的场景示 意图; 图2是本申请实施例提供的资源分配方法中获取数据块关联的子数据块信息的具 体实现流程图; 图3是本申请实施例提供的资源分配方法S102的具体实现流程图; 图3.1是本申请实施例提供的资源分配方法中有向无环图的结构示意图; 图3.2是本申请实施例提供的资源分配方法中确定数据块处理路径的场景示意 图; 图4是本申请实施例提供的包括资源释放的资源分配方法的一种实现流程图; 图5是本申请实施例提供的包括资源释放的资源分配方法的另一种实现流程图; 图5.1是本申请实施例提供的资源分配方法的应用场景示意图; 图6是本申请实施例提供的资源分配装置的结构框图; 图7是本申请另一实施例提供的资源分配装置的结构框图; 图8是本申请实施例提供的电子设备的示意图。
分享到:
收藏