[go: up one dir, main page]

CN119668803A - 一种任务处理方法、装置、电子设备及存储介质 - Google Patents

一种任务处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN119668803A
CN119668803A CN202411733262.9A CN202411733262A CN119668803A CN 119668803 A CN119668803 A CN 119668803A CN 202411733262 A CN202411733262 A CN 202411733262A CN 119668803 A CN119668803 A CN 119668803A
Authority
CN
China
Prior art keywords
task
processed
node
idle
idle period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202411733262.9A
Other languages
English (en)
Inventor
马俊才
张忠仁
李树辉
李传波
高立江
段光辉
陈红彪
陈香甫
张大伟
卢加乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Post Information Technology Beijing Co ltd
Original Assignee
China Post Information Technology Beijing Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Post Information Technology Beijing Co ltd filed Critical China Post Information Technology Beijing Co ltd
Priority to CN202411733262.9A priority Critical patent/CN119668803A/zh
Publication of CN119668803A publication Critical patent/CN119668803A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Debugging And Monitoring (AREA)

Abstract

本发明公开了一种任务处理方法、装置、电子设备及存储介质。方法包括:获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点;将待处理任务调度到目标节点,在目标节点上执行待处理任务。通过本方案为待处理任务确定空闲时段的节点资源,充分利用空闲时段的节点处理任务,无需为待处理任务单独申请和占用资源,提高任务处理效率,避免节点资源浪费,提高空闲时段的节点资源的利用率。

Description

一种任务处理方法、装置、电子设备及存储介质
技术领域
本发明涉及数据处理技术领域,尤其涉及一种任务处理方法、装置、电子设备及存储介质。
背景技术
随着容器化、Kubernetes技术在私有云落地,大大提升了服务部署效率,但是在私有云中,服务总是集中在某些时间段使用,如服务请求集中发生在工作时间,导致夜间、节假日等时间段存在大量资源浪费的情况。在集群共享过程中,对于无法获取集群中的闲置资源的情况,会为任务申请更多的资源配额,使得无法充分利用空闲时段的节点资源,导致集群资源使用率低。
发明内容
本发明提供了一种任务处理方法、装置、电子设备及存储介质,以解决无法充分利用空闲时段的集群资源和集群资源利用率低的问题。
根据本发明的一方面,提供了一种任务处理方法,包括:
获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;
基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;
在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点;
将待处理任务调度到目标节点,在目标节点上执行待处理任务。
可选的,获取待处理任务,包括:响应于待处理任务的创建操作,展示对应的任务配置选项,其中,任务配置选项包括任务开始时间选项和任务允许延迟时间选项;响应于对任务开始时间选项和任务允许延迟时间选项的选择操作,确定任务开始时间和任务允许延迟时间,基于任务开始时间、任务允许延迟时间和待处理任务的基础信息生成待处理任务,其中,基础信息包括任务名称、任务类型和项目组信息。
可选的,获取节点空闲时段,包括:获取节点历史运行数据,基于节点历史运行数据和预先训练的空闲时段预测模型进行预测处理,得到各节点的节点空闲预测信息;基于各节点的节点空闲预测信息确定节点空闲时段。
可选的,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点,包括:获取节点空闲时段内各节点的任务状态,选取任务状态为空闲状态的节点,得到至少一个空闲节点,其中,空闲节点的节点信息包括节点等级标识;获取待处理任务中的任务优先级标识;遍历空闲节点,基于预构建的任务优先级标识和节点等级标识的映射关系,确定待处理任务对应的任一空闲节点,将任一空闲节点作为目标节点。
可选的,空闲节点的节点信息还包括剩余资源量和空闲时段的资源使用率;将待处理任务调度到目标节点,包括:基于目标节点的剩余资源量和空闲时段的资源使用率确定待处理任务的资源配置信息;基于资源配置信息在目标节点创建任务实例,将待处理任务调度到目标节点的任务实例。
可选的,资源配置信息包括最小资源信息和资源限额信息,其中,最小资源信息小于资源限额信息;基于目标节点的剩余资源量和空闲时段的资源使用率确定待处理任务的资源配置信息,包括:基于目标节点的剩余资源量确定待处理任务的最小资源信息;基于空闲时段的资源使用率和目标节点的资源总量确定待处理任务的资源限额信息。
可选的,在将待处理任务调度到目标节点之后,方法还包括:在待处理任务的执行过程中,检测到目标节点接收到新增待处理任务的情况下,获取新增待处理任务对应的任务优先级标识;在基于新增待处理任务对应的任务优先级标识和待处理任务对应的任务优先级标识确定新增待处理任务的任务优先级高于待处理任务的任务优先级的情况下,暂停执行待处理任务,将待处理任务存储在待处理任务列表中,直到检测到新的目标节点的情况下,将待处理任务调度到新的目标节点上;在新增待处理任务中的任务优先级低于待处理任务的任务优先级的情况下,继续执行待处理任务。
根据本发明的另一方面,提供了一种任务处理装置,包括:
信息获取模块,用于获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;
空闲时段匹配结果确定模块,用于基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;
目标节点确定模块,用于在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点;
待处理任务处理模块,用于将待处理任务调度到目标节点,在目标节点上执行待处理任务。
根据本发明的另一方面,提供了一种电子设备,电子设备包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行本发明任一实施例的任务处理方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本发明任一实施例的任务处理方法。
本发明实施例的技术方案,通过获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点;将待处理任务调度到目标节点,在目标节点上执行待处理任务。本方案通过为待处理任务在节点空闲时段分配对应的空闲节点,用于调度待处理任务,无需为待处理任务单独申请和占用额外资源,实现了自动化地为待处理任务分配资源节点和确定待处理任务的处理时间,使待处理任务在空闲时段利用对应的节点的空闲资源对任务进行处理,充分利用空闲时段的空闲节点的资源,避免节点资源浪费,提高整个目标集群的资源利用率。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种任务处理方法的流程图;
图2是本发明实施例二提供的一种任务处理方法的流程图;
图3是本发明实施例三提供的一种任务处理装置的结构示意图;
图4是实现本发明实施例的任务处理方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是本发明实施例一提供的一种任务处理方法的流程图,本实施例可适用于对待处理任务进行处理的情况,该方法可以由任务处理装置来执行,该任务处理装置可以采用硬件和/或软件的形式实现,该任务处理装置可配置于计算机等电子设备中。如图1所示,该方法包括:
S110、获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间。
其中,待处理任务具体可以理解为待进行调度和执行的任务,可以通过任务管理平台创建待处理任务,也可以通过执行任务创建命令符进行任务创建,从而得到待处理任务,也可以从待处理任务列表中读取待处理任务,示例性的,待处理任务可以是批处理任务。节点空闲时段表征的是节点处于空闲状态的时段,可以根据目标集群中的各节点的节点运行数据进行确定,可以预先构建对应的节点空闲时段算法,根据节点历史运行数据和节点空闲时段算法确定节点空闲时段,示例性的,节点空闲时段算法可以是通过构建的时段预测模型对节点历史运行数据进行处理,得到各节点的预测空闲时段,基于各节点的预测空闲时段确定节点空闲时段,比如可以对各节点的预测空闲时段进行交集或并集运算,将得到的时间段作为节点空闲时段;还可以按照统计学方法对节点历史运行数据进行统计,将统计出的空闲节点数量最多的时间段作为节点空闲时段;此处不做限定。
具体的,用户可以通过任务管理平台上的任务创建功能创建待处理任务,也可以从待处理任务列表中获取待处理任务,其中,待处理任务中携带有任务开始时间和任务允许延迟时间,基于任务开始时间和任务允许延迟时间确定待处理任务的可启动时间段。可以从监控系统获取目标集群中的各节点的历史运行数据,调用节点空闲时段算法,基于节点空闲时段算法对节点历史运行数据进行处理,以得到节点空闲时段。
可选的,获取待处理任务,包括:响应于待处理任务的创建操作,展示对应的任务配置选项,其中,任务配置选项包括任务开始时间选项和任务允许延迟时间选项;响应于对任务开始时间选项和任务允许延迟时间选项的选择操作,确定任务开始时间和任务允许延迟时间,基于任务开始时间、任务允许延迟时间和待处理任务的基础信息生成待处理任务,其中,基础信息包括任务名称、任务类型和项目组信息。
具体的,用户可以在任务管理平台上点击任务创建按钮,创建待处理任务,响应于对待处理任务的创建操作,任务创建按钮对应的可视化页面上展示任务配置选项,其中,任务配置选项包含但不限于任务开始时间选项和任务允许延迟时间选项。用户可以在任务配置选项中选择任务开始时间和任务允许延迟时间,需要说明的是,任务配置选项会展示可选择的任务开始时间和任务允许延迟时间,可选择的任务开始时间和任务允许延迟时间可以根据历史运行数据进行预测得到,用户还可以通过编辑功能编辑满足待处理任务的任务需求的任务开始时间和任务允许延迟时间。在确定任务开始时间和任务允许延迟时间的情况下,可以在可视化页面上编辑待处理任务的基础信息,其中,待处理任务的基础信息可以理解为表征待处理任务的属性的信息,包含但不限于任务名称、任务类型和项目组信息。系统将会根据任务开始时间、任务允许延迟时间和待处理任务的基础信息生成对应的待处理任务,优选的,可以将创建成功的待处理任务及其关联信息存储在待处理任务列表中,通过定时任务不断地对待处理任务列表进行轮训,一旦检测到待处理任务列表中存在待处理任务,则会自动地执行待处理任务。
可选的,获取节点空闲时段,包括:获取节点历史运行数据,基于节点历史运行数据和预先训练的空闲时段预测模型进行预测处理,得到各节点的节点空闲预测信息;基于各节点的节点空闲预测信息确定节点空闲时段。
其中,空闲时段预测模型具体可以理解为一种深度学习网络模型,用于对各节点的空闲信息进行预测,得到各节点的节点空闲预测信息,对于空闲时段预测模型,可以从各节点的历史运行数据中进行采样处理,得到样本训练集,通过样本训练集对空闲时段预测模型进行训练,以得到预先训练的空闲时段预测模型。
具体的,通过向监控系统发出数据查询请求,从监控系统中获取目标集群中的各节点的节点历史运行数据,其中,目标集群可以是Kubernetes集群。调用预先训练的空闲时段预测模型,将各节点的节点历史运行数据输入至预先训练的空闲时段预测模型,预测出各节点的节点空闲预测信息,其中,节点空闲预测信息包含但不限于节点空闲预测时段和节点预测可利用资源。基于各节点的节点空闲预测信息进行统计分析,确定空闲节点数量最多的时间段,将空闲节点数量最多的时间段作为节点空闲时段,或者是选取节点预测可利用资源满足一定资源阈值的节点对应的时间信息,根据得到的时间信息构成节点空闲时段,可以对得到的时间信息进行交集或者并集运算,将经过交集或并集运算处理后得到的时间段作为节点空闲时段,此处不做限定。
S120、基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果。
其中,任务允许延迟时间具体可以理解为待处理任务的最大延迟启动时间,可以理解的是,如果待处理任务执行启动的情况下,在任务允许延迟时间内未能启动成功,则表明任务启动失败,可以将启动失败的任务删除,重新创建新的任务,也可以将启动失败的任务存至待处理任务列表中,并将启动失败的任务对应的任务状态修改为待处理状态。
具体的,根据任务开始时间和任务允许延迟时间计算出待处理任务的可启动时间段,将可启动时间段与节点空闲时段进行比对,确定是否存在相同的时间点,或者是将可启动时间段与节点空闲时段进行交集运算,确定交集运算结果中是否为空,如果存在相同时间点或交集运算结果不为空,则可以确定待处理任务的空闲时段匹配结果为匹配成功,如果既不存在相同时间点,交集运算结果也为空,则可以确定待处理任务的空闲时段匹配结果为匹配失败。
在本实施例中,对待处理任务的任务时间信息进行空闲时段校验,以确保待处理任务能够满足节点空闲时段,使得待处理任务能够成功调用节点空闲时段中的节点,无需为待处理任务申请更多的节点资源,可以快速在节点空闲时段中为其分配空闲节点资源,使得能够快速处理待处理任务的基础上,还提高了节点空闲时段内的节点的利用率。
S130、在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点。
具体的,在空闲时段匹配结果为匹配成功的情况下,根据节点空闲时段从监控系统中的节点运行数据中获取与节点空闲时间相匹配的节点运行数据,并从获取的到的节点运行数据中提取运行状态为空闲状态的节点,得到满足节点空闲时段的空闲节点,从空闲节点中选取一节点作为目标节点,示例性的,可以从空闲节点中随机选取任一节点作为目标节点,也可以将各空闲节点按照可利用资源量进行排序,选择可利用资源量最高的空闲节点作为目标节点,也可以根据各空闲节点的节点优先级选取目标节点,可以根据实际处理任务的需求选择对应的方法以确定目标节点,此处不做限定。
S140、将待处理任务调度到目标节点,在目标节点上执行待处理任务。
具体的,在确定目标节点之后,执行将待处理任务调度到目标节点的操作,在将待处理任务成功调度到目标节点的情况下,在目标节点上执行待处理任务。
可选的,空闲节点的节点信息还包括剩余资源量和空闲时段的资源使用率;将待处理任务调度到目标节点,包括:基于目标节点的剩余资源量和空闲时段的资源使用率确定待处理任务的资源配置信息;基于资源配置信息在目标节点创建任务实例,将待处理任务调度到目标节点的任务实例。
需要说明的是,在对待处理任务进行调度的情况下,调用Kubernetes集群的应用程序接口创建自定义资源,需要通过Kubernetes准入控制器拦截资源创建请求,为待处理任务的任务实例设置对应的资源配置信息,资源配置信息包括最小资源信息和资源限额信息,其中,最小资源信息为满足任务实例能够启动所需的最小资源量,资源限额信息为任务实例可以使用的最大资源量,以防止任务实例无限制地使用资源,导致宿主机雪崩,从而影响其他任务实例的运行。
具体的,可以根据选取的目标节点的剩余资源量和空闲时段的资源使用率设置待处理任务的资源配置信息,可以根据目标节点的剩余资源量设置最小资源量,如果待处理任务所需的资源量低于目标节点的剩余资源量,则可以将待处理任务所需的资源量设置为最小资源量,如果待处理任务所需的资源量高于目标节点的剩余资源量,则将目标节点的剩余资源量设置为最小资源量;根据空闲时段的资源使用率计算出最大可用资源使用率,根据最大可用资源使用率与节点的资源总量的乘积确定资源限额信息,其中,最大可用资源使用率可以根据预设的计算公式确定,其中,计算公式为:(100%-空闲时段的资源使用率)×比例系数,比例系数可以根据实际情况进行设置,优选的,比例系数为80%。在确定好资源配置信息之后,继续执行资源创建请求,根据确定的资源配置信息在目标节点上创建任务实例,以实现将待处理任务调度到目标节点的任务实例。
可选的,资源配置信息包括最小资源信息和资源限额信息,其中,最小资源信息小于资源限额信息;基于目标节点的剩余资源量和空闲时段的资源使用率确定待处理任务的资源配置信息,包括:基于目标节点的剩余资源量确定待处理任务的最小资源信息;基于空闲时段的资源使用率和目标节点的资源总量确定待处理任务的资源限额信息。
可以理解的是,最小资源信息是启动任务实例所需的最小资源量,资源限额信息是任务实例允许使用的最大资源量,因此,设置的最小资源信息对应的资源量应小于资源限额信息对应的最大资源量。如果确定的资源配置信息对应的最小资源量不小于最大资源量,则需要重新选择目标节点。
具体的,可以将目标节点的剩余资源量设置为待处理任务的最小资源信息,以保证目标节点能够启动待处理任务对应的任务实例;基于空闲时段的资源使用率按照预设的计算公式确定节点的最大可用资源使用率,计算最大可用资源使用率与目标节点的资源总量的乘积,将计算的结果作为资源限额资源。
在上述实施例的基础上,在将待处理任务调度到目标节点之后,方法还包括:在待处理任务的执行过程中,检测到目标节点接收到新增待处理任务的情况下,获取新增待处理任务对应的任务优先级标识;在基于新增待处理任务对应的任务优先级标识和待处理任务对应的任务优先级标识确定新增待处理任务的任务优先级高于待处理任务的任务优先级的情况下,暂停执行待处理任务,将待处理任务存储在待处理任务列表中,直到检测到新的目标节点的情况下,将待处理任务调度到新的目标节点上;在新增待处理任务中的任务优先级低于待处理任务的任务优先级的情况下,继续执行待处理任务。
具体的,在将待处理任务调度到目标节点之后,在待处理任务的执行过程中,检测到目标节点接收到新增待处理任务,识别新增的待处理任务的任务信息,确定新增待处理任务的任务优先级,将新增待处理任务的任务优先级和待处理任务对应的任务优先级进行比对,如果新增待处理任务的任务优先级高于待处理任务的任务优先级,则需暂停执行待处理任务,并将对应的任务实例删除,可以将新增待处理任务调度到此目标节点上;将未执行完成的待处理任务存储在待处理任务列表中,并将对应的任务状态设置为未执行完成状态,在重新遍历到此待处理任务的情况下,为其重新确定新的目标节点,在确定好新的目标节点的情况下,重新执行调度操作,将待处理任务调度到新的目标节点上,在一些实施例中,如果待处理任务属于批处理任务,鉴于批处理任务的优先级通常为最低优先级,可以直接将待处理任务直接删除,生成对应的提示信息,提醒用户待处理任务执行失败,由用户确定是否重新创建待处理任务。如果新增待处理任务中的任务优先级低于待处理任务的任务优先级,则继续执行待处理任务,为新增待处理任务筛选其他可用的空闲节点。
本实施例的技术方案,通过获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点;将待处理任务调度到目标节点,在目标节点上执行待处理任务。本方案通过为待处理任务在节点空闲时段分配对应的空闲节点,用于调度待处理任务,无需为待处理任务单独申请和占用额外资源,自动化地为待处理任务分配资源节点和确定待处理任务的处理时间,使待处理任务在空闲时段利用对应的节点的空闲资源对任务进行处理,充分利用空闲时段的空闲节点的资源,避免节点资源浪费,提高整个目标集群的资源利用率。
实施例二
图2是本发明实施例二提供的一种任务处理方法的流程图,本实施例是上述实施例的方法的进一步优化,可选的,在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段内各节点的任务状态,选取任务状态为空闲状态的节点,得到至少一个空闲节点,其中,空闲节点的节点信息包括节点等级标识;获取待处理任务中的任务优先级标识;遍历空闲节点,基于预构建的任务优先级标识和节点等级标识的映射关系,确定待处理任务对应的任一空闲节点,将任一空闲节点作为目标节点。如图2所示,该方法包括:
S210、获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间。
S220、基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果。
S230、在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段内各节点的任务状态,选取任务状态为空闲状态的节点,得到至少一个空闲节点,其中,空闲节点的节点信息包括节点等级标识。
具体的,在空闲时段匹配结果为匹配成功的情况下,调用查询接口,查询在节点空闲时段内的各节点的任务状态,将任务状态为空闲状态的节点筛选出来,筛选结果至少包括一个空闲节点,其中,每一空闲节点的节点信息中包括节点等级标识,需要说明的是,节点等级标识是预先为每一节点设置的等级标识,可以根据节点的等级标识为节点分配对应的可执行任务。
S240、获取待处理任务中的任务优先级标识。
具体的,可以从待处理任务对应的任务信息中提取任务优先级标识。若在待处理任务对应的任务信息中未识别到任务优先级标识,可以根据待处理任务的任务类型匹配到对应的任务优先级标识,不同任务类型对应的任务优先级标识会有所不同,其中,任务类型具体根据对应的业务类型进行设置,包含但不限于批处理任务类型和审核任务类型,通常情况下,批处理任务类型的优先级最低,审核任务相对于批处理任务而言,审核任务类型对应的任务优先级相对较高。
S250、遍历空闲节点,基于预构建的任务优先级标识和节点等级标识的映射关系,确定待处理任务对应的任一空闲节点,将任一空闲节点作为目标节点。
具体的,遍历空闲节点,读取各空闲节点的节点等级标识。调用构建的任务优先级标识和节点等级标识的映射关系,将待处理任务中的任务优先级标识与构建的任务优先级标识和节点等级标识的映射关系进行匹配,确定与任务优先级标识相匹配的节点等级标识,根据匹配到的节点等级标识与各节点的节点等级标识进行匹配,确定相匹配的空闲节点,从匹配的空闲节点中选取任一空闲节点作为目标节点。
S260、将待处理任务调度到目标节点,在目标节点上执行待处理任务。
本实施例的技术方案,通过获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段内各节点的任务状态,选取任务状态为空闲状态的节点,得到至少一个空闲节点,其中,空闲节点的节点信息包括节点等级标识;获取待处理任务中的任务优先级标识;遍历空闲节点,基于预构建的任务优先级标识和节点等级标识的映射关系,确定待处理任务对应的任一空闲节点,将任一空闲节点作为目标节点;将待处理任务调度到目标节点,在目标节点上执行待处理任务。本方案通过为待处理任务在节点空闲时段分配对应的空闲节点,用于调度待处理任务,无需为待处理任务单独申请和占用额外资源,自动化地为待处理任务分配资源节点和确定待处理任务的处理时间,使待处理任务在空闲时段利用对应的节点的空闲资源对任务进行处理,充分利用空闲时段的空闲节点的资源,避免节点资源浪费,提高整个目标集群的资源利用率。
实施例三
图3是本发明实施例三提供的一种任务处理装置的结构示意图。如图3所示,该装置包括:
信息获取模块310,用于获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;
空闲时段匹配结果确定模块320,用于基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;
目标节点确定模块330,用于在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点;
待处理任务处理模块340,用于将待处理任务调度到目标节点,在目标节点上执行待处理任务。
本实施例的技术方案,通过信息获取模块获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;空闲时段匹配结果确定模块基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;目标节点确定模块,用于在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点;待处理任务处理模块将待处理任务调度到目标节点,在目标节点上执行待处理任务。本方案通过为待处理任务在节点空闲时段分配对应的空闲节点,用于调度待处理任务,无需为待处理任务单独申请和占用额外资源,实现了自动化地为待处理任务分配资源节点和确定待处理任务的处理时间,使待处理任务在空闲时段利用对应的节点的空闲资源对任务进行处理,充分利用空闲时段的空闲节点的资源,避免节点资源浪费,提高整个目标集群的资源利用率。
在上述实施例的基础上,可选的,信息获取模块310,具体用于响应于待处理任务的创建操作,展示对应的任务配置选项,其中,任务配置选项包括任务开始时间选项和任务允许延迟时间选项;响应于对任务开始时间选项和任务允许延迟时间选项的选择操作,确定任务开始时间和任务允许延迟时间,基于任务开始时间、任务允许延迟时间和待处理任务的基础信息生成待处理任务,其中,基础信息包括任务名称、任务类型和项目组信息。
可选的,信息获取模块310,具体用于获取节点历史运行数据,基于节点历史运行数据和预先训练的空闲时段预测模型进行预测处理,得到各节点的节点空闲预测信息;基于各节点的节点空闲预测信息确定节点空闲时段。
可选的,目标节点确定模块330,具体用于获取节点空闲时段内各节点的任务状态,选取任务状态为空闲状态的节点,得到至少一个空闲节点,其中,空闲节点的节点信息包括节点等级标识;获取待处理任务中的任务优先级标识;遍历空闲节点,基于预构建的任务优先级标识和节点等级标识的映射关系,确定待处理任务对应的任一空闲节点,将任一空闲节点作为目标节点。
可选的,空闲节点的节点信息还包括剩余资源量和空闲时段的资源使用率;待处理任务处理模块340,具体用于基于目标节点的剩余资源量和空闲时段的资源使用率确定待处理任务的资源配置信息;基于资源配置信息在目标节点创建任务实例,将待处理任务调度到目标节点的任务实例。
可选的,资源配置信息包括最小资源信息和资源限额信息,其中,最小资源信息小于资源限额信息;待处理任务处理模块340,具体用于基于目标节点的剩余资源量确定待处理任务的最小资源信息;基于空闲时段的资源使用率和目标节点的资源总量确定待处理任务的资源限额信息。
可选的,在将待处理任务调度到目标节点之后,装置具体用于在待处理任务的执行过程中,检测到目标节点接收到新增待处理任务的情况下,获取新增待处理任务对应的任务优先级标识;在基于新增待处理任务对应的任务优先级标识和待处理任务对应的任务优先级标识确定新增待处理任务的任务优先级高于待处理任务的任务优先级的情况下,暂停执行待处理任务,将待处理任务存储在待处理任务列表中,直到检测到新的目标节点的情况下,将待处理任务调度到新的目标节点上;在新增待处理任务中的任务优先级低于待处理任务的任务优先级的情况下,继续执行待处理任务。
本发明实施例所提供的任务处理装置可执行本发明任意实施例所提供的任务处理方法,具备执行方法相应的功能模块和有益效果。
实施例四
图4是本发明实施例四提供的一种电子设备的结构示意图。电子设备10旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图4所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如任务处理方法。
在一些实施例中,任务处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的任务处理方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行任务处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的任务处理方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
实施例五
本发明实施例五还提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行一种任务处理方法,该方法包括:
获取待处理任务和节点空闲时段,其中,待处理任务中携带有任务开始时间和任务允许延迟时间;
基于任务开始时间、任务允许延迟时间和节点空闲时段对待处理任务进行空闲时段匹配,确定待处理任务的空闲时段匹配结果;
在空闲时段匹配结果为匹配成功的情况下,获取节点空闲时段对应的空闲节点,基于空闲节点确定目标节点;
将待处理任务调度到目标节点,在目标节点上执行待处理任务。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (10)

1.一种任务处理方法,其特征在于,包括:
获取待处理任务和节点空闲时段,其中,所述待处理任务中携带有任务开始时间和任务允许延迟时间;
基于所述任务开始时间、所述任务允许延迟时间和所述节点空闲时段对所述待处理任务进行空闲时段匹配,确定所述待处理任务的空闲时段匹配结果;
在所述空闲时段匹配结果为匹配成功的情况下,获取所述节点空闲时段对应的空闲节点,基于所述空闲节点确定目标节点;
将所述待处理任务调度到所述目标节点,在所述目标节点上执行所述待处理任务。
2.根据权利要求1所述的方法,其特征在于,所述获取待处理任务,包括:
响应于待处理任务的创建操作,展示对应的任务配置选项,其中,所述任务配置选项包括任务开始时间选项和任务允许延迟时间选项;
响应于对所述任务开始时间选项和所述任务允许延迟时间选项的选择操作,确定所述任务开始时间和所述任务允许延迟时间,基于所述任务开始时间、所述任务允许延迟时间和所述待处理任务的基础信息生成所述待处理任务,其中,所述基础信息包括任务名称、任务类型和项目组信息。
3.根据权利要求1所述的方法,其特征在于,获取所述节点空闲时段,包括:
获取节点历史运行数据,基于所述节点历史运行数据和预先训练的空闲时段预测模型进行预测处理,得到各所述节点的节点空闲预测信息;
基于各所述节点的节点空闲预测信息确定所述节点空闲时段。
4.根据权利要求1所述的方法,其特征在于,所述获取所述节点空闲时段对应的空闲节点,基于所述空闲节点确定目标节点,包括:
获取所述节点空闲时段内各节点的任务状态,选取任务状态为空闲状态的节点,得到至少一个空闲节点,其中,所述空闲节点的节点信息包括节点等级标识;
获取所述待处理任务中的任务优先级标识;
遍历所述空闲节点,基于预构建的任务优先级标识和节点等级标识的映射关系,确定所述待处理任务对应的任一空闲节点,将所述任一空闲节点作为所述目标节点。
5.根据权利要求1所述的方法,其特征在于,所述空闲节点的节点信息还包括剩余资源量和空闲时段的资源使用率;
所述将所述待处理任务调度到所述目标节点,包括:
基于所述目标节点的剩余资源量和空闲时段的资源使用率确定所述待处理任务的资源配置信息;
基于所述资源配置信息在所述目标节点创建任务实例,将所述待处理任务调度到所述目标节点的任务实例。
6.根据权利要求5所述的方法,其特征在于,所述资源配置信息包括最小资源信息和资源限额信息,其中,所述最小资源信息小于所述资源限额信息;
所述基于所述目标节点的剩余资源量和空闲时段的资源使用率确定所述待处理任务的资源配置信息,包括:
基于所述目标节点的剩余资源量确定所述待处理任务的最小资源信息;
基于所述空闲时段的资源使用率和所述目标节点的资源总量确定所述待处理任务的资源限额信息。
7.根据权利要求1所述的方法,其特征在于,在所述将所述待处理任务调度到所述目标节点之后,方法还包括:
在所述待处理任务的执行过程中,检测到所述目标节点接收到新增待处理任务的情况下,获取所述新增待处理任务对应的任务优先级标识;
在基于所述新增待处理任务对应的任务优先级标识和所述待处理任务对应的任务优先级标识确定所述新增待处理任务的任务优先级高于所述待处理任务的任务优先级的情况下,暂停执行所述待处理任务,将所述待处理任务存储在待处理任务列表中,直到检测到新的目标节点的情况下,将所述待处理任务调度到所述新的目标节点上;
在所述新增待处理任务中的任务优先级低于所述待处理任务的任务优先级的情况下,继续执行所述待处理任务。
8.一种任务处理装置,其特征在于,包括:
信息获取模块,用于获取待处理任务和节点空闲时段,其中,所述待处理任务中携带有任务开始时间和任务允许延迟时间;
空闲时段匹配结果确定模块,用于基于所述任务开始时间、所述任务允许延迟时间和所述节点空闲时段对所述待处理任务进行空闲时段匹配,确定所述待处理任务的空闲时段匹配结果;
目标节点确定模块,用于在所述空闲时段匹配结果为匹配成功的情况下,获取所述节点空闲时段对应的空闲节点,基于所述空闲节点确定目标节点;
待处理任务处理模块,用于将所述待处理任务调度到所述目标节点,在所述目标节点上执行所述待处理任务。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的任务处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的任务处理方法。
CN202411733262.9A 2024-11-29 2024-11-29 一种任务处理方法、装置、电子设备及存储介质 Pending CN119668803A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202411733262.9A CN119668803A (zh) 2024-11-29 2024-11-29 一种任务处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202411733262.9A CN119668803A (zh) 2024-11-29 2024-11-29 一种任务处理方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN119668803A true CN119668803A (zh) 2025-03-21

Family

ID=94993480

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202411733262.9A Pending CN119668803A (zh) 2024-11-29 2024-11-29 一种任务处理方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN119668803A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN121233272A (zh) * 2025-12-03 2025-12-30 一智科技(成都)有限公司 一种分布式异构计算资源的调度方法和系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN121233272A (zh) * 2025-12-03 2025-12-30 一智科技(成都)有限公司 一种分布式异构计算资源的调度方法和系统

Similar Documents

Publication Publication Date Title
CN119668803A (zh) 一种任务处理方法、装置、电子设备及存储介质
CN115291806B (zh) 一种处理方法、装置、电子设备及存储介质
CN116661960A (zh) 一种批量任务处理方法、装置、设备以及存储介质
CN114862223A (zh) 一种机器人调度方法、装置、设备及存储介质
CN115390992A (zh) 一种虚拟机创建方法、装置、设备和存储介质
CN115168760B (zh) 数据查询方法、装置及存储介质
CN115774602A (zh) 一种容器资源的分配方法、装置、设备及存储介质
CN114328070A (zh) 数据倾斜检测方法、装置及相关设备
CN116594764B (zh) 一种应用程序的更新方法、装置、电子设备和存储介质
CN115858279B (zh) 一种日志处理方法、装置、设备以及存储介质
CN117971486B (zh) 一种分布式作业的负载均衡方法、电子设备及存储介质
CN120578502A (zh) 定时任务处理方法、装置、电子设备及存储介质
CN119829286A (zh) 一种编译资源调度方法、装置、设备、介质及程序产品
CN119806819A (zh) 一种任务处理方法、装置、设备、介质及产品
CN119621285A (zh) 一种任务调度方法、装置、设备、介质及产品
CN116389499A (zh) 基于电力物联网的任务分配方法、装置、设备和介质
CN119806778A (zh) 线程调度方法、装置、设备、介质以及产品
CN119766754A (zh) 一种平台间的节点的调度方法、装置、设备、介质及产品
CN116361008A (zh) 基于电力物联网的任务均衡分配方法、装置、设备和介质
CN117667397A (zh) 一种gpu资源调度方法、装置、电子设备及存储介质
CN115408115A (zh) 事务启动时间的处理方法、装置、设备及存储介质
CN119621325A (zh) 一种节点资源调度方法、装置、电子设备及存储介质
CN120066719A (zh) 一种低压用电信息采集方法、装置、电子设备及存储介质
CN120596219A (zh) 一种基于时间片轮换的接口限流方法、设备、介质及产品
CN119629121A (zh) Linux网络流量控制方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination