分布式任务调度平台xxl-job
说明XXL-JOB是一个分布式任务调度平台部署调度中心1、下载源码包从这里下载最新的源码包(https://github.com/xuxueli/xxl-job/releases)初始化数据库/xxl-job/doc/db/tables_xxl_job.sql调度中心支持集群部署,集群情况下各节点务必连接同一个mysql实例2、配置并启动调度中心使用开发工具(eclipse、idea)导入源码,并
说明
XXL-JOB是一个分布式任务调度平台
部署调度中心
1、下载源码包
从这里下载最新的源码包(https://github.com/xuxueli/xxl-job/releases)
- 初始化数据库
/xxl-job/doc/db/tables_xxl_job.sql
调度中心支持集群部署,集群情况下各节点务必连接同一个mysql实例
2、配置并启动调度中心
使用开发工具(eclipse、idea)导入源码,并启动工程(xxl-job-admin)
- 调度中心配置内容
### 调度中心JDBC链接:链接地址请保持和 2.1章节 所创建的调度数据库的地址一致
spring.datasource.url=jdbc:mysql://127.0.0.1:3306/xxl_job?Unicode=true&characterEncoding=UTF-8
spring.datasource.username=root
spring.datasource.password=root_pwd
spring.datasource.driver-class-name=com.mysql.jdbc.Driver
### 报警邮箱
spring.mail.host=smtp.qq.com
spring.mail.port=25
spring.mail.username=xxx@qq.com
spring.mail.password=xxx
spring.mail.properties.mail.smtp.auth=true
spring.mail.properties.mail.smtp.starttls.enable=true
spring.mail.properties.mail.smtp.starttls.required=true
spring.mail.properties.mail.smtp.socketFactory.class=javax.net.ssl.SSLSocketFactory
### 调度中心通讯TOKEN [选填]:非空时启用;
xxl.job.accessToken=
### 调度中心国际化配置 [必填]: 默认为 "zh_CN"/中文简体, 可选范围为 "zh_CN"/中文简体, "zh_TC"/中文繁体 and "en"/英文;
xxl.job.i18n=zh_CN
## 调度线程池最大线程配置【必填】
xxl.job.triggerpool.fast.max=200
xxl.job.triggerpool.slow.max=100
### 调度中心日志表数据保存天数 [必填]:过期日志自动清理;限制大于等于7时生效,否则, 如-1,关闭自动清理功能;
xxl.job.logretentiondays=30
启动工程xxl-job-admin,打开地址(http://localhost:8080/xxl-job-admin)
默认登录账号 “admin/123456”
部署执行项目
这是具体的任务执行项目,启动时会自动往调度中心注册任务。
调度中心在执行任务时,会发送请求到具体的执行项目
1、引入jar包依赖
<dependency>
<groupId>com.xuxueli</groupId>
<artifactId>xxl-job-core</artifactId>
<version>2.1.2</version>
</dependency>
2、执行项目配置
- 配置文件
### 调度中心部署跟地址 [选填]:如调度中心集群部署存在多个地址则用逗号分隔。执行器将会使用该地址进行"执行器心跳注册"和"任务结果回调";为空则关闭自动注册;
xxl.job.addresses=http://127.0.0.1:8080/xxl-job-admin
### 执行器AppName [选填]:执行器心跳注册分组依据;为空则关闭自动注册
xxl.job.executor.appname=xxl-job-executor-sample
### 执行器IP [选填]:默认为空表示自动获取IP,多网卡时可手动设置指定IP,该IP不会绑定Host仅作为通讯实用;地址信息用于 "执行器注册" 和 "调度中心请求并触发任务";
xxl.job.executor.ip=
### 执行器端口号 [选填]:小于等于0则自动获取;默认端口为9999,单机部署多个执行器时,注意要配置不同执行器端口;
xxl.job.executor.port=9999
### 执行器通讯TOKEN [选填]:非空时启用;
xxl.job.accessToken=
### 执行器运行日志文件存储磁盘路径 [选填] :需要对该路径拥有读写权限;为空则使用默认路径;
xxl.job.executor.logpath=/data/applogs/xxl-job/jobhandler
### 执行器日志文件保存天数 [选填] : 过期日志自动清理, 限制值大于等于3时生效; 否则, 如-1, 关闭自动清理功能;
xxl.job.executor.logretentiondays=30
- springboot配置类
@Data
@ConfigurationProperties(prefix = "xxl.job")
public class JobProperty {
private String accessToken;
private String addresses;
private Executor executor;
@Data
public static class Executor {
private String appname;
private String ip;
private String port;
private String logpath;
private String logretentiondays;
}
}
@Configuration
@EnableConfigurationProperties({ JobProperty.class })
public class JobConfig {
private Logger logger = LoggerFactory.getLogger(getClass());
@Bean
public XxlJobSpringExecutor xxlJobExecutor(JobProperty property) {
logger.info(">>>>>>>>>>> xxl-job config init.");
XxlJobSpringExecutor xxlJobSpringExecutor = new XxlJobSpringExecutor();
xxlJobSpringExecutor.setAdminAddresses(property.getAddresses());
xxlJobSpringExecutor.setAppName(property.getExecutor().getAppname());
xxlJobSpringExecutor.setIp(property.getExecutor().getIp());
xxlJobSpringExecutor.setPort(Integer.valueOf(property.getExecutor().getPort()));
xxlJobSpringExecutor.setAccessToken(property.getAccessToken());
xxlJobSpringExecutor.setLogPath(property.getExecutor().getLogpath());
xxlJobSpringExecutor.setLogRetentionDays(Integer.valueOf(property.getExecutor().getLogretentiondays()));
return xxlJobSpringExecutor;
}
}
执行项目配置完成,启动时会自动链接调度中心,并在调度中心注册一个调度执行器
3、新建第一个任务
- 进入调度中心,创建一个任务
JobHandler设置为demoJobHandler
- 在执行项目创建执行类
- 每个类一个任务
创建类继承IJobHandler,工程启动时,手动注册到调度中心,并指定名称为(demoJobHandler)
调度中心根据名称相同,就可以找到要执行的任务代码
@Slf4j
public class DemoJobHandler extends IJobHandler {
@Override
public ReturnT<String> execute(String s) throws Exception {
log.info("job excuted success");
return ReturnT.SUCCESS;
}
}
在工程中手动注册
XxlJobExecutor.registJobHandler("demoJobHandler", new DemoJobHandler());
- 每个方法一个任务
这种方式,随着spring容器创建bean时,自动注册
@Slf4j
@Component
public class TestJob {
@XxlJob("demoJobHandler")
public ReturnT<String> execute(String param) {
XxlJobLogger.log("hello world.");
log.info("hello testJob");
return ReturnT.SUCCESS;
}
}
任务详解
1、任务配置属性说明
- 执行器:任务绑定的执行器,任务触发调度时将会自动发现注册成功的执行器, 实现任务自动发现功能; 另一方面也可以方便的进行任务分组。每个任务必须绑定一个执行器, 可在 "执行器管理" 进行设置;
- 任务描述:任务的描述信息,便于任务管理;
- 路由策略:当执行器集群部署时,提供丰富的路由策略,包括;
FIRST(第一个):固定选择第一个机器;
LAST(最后一个):固定选择最后一个机器;
ROUND(轮询):;
RANDOM(随机):随机选择在线的机器;
CONSISTENT_HASH(一致性HASH):每个任务按照Hash算法固定选择某一台机器,且所有任务均匀散列在不同机器上。
LEAST_FREQUENTLY_USED(最不经常使用):使用频率最低的机器优先被选举;
LEAST_RECENTLY_USED(最近最久未使用):最久未使用的机器优先被选举;
FAILOVER(故障转移):按照顺序依次进行心跳检测,第一个心跳检测成功的机器选定为目标执行器并发起调度;
BUSYOVER(忙碌转移):按照顺序依次进行空闲检测,第一个空闲检测成功的机器选定为目标执行器并发起调度;
SHARDING_BROADCAST(分片广播):广播触发对应集群中所有机器执行一次任务,同时系统自动传递分片参数;可根据分片参数开发分片任务;
- Cron:触发任务执行的Cron表达式;
- 运行模式:
BEAN模式:任务以JobHandler方式维护在执行器端;需要结合 "JobHandler" 属性匹配执行器中任务;
GLUE模式(Java):任务以源码方式维护在调度中心;该模式的任务实际上是一段继承自IJobHandler的Java类代码并 "groovy" 源码方式维护,它在执行器项目中运行,可使用@Resource/@Autowire注入执行器里中的其他服务;
GLUE模式(Shell):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "shell" 脚本;
GLUE模式(Python):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "python" 脚本;
GLUE模式(PHP):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "php" 脚本;
GLUE模式(NodeJS):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "nodejs" 脚本;
GLUE模式(PowerShell):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "PowerShell" 脚本;
- JobHandler:运行模式为 "BEAN模式" 时生效,对应执行器中新开发的JobHandler类“@JobHandler”注解自定义的value值;
- 阻塞处理策略:调度过于密集执行器来不及处理时的处理策略;
单机串行(默认):调度请求进入单机执行器后,调度请求进入FIFO队列并以串行方式运行;
丢弃后续调度:调度请求进入单机执行器后,发现执行器存在运行的调度任务,本次请求将会被丢弃并标记为失败;
覆盖之前调度:调度请求进入单机执行器后,发现执行器存在运行的调度任务,将会终止运行中的调度任务并清空队列,然后运行本地调度任务;
- 子任务:每个任务都拥有一个唯一的任务ID(任务ID可以从任务列表获取),当本任务执行结束并且执行成功时,将会触发子任务ID所对应的任务的一次主动调度。
- 任务超时时间:支持自定义任务超时时间,任务运行超时将会主动中断任务;
- 失败重试次数;支持自定义任务失败重试次数,当任务失败时将会按照预设的失败重试次数主动进行重试;
- 报警邮件:任务调度失败时邮件通知的邮箱地址,支持配置多邮箱地址,配置多个邮箱地址时用逗号分隔;
- 负责人:任务的负责人;
- 执行参数:任务执行所需的参数;
2、架构图

参考资料
- https://github.com/xuxueli/xxl-job
- https://www.xuxueli.com/xxl-job/
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐

所有评论(0)