林大鹏 2019-07-01
原创不易,如需转载,请注明出处https://www.cnblogs.com/baixianlong/p/10659045.html,否则将追究法律责任!!!
I、如何解决定时任务的多次执行? II、如何解决任务的单点问题,实现任务的故障转移?
1、固定执行定时任务的机器(可以有效避免多次执行的情况 ,缺点就是单点故障问题)。 2、借助Redis的过期机制和分布式锁。 3、借助mysql的锁机制等。
1、Quartz:可以去看看这篇文章[Quartz分布式]( https://www.cnblogs.com/jiafuwei/p/6145280.html)。 2、elastic-job:(https://github.com/elasticjob/elastic-job-lite)当当开发的弹性分布式任务调度系统,采用zookeeper实现分布式协调,实现任务高可用以及分片。 3、xxl-job:(https://github.com/xuxueli/xxl-job)是大众点评员发布的分布式任务调度平台,是一个轻量级分布式任务调度框架。 4、saturn:(https://github.com/vipshop/Saturn) 是唯品会提供一个分布式、容错和高可用的作业调度服务框架。
使用@EnableScheduling注解开启对定时任务的支持。 使用@Scheduled 注解即可,基于corn、fixedRate、fixedDelay等一些定时策略来实现定时任务。
1、多个定时任务使用的是同一个调度线程,所以任务是阻塞执行的,执行效率不高。 2、其次如果出现任务阻塞,导致一些场景的定时计算没有实际意义,比如每天12点的一个计算任务被阻塞到1点去执行,会导致结果并非我们想要的。
1、配置简单 2、适用于单个后台线程执行周期任务,并且保证顺序一致执行的场景
//默认使用的调度器 if(this.taskScheduler == null) { this.localExecutor = Executors.newSingleThreadScheduledExecutor(); this.taskScheduler = new ConcurrentTaskScheduler(this.localExecutor); } //可以看到SingleThreadScheduledExecutor指定的核心线程为1,说白了就是单线程执行 public static ScheduledExecutorService newSingleThreadScheduledExecutor() { return new DelegatedScheduledExecutorService (new ScheduledThreadPoolExecutor(1)); } //利用了DelayedWorkQueue延时队列作为任务的存放队列,这样便可以实现任务延迟执行或者定时执行 public ScheduledThreadPoolExecutor(int corePoolSize) { super(corePoolSize, Integer.MAX_VALUE, 0, NANOSECONDS, new DelayedWorkQueue()); }
方式一:由1中我们知道之所以定时任务是阻塞执行,是配置的线程池决定的,那就好办了,换一个不就行了!直接上代码:
@Configuration public class ScheduledConfig implements SchedulingConfigurer { @Autowired private TaskScheduler myThreadPoolTaskScheduler; @Override public void configureTasks(ScheduledTaskRegistrar scheduledTaskRegistrar) { //简单粗暴的方式直接指定 //scheduledTaskRegistrar.setScheduler(Executors.newScheduledThreadPool(5)); //也可以自定义的线程池,方便线程的使用与维护,这里不多说了 scheduledTaskRegistrar.setTaskScheduler(myThreadPoolTaskScheduler); } } @Bean(name = "myThreadPoolTaskScheduler") public TaskScheduler getMyThreadPoolTaskScheduler() { ThreadPoolTaskScheduler taskScheduler = new ThreadPoolTaskScheduler(); taskScheduler.setPoolSize(10); taskScheduler.setThreadNamePrefix("Haina-Scheduled-"); taskScheduler.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy()); //调度器shutdown被调用时等待当前被调度的任务完成 taskScheduler.setWaitForTasksToCompleteOnShutdown(true); //等待时长 taskScheduler.setAwaitTerminationSeconds(60); return taskScheduler; }
方式二:方式一的本质改变了任务调度器默认使用的线程池,接下来这种是不改变调度器的默认线程池,而是把当前任务交给一个异步线程池去执行
废话太多,直接上代码: @Scheduled(fixedRate = 1000*10,initialDelay = 1000*20) @Async("myThreadPoolTaskExecutor") //@Async public void scheduledTest02(){ System.out.println(Thread.currentThread().getName()+"--->xxxxx--->"+Thread.currentThread().getId()); } //自定义线程池 @Bean(name = "myThreadPoolTaskExecutor") public TaskExecutor getMyThreadPoolTaskExecutor() { ThreadPoolTaskExecutor taskExecutor = new ThreadPoolTaskExecutor(); taskExecutor.setCorePoolSize(20); taskExecutor.setMaxPoolSize(200); taskExecutor.setQueueCapacity(25); taskExecutor.setKeepAliveSeconds(200); taskExecutor.setThreadNamePrefix("Haina-ThreadPool-"); // 线程池对拒绝任务(无线程可用)的处理策略,目前只支持AbortPolicy、CallerRunsPolicy;默认为后者 taskExecutor.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy()); //调度器shutdown被调用时等待当前被调度的任务完成 taskExecutor.setWaitForTasksToCompleteOnShutdown(true); //等待时长 taskExecutor.setAwaitTerminationSeconds(60); taskExecutor.initialize(); return taskExecutor; }
线程池的使用心得(后续有专门文章来探讨)
方式一:实现SchedulingConfigurer接口,重写configureTasks方法,重新制定Trigger,核心方法就是addTriggerTask(Runnable task, Trigger trigger) ,不过需要注意的是,此种方式修改了配置值后,需要在下一次调度结束后,才会更新调度器,并不会在修改配置值时实时更新,实时更新需要在修改配置值时额外增加相关逻辑处理。
@Configuration public class ScheduledConfig implements SchedulingConfigurer { @Autowired private TaskScheduler myThreadPoolTaskScheduler; @Override public void configureTasks(ScheduledTaskRegistrar scheduledTaskRegistrar) { //scheduledTaskRegistrar.setScheduler(Executors.newScheduledThreadPool(5)); scheduledTaskRegistrar.setTaskScheduler(myThreadPoolTaskScheduler); //可以实现动态调整定时任务的执行频率 scheduledTaskRegistrar.addTriggerTask( //1.添加任务内容(Runnable) () -> System.out.println("cccccccccccccccc--->" + Thread.currentThread().getId()), //2.设置执行周期(Trigger) triggerContext -> { //2.1 从数据库动态获取执行周期 String cron = "0/2 * * * * ? "; //2.2 合法性校验. // if (StringUtils.isEmpty(cron)) { // // Omitted Code .. // } //2.3 返回执行周期(Date) return new CronTrigger(cron).nextExecutionTime(triggerContext); } ); } }
方式二:使用threadPoolTaskScheduler类可实现动态添加删除功能,当然也可实现执行频率的调整
首先,我们要认识下这个调度类,它其实是对java中ScheduledThreadPoolExecutor的一个封装改进后的产物,主要改进有以下几点: 1、提供默认配置,因为是ScheduledThreadPoolExecutor,所以只有poolSize这一个默认参数。 2、支持自定义任务,通过传入Trigger参数。 3、对任务出错处理进行优化,如果是重复性的任务,不抛出异常,通过日志记录下来,不影响下次运行,如果是只执行一次的任务,将异常往上抛。 顺便说下ThreadPoolTaskExecutor相对于ThreadPoolExecutor的改进点: 1、提供默认配置,原生的ThreadPoolExecutor的除了ThreadFactory和RejectedExecutionHandler其他没有默认配置 2、实现AsyncListenableTaskExecutor接口,支持对FutureTask添加success和fail的回调,任务成功或失败的时候回执行对应回调方法。 3、因为是spring的工具类,所以抛出的RejectedExecutionException也会被转换为spring框架的TaskRejectedException异常(这个无所谓) 4、提供默认ThreadFactory实现,直接通过参数重载配置
扯了这么多,还是直接上代码:
@Component public class DynamicTimedTask { private static final Logger logger = LoggerFactory.getLogger(DynamicTimedTask.class); //利用创建好的调度类统一管理 //@Autowired //@Qualifier("myThreadPoolTaskScheduler") //private ThreadPoolTaskScheduler myThreadPoolTaskScheduler; //接受任务的返回结果 private ScheduledFuture<?> future; @Autowired private ThreadPoolTaskScheduler threadPoolTaskScheduler; //实例化一个线程池任务调度类,可以使用自定义的ThreadPoolTaskScheduler @Bean public ThreadPoolTaskScheduler threadPoolTaskScheduler() { ThreadPoolTaskScheduler executor = new ThreadPoolTaskScheduler(); return new ThreadPoolTaskScheduler(); } /** * 启动定时任务 * @return
*/ public boolean startCron() { boolean flag = false; //从数据库动态获取执行周期 String cron = "0/2 * * * * ? "; future = threadPoolTaskScheduler.schedule(new CheckModelFile(),cron); if (future!=null){ flag = true; logger.info("定时check训练模型文件,任务启动成功!!!"); }else { logger.info("定时check训练模型文件,任务启动失败!!!"); } return flag; } /** * 停止定时任务 * @return */ public boolean stopCron() { boolean flag = false; if (future != null) { boolean cancel = future.cancel(true); if (cancel){ flag = true; logger.info("定时check训练模型文件,任务停止成功!!!"); }else { logger.info("定时check训练模型文件,任务停止失败!!!"); } }else { flag = true; logger.info("定时check训练模型文件,任务已经停止!!!"); } return flag; } class CheckModelFile implements Runnable{ @Override public void run() { //编写你自己的业务逻辑 System.out.print("模型文件检查完毕!!!") } } }
个人博客地址:
csdn:https://blog.csdn.net/tiantuo6513
cnblogs:https://www.cnblogs.com/baixianlong
segmentfault:https://segmentfault.com/u/baixianlong
github:https://github.com/xianlongbai