当前位置:首页 > 科技  > 软件

故障现场 | 这个死锁出奇的诡异

来源: 责编: 时间:2024-02-01 12:52:21 300观看
导读1. 问题&分析线程池用多了总会出现些诡异问题,特别是当任务间的关系比较复杂时,经常会出现让你想象不到问题,比如这次出现的这个问题。1.1. 案例突然间,系统出现大量报警,具体信息如下:图片从抛出的异常可知,提交量较大导致

1. 问题&分析

线程池用多了总会出现些诡异问题,特别是当任务间的关系比较复杂时,经常会出现让你想象不到问题,比如这次出现的这个问题。vVM28资讯网——每日最新资讯28at.com

1.1. 案例

突然间,系统出现大量报警,具体信息如下:vVM28资讯网——每日最新资讯28at.com

图片图片vVM28资讯网——每日最新资讯28at.com

从抛出的异常可知,提交量较大导致线程池资源被耗尽,从而触发了线程池的拒绝策略,直接抛出了 RejectedExecutionException。vVM28资讯网——每日最新资讯28at.com

开始的时候,小艾认为等高峰流量过去后,系统便能恢复正常。可出乎意料的是,系统一直没有恢复,那么流量已经将至个位数,请求也是 100% 失败,同时该节点的大量后台任务都出现异常。没有办法,为了快速止损,不得已对异常节点进行重启,系统随之恢复正常,日志输入如下:vVM28资讯网——每日最新资讯28at.com

图片图片vVM28资讯网——每日最新资讯28at.com

其他的后台任务也恢复正常。vVM28资讯网——每日最新资讯28at.com

惊魂初定的小艾找到出问题的代码如下:vVM28资讯网——每日最新资讯28at.com

@GetMapping("syncSubmit")public RestResult<String> syncSubmit(String taskName){    this.executeService.submit(new ParentTask());    return RestResult.success("提交成功");}class ParentTask implements Callable<Boolean>{    @Override    public Boolean call() throws Exception {        Future<A> aFuture = executeService.submit(new FetchAChildTask());        doSomeThing(500);        Future<B> bFuture = executeService.submit(new FetchBChildTask());        doSomeThing(500);        C c = buildC(aFuture.get(), bFuture.get());        Future<Boolean> cFuture = executeService.submit(new SaveCChildTask(c));        return cFuture.get();    }}

代码的逻辑非常简单,核心流程如下图所示:vVM28资讯网——每日最新资讯28at.com

图片图片vVM28资讯网——每日最新资讯28at.com

核心流程为:vVM28资讯网——每日最新资讯28at.com

  1. 提交异步任务,并行获取 A 和 B
  2. 线程同步处理一下耗时操作
  3. 获取 A 和 B 结果后,构建新对象 C
  4. 将 C 保存到数据库

逻辑非常简单,唯一的复杂点在于:==多处任务提交使用了统一线程池。==vVM28资讯网——每日最新资讯28at.com

【背景】考虑到线程池是系统中最宝贵的资源,公司“大牛”封装了一个全局的 GlobalExecuteService 服务,并制定规范要求所有异步任务统一使用 GlobalExecuteService 来完成。如果需要构建自己的线程池,需要向他提交审批,只有在审批后才能创建新的线程池。vVM28资讯网——每日最新资讯28at.com

1.2. 问题分析

线程池处于什么状态?为什么所有异步任务都无法提交?vVM28资讯网——每日最新资讯28at.com

这是一个比较烧脑的问题,单盘逻辑没有什么头绪,没有办法只能将现场 dump 下来进行分析。vVM28资讯网——每日最新资讯28at.com

第一个问题:线程池线程都处于什么状态,线程栈信息如下:vVM28资讯网——每日最新资讯28at.com

图片图片vVM28资讯网——每日最新资讯28at.com

从日志中可知:vVM28资讯网——每日最新资讯28at.com

  1. 线程池中的线程全部处于 WAITING,也就是等待状态;
  2. 展开 Thread-1 栈信息,发现线程再调用 future.get 操作时出现阻塞
  3. 实际等待对象为 FutrueTask#10

接下来,需要进一步确认 FutureTask#10 具体处于什么状态,从内存堆中找到 FutureTask#10 对象,详细信息如下:vVM28资讯网——每日最新资讯28at.com

图片图片vVM28资讯网——每日最新资讯28at.com

从日志中可以看出:vVM28资讯网——每日最新资讯28at.com

  1. FutureTask#10 是 LinkedBlockingQueue 的 Node 节点持有,也就是 FutureTask#10 处于等待队列中
  2. 该阻塞队列属于 GlobalExecuteService 所有

排查到这里,真相浮出水面:GlobalExecuteService 中的线程,正在等待 GlobalExecuteService 阻塞队列的任务完成。vVM28资讯网——每日最新资讯28at.com

具体如下图所示:vVM28资讯网——每日最新资讯28at.com

图片图片vVM28资讯网——每日最新资讯28at.com

线程池中的所有工作线程都在等待阻塞队列的任务完成,由于没有可用的工作线程,阻塞队列中的任务永远都不会被执行。vVM28资讯网——每日最新资讯28at.com

这就是典型的死锁!!!vVM28资讯网——每日最新资讯28at.com

2. 解决方案

费了老大劲终于定位问题,解决思路也就变的明了:不要向自己运行的线程池提交任务。vVM28资讯网——每日最新资讯28at.com

图解如下:vVM28资讯网——每日最新资讯28at.com

图片图片vVM28资讯网——每日最新资讯28at.com

线程池不会向自己提交任务,而是将任务提交到其他线程池。vVM28资讯网——每日最新资讯28at.com

2.1. 手工拆分线程池

问题修复变的简单,我们需要:vVM28资讯网——每日最新资讯28at.com

  1. 先建一个子线程池服务
  2. 父线程池向子线程池提交任务

具体代码如下:vVM28资讯网——每日最新资讯28at.com

@Autowiredprivate GlobalExecuteService executeService;// 创建新的线程池服务@Autowiredprivate SubExecuteService subExecuteService;@GetMapping("syncSubmit")public RestResult<String> syncSubmit(String taskName){    this.executeService.submit(new ParentTask());    return RestResult.success("提交成功");}class ParentTask implements Callable<Boolean>{    @Override    public Boolean call() throws Exception {        log.info("Begin to Run Parent Task");        // 向新的线程池服务提交任务        Future<A> aFuture = subExecuteService.submit(new FetchAChildTask());        doSomeThing(500);        // 向新的线程池服务提交任务        Future<B> bFuture = subExecuteService.submit(new FetchBChildTask());        doSomeThing(500);        C c = buildC(aFuture.get(), bFuture.get());        // 向新的线程池服务提交任务        Future<Boolean> cFuture = subExecuteService.submit(new SaveCChildTask(c));        Boolean result = cFuture.get();        log.info("End to Run Parent Task");        return result;    }}

2.2. 多级任务管理

手工拆分线程池确实能解决这个场景的问题,但由于 GlobalExecuteService 服务已经使用很长时间,任务间的关系错综复杂,很难一次性排查并修复所有问题,同时随着逻辑的变化未来仍旧会出现类似的问题。vVM28资讯网——每日最新资讯28at.com

那最佳方案是什么?vVM28资讯网——每日最新资讯28at.com

让 GlobalExecuteService 具备多级管理能力。核心代码如下:vVM28资讯网——每日最新资讯28at.com

@Servicepublic class GlobalExecuteServiceV2 {    // 记录当前线程运行级别,默认 0,表示当前线程非该类管理的线程池线程    private static final ThreadLocal<Integer> LEVEL_HOLDER = ThreadLocal.withInitial(()->0);    // 一级线程池    private ExecutorService executorServiceLeve1;    // 二级线程池    private ExecutorService executorServiceLeve2;    // 默认线程池    private ExecutorService defExecutorService;    @PostConstruct    public void init() {       // 省略线程池初始化逻辑    }    public <T> Future<T> submit(Callable<T> callable){        // 获取当前线程的运行级别        Integer level = LEVEL_HOLDER.get();        // 根据当前运行级别,计算子任务所使用的线程池        ExecutorService executorService = getNextExecutorServiceByLevel(level);        // 为子任务分配运行级别        CallableWrapper<T> callableWrapper = new CallableWrapper<>(level + 1, callable);        // 提交任务        return executorService.submit(callableWrapper);    }    private ExecutorService getNextExecutorServiceByLevel(Integer level) {        if (level == 0){            return executorServiceLeve1;        }        if (level == 1){            return executorServiceLeve2;        }        return defExecutorService;    }    class CallableWrapper<T> implements Callable<T>{        private final Integer level;        private final Callable<T> callable;        CallableWrapper(Integer level, Callable<T> callable) {            this.level = level;            this.callable = callable;        }        @Override        public T call() throws Exception {            try {                // 为线程池绑定运行级别                LEVEL_HOLDER.set(level);                return callable.call();            }finally {                // 清理线程池运行级别                LEVEL_HOLDER.remove();            }        }    }}

核心设计如下:vVM28资讯网——每日最新资讯28at.com

  1. 使用 ThreadLocal<Integer> LEVEL_HOLDER 记录当前线程运行的级别,默认为 0 表示任务未在线程池中运行
  2. 提交任务时,通过当前运行级别计算下一级别的线程池
  • 当前级别为0,返回 Level1 线程池
  • 当前级别为1,返回 Level2 线程池
  • 其他基本,返回 默认 线程池
  1. 通过 CallableWrapper 自动将任务运行的 Level 绑定到当前线程上下文
  2. 任务执行前,使用 LEVEL_HOLDER.set(level) 完成运行 level 的设置
  3. 任务执行后,使用 LEVEL_HOLDER.remove() 完成运行 level 的清理

为了演示方便,仅定义了 3 级线程池,通常情况下足够业务使用,但需要注意:vVM28资讯网——每日最新资讯28at.com

  • 超过三级提交,仍旧有可以出现死锁的情况,可以通过日志方式及时暴露问题
  • 如不放心,可以升级为 “无限极” 设计,及使用 List<ExecutorService> 对线程池进行统一管理,并根据 Level 完成线程池的动态创建

3. 示例&源码

代码仓库:vVM28资讯网——每日最新资讯28at.com

https://gitee.com/litao851025/learnFromBugvVM28资讯网——每日最新资讯28at.com

代码地址:vVM28资讯网——每日最新资讯28at.com

https://gitee.com/litao851025/learnFromBug/tree/master/src/main/java/com/geekhalo/demo/thread/deadlockvVM28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-70483-0.html故障现场 | 这个死锁出奇的诡异

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: CSS 和 SVG 实现彩色图片阴影

下一篇: 我们一起聊聊React列表渲染与Key

标签:
  • 热门焦点
  • 2023年Q2用户偏好榜:12+256G版本成新主流

    3月份的性能榜、性价比榜和好评榜之后,就要轮到2023年的第二季度偏好榜了,上半年的新机潮已经过去,最明显的肯定就是大内存和存储的机型了,另外部分中端机也取消了屏幕塑料支架
  • 摸鱼心法第一章——和配置文件说拜拜

    为了能摸鱼我们团队做了容器化,但是带来的问题是服务配置文件很麻烦,然后大家在群里进行了“亲切友好”的沟通图片图片图片图片对比就对比,简单对比下独立配置中心和k8s作为配
  • 掘力计划第 20 期:Flutter 混合开发的混乱之治

    在掘力计划系列活动第20场,《Flutter 开发实战详解》作者,掘金优秀作者,Github GSY 系列目负责人恋猫的小郭分享了Flutter 混合开发的混乱之治。Flutter 基于自研的 Skia 引擎
  • 使用LLM插件从命令行访问Llama 2

    最近的一个大新闻是Meta AI推出了新的开源授权的大型语言模型Llama 2。这是一项非常重要的进展:Llama 2可免费用于研究和商业用途。(几小时前,swyy发现它已从LLaMA 2更名为Lla
  • 一文搞定Java NIO,以及各种奇葩流

    大家好,我是哪吒。很多朋友问我,如何才能学好IO流,对各种流的概念,云里雾里的,不求甚解。用到的时候,现百度,功能虽然实现了,但是为什么用这个?不知道。更别说效率问题了~下次再遇到,
  • 重估百度丨“晚熟”的百度云,能等到春天吗?

    &copy;自象限原创作者|程心排版|王喻可2016年7月13日,百度云计算战略发布会在北京举行,宣告着百度智能云的正式启程。彼时的会场座无虚席,甚至排队排到了门外,在场的所有人几乎都
  • 微博大门常打开,迎接海外画师漂洋东渡

    作者:互联网那些事&ldquo;起猛了,我能看得懂日语了&rdquo;。&ldquo;为什么日本人说话我能听懂?&rdquo;&ldquo;中文不像中文,日语不像日语,但是我竟然看懂了&rdquo;&hellip;&hell
  • 超级标准版旗舰!iQOO 11S全球首发iQOO超算独显芯片

    上半年已接近尾声,截至目前各大品牌旗下的顶级旗舰都已悉数亮相,而下半年即将推出的顶级旗舰已经成为了数码圈爆料的主流,其中就包括全新的iQOO 11S系
  • 苹果MacBook Pro 2021测试:仍不支持平滑滚动

    据10月30日9to5 Mac 消息报道,苹果新的 14 英寸和 16 英寸 MacBook Pro 2021 上市后获得了不错的评价,亮点包括行业领先的性能,令人印象深刻的电池续航,精美丰
Top