MyBtais 批量插入慢排查及分析(后续)_mybaist插入几万条数据慢-程序员宅基地

技术标签: 实战问题解决  java  mybatis  Mybatis  开发语言  


前言

没有看过前文的朋友,可以先去看看上次在笔者笔记本上做的尝试:MyBatis痛点验证,使用 foreach 批量插入慢?
上次做的验证,因为无法复现生产场景,最终失败,这次我们来看后续进一步的验证与排查


一、同SQL以工程方式运行

我把上次在笔记本上的动态sql,移植到我们的工程代码里,放在一个普通查询接口里,进行usertest表的数据插入。而且一个方法内重复插好几次。

大家知道上次,我们的基准测试,一个对象的插入大约8ms
在这里插入图片描述

而同样插入一个对象,在工程里跑,大约需要 256ms !!

在这里插入图片描述

当我不知死活的尝试插入2000条数据时,耗时直接到达270s,整整四分半!!

在这里插入图片描述

二、使用Plugin排查耗时情况

1. 编写mybatis plugin

代码如下:

@Component
@Intercepts({
    
        @Signature(
                type = ParameterHandler.class,
                method = "setParameters",
                args = {
     PreparedStatement.class }) ,
        @Signature(
                type = StatementHandler.class,
                method = "prepare",
                args = {
     Connection.class ,Integer.class}),
        @Signature(
                type = StatementHandler.class,
                method = "update",
                args = {
     Statement.class}),
        @Signature(
                type = Executor.class,
                method = "update",
                args = {
     MappedStatement.class ,Object.class}) ,})
@Slf4j
public class ParameterPlugin implements Interceptor {
    
    @Override
    public Object intercept(Invocation invocation) throws Throwable {
    
        long start = System.currentTimeMillis();
        String parameterHandlerName = invocation.getTarget().getClass().getName();
        String statementName = invocation.getArgs()[0].getClass().getName();
        String methodName = invocation.getMethod().getName();
        Object returnVal = invocation.proceed();
        long end = System.currentTimeMillis();
        if ("prepare".equals(methodName)) {
    
            log.info("StatementHandler.prepare耗时: " + (end - start) + ", 其中start =" + start + ", end =" + end);
        }
        if ("setParameters".equals(methodName)) {
    
            log.info("参数装填时间" + (end - start) + ", 参数处理器类型为: " + parameterHandlerName + " ,statement类型为" + statementName
                    + ", 其中start =" + start + ", end =" + end);
        }
        if ("update".equals(methodName)) {
    
            log.info("update耗时: " + (end - start) + ", 其中start =" + start + ", end =" + end);
        }
        return returnVal;
    }
}

上述的plugin 可以同时截取到几大组件的核心方法耗时,然后运行程序,反复以100为长度,进行耗时占比分析

2. 反复测试,分析结果

在这里插入图片描述
在这里插入图片描述

我原先预期,可能是参数填充的问题,但通过结果看,100*26=2600 个字段的填充耗时在10ms上下,这肯定是没问题的。耗时的大头是两个update方法,因为Executor的update是包含StatementHandler的update的,所以我们找到了耗时的最终方法,即StatementHandler的update.

因为这是动态sql,所以最后是由 PreparedStatementHandler 来处理的,我们关注一下该方法

  @Override
  public int update(Statement statement) throws SQLException {
    
    PreparedStatement ps = (PreparedStatement) statement;
    ps.execute();
    int rows = ps.getUpdateCount();
    Object parameterObject = boundSql.getParameterObject();
    KeyGenerator keyGenerator = mappedStatement.getKeyGenerator();
    keyGenerator.processAfter(executor, mappedStatement, ps, parameterObject);
    return rows;
  }

3. 进一步测试

既然已经确定了是在PreparedStatementHandler.update()里导致耗时太高的,那我们就想办法把日志打进去

先把plugin稍作改造,自定义个update,内容照抄,然后加点日志。

@Intercepts({
    
        @Signature(
                type = ParameterHandler.class,
                method = "setParameters",
                args = {
     PreparedStatement.class }) ,
        @Signature(
                type = StatementHandler.class,
                method = "prepare",
                args = {
     Connection.class ,Integer.class}),
        @Signature(
                type = StatementHandler.class,
                method = "update",
                args = {
     Statement.class})})
@Slf4j
public class ParameterPlugin implements Interceptor {
    
    @Override
    public Object intercept(Invocation invocation) throws Throwable {
    
        String methodName = invocation.getMethod().getName();
        if ("update".equals(methodName)) {
    
            long time1 = System.currentTimeMillis();
            PreparedStatement ps = (PreparedStatement) invocation.getArgs()[0];
            long time2 = System.currentTimeMillis();
            if (ps instanceof Proxy) {
    
                InvocationHandler invocationHandler = Proxy.getInvocationHandler(ps);
                log.info("invocationHandler = " + invocationHandler.getClass().getName());
                if (invocationHandler instanceof PreparedStatementLogger) {
    
                    PreparedStatementLogger lo = (PreparedStatementLogger)invocationHandler;
                    PreparedStatement preparedStatement = lo.getPreparedStatement();
                    log.info("preparedStatement = " + preparedStatement.getClass().getName());
                    if (preparedStatement instanceof HikariProxyPreparedStatement) {
    
                        log.info("now in HikariProxyPreparedStatement");
                    }
                }
            }
            ps.execute();
            long time3 = System.currentTimeMillis();
            int rows = ps.getUpdateCount();
            long time4 = System.currentTimeMillis();
            log.info("自定义update开始: time2-time1=" + (time2-time1) + ", time3-time2=" + (time3-time2) + ", time4-time3="+ (time4-time3));
            return rows;
        }
        long start = System.currentTimeMillis();
        String parameterHandlerName = invocation.getTarget().getClass().getName();
        String statementName = invocation.getArgs()[0].getClass().getName();

        Object returnVal = invocation.proceed();
        long end = System.currentTimeMillis();
        if ("prepare".equals(methodName)) {
    
            log.info("StatementHandler.prepare耗时: " + (end - start) + ", 其中start =" + start + ", end =" + end);
        }
        if ("setParameters".equals(methodName)) {
    
            log.info("参数装填时间" + (end - start) + ", 参数处理器类型为: " + parameterHandlerName + " ,statement类型为" + statementName
                    + ", 其中start =" + start + ", end =" + end);
        }
        return returnVal;
    }
}

然后在笔记本和开发工程上都进行100条数据的插入

  • 笔记本DEMO上

在这里插入图片描述

  • 环境项目上

在这里插入图片描述
从而进一步缩小范围,demo中用到了Hikari作为线程池,但项目上用的却是 Druid ?这其实有点奇怪,因为项目和demo使用的都是 springboot 2.5.x,按理来说,默认使用的都是Hikari。因此接下来的任务就是指定配置,使得项目可以使用Hikari 而非 Druid 。


三、总结

现在终于告一段落了,至于Druid 为什么会这么慢,还是有隐藏的设置导致的,后面还会继续追查,更新在这里。但无论如何,至少也证明了罪责不在mybatis上,mybatis的运行还是十分快的,2000行*26字段的数据,参数填充仅需119ms,符合纯计算的速度

另外,在测试过程中,发现mybatis的日志输出影响也很可观,如果有必要,关闭日志输出也能有不小的效率提升

四、长期更新进度

PS: 再次追查该问题,使用Arthas ,目前定位jdbc驱动发送执行语句sendCommand耗时很长,单条插入语句达到300ms,然后单看发送本身没问题,反而是收到执行结果后,后面的checkErrorMessage耗时太长

com.mysql.cj.protocol.a.NativeProtocol.readMessage()

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/u011709538/article/details/131267488

智能推荐

18个顶级人工智能平台-程序员宅基地

文章浏览阅读1w次,点赞2次,收藏27次。来源:机器人小妹  很多时候企业拥有重复,乏味且困难的工作流程,这些流程往往会减慢生产速度并增加运营成本。为了降低生产成本,企业别无选择,只能自动化某些功能以降低生产成本。  通过数字化..._人工智能平台

electron热加载_electron-reloader-程序员宅基地

文章浏览阅读2.2k次。热加载能够在每次保存修改的代码后自动刷新 electron 应用界面,而不必每次去手动操作重新运行,这极大的提升了开发效率。安装 electron 热加载插件热加载虽然很方便,但是不是每个 electron 项目必须的,所以想要舒服的开发 electron 就只能给 electron 项目单独的安装热加载插件[electron-reloader]:// 在项目的根目录下安装 electron-reloader,国内建议使用 cnpm 代替 npmnpm install electron-relo._electron-reloader

android 11.0 去掉recovery模式UI页面的选项_android recovery 删除 部分菜单-程序员宅基地

文章浏览阅读942次。在11.0 进行定制化开发,会根据需要去掉recovery模式的一些选项 就是在device.cpp去掉一些选项就可以了。_android recovery 删除 部分菜单

mnn linux编译_mnn 编译linux-程序员宅基地

文章浏览阅读3.7k次。https://www.yuque.com/mnn/cn/cvrt_linux_mac基础依赖这些依赖是无关编译选项的基础编译依赖• cmake(3.10 以上)• protobuf (3.0 以上)• 指protobuf库以及protobuf编译器。版本号使用 protoc --version 打印出来。• 在某些Linux发行版上这两个包是分开发布的,需要手动安装• Ubuntu需要分别安装 libprotobuf-dev 以及 protobuf-compiler 两个包•..._mnn 编译linux

利用CSS3制作淡入淡出动画效果_css3入场效果淡入淡出-程序员宅基地

文章浏览阅读1.8k次。CSS3新增动画属性“@-webkit-keyframes”,从字面就可以看出其含义——关键帧,这与Flash中的含义一致。利用CSS3制作动画效果其原理与Flash一样,我们需要定义关键帧处的状态效果,由CSS3来驱动产生动画效果。下面讲解一下如何利用CSS3制作淡入淡出的动画效果。具体实例可参考刚进入本站时的淡入效果。1. 定义动画,名称为fadeIn@-webkit-keyf_css3入场效果淡入淡出

计算机软件又必须包括什么,计算机系统应包括硬件和软件两个子系统,硬件和软件又必须依次分别包括______?...-程序员宅基地

文章浏览阅读2.8k次。计算机系统应包括硬件和软件两个子系统,硬件和软件又必须依次分别包括中央处理器和系统软件。按人的要求接收和存储信息,自动进行数据处理和计算,并输出结果信息的机器系统。计算机是脑力的延伸和扩充,是近代科学的重大成就之一。计算机系统由硬件(子)系统和软件(子)系统组成。前者是借助电、磁、光、机械等原理构成的各种物理部件的有机组合,是系统赖以工作的实体。后者是各种程序和文件,用于指挥全系统按指定的要求进行..._计算机系统包括硬件系统和软件系统 软件又必须包括

随便推点

进程调度(一)——FIFO算法_进程调度fifo算法代码-程序员宅基地

文章浏览阅读7.9k次,点赞3次,收藏22次。一 定义这是最早出现的置换算法。该算法总是淘汰最先进入内存的页面,即选择在内存中驻留时间最久的页面予以淘汰。该算法实现简单,只需把一个进程已调入内存的页面,按先后次序链接成一个队列,并设置一个指针,称为替换指针,使它总是指向最老的页面。但该算法与进程实际运行的规律不相适应,因为在进程中,有些页面经常被访问,比如,含有全局变量、常用函数、例程等的页面,FIFO 算法并不能保证这些页面不被淘汰。这里,我_进程调度fifo算法代码

mysql rownum写法_mysql应用之类似oracle rownum写法-程序员宅基地

文章浏览阅读133次。rownum是oracle才有的写法,rownum在oracle中可以用于取第一条数据,或者批量写数据时限定批量写的数量等mysql取第一条数据写法SELECT * FROM t order by id LIMIT 1;oracle取第一条数据写法SELECT * FROM t where rownum =1 order by id;ok,上面是mysql和oracle取第一条数据的写法对比,不过..._mysql 替换@rownum的写法

eclipse安装教程_ecjelm-程序员宅基地

文章浏览阅读790次,点赞3次,收藏4次。官网下载下载链接:http://www.eclipse.org/downloads/点击Download下载完成后双击运行我选择第2个,看自己需要(我选择企业级应用,如果只是单纯学习java选第一个就行)进入下一步后选择jre和安装路径修改jvm/jre的时候也可以选择本地的(点后面的文件夹进去),但是我们没有11版本的,所以还是用他的吧选择接受安装中安装过程中如果有其他界面弹出就点accept就行..._ecjelm

Linux常用网络命令_ifconfig 删除vlan-程序员宅基地

文章浏览阅读245次。原文链接:https://linux.cn/article-7801-1.htmlifconfigping <IP地址>:发送ICMP echo消息到某个主机traceroute <IP地址>:用于跟踪IP包的路由路由:netstat -r: 打印路由表route add :添加静态路由路径routed:控制动态路由的BSD守护程序。运行RIP路由协议gat..._ifconfig 删除vlan

redux_redux redis-程序员宅基地

文章浏览阅读224次。reduxredux里要求把数据都放在公共的存储区域叫store里面,组件中尽量少放数据,假如绿色的组件要给很多灰色的组件传值,绿色的组件只需要改变store里面对应的数据就行了,接着灰色的组件会自动感知到store里的数据发生了改变,store只要有变化,灰色的组件就会自动从store里重新取数据,这样绿色组件的数据就很方便的传到其它灰色组件里了。redux就是把公用的数据放在公共的区域去存..._redux redis

linux 解压zip大文件(解决乱码问题)_linux 7za解压中文乱码-程序员宅基地

文章浏览阅读2.2k次,点赞3次,收藏6次。unzip版本不支持4G以上的压缩包所以要使用p7zip:Linux一个高压缩率软件wget http://sourceforge.net/projects/p7zip/files/p7zip/9.20.1/p7zip_9.20.1_src_all.tar.bz2tar jxvf p7zip_9.20.1_src_all.tar.bz2cd p7zip_9.20.1make && make install 如果安装失败,看一下报错是不是因为没有下载gcc 和 gcc ++(p7_linux 7za解压中文乱码