SpringBoot实现分库分表

目录
  • 一、statementHandler对象的定义
  • 二、prepare方法
    • 1、首先prepare方法是用来编译SQL
    • 2、那就是之前说的那几个具体的StatementHandler对象
    • 3、parameterize方法
    • 4、query/update方法

方案:可以使用拦截器拦截mybatis框架,在执行SQL前对SQL语句根据路由字段进行分库分表操作,下例只做分表功能

@Intercepts:申明需要拦截的方法

拦截StatementHandler对象

一、statementHandler对象的定义

首先我们先来看看statementHandler接口的定义:

首先约定文中将的四大对象是指:executor, statementHandler,parameterHandler,resultHandler对象。

  • SimpleStatementHandler:对应我们JDBC中常用的Statement接口,用于简单SQL的处理;
  • PreparedStatementHandler:对应JDBC中的PreparedStatement,预编译SQL的接口;
  • CallableStatementHandler:对应JDBC中CallableStatement,用于执行存储过程相关的接口;
  • RoutingStatementHandler:这个接口是以上三个接口的路由,没有实际操作,只是负责上面三个StatementHandler的创建及调用。

讲到statementHandler,毫无疑问它是我们四大对象最重要的一个,它的任务就是和数据库对话。在它这里会使用parameterHandler和ResultHandler对象为我们绑定SQL参数和组装最后的结果返回。

public interface StatementHandler {
  Statement prepare(Connection connection)
      throws SQLException;  

  void parameterize(Statement statement)
      throws SQLException;  

  void batch(Statement statement)
      throws SQLException;  

  int update(Statement statement)
      throws SQLException;  

  <E> List<E> query(Statement statement, ResultHandler resultHandler)
      throws SQLException;  

  BoundSql getBoundSql();
  ParameterHandler getParameterHandler();
}

二、prepare方法

1、首先prepare方法是用来编译SQL

让我们看看它的源码实现。这里我们看到了BaseStatementHandler对prepare方法的实现

@Override
public Statement prepare(Connection connection) throws SQLException {
    ErrorContext.instance().sql(boundSql.getSql());
    Statement statement = null;
    try {
    	statement = instantiateStatement(connection);
    	setStatementTimeout(statement);
    	setFetchSize(statement);
   	    return statement;
    } catch (SQLException e) {
   		closeStatement(statement);
    	throw e;
    } catch (Exception e) {
    	closeStatement(statement);
    	throw new ExecutorException("Error preparing statement.  Cause: " + e, e);
	}
}  

protected abstract Statement instantiateStatement(Connection connection) throws SQLException;

显然我们通过源码更加关注抽象方法instantiateStatement是做了什么事情。它依旧是一个抽象方法,那么它就有其实现类。

2、那就是之前说的那几个具体的StatementHandler对象

让我们看看PreparedStatementHandler:

@Override
  protected Statement instantiateStatement(Connection connection) throws SQLException {
      String sql = boundSql.getSql();
      if (mappedStatement.getKeyGenerator() instanceof Jdbc3KeyGenerator) {
      	  String[] keyColumnNames = mappedStatement.getKeyColumns();
	      if (keyColumnNames == null) {
	          return connection.prepareStatement(sql, PreparedStatement.RETURN_GENERATED_KEYS);
	      } else {
	          return connection.prepareStatement(sql, keyColumnNames);
	      }
      } else if (mappedStatement.getResultSetType() != null) {
          return connection.prepareStatement(sql, mappedStatement.getResultSetType().getValue(), ResultSet.CONCUR_READ_ONLY);
      } else {
          return connection.prepareStatement(sql);
      }
  }

好这个方法非常简单,我们可以看到它主要是根据上下文来预编译SQL,这是我们还没有设置参数。设置参数的任务是交由,statement接口的parameterize方法来实现的。

3、parameterize方法

上面我们在prepare方法里面预编译了SQL。那么我们这个时候希望设置参数。在Statement中我们是使用parameterize方法进行设置参数的。

让我们看看PreparedStatementHandler中的parameterize方法:

@Override  
  public void parameterize(Statement statement) throws SQLException {  
    parameterHandler.setParameters((PreparedStatement) statement);  
  }  

很显然这里很简单是通过parameterHandler来实现的,我们这篇文章只是停留在statementhandler的程度,等我们讲解parameterHandler的时候再来看它如何实现吧,期待一下吧。

4、query/update方法

我们用了prepare方法预编译了SQL,用了parameterize方法设置参数,那么我们接下来肯定是想执行SQL,而SQL无非是两种:

一种是进行查询——query,另外就是更新——update。

这些方法都很简单,让我们看看PreparedStatementHandler的实现:

@Override
  public int update(Statement statement) throws SQLException {
      PreparedStatement ps = (PreparedStatement) statement;
      ps.execute();
      int rows = ps.getUpdateCount();
      Object parameterObject = boundSql.getParameterObject();
      KeyGenerator keyGenerator = mappedStatement.getKeyGenerator();
      keyGenerator.processAfter(executor, mappedStatement, ps, parameterObject);
      return rows;
  }    

  @Override
  public <E> List<E> query(Statement statement, ResultHandler resultHandler) throws SQLException {
      PreparedStatement ps = (PreparedStatement) statement;
      ps.execute();
      return resultSetHandler.<E> handleResultSets(ps);
  }

例:动态替换SQL中@TableID标识符

package com.study.demo.interceptor;
import com.study.demo.exception.BaseException;
import org.apache.ibatis.executor.statement.StatementHandler;
import org.apache.ibatis.mapping.BoundSql;
import org.apache.ibatis.plugin.Interceptor;
import org.apache.ibatis.plugin.Intercepts;
import org.apache.ibatis.plugin.Invocation;
import org.apache.ibatis.plugin.Plugin;
import org.apache.ibatis.plugin.Signature;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Component;
import org.springframework.util.CollectionUtils;
import java.lang.reflect.Field;
import java.sql.Connection;
import java.util.Map;
import java.util.Properties;
import java.util.Set;
@Component
@Intercepts({
        @Signature(type = StatementHandler.class, method = "prepare", args = {Connection.class, Integer.class})})
public class DynamicSQLInterceptor implements Interceptor {
    private static final Logger LOGGER = LoggerFactory.getLogger(DynamicSQLInterceptor.class);
    private static final String SHARD_TABLE_ID = "SHARD_TABLE_ID";
    private static final String DEFAULT_TABLE_ID = "000";
    @Override
    @SuppressWarnings("unchecked")
    public Object intercept(Invocation invocation) throws Throwable {
        LOGGER.info("DynamicSQLInterceptor.intercept() exec.");
        StatementHandler statementHandler = (StatementHandler) invocation.getTarget();
        Object parameter = statementHandler.getParameterHandler().getParameterObject();
        Map<String, Object> params = (Map)parameter;
        if(CollectionUtils.isEmpty(params)){
            throw new BaseException("SQL: 路由字段不能为空!");
        }
        String tableId = DEFAULT_TABLE_ID;
        Set<String> keySet = params.keySet();
        for (String key : keySet) {
            if (SHARD_TABLE_ID.equals(key)) {
                tableId = String.valueOf(params.get(key));
            }
        }
        BoundSql boundSql = statementHandler.getBoundSql();
        //获取到原始sql语句
        String sql = boundSql.getSql();
        String newSql = sql.replaceAll("@TableID", tableId);
        LOGGER.debug("[DynamicSQLInterceptor] Sql:{}", newSql);
        //通过反射修改sql语句
        Field field = boundSql.getClass().getDeclaredField("sql");
        field.setAccessible(true);
        field.set(boundSql, newSql);
        return invocation.proceed();
    }
    @Override
    public Object plugin(Object target) {
        //只拦截Executor对象,减少目标被代理的次数
        if (target instanceof StatementHandler) {
            return Plugin.wrap(target, this);
        } else {
            return target;
        }
    }
    @Override
    public void setProperties(Properties properties) {
        LOGGER.debug("[DynamicSQLInterceptor] SetProperties");
    }
}

示例SQL:

SELECT * FROM ST_CLASS_@TableID WHERE ID = #{id}

service层示例:

@Override
public Objcet queryByPrimaryKey(String id) {
    Map<String, Object> params = DbShardUtils.shardDBParamMap(id);
    params.put("id", id);
    return testDao.queryByPrimaryKey(params);
}

dao层示例:

@Repository
public interface TestDao {
	Object queryByPrimaryKey(Map<String, Object> params);
}
package com.study.demo.utils;
import org.apache.commons.lang3.StringUtils;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import java.util.HashMap;
import java.util.Map;
/**
 * 分库分表工具类 <br>
 * 返回Map<String, Object>, 含有key:SHARD_TABLE_ID
 */
public class DbShardUtils {
	private static final Logger LOGGER = LoggerFactory.getLogger(DbShardUtils.class);
	private static final String SHARD_TABLE_ID = "SHARD_TABLE_ID";
	/**
	 * 私有构造函数
	 */
	private DbShardUtils() {
	}
	public static Map<String, Object> shardDBParamMap(String id){
		if (StringUtils.isBlank(id)) {
			LOGGER.error("sharding id is null");
		}
		Map<String, Object> paramMap = new HashMap<>();
		paramMap.put(SHARD_TABLE_ID, rout(id));
		return paramMap;
	}
	private static String rout(String id) {
		// 测试
		return "000";
	}
}

以上为个人经验,希望能给大家一个参考,也希望大家多多支持我们。

(0)

相关推荐

  • springboot jpa分库分表项目实现过程详解

    这篇文章主要介绍了springboot jpa分库分表项目实现过程详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下 分库分表场景 关系型数据库本身比较容易成为系统瓶颈,单机存储容量.连接数.处理能力都有限.当单表的数据量达到1000W或100G以后,由于查询维度较多,即使添加从库.优化索引,做很多操作时性能仍下降严重.此时就要考虑对其进行切分了,切分的目的就在于减少数据库的负担,缩短查询时间. 分库分表用于应对当前互联网常见的两个场景--大数

  • SpringBoot整合sharding-jdbc实现自定义分库分表的实践

    目录 一.前言 二.简介 1.分片键 2.分片算法 三.程序实现 一.前言 SpringBoot整合sharding-jdbc实现分库分表与读写分离 本文将通过自定义算法来实现定制化的分库分表来扩展相应业务 二.简介 1.分片键 用于数据库/表拆分的关键字段 ex: 用户表根据user_id取模拆分到不同的数据库中 2.分片算法 可参考:https://shardingsphere.apache.org/document/current/cn/user-manual/shardingsphere

  • SpringBoot整合sharding-jdbc实现分库分表与读写分离的示例

    目录 一.前言 二.数据库表准备 三.整合 四.docker-compose部署mysql主从 五.本文案例demo源码 一.前言 本文将基于以下环境整合sharding-jdbc实现分库分表与读写分离 springboot2.4.0 mybatis-plus3.4.3.1 mysql5.7主从 https://github.com/apache/shardingsphere 二.数据库表准备 温馨小提示:此sql执行时,如果之前有存在相应库和表会进行自动删除后再创建! DROP DATABAS

  • springboot整合shardingjdbc实现分库分表最简单demo

    一.概览 1.1 简介 ShardingSphere-JDBC定位为轻量级 Java 框架,在 Java 的 JDBC 层提供的额外服务. 它使用客户端直连数据库,以 jar 包形式提供服务,无需额外部署和依赖,可理解为增强版的 JDBC 驱动,完全兼容 JDBC 和各种 ORM 框架. 适用于任何基于 JDBC 的 ORM 框架,如:JPA, Hibernate, Mybatis, Spring JDBC Template 或直接使用 JDBC. 支持任何第三方的数据库连接池,如:DBCP,

  • SpringBoot实现分库分表

    目录 一.statementHandler对象的定义 二.prepare方法 1.首先prepare方法是用来编译SQL 2.那就是之前说的那几个具体的StatementHandler对象 3.parameterize方法 4.query/update方法 方案:可以使用拦截器拦截mybatis框架,在执行SQL前对SQL语句根据路由字段进行分库分表操作,下例只做分表功能 @Intercepts:申明需要拦截的方法 拦截StatementHandler对象 一.statementHandler对

  • SpringBoot 2.0 整合sharding-jdbc中间件实现数据分库分表

    一.水平分割 1.水平分库 1).概念:  以字段为依据,按照一定策略,将一个库中的数据拆分到多个库中. 2).结果  每个库的结构都一样:数据都不一样:  所有库的并集是全量数据: 2.水平分表 1).概念  以字段为依据,按照一定策略,将一个表中的数据拆分到多个表中. 2).结果  每个表的结构都一样:数据都不一样:  所有表的并集是全量数据: 二.Shard-jdbc 中间件 1.架构图 2.特点 1).Sharding-JDBC直接封装JDBC API,旧代码迁移成本几乎为零. 2).适

  • SpringBoot 如何使用sharding jdbc进行分库分表

    目录 基于4.0版本,Springboot2.1 在pom里确保有如下引用 里面我profiles.active了另一个 之后手工把表都建好 写个测试代码 需要注意一个坑 基于4.0版本,Springboot2.1 之前写过一篇使用sharding-jdbc进行分库分表的文章,不过当时的版本还比较早,现在已经不能用了.这一篇是基于最新版来写的. 新版已经变成了shardingsphere了,https://shardingsphere.apache.org/. 有点不同的是,这一篇,我们是采用多

  • SpringBoot+MybatisPlus+Mysql+Sharding-JDBC分库分表

    目录 一.序言 1.组件及版本选择 2.预期目标 二.代码实现 (一)素材准备 1.实体类 2.Mapper类 3.全局配置文件 (二)增删查改 1.保存数据 2.查询列表数据 3.分页查询数据 4.查询详情 5.删除数据 6.修改数据 三.理论分析 1.选择分片列 2.扩容 一.序言 在实际业务中,单表数据增长较快,很容易达到数据瓶颈,比如单表百万级别数据量.当数据量继续增长时,数据的查询性能即使有索引的帮助下也不尽如意,这时可以引入数据分库分表技术. 本文将基于SpringBoot+Myba

  • 简单易懂的MyBatis分库分表方案分享

    前言 数据库分库分表除了使用中间件来代理请求分发之外,另外一种常见的方法就是在客户端层面来分库分表 -- 通过适当地包装客户端代码使得分库分表的数据库访问操作代码编写起来也很方便.本文的分库分表方案基于 MyBatis 框架,但是又不同于市面上常用的方案,它们一般都是通过编写复杂的 MyBatis 插件来重写 SQL 语句,这样的插件代码会巨复杂无比,可能最终只有插件的原作者自己可以完全吃透相关代码,给项目的维护性带来一定问题.本文的方案非常简单易懂,而且也不失使用上的便捷性.它的设计哲学来源于

  • Java使用Sharding-JDBC分库分表进行操作

    目录 主从库搭建 Compose File Master 配置 Slave 配置 主从配置 创建分库分表 Order 1 库 Order 2 库 User 库 Sharding-JDBC 引入 Sharding-JDBC 配置 可选配置 数据源配置 主从复制配置 数据节点配置 Demo 程序 Sharding-JDBC 是无侵入式的 MySQL 分库分表操作工具,所有库表设置仅需要在配置文件中配置即可,无须修改任何代码. 本文写了一个 Demo,使用的是 SpringBoot 框架,通过 Doc

随机推荐