Mybatis 的物理分頁是應用中的一個難點,特別是配合檢索和排序功能疊加時更是如此。javascript
我在最近的項目中開發了這個通用分頁器,過程當中參考了站內很多好文章,新年第一天,特此發文回饋網站。前端
特別鳴謝 paginator項目 (https://github.com/miemiedev/mybatis-paginator ) ,閱讀源碼幫助很大。java
【背景】mysql
項目框架是 SpringMVC+Mybatis, 需求是想採用自定義的分頁標籤,同時,要儘可能少的影響業務程序開發的。
若是你已經使用了JS框架( 如:Ext,EasyUi等)自帶的分頁機能,是屬於前端分頁,不在本文討論範圍。git
【關於問題】github
大多數分頁器會使用在查詢頁面,要考慮如下問題:算法
1)分頁時是要隨時帶有最近一次查詢條件spring
2)不能影響現有的sql,相似aop的效果sql
3)mybatis提供了通用的攔截接口,要選擇適當的攔截方式和時點數據庫
4)儘可能少的影響現有service等接口
【關於依賴庫】
Google Guava 做爲基礎工具包
Commons JXPath 用於對象查詢 (1/23日版改善後,再也不須要)
Jackson 向前臺傳送Json格式數據轉換用
【關於適用數據庫】
如今只適用mysql
(若是須要用在其餘數據庫可參考 paginator的Dialect部分,改動都不大)
首先是Page類,比較簡單,保存分頁相關的全部信息,涉及到分頁算法。雖然「其貌不揚」,但很重要。後面會看到這個page類對象會以「信使」的身份出如今所有與分頁相關的地方。
- /**
- * 封裝分頁數據
- */
- import java.util.List;
- import java.util.Map;
- import org.codehaus.jackson.map.ObjectMapper;
- import org.slf4j.Logger;
- import org.slf4j.LoggerFactory;
- import com.google.common.base.Joiner;
- import com.google.common.collect.Lists;
- import com.google.common.collect.Maps;
- public class Page {
- private static final Logger logger = LoggerFactory.getLogger(Page.class);
- private static ObjectMapper mapper = new ObjectMapper();
- public static String DEFAULT_PAGESIZE = "10";
- private int pageNo; //當前頁碼
- private int pageSize; //每頁行數
- private int totalRecord; //總記錄數
- private int totalPage; //總頁數
- private Map<String, String> params; //查詢條件
- private Map<String, List<String>> paramLists; //數組查詢條件
- private String searchUrl; //Url地址
- private String pageNoDisp; //能夠顯示的頁號(分隔符"|",總頁數變動時更新)
- private Page() {
- pageNo = 1;
- pageSize = Integer.valueOf(DEFAULT_PAGESIZE);
- totalRecord = 0;
- totalPage = 0;
- params = Maps.newHashMap();
- paramLists = Maps.newHashMap();
- searchUrl = "";
- pageNoDisp = "";
- }
- public static Page newBuilder(int pageNo, int pageSize, String url){
- Page page = new Page();
- page.setPageNo(pageNo);
- page.setPageSize(pageSize);
- page.setSearchUrl(url);
- return page;
- }
- /**
- * 查詢條件轉JSON
- */
- public String getParaJson(){
- Map<String, Object> map = Maps.newHashMap();
- for (String key : params.keySet()){
- if ( params.get(key) != null ){
- map.put(key, params.get(key));
- }
- }
- String json="";
- try {
- json = mapper.writeValueAsString(map);
- } catch (Exception e) {
- logger.error("轉換JSON失敗", params, e);
- }
- return json;
- }
- /**
- * 數組查詢條件轉JSON
- */
- public String getParaListJson(){
- Map<String, Object> map = Maps.newHashMap();
- for (String key : paramLists.keySet()){
- List<String> lists = paramLists.get(key);
- if ( lists != null && lists.size()>0 ){
- map.put(key, lists);
- }
- }
- String json="";
- try {
- json = mapper.writeValueAsString(map);
- } catch (Exception e) {
- logger.error("轉換JSON失敗", params, e);
- }
- return json;
- }
- /**
- * 總件數變化時,更新總頁數並計算顯示樣式
- */
- private void refreshPage(){
- //總頁數計算
- totalPage = totalRecord%pageSize==0 ? totalRecord/pageSize : (totalRecord/pageSize + 1);
- //防止超出最末頁(瀏覽途中數據被刪除的狀況)
- if ( pageNo > totalPage && totalPage!=0){
- pageNo = totalPage;
- }
- pageNoDisp = computeDisplayStyleAndPage();
- }
- /**
- * 計算頁號顯示樣式
- * 這裏實現如下的分頁樣式("[]"表明當前頁號),可根據項目需求調整
- * [1],2,3,4,5,6,7,8..12,13
- * 1,2..5,6,[7],8,9..12,13
- * 1,2..6,7,8,9,10,11,12,[13]
- */
- private String computeDisplayStyleAndPage(){
- List<Integer> pageDisplays = Lists.newArrayList();
- if ( totalPage <= 11 ){
- for (int i=1; i<=totalPage; i++){
- pageDisplays.add(i);
- }
- }else if ( pageNo < 7 ){
- for (int i=1; i<=8; i++){
- pageDisplays.add(i);
- }
- pageDisplays.add(0);// 0 表示 省略部分(下同)
- pageDisplays.add(totalPage-1);
- pageDisplays.add(totalPage);
- }else if ( pageNo> totalPage-6 ){
- pageDisplays.add(1);
- pageDisplays.add(2);
- pageDisplays.add(0);
- for (int i=totalPage-7; i<=totalPage; i++){
- pageDisplays.add(i);
- }
- }else{
- pageDisplays.add(1);
- pageDisplays.add(2);
- pageDisplays.add(0);
- for (int i=pageNo-2; i<=pageNo+2; i++){
- pageDisplays.add(i);
- }
- pageDisplays.add(0);
- pageDisplays.add(totalPage-1);
- pageDisplays.add(totalPage);
- }
- return Joiner.on("|").join(pageDisplays.toArray());
- }
- public int getPageNo() {
- return pageNo;
- }
- public void setPageNo(int pageNo) {
- this.pageNo = pageNo;
- }
- public int getPageSize() {
- return pageSize;
- }
- public void setPageSize(int pageSize) {
- this.pageSize = pageSize;
- }
- public int getTotalRecord() {
- return totalRecord;
- }
- public void setTotalRecord(int totalRecord) {
- this.totalRecord = totalRecord;
- refreshPage();
- }
- public int getTotalPage() {
- return totalPage;
- }
- public void setTotalPage(int totalPage) {
- this.totalPage = totalPage;
- }
- public Map<String, String> getParams() {
- return params;
- }
- public void setParams(Map<String, String> params) {
- this.params = params;
- }
- public Map<String, List<String>> getParamLists() {
- return paramLists;
- }
- public void setParamLists(Map<String, List<String>> paramLists) {
- this.paramLists = paramLists;
- }
- public String getSearchUrl() {
- return searchUrl;
- }
- public void setSearchUrl(String searchUrl) {
- this.searchUrl = searchUrl;
- }
- public String getPageNoDisp() {
- return pageNoDisp;
- }
- public void setPageNoDisp(String pageNoDisp) {
- this.pageNoDisp = pageNoDisp;
- }
- }
而後是最核心的攔截器了。涉及到了mybatis的核心功能,期間閱讀大量mybatis源碼幾經修改重構,辛苦自沒必要說。
核心思想是將攔截到的select語句,改裝成select count(*)語句,執行之獲得,總數據數。再根據page中的當前頁號算出limit值,拼接到select語句後。
爲簡化代碼使用了Commons JXPath 包,作對象查詢。
- /**
- * 分頁用攔截器
- */
- import java.sql.Connection;
- import java.sql.PreparedStatement;
- import java.sql.ResultSet;
- import java.util.Properties;
- import org.apache.commons.jxpath.JXPathContext;
- import org.apache.commons.jxpath.JXPathNotFoundException;
- import org.apache.ibatis.executor.Executor;
- import org.apache.ibatis.executor.parameter.DefaultParameterHandler;
- import org.apache.ibatis.mapping.BoundSql;
- import org.apache.ibatis.mapping.MappedStatement;
- import org.apache.ibatis.mapping.MappedStatement.Builder;
- import org.apache.ibatis.mapping.ParameterMapping;
- import org.apache.ibatis.mapping.SqlSource;
- import org.apache.ibatis.plugin.Interceptor;
- import org.apache.ibatis.plugin.Intercepts;
- import org.apache.ibatis.plugin.Invocation;
- import org.apache.ibatis.plugin.Plugin;
- import org.apache.ibatis.plugin.Signature;
- import org.apache.ibatis.session.ResultHandler;
- import org.apache.ibatis.session.RowBounds;
- @Intercepts({@Signature(type=Executor.class,method="query",args={ MappedStatement.class, Object.class, RowBounds.class, ResultHandler.class })})
- public class PageInterceptor implements Interceptor{
- public Object intercept(Invocation invocation) throws Throwable {
- //當前環境 MappedStatement,BoundSql,及sql取得
- MappedStatement mappedStatement=(MappedStatement)invocation.getArgs()[0];
- Object parameter = invocation.getArgs()[1];
- BoundSql boundSql = mappedStatement.getBoundSql(parameter);
- String originalSql = boundSql.getSql().trim();
- Object parameterObject = boundSql.getParameterObject();
- //Page對象獲取,「信使」到達攔截器!
- Page page = searchPageWithXpath(boundSql.getParameterObject(),".","page","*/page");
- if(page!=null ){
- //Page對象存在的場合,開始分頁處理
- String countSql = getCountSql(originalSql);
- Connection connection=mappedStatement.getConfiguration().getEnvironment().getDataSource().getConnection() ;
- PreparedStatement countStmt = connection.prepareStatement(countSql);
- BoundSql countBS = copyFromBoundSql(mappedStatement, boundSql, countSql);
- DefaultParameterHandler parameterHandler = new DefaultParameterHandler(mappedStatement, parameterObject, countBS);
- parameterHandler.setParameters(countStmt);
- ResultSet rs = countStmt.executeQuery();
- int totpage=0;
- if (rs.next()) {
- totpage = rs.getInt(1);
- }
- rs.close();
- countStmt.close();
- connection.close();
- //分頁計算
- page.setTotalRecord(totpage);
- //對原始Sql追加limit
- int offset = (page.getPageNo() - 1) * page.getPageSize();
- StringBuffer sb = new StringBuffer();
- sb.append(originalSql).append(" limit ").append(offset).append(",").append(page.getPageSize());
- BoundSql newBoundSql = copyFromBoundSql(mappedStatement, boundSql, sb.toString());
- MappedStatement newMs = copyFromMappedStatement(mappedStatement,new BoundSqlSqlSource(newBoundSql));
- invocation.getArgs()[0]= newMs;
- }
- return invocation.proceed();
- }
- /**
- * 根據給定的xpath查詢Page對象
- */
- private Page searchPageWithXpath(Object o,String... xpaths) {
- JXPathContext context = JXPathContext.newContext(o);
- Object result;
- for(String xpath : xpaths){
- try {
- result = context.selectSingleNode(xpath);
- } catch (JXPathNotFoundException e) {
- continue;
- }
- if ( result instanceof Page ){
- return (Page)result;
- }
- }
- return null;
- }
- /**
- * 複製MappedStatement對象
- */
- private MappedStatement copyFromMappedStatement(MappedStatement ms,SqlSource newSqlSource) {
- Builder builder = new Builder(ms.getConfiguration(),ms.getId(),newSqlSource,ms.getSqlCommandType());
- builder.resource(ms.getResource());
- builder.fetchSize(ms.getFetchSize());
- builder.statementType(ms.getStatementType());
- builder.keyGenerator(ms.getKeyGenerator());
- builder.keyProperty(ms.getKeyProperty());
- builder.timeout(ms.getTimeout());
- builder.parameterMap(ms.getParameterMap());
- builder.resultMaps(ms.getResultMaps());
- builder.resultSetType(ms.getResultSetType());
- builder.cache(ms.getCache());
- builder.flushCacheRequired(ms.isFlushCacheRequired());
- builder.useCache(ms.isUseCache());
- return builder.build();
- }
- /**
- * 複製BoundSql對象
- */
- private BoundSql copyFromBoundSql(MappedStatement ms, BoundSql boundSql, String sql) {
- BoundSql newBoundSql = new BoundSql(ms.getConfiguration(),sql, boundSql.getParameterMappings(), boundSql.getParameterObject());
- for (ParameterMapping mapping : boundSql.getParameterMappings()) {
- String prop = mapping.getProperty();
- if (boundSql.hasAdditionalParameter(prop)) {
- newBoundSql.setAdditionalParameter(prop, boundSql.getAdditionalParameter(prop));
- }
- }
- return newBoundSql;
- }
- /**
- * 根據原Sql語句獲取對應的查詢總記錄數的Sql語句
- */
- private String getCountSql(String sql) {
- return "SELECT COUNT(*) FROM (" + sql + ") aliasForPage";
- }
- public class BoundSqlSqlSource implements SqlSource {
- BoundSql boundSql;
- public BoundSqlSqlSource(BoundSql boundSql) {
- this.boundSql = boundSql;
- }
- public BoundSql getBoundSql(Object parameterObject) {
- return boundSql;
- }
- }
- public Object plugin(Object arg0) {
- return Plugin.wrap(arg0, this);
- }
- public void setProperties(Properties arg0) {
- }
- }
到展現層終於能夠輕鬆些了,使用了文件標籤來簡化前臺開發。
採用臨時表單提交,CSS使用了Bootstrap。
- <%@tag pageEncoding="UTF-8"%>
- <%@ attribute name="page" type="cn.com.intasect.ots.common.utils.Page" required="true"%>
- <%@ taglib prefix="c" uri="http://java.sun.com/jsp/jstl/core"%>
- <%
- int current = page.getPageNo();
- int begin = 1;
- int end = page.getTotalPage();
- request.setAttribute("current", current);
- request.setAttribute("begin", begin);
- request.setAttribute("end", end);
- request.setAttribute("pList", page.getPageNoDisp());
- %>
- <script type="text/javascript">
- var paras = '<%=page.getParaJson()%>';
- var paraJson = eval('(' + paras + ')');
- //將提交參數轉換爲JSON
- var paraLists = '<%=page.getParaListJson()%>';
- var paraListJson = eval('(' + paraLists + ')');
- function pageClick( pNo ){
- paraJson["pageNo"] = pNo;
- paraJson["pageSize"] = "<%=page.getPageSize()%>";
- var jsPost = function(action, values, valueLists) {
- var id = Math.random();
- document.write('<form id="post' + id + '" name="post'+ id +'" action="' + action + '" method="post">');
- for (var key in values) {
- document.write('<input type="hidden" name="' + key + '" value="' + values[key] + '" />');
- }
- for (var key2 in valueLists) {
- for (var index in valueLists[key2]) {
- document.write('<input type="hidden" name="' + key2 + '" value="' + valueLists[key2][index] + '" />');
- }
- }
- document.write('</form>');
- document.getElementById('post' + id).submit();
- }
- //發送POST
- jsPost("<%=page.getSearchUrl()%>", paraJson, paraListJson);
- }
- </script>
- <div class="page-pull-right">
- <% if (current!=1 && end!=0){%>
- <button class="btn btn-default btn-sm" onclick="pageClick(1)">首頁</button>
- <button class="btn btn-default btn-sm" onclick="pageClick(${current-1})">前頁</button>
- <%}else{%>
- <button class="btn btn-default btn-sm" >首頁</button>
- <button class="btn btn-default btn-sm" >前頁</button>
- <%} %>
- <c:forTokens items="${pList}" delims="|" var="pNo">
- <c:choose>
- <c:when test="${pNo == 0}">
- <label style="font-size: 10px; width: 20px; text-align: center;">•••</label>
- </c:when>
- <c:when test="${pNo != current}">
- <button class="btn btn-default btn-sm" onclick="pageClick(${pNo})">${pNo}</button>
- </c:when>
- <c:otherwise>
- <button class="btn btn-primary btn-sm" style="font-weight:bold;">${pNo}</button>
- </c:otherwise>
- </c:choose>
- </c:forTokens>
- <% if (current<end && end!=0){%>
- <button class="btn btn-default btn-sm" onclick="pageClick(${current+1})">後頁</button>
- <button class="btn btn-default btn-sm" onclick="pageClick(${end})">末頁</button>
- <%}else{%>
- <button class="btn btn-default btn-sm">後頁</button>
- <button class="btn btn-default btn-sm">末頁</button>
- <%} %>
- </div>
注意「信使」在這裏使出了渾身解數,7個主要的get方法所有用上了。
- page.getPageNo() //當前頁號
- page.getTotalPage() //總頁數
- page.getPageNoDisp() //能夠顯示的頁號
- page.getParaJson() //查詢條件
- page.getParaListJson() //數組查詢條件
- page.getPageSize() //每頁行數
- page.getSearchUrl() //Url地址(做爲action名稱)
到這裏三個核心模塊完成了。而後是攔截器的註冊。
【攔截器的註冊】
須要在mybatis-config.xml 中加入攔截器的配置
- <plugins>
- <plugin interceptor="cn.com.dingding.common.utils.PageInterceptor">
- </plugin>
- </plugins>
【相關代碼修改】
首先是後臺代碼的修改,Controller層因爲涉及到查詢條件,須要修改的內容較多。
1)入參需增長 pageNo,pageSize 兩個參數
2)根據pageNo,pageSize 及你的相對url構造page對象。(
3)最重要的是將你的其餘入參(查詢條件)保存到page中
4)Service層的方法須要帶着page這個對象(最終目的是傳遞到sql執行的入參,讓攔截器識別出該sql須要分頁,同時傳遞頁號)
5)將page對象傳回Mode中
修改前
- @RequestMapping(value = "/user/users")
- public String list(
- @ModelAttribute("name") String name,
- @ModelAttribute("levelId") String levelId,
- @ModelAttribute("subjectId") String subjectId,
- Model model) {
- model.addAttribute("users",userService.selectByNameLevelSubject(
- name, levelId, subjectId));
- return USER_LIST_JSP;
- }
修改後
- @RequestMapping(value = "/user/users")
- public String list(
- @RequestParam(required = false, defaultValue = "1") int pageNo,
- @RequestParam(required = false, defaultValue = "5") int pageSize,
- @ModelAttribute("name") String name,
- @ModelAttribute("levelId") String levelId,
- @ModelAttribute("subjectId") String subjectId,
- Model model) {
- // 這裏是「信使」誕生之地,一出生就加載了不少重要信息!
- Page page = Page.newBuilder(pageNo, pageSize, "users");
- page.getParams().put("name", name); //這裏再保存查詢條件
- page.getParams().put("levelId", levelId);
- page.getParams().put("subjectId", subjectId);
- model.addAttribute("users",userService.selectByNameLevelSubject(
- name, levelId, subjectId, page));
- model.addAttribute("page", page); //這裏將page返回前臺
- return USER_LIST_JSP;
- }
注意pageSize的缺省值決定該分頁的每頁數據行數 ,實際項目更通用的方式是使用配置文件指定。
Service層
攔截器能夠自動識別在Map或Bean中的Page對象。
若是使用Bean須要在裏面增長一個page項目,Map則比較簡單,如下是例子。
- @Override
- public List<UserDTO> selectByNameLevelSubject(String name, String levelId, String subjectId, Page page) {
- Map<String, Object> map = Maps.newHashMap();
- levelId = DEFAULT_SELECTED.equals(levelId)?null: levelId;
- subjectId = DEFAULT_SELECTED.equals(subjectId)?null: subjectId;
- if (name != null && name.isEmpty()){
- name = null;
- }
- map.put("name", name);
- map.put("levelId", levelId);
- map.put("subjectId", subjectId);
- map.put("page", page); //MAP的話加這一句就OK
- return userMapper.selectByNameLevelSubject(map);
- }
前臺頁面方面,因爲使用了標籤,在適當的位置加一句就夠了。
- <tags:page page="${page}"/>
「信使」page在這裏進入標籤,讓分頁按鈕最終展示。
至此,無需修改一句sql,完成分頁自動化。
【總結】
如今回過頭來看下最開始提出的幾個問題:
1)分頁時是要隨時帶有最近一次查詢條件
回答:在改造Controller層時,經過將提交參數設置到 Page對象的 Map<String, String> params(單個基本型參數) 和 Map<String, List<String>> paramLists(數組基本型)解決。
順便提一下,例子中沒有涉及參數是Bean的狀況,實際應用中應該比較常見。簡單的方法是將Bean轉換層Map後加入到params。
2)不能影響現有的sql,相似aop的效果
回答:利用Mybatis提供了 Interceptor 接口,攔截後改頭換面去的件數並計算limit值,天然能神不知鬼不覺。
3)mybatis提供了通用的攔截接口,要選擇適當的攔截方式和時點
回答:@Signature(method = "query", type = Executor.class, args = { MappedStatement.class, Object.class, RowBounds.class, ResultHandler.class }) 只攔截查詢語句,其餘增刪改查不會影響。
4)儘可能少的影響現有service等接口
回答:這個自認爲本方案作的還不夠好,主要是Controller層改造上,感受代碼量還比較大。若是有有識者知道更好的方案還請多指教。
【遺留問題】
1)一個「明顯」的性能問題,是每次檢索前都要去 select count(*)一次。在不少時候(數據變化不是特別敏感的場景)是沒必要要的。調整也不難,先Controller參數增長一個 totalRecord 總記錄數 ,在稍加修改一下Page相關代碼便可。
2)要排序怎麼辦?本文並未討論排序,可是方法是相似的。以上面代碼爲基礎,能夠較容易地實現一個通用的排序標籤。
===================================== 分割線 (1/8)=======================================
對於Controller層須要將入參傳入Page對象的問題已經進行了改善,思路是自動從HttpServletRequest 類中提取入殘,減低了分頁代碼的侵入性,詳細參看文章 http://duanhengbin.iteye.com/blog/2001142
===================================== 分割線 (1/23)=======================================
再次改善,使用ThreadLocal類封裝Page對象,讓Service層等無需傳Page對象,減少了侵入性。攔截器也省去了查找Page對象的動做,性能也同時改善。總體代碼改動不大。
===================================== 分割線 (2/21)=======================================
今天比較閒,順便聊下這個分頁的最終版,固然歷來只有不斷變化的需求,沒有完美的方案,這裏所說的最終版實際上是一個優化後的「零侵入」的方案。爲避免代碼混亂仍是隻介紹思路。在上一個版本(1/23版)基礎上有兩點改動:
一是增長一個配置文件,按Url 配置初始的每頁行數。以下面這樣(pagesize 指的是每頁行數):
- <pager url="/user/users" pagesize="10" />
二是增長一個過濾器,並將剩下的位於Control類中 惟一侵入性的分頁相關代碼移入過濾器。發現當前的 Url 在配置文件中有匹配是就構造Page對象,並加入到Response中。
使用最終版後,對於開發者須要分頁時,只要在配置文件中加一行,並在前端頁面上加一個分頁標籤便可,其餘代碼,SQL等都不須要任何改動,能夠說簡化到了極限。
【技術列表】
總結下最終方案用到的技術:
- Mybatis 提供的攔截器接口實現(實現分頁sql自動 select count 及limit 拼接)
- Servlet過濾器+ThreadLocal (生成線程共享的Page對象)
- 標籤文件 (實現前端共通的分頁效果)
- 臨時表單提交 (減小頁面體積)
【其餘分頁方案比較】
時下比較成熟的 JPA 的分頁方案,(主要應用在 Hibernate + Spring Data 的場合),主要切入點在DAO層,而Controller等各層接口依然須要帶着pageNumber,pageSize 這些的參數,另外框架開發者還要掌握一些必須的輔助類,如:
org.springframework.data.repository.PagingAndSortingRepository 可分頁DAO基類
org.springframework.data.domain.Page 抽取結果封裝類
org.springframework.data.domain.Pageable 分頁信息類
比較來看 本方案 作到了分頁與業務邏輯的徹底解耦,開發者無需關注分頁,所有經過配置實現。經過這個例子也能夠反映出Mybatis在底層開發上有其獨特的優點。