慕課網yijun zhang老師的《Java高併發秒殺API》系列課程學習總結php
mvn archetype:generate -DgroupId=org.seckill -DartifactId=seckill -DarchetypeArtifactId=maven-archetype-webappcss
groupId和artifactId用來標註項目座標,項目名爲org.seckill;archetypeArtifactId指明使用maven的webapp原型來建立項目。html
建立成功後選定pom文件導入IDEA。前端
建立須要的文件夾,並選定其類型,如源文件夾java,資源文件夾resources。java
其中web.xml文件的使用的是Servlet2.3版本,默認jsp的el表達式不工做,須要切換爲更高的版本。進入~\apache-tomcat-9.0.14\webapps\examples\WEB-INF,打開其中的web.xml文件,將其標籤內容複製過來,替換項目文件中的標籤。mysql
pom文件中junit默認是3.8版本,3.0版本默認使用編程方式,4.0使用註解方式來運行,需替換爲4.0版本。git
1.日誌:使用slf4j + logbackgithub
slf4j-api、logback-core、logback-classicweb
2.數據庫相關依賴,使用mybatis、mysql,鏈接池使用druidredis
mysql-connector-java、druid、mybatis、mybatis-spring
3.Servlet web相關依賴
standard、jackson-databind、javax.servlet-api
4.spring依賴
核心依賴:spring-core、spring-beans、spring-context
dao層相關依賴:spring-jdbc、spring-tx、jstl
web相關依賴:spring-web、spring-webmvc
test相關依賴:spring-test
數據庫建立:建立數據庫,建立秒殺庫存表,並初始化一些信息,建立秒殺成功明細表(schema.sql)
建立entity層,放置實體類。對應數據庫表。
建立dao層,dao層相關接口,定義增刪改查方法
建立mybatis配置文件mybatis-config,進入mybatis官網查看示例,配置全局屬性,例:
<?xml version="1.0" encoding="UTF-8" ?>
<!DOCTYPE configuration PUBLIC "-//mybatis.org//DTD Config 3.0//EN" "http://mybatis.org/dtd/mybatis-3-config.dtd">
<configuration>
<!--配置全局屬性-->
<settings>
<!--使用jdbc的getGeneratedKeys 獲取數據庫自增主鍵值-->
<setting name="useGeneratedKeys" value="true"/>
<!--使用列別名替換列名 默認:true-->
<setting name="useColumnLabel" value="true"/>
<!--開啓駝峯命名轉換:Table(create_time) -> Entity(createTime)-->
<setting name="mapUnderscoreToCamelCase" value="true"/>
</settings>
</configuration>
複製代碼
在resources文件夾下建立mapper層,其下建立映射dao層的sql配置文件,官網,例:
<?xml version="1.0" encoding="UTF-8" ?>
<!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd">
<mapper namespace="org.seckill.dao.SeckillDao">
<!--目的:爲dao接口方法提供sql語句配置-->
<!--xml中不容許出現<=,使用<![CDATA[ ]]>標籤,<![CDATA[<=]]>-->
<update id="reduceNumber">
update seckill
set number = number -1
where seckill_id = #{seckillId}
and start_time <![CDATA[<=]]> #{killTime}
and end_time >= #{killTime}
and number >0;
</update>
<select id="queryById" resultType="Seckill" parameterType="long">
select seckill_id,name,number,start_time,end_time,create_time
from seckill
where seckill_id = #{seckillId}
</select>
</mapper>
複製代碼
建立jdbc配置文件jdbc.properties,例:
driver=com.mysql.cj.jdbc.Driver
url=jdbc:mysql://localhost:3306/seckill?useUnicode=true&characterEncoding=utf8&serverTimezone=UTC
user=root
password=123456
複製代碼
mybatis整合spring,在resources文件夾下建立spring層,放置與spring相關配置。建立spring-dao.xml配置文件,在其中配置整合mybatis過程。例:
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:context="http://www.springframework.org/schema/context" xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans.xsd http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context.xsd">
<!-- 配置整合mybatis過程 -->
<!-- 一、配置數據庫相關參數 properties的屬性:${url}-->
<context:property-placeholder location="classpath:jdbc.properties"/>
<!--2:數據庫鏈接池-->
<bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource">
<!--配置鏈接池屬性-->
<property name="driverClassName" value="${driver}"/>
<property name="url" value="${url}"/>
<property name="username" value="${user}"/>
<property name="password" value="${password}"/>
<property name="initialSize" value="10"/>
<property name="maxActive" value="30"/>
<property name="minIdle" value="10"/>
<!--關閉鏈接後不自動commit,默認false-->
<property name="defaultAutoCommit" value="false"/>
<property name="maxWait" value="1000"/>
<property name="timeBetweenConnectErrorMillis" value="60000"/>
<property name="minEvictableIdleTimeMillis" value="300000" />
</bean>
<!--約定大於配置-->
<!--3:配置SqlSessionFactory對象-->
<bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
<!--注入數據庫鏈接池-->
<property name="dataSource" ref="dataSource"/>
<!--配置Mybatis全局配置文件-->
<property name="configLocation" value="classpath:mybatis-config.xml"/>
<!--掃描entity包 使用別名 org.seckill.entity.Seckill->Seckill-->
<property name="typeAliasesPackage" value="org.seckill.entity"/>
<!--掃描sql配置文件:mapper須要的xml文件-->
<property name="mapperLocations" value="classpath:mapper/*.xml"/>
</bean>
<!--4:配置掃描Dao接口包,動態實現Dao接口,注入到Spring容器中-->
<bean class="org.mybatis.spring.mapper.MapperScannerConfigurer">
<!--注入sqlSessionFactory-->
<property name="sqlSessionFactoryBeanName" value="sqlSessionFactory"/>
<!--給出掃描Dao接口包-->
<property name="basePackage" value="org.seckill.dao"/>
</bean>
</beans>
複製代碼
單元測試
建立dto層,數據傳輸層,例如封裝執行秒殺後的結果、封裝json數據、暴露秒殺地址
建立exception層,自定義繼承自RuntimeException的異常,例:
package org.seckill.exception;
// 秒殺相關業務異常
public class SeckillException extends RuntimeException{
public SeckillException(String message) {
super(message);
}
public SeckillException(String message, Throwable cause) {
super(message, cause);
}
}
複製代碼
可繼續建立繼承此異常類的詳細異常,如重複異常、秒殺關閉異常,同上。
建立enums層,枚舉返回信息
建立service,實現業務邏輯,接口與實現
使用spring託管Service依賴配置,建立spring-service.xml配置文件,在其中配置,例:
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:context="http://www.springframework.org/schema/context" xmlns:tx="http://www.springframework.org/schema/tx" xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans.xsd http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx.xsd">
<!--掃描service包下全部使用註解的類型-->
<context:component-scan base-package="org.seckill.service"/>
<!-- 配置事務管理器 -->
<bean id="transactionManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
<!-- 注入數據庫鏈接池 -->
<property name="dataSource" ref="dataSource"/>
</bean>
<!--配置基於註解的聲明式事務 默認使用註解來管理事務行爲 -->
<tx:annotation-driven transaction-manager="transactionManager"/>
</beans>
複製代碼
使用到了日誌,官網參考建立logback.xml配置文件進行配置,最簡單例:
<?xml version="1.0" encoding="UTF-8" ?>
<configuration debug="true">
<appender name="STDOUT" class="ch.qos.logback.core.ConsoleAppender">
<!-- encoders are by default assigned the type ch.qos.logback.classic.encoder.PatternLayoutEncoder -->
<encoder>
<pattern>%d{HH:mm:ss.SSS} [%thread] %-5level %logger{36} - %msg%n</pattern>
</encoder>
</appender>
<root level="debug">
<appender-ref ref="STDOUT" />
</root>
</configuration>
複製代碼
單元測試
建立spring-web.xml配置文件,在其中配置Spring MVC,例:
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:mvc="http://www.springframework.org/schema/mvc" xmlns:context="http://www.springframework.org/schema/context" xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans.xsd http://www.springframework.org/schema/mvc http://www.springframework.org/schema/mvc/spring-mvc.xsd http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context.xsd">
<!--配置Spring-MVC-->
<!-- 一、開啓springMVC註解模式-->
<!-- 簡化配置: (1) 自動註冊DefaultAnnotationHandlerMapping,AnnotationMethodHandlerAdapter (2) 提供了一系列功能:數據綁定/數字和日期的format@NumberFormat @DateTimeFormat, xml 和 json默認讀寫支持 -->
<mvc:annotation-driven/>
<!--servlet-mapping 映射路徑:/ -->
<!--二、靜態資源配置 默認servlet配置 1)加入對靜態資源的處理 js gif png 2)容許使用「/」作總體映射 -->
<mvc:default-servlet-handler/>
<!-- 三、配置jsp 顯示viewResolver-->
<bean class="org.springframework.web.servlet.view.InternalResourceViewResolver">
<property name="viewClass" value="org.springframework.web.servlet.view.JstlView"/>
<property name="prefix" value="/WEB-INF/jsp/"/>
<property name="suffix" value=".jsp"/>
</bean>
<!--四、掃描web相關的bean-->
<context:component-scan base-package="org.seckill.web"/>
</beans>
複製代碼
建立web層,即控制層,實現Restful接口設計
在web.xml文件中配置DispatcherServlet,例:
<web-app xmlns="http://xmlns.jcp.org/xml/ns/javaee" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://xmlns.jcp.org/xml/ns/javaee http://xmlns.jcp.org/xml/ns/javaee/web-app_4_0.xsd" version="4.0" metadata-complete="true">
<!--配置DispatcherServlet-->
<servlet>
<servlet-name>seckill-dispatcher</servlet-name>
<servlet-class>org.springframework.web.servlet.DispatcherServlet</servlet-class>
<!-- 配置springMVC須要加載的配置文件 spring-dao.xml,spring-service.xml,spring-web.xml -->
<init-param>
<param-name>contextConfigLocation</param-name>
<param-value>classpath:spring/spring-*.xml</param-value>
</init-param>
</servlet>
<servlet-mapping>
<servlet-name>seckill-dispatcher</servlet-name>
<!-- '/'默認匹配全部請求-->
<url-pattern>/</url-pattern>
</servlet-mapping>
</web-app>
複製代碼
使用BootStrap與jQuery開發頁面結構,再使用JS實現交互邏輯
頁面測試:成功
CDN(內容分發網絡)是加速用戶獲取數據的系統,部署在離用戶最近的網絡節點上,命中CDN不須要訪問後端服務器。
系統詳情頁部署到CDN節點,CDN對詳情頁靜態化,詳情頁中有不少獲取靜態資源的請求css,js等,這些請求的資源也會部署到CDN,訪問詳情頁不用訪問系統,即獲取不到系統時間,因此作一個請求獲取當前服務器的系統時間頗有必要。
經過上面分析知訪問詳情頁不用訪問系統,java訪問一次內存(Cacheline)大約10ns,即1秒鐘大約可作1億次,因此獲取系統時間不用優化。
秒殺地址接口返回數據會變化,沒法使用CDN緩存,適合服務器緩存:Redis等,服務器1秒可抗10wQPS,redis集羣后可抗百萬級QPS(QPS爲每秒查詢率),一次性維護成本低。可優化。
其餘方案:
優勢:可抗很高的併發
缺點:運維成本和穩定型:NoSQL、MQ等爲分佈式服務,穩定性不足
開發成本:數據一致性,回滾方案等,須要人工處理
冪等性難保證:重複秒殺問題
複製代碼
不適合新手的架構
爲何不使用MySQL優化?
MySQL真的低效?
測試:同一個id執行update減庫存壓力測試
約4wQPS
java控制事務行爲分析
瓶頸分析
Java GC(Garbage Collection,垃圾收集,垃圾回收)機制
分析結果:不是MySQL、Java慢。緣由爲java客戶端執行SQL語句,等待執行結果,再作判斷,再去執行,而java和數據庫通訊之間會有網絡延遲或者GC,這些時間也要加載執行事務中,而同一行事務爲串行化。
行級鎖在commit以後釋放,因此優化方向是減小行級鎖持有時間
延遲分析
如何判斷Update更新庫存成功?
兩個條件:一、Update自身沒報錯;二、客戶端確認Update影響記錄數
優化思路:
把客戶端邏輯放到MySQL服務端,避免網絡延遲和GC影響
如何放到MySQL服務端?
兩種解決方案:
——定製SQL方案:update /* + [auto_commit] */ ,須要修改MySQL源碼
執行update後自動作回滾,update記錄數爲1時commit,0則rollback,避免客戶端與MySQL服務端之間的網絡延遲和GC影響
——使用存儲過程:整個事務在MySQL端完成
優化總結:
前端控制:暴露接口(將動、靜態數據及核心功能點分離)、按鈕防重複
動靜態數據分離:CDN緩存、後端緩存(Redis、MemCache)
事務競爭優化:減小事務鎖時間
Redis安裝(64位Windows下)
優化地址暴露接口
導入redis客戶端jedis及序列號工具protostuff
dao爲放置數據庫及其餘存儲類的包,在dao包下建立cache層,cache層下放RedisDao類,緩存在redis中爲二進制數組,若redis中存在緩存,獲取二進制數組byte[],進行反序列化,將數據放入建立的空對象。若不存在緩存,則將對象序列化轉換爲byte[]放入redis。
改進秒殺實現方法中獲取數據,先訪問redis,若無數據,則訪問數據庫,並將數據放入redis。
在spring-dao.xml文件中配置RedisDao,例
<!--RedisDao-->
<bean id="redisDao" class="org.seckill.dao.cache.RedisDao">
<!--實際配置應放入配置文件-->
<constructor-arg index="0" value="localhost"/>
<constructor-arg index="1" value="6379"/>
</bean>
複製代碼
此緩存優化一致性維護創建在超時的基礎上,由於秒殺對象在正常狀況下不會改變,若須要改動,廢棄新建。
update 減庫存 【rowLock】 <——網絡延遲、GC——> insert 購買明細 <——網絡延遲、GC——>
commit/rollback【freeLock】
簡單優化——減小了行級鎖持有時間,使MySQL得到更高的QPS
insert 購買明細 <——網絡延遲、GC——> update 減庫存【rowLock】 <——網絡延遲、GC——>
commit/rollback【freeLock】
深度優化——將事務SQL在MySQL端執行(存儲過程)
在數據庫建立存儲過程(seckill.sql)
而後在SeckillDao接口中新建使用存儲過程執行秒殺的方法,此方法傳入參數爲Map類型(在service實現方法中須要將結果放入參數告訴MySQL,該操做使用了org.apache.commons.collections的MapUtils方法,需在pom文件中引入)。而後在其對應配置文件中使用mybatis調用存儲過程。再在秒殺業務接口中新建經過存儲過程執行秒殺操做的方法,在其實現類中實現該方法,在該方法中調用dao接口中的方法。測試1成功。在controller中改用該方法,網頁測試,成功。
系統可能用到哪些服務?
CDN、 WebServer:Nginx + Jetty、 Redis、 MySQL
大型系統部署架構
開發:前端 + 後端 測試(迭代、修改、壓力測試等) DBA(存儲過程、分庫分表等) 運維(負責機器監控、Nginx配置等)
—關於使用current_timestamp時間與北京時間相差8小時解決辦法
—關於Tomcat日誌輸出中文亂碼,網上幾種方法無效,待解決
項目代碼地址