關於SQL查詢效率,100w數據,查詢只要1秒

1.關於SQL查詢效率,100w數據,查詢只要1秒,與您分享:
機器狀況
p4: 2.4
內存: 1 G
os: windows 2003
數據庫: ms sql server 2000
目的: 查詢性能測試,比較兩種查詢的性能

SQL查詢效率 step by step

-- setp 1.
-- 建表
create table t_userinfo
(
userid int identity(1,1) primary key nonclustered,
nick varchar(50) not null default '',
classid int not null default 0,
writetime datetime not null default getdate()
)
go

-- 建索引
create clustered index ix_userinfo_classid on t_userinfo(classid)
go

-- step 2.

declare @i int 
declare @k int
declare @nick varchar(10)
set @i = 1
while @i<1000000
begin
set @k = @i % 10
set @nick = convert(varchar,@i)
insert into t_userinfo(nick,classid,writetime) values(@nick,@k,getdate())
set @i = @i + 1
end
-- 耗時 08:27 ,須要耐心等待

-- step 3.
select top 20 userid,nick,classid,writetime from t_userinfo 
where userid not in
(
select top 900000 userid from t_userinfo order by userid asc
)

-- 耗時 8 秒 ,夠長的

-- step 4.
select a.userid,b.nick,b.classid,b.writetime from
(
select top 20 a.userid from 
(
select top 900020 userid from t_userinfo order by userid asc
) a order by a.userid desc
) a inner join t_userinfo b on a.userid = b.userid 
order by a.userid asc

-- 耗時 1 秒,太快了吧,不能夠思議

-- step 5 where 查詢
select top 20 userid,nick,classid,writetime from t_userinfo 
where classid = 1 and userid not in
(
select top 90000 userid from t_userinfo 
where classid = 1
order by userid asc
)
-- 耗時 2 秒

-- step 6 where 查詢
select a.userid,b.nick,b.classid,b.writetime from
(
select top 20 a.userid from 
(
select top 90000 userid from t_userinfo
where classid = 1
order by userid asc
) a order by a.userid desc
) a inner join t_userinfo b on a.userid = b.userid 
order by a.userid asc

-- 查詢分析器顯示不到 1 秒.


查詢效率分析:
子查詢爲確保消除重複值,必須爲外部查詢的每一個結果都處理嵌套查詢。在這種狀況下能夠考慮用聯接查詢來取代。
若是要用子查詢,那就用EXISTS替代IN、用NOT EXISTS替代NOT IN。由於EXISTS引入的子查詢只是測試是否存在符合子查詢中指定條件的行,效率較高。不管在哪一種狀況下,NOT IN都是最低效的。由於它對子查詢中的表執行了一個全表遍歷。

創建合理的索引,避免掃描多餘數據,避免表掃描!
幾百萬條數據,照樣幾十毫秒完成查詢.
2. 
SQL提升查詢效率
2008-05-12 21:20
1.對查詢進行優化,應儘可能避免全表掃描,首先應考慮在 where 及 order by 涉及的列上創建索引。 

2.應儘可能避免在 where 子句中對字段進行 null 值判斷,不然將致使引擎放棄使用索引而進行全表掃描,如: 
select id from t where num is null 
能夠在num上設置默認值0,確保表中num列沒有null值,而後這樣查詢: 
select id from t where num=0 

3.應儘可能避免在 where 子句中使用!=或<>操做符,不然將引擎放棄使用索引而進行全表掃描。 

4.應儘可能避免在 where 子句中使用 or 來鏈接條件,不然將致使引擎放棄使用索引而進行全表掃描,如: 
select id from t where num=10 or num=20 
能夠這樣查詢: 
select id from t where num=10 
union all 
select id from t where num=20 

5.in 和 not in 也要慎用,不然會致使全表掃描,如: 
select id from t where num in(1,2,3) 
對於連續的數值,能用 between 就不要用 in 了: 
select id from t where num between 1 and 3 

6.下面的查詢也將致使全表掃描: 
select id from t where name like '%abc%' 
若要提升效率,能夠考慮全文檢索。 

7.若是在 where 子句中使用參數,也會致使全表掃描。由於SQL只有在運行時纔會解析局部變量,但優化程序不能將訪問計劃的選擇推遲到運行時;它必須在編譯時進行選擇。然而,若是在編譯時創建訪問計劃,變量的值仍是未知的,於是沒法做爲索引選擇的輸入項。以下面語句將進行全表掃描: 
select id from t where num=@num 
能夠改成強制查詢使用索引: 
select id from t with(index(索引名)) where num=@num 

8.應儘可能避免在 where 子句中對字段進行表達式操做,這將致使引擎放棄使用索引而進行全表掃描。如: 
select id from t where num/2=100 
應改成: 
select id from t where num=100*2 

9.應儘可能避免在where子句中對字段進行函數操做,這將致使引擎放棄使用索引而進行全表掃描。如: 
select id from t where substring(name,1,3)='abc'--name以abc開頭的id 
select id from t where datediff(day,createdate,'2005-11-30')=0--‘2005-11-30’生成的id 
應改成: 
select id from t where name like 'abc%' 
select id from t where createdate>='2005-11-30' and createdate<'2005-12-1' 

10.不要在 where 子句中的「=」左邊進行函數、算術運算或其餘表達式運算,不然系統將可能沒法正確使用索引。 

11.在使用索引字段做爲條件時,若是該索引是複合索引,那麼必須使用到該索引中的第一個字段做爲條件時才能保證系統使用該索引,不然該索引將不會被使用,而且應儘量的讓字段順序與索引順序相一致。 

12.不要寫一些沒有意義的查詢,如須要生成一個空表結構: 
select col1,col2 into #t from t where 1=0 
這類代碼不會返回任何結果集,可是會消耗系統資源的,應改爲這樣: 
create table #t(...) 

13.不少時候用 exists 代替 in 是一個好的選擇: 
select num from a where num in(select num from b) 
用下面的語句替換: 
select num from a where exists(select 1 from b where num=a.num) 

14.並非全部索引對查詢都有效,SQL是根據表中數據來進行查詢優化的,當索引列有大量數據重複時,SQL查詢可能不會去利用索引,如一表中有字段sex,male、female幾乎各一半,那麼即便在sex上建了索引也對查詢效率起不了做用。 

15.索引並非越多越好,索引當然能夠提升相應的 select 的效率,但同時也下降了 insert 及 update 的效率,由於 insert 或 update 時有可能會重建索引,因此怎樣建索引須要慎重考慮,視具體狀況而定。一個表的索引數最好不要超過6個,若太多則應考慮一些不常使用到的列上建的索引是否有必要。 

16.應儘量的避免更新 clustered 索引數據列,由於 clustered 索引數據列的順序就是表記錄的物理存儲順序,一旦該列值改變將致使整個表記錄的順序的調整,會耗費至關大的資源。若應用系統須要頻繁更新 clustered 索引數據列,那麼須要考慮是否應將該索引建爲 clustered 索引。 

17.儘可能使用數字型字段,若只含數值信息的字段儘可能不要設計爲字符型,這會下降查詢和鏈接的性能,並會增長存儲開銷。這是由於引擎在處理查詢和鏈接時會逐個比較字符串中每個字符,而對於數字型而言只須要比較一次就夠了。 

18.儘量的使用 varchar/nvarchar 代替 char/nchar ,由於首先變長字段存儲空間小,能夠節省存儲空間,其次對於查詢來講,在一個相對較小的字段內搜索效率顯然要高些。 

19.任何地方都不要使用 select * from t ,用具體的字段列表代替「*」,不要返回用不到的任何字段。 

20.儘可能使用表變量來代替臨時表。若是表變量包含大量數據,請注意索引很是有限(只有主鍵索引)。 

21.避免頻繁建立和刪除臨時表,以減小系統表資源的消耗。 

22.臨時表並非不可以使用,適當地使用它們可使某些例程更有效,例如,當須要重複引用大型表或經常使用表中的某個數據集時。可是,對於一次性事件,最好使用導出表。 

23.在新建臨時表時,若是一次性插入數據量很大,那麼可使用 select into 代替 create table,避免形成大量 log ,以提升速度;若是數據量不大,爲了緩和系統表的資源,應先create table,而後insert。 

24.若是使用到了臨時表,在存儲過程的最後務必將全部的臨時表顯式刪除,先 truncate table ,而後 drop table ,這樣能夠避免系統表的較長時間鎖定。 

25.儘可能避免使用遊標,由於遊標的效率較差,若是遊標操做的數據超過1萬行,那麼就應該考慮改寫。 

26.使用基於遊標的方法或臨時表方法以前,應先尋找基於集的解決方案來解決問題,基於集的方法一般更有效。 

27.與臨時表同樣,遊標並非不可以使用。對小型數據集使用 FAST_FORWARD 遊標一般要優於其餘逐行處理方法,尤爲是在必須引用幾個表才能得到所需的數據時。在結果集中包括「合計」的例程一般要比使用遊標執行的速度快。若是開發時間容許,基於遊標的方法和基於集的方法均可以嘗試一下,看哪種方法的效果更好。 

28.在全部的存儲過程和觸發器的開始處設置 SET NOCOUNT ON ,在結束時設置 SET NOCOUNT OFF 。無需在執行存儲過程和觸發器的每一個語句後向客戶端發送 DONE_IN_PROC 消息。 

29.儘可能避免大事務操做,提升系統併發能力。 

30.儘可能避免向客戶端返回大數據量,若數據量過大,應該考慮相應需求是否合理

一、避免將字段設爲「容許爲空」
二、數據表設計要規範
三、深刻分析數據操做所要對數據庫進行的操做
四、儘可能不要使用臨時表
五、多多使用事務
六、儘可能不要使用遊標
七、避免死鎖
八、要注意讀寫鎖的使用
九、不要打開大的數據集
十、不要使用服務器端遊標
十一、在程序編碼時使用大數據量的數據庫
十二、不要給「性別」列建立索引
1三、注意超時問題
1四、不要使用Select *
1五、在細節表中插入紀錄時,不要在主表執行Select MAX(ID)
1六、儘可能不要使用TEXT數據類型
1七、使用參數查詢
1八、不要使用Insert導入大批的數據
1九、學會分析查詢
20、使用參照完整性
2一、用INNER JOIN 和LEFT JOIN代替Where 


提升SQL查詢效率(要點與技巧):
· 技巧一:
問題類型:ACCESS數據庫字段中含有日文片假名或其它不明字符時查詢會提示內存溢出。
解決方法:修改查詢語句
sql="select * from tablename where column like '%"&word&"%'"
改成
sql="select * from tablename"
rs.filter = " column like '%"&word&"%'"
===========================================================
技巧二:
問題類型:如何用簡易的辦法實現相似百度的多關鍵詞查詢(多關鍵詞用空格或其它符號間隔)。
解決方法:
'//用空格分割查詢字符串
ck=split(word," ")
'//獲得分割後的數量
sck=UBound(ck)
sql="select * tablename where"
在一個字段中查詢
For i = 0 To sck
SQL = SQL & tempJoinWord & "(" & _
"column like '"&ck(i)&"%')"
tempJoinWord = " and "
Next
在二個字段中同時查詢
For i = 0 To sck
SQL = SQL & tempJoinWord & "(" & _
"column like '"&ck(i)&"%' or " & _
"column1 like '"&ck(i)&"%')"
tempJoinWord = " and "
Next
===========================================================
技巧三:大大提升查詢效率的幾種技巧

1. 儘可能不要使用 or,使用or會引發全表掃描,將大大下降查詢效率。
2. 通過實踐驗證,charindex()並不比前面加%的like更能提升查詢效率,而且charindex()會使索引失去做用(指sqlserver數據庫)
3. column like '%"&word&"%' 會使索引不起做用
column like '"&word&"%' 會使索引發做用(去掉前面的%符號)
(指sqlserver數據庫)
4. '%"&word&"%' 與'"&word&"%' 在查詢時的區別:
好比你的字段內容爲 一個容易受傷的女人
'%"&word&"%' :會通配全部字符串,不論查「受傷」仍是查「一個」,都會顯示結果。
'"&word&"%' :只通配前面的字符串,例如查「受傷」是沒有結果的,只有查「一個」,纔會顯示結果。
5. 字段提取要按照「需多少、提多少」的原則,避免「select *」,儘可能使用「select 字段1,字段2,字段3........」。實踐證實:每少提取一個字段,數據的提取速度就會有相應的提高。提高的速度還要看您捨棄的字段的大小來判斷。
6. order by按彙集索引列排序效率最高。一個sqlserver數據表只能創建一個彙集索引,通常默認爲ID,也能夠改成其它的字段。
7. 爲你的表創建適當的索引,創建索引可使你的查詢速度提升幾十幾百倍。(指sqlserver數據庫)
· 如下是創建索引與不創建索引的一個查詢效率分析:
Sqlserver索引與查詢效率分析。
表 News
字段
Id:自動編號
Title:文章標題
Author:做者
Content:內容
Star:優先級
Addtime:時間
記錄:100萬條
測試機器:P4 2.8/1G內存/IDE硬盤
=======================================================
方案1:
主鍵Id,默認爲彙集索引,不創建其它非彙集索引
select * from News where Title like '%"&word&"%' or Author like '%"&word&"%' order by Id desc
從字段Title和Author中模糊檢索,按Id排序
查詢時間:50秒
=======================================================
方案2:
主鍵Id,默認爲彙集索引
在Title、Author、Star上創建非彙集索引
select * from News where Title like '"&word&"%' or Author like '"&word&"%' order by Id desc
從字段Title和Author中模糊檢索,按Id排序
查詢時間:2 - 2.5秒
=======================================================
方案3:
主鍵Id,默認爲彙集索引
在Title、Author、Star上創建非彙集索引
select * from News where Title like '"&word&"%' or Author like '"&word&"%' order by Star desc
從字段Title和Author中模糊檢索,按Star排序
查詢時間:2 秒
=======================================================
方案4:
主鍵Id,默認爲彙集索引
在Title、Author、Star上創建非彙集索引
select * from News where Title like '"&word&"%' or Author like '"&word&"%'
從字段Title和Author中模糊檢索,不排序
查詢時間:1.8 - 2 秒
=======================================================
方案5:
主鍵Id,默認爲彙集索引
在Title、Author、Star上創建非彙集索引
select * from News where Title like '"&word&"%'

select * from News where Author like '"&word&"%'
從字段Title 或 Author中檢索,不排序
查詢時間:1秒
· 如何提升SQL語言的查詢效率?
問:請問我如何才能提升SQL語言的查詢效率呢?
答:這得從頭提及:
   因爲SQL是面向結果而不是面向過程的查詢語言,因此通常支持SQL語言的大型關係型數據庫都使用一個基於查詢成本的優化器,爲即時查詢提供一個最佳的執行策略。對於優化器,輸入是一條查詢語句,輸出是一個執行策略。
    一條SQL查詢語句能夠有多種執行策略,優化器將估計出所有執行方法中所需時間最少的所謂成本最低的那一種方法。全部優化都是基於用記所使用的查詢語句中的where子句,優化器對where子句中的優化主要用搜索參數(Serach Argument)。
    搜索參數的核心思想就是數據庫使用表中字段的索引來查詢數據,而沒必要直接查詢記錄中的數據。
    帶有 =、<、<=、>、>= 等操做符的條件語句能夠直接使用索引,以下列是搜索參數:
    emp_id = "10001" 或 salary > 3000 或  a =1 and c = 7
    而下列則不是搜索參數:
    salary = emp_salary 或 dep_id != 10 或 salary * 12 >= 3000 或 a=1 or c=7
    應當儘量提供一些冗餘的搜索參數,使優化器有更多的選擇餘地。請看如下3種方法:
    第一種方法:
    select employee.emp_name,department.dep_name from department,employee where (employee.dep_id = department.dep_id) and (department.dep_code="01") and (employee.dep_code="01");
    它的搜索分析結果以下:
    Estimate 2 I/O operations
    Scan department using primary key
    for rows where dep_code equals "01"
    Estimate getting here 1 times
    Scan employee sequentially
    Estimate getting here 5 times
    第二種方法:
    select employee.emp_name,department.dep_name from department,employee where (employee.dep_id = department.dep_id) and (department.dep_code="01");
    它的搜索分析結果以下:
    Estimate 2 I/O operations
    Scan department using primary key
    for rows where dep_code equals "01"
    Estimate getting here 1 times
    Scan employee sequentially
    Estimate getting here 5 times
    第一種方法與第二種運行效率相同,但第一種方法最好,由於它爲優化器提供了更多的選擇機會。
    第三種方法:
    select employee.emp_name,department.dep_name from department,employee where (employee.dep_id = department.dep_id) and (employee.dep_code="01");
    這種方法最很差,由於它沒法使用索引,也就是沒法優化……
使用SQL語句時應注意如下幾點:
    一、避免使用不兼容的數據類型。例如,Float和Integer,Char和Varchar,Binary和Long Binary不兼容的。數據類型的不兼容可能使優化器沒法執行一些本能夠進行的優化操做。例如:
    select emp_name form employee where salary > 3000;
    在此語句中若salary是Float類型的,則優化器很難對其進行優化,由於3000是個整數,咱們應在編程時使用3000.0而不要等運行時讓DBMS進行轉化。
    二、儘可能不要使用表達式,因它在編繹時是沒法獲得的,因此SQL只能使用其平均密度來估計將要命中的記錄數。
    三、避免對搜索參數使用其餘的數學操做符。如:
       select emp_name from employee where salary * 12 > 3000;
       應改成:
       select emp_name from employee where salary  > 250;
    四、避免使用 != 或 <> 等這樣的操做符,由於它會使系統沒法使用索引,而只能直接搜索表中的數據。
· ORACAL中的應用
一個1600萬數據表--短信上行表TBL_SMS_MO
結構:
CREATE TABLE TBL_SMS_MO
(
SMS_ID NUMBER,
MO_ID VARCHAR2(50),
MOBILE VARCHAR2(11),
SPNUMBER VARCHAR2(20),
MESSAGE VARCHAR2(150),
TRADE_CODE VARCHAR2(20),
LINK_ID VARCHAR2(50),
GATEWAY_ID NUMBER,
GATEWAY_PORT NUMBER,
MO_TIME DATE DEFAULT SYSDATE
);
CREATE INDEX IDX_MO_DATE ON TBL_SMS_MO (MO_TIME)
  PCTFREE 10
  INITRANS 2
  MAXTRANS 255
  STORAGE
  (
    INITIAL 1M
    NEXT 1M
    MINEXTENTS 1
    MAXEXTENTS UNLIMITED
    PCTINCREASE 0
  );
CREATE INDEX IDX_MO_MOBILE ON TBL_SMS_MO (MOBILE)
  PCTFREE 10
  INITRANS 2
  MAXTRANS 255
  STORAGE
  (
    INITIAL 64K
    NEXT 1M
    MINEXTENTS 1
    MAXEXTENTS UNLIMITED
    PCTINCREASE 0
  );
  問題:從表中查詢某時間段內某手機發送的短消息,以下SQL語句:
SELECT MOBILE,MESSAGE,TRADE_CODE,MO_TIME
FROM TBL_SMS_MO
WHERE MOBILE='130XXXXXXXX'
AND MO_TIME BETWEEN TO_DATE('2006-04-01','YYYY-MM-DD HH24:MI:SS') AND TO_DATE('2006-04-07','YYYY-MM-DD HH24:MI:SS')
ORDER BY MO_TIME DESC
返回結果大約須要10分鐘,應用於網頁查詢,簡直難以忍受。
分析:
在PL/SQL Developer,點擊「Explain Plan」按鈕(或F5鍵),對SQL進行分析,發現缺省使用的索引是IDX_MO_DATE。問題可能出在這裏,由於相對於總數量1600萬數據來講,都mobile的數據是不多的,若是使用IDX_MO_MOBILE比較容易鎖定數據。
以下優化:
SELECT /*+ index(TBL_SMS_MO IDX_MO_MOBILE) */ MOBILE,MESSAGE,TRADE_CODE,MO_TIME
FROM TBL_SMS_MO
WHERE MOBILE='130XXXXXXXX'
AND MO_TIME BETWEEN TO_DATE('2006-04-01','YYYY-MM-DD HH24:MI:SS') AND TO_DATE('2006-04-07','YYYY-MM-DD HH24:MI:SS')
ORDER BY MO_TIME DESC
測試:
按F8運行這個SQL,哇~... ... 2.360s,這就是差異。
相關文章
相關標籤/搜索