【原】關於使用sklearn進行數據預處理 —— 歸一化/標準化/正則化
1、標準化（Z-Score），或者去除均值和方差縮放
公式爲：(X-mean)/std 計算時對每一個屬性/每列分別進行。python
將數據定期屬性（按列進行）減去其均值，並處以其方差。獲得的結果是，對於每一個屬性/每列來講全部數據都彙集在0附近，方差爲1。函數
實現時，有兩種不一樣的方式：測試
-
使用sklearn.preprocessing.scale()函數，能夠直接將給定數據進行標準化。spa
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
>>> from sklearn
import
preprocessing
>>>
import
numpy
as
np
>>> X = np.array([[
1
., -
1
.,
2
.],
... [
2
.,
0
.,
0
.],
... [
0
.,
1
., -
1
.]])
>>> X_scaled = preprocessing.scale(X)
>>> X_scaled
array([[
0
. ..., -
1.22
...,
1.33
...],
[
1.22
...,
0
. ..., -
0.26
...],
[-
1.22
...,
1.22
..., -
1.06
...]])
>>>#處理後數據的均值和方差
>>> X_scaled.mean(axis=
0
)
array([
0
.,
0
.,
0
.])
>>> X_scaled.std(axis=
0
)
array([
1
.,
1
.,
1
.])
|
使用sklearn.preprocessing.StandardScaler類，使用該類的好處在於能夠保存訓練集中的參數（均值、方差）直接使用其對象轉換測試集數據。code
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
>>> scaler
=
preprocessing.StandardScaler().fit(X)
>>> scaler
StandardScaler(copy
=
True
, with_mean
=
True
, with_std
=
True
)
>>> scaler.mean_
array([
1.
...,
0.
...,
0.33
...])
>>> scaler.std_
array([
0.81
...,
0.81
...,
1.24
...])
>>> scaler.transform(X)
array([[
0.
...,
-
1.22
...,
1.33
...],
[
1.22
...,
0.
...,
-
0.26
...],
[
-
1.22
...,
1.22
...,
-
1.06
...]])
>>>
#能夠直接使用訓練集對測試集數據進行轉換
>>> scaler.transform([[
-
1.
,
1.
,
0.
]])
array([[
-
2.44
...,
1.22
...,
-
0.26
...]])
|
2、將屬性縮放到一個指定範圍
除了上述介紹的方法以外，另外一種經常使用的方法是將屬性縮放到一個指定的最大和最小值（一般是1-0）之間，這能夠經過preprocessing.MinMaxScaler類實現。orm
使用這種方法的目的包括：對象
一、對於方差很是小的屬性能夠加強其穩定性。blog
二、維持稀疏矩陣中爲0的條目。ci
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
>>> X_train
=
np.array([[
1.
,
-
1.
,
2.
],
... [
2.
,
0.
,
0.
],
... [
0.
,
1.
,
-
1.
]])
...
>>> min_max_scaler
=
preprocessing.MinMaxScaler()
>>> X_train_minmax
=
min_max_scaler.fit_transform(X_train)
>>> X_train_minmax
array([[
0.5
,
0.
,
1.
],
[
1.
,
0.5
,
0.33333333
],
[
0.
,
1.
,
0.
]])
>>>
#將相同的縮放應用到測試集數據中
>>> X_test
=
np.array([[
-
3.
,
-
1.
,
4.
]])
>>> X_test_minmax
=
min_max_scaler.transform(X_test)
>>> X_test_minmax
array([[
-
1.5
,
0.
,
1.66666667
]])
>>>
#縮放因子等屬性
>>> min_max_scaler.scale_
array([
0.5
,
0.5
,
0.33
...])
>>> min_max_scaler.min_
array([
0.
,
0.5
,
0.33
...])
|
固然，在構造類對象的時候也能夠直接指定最大最小值的範圍：feature_range=(min, max)，此時應用的公式變爲：string
X_std=(X-X.min(axis=0))/(X.max(axis=0)-X.min(axis=0))
X_scaled=X_std/(max-min)+min
3、正則化（Normalization）
正則化的過程是將每一個樣本縮放到單位範數（每一個樣本的範數爲1），若是後面要使用如二次型（點積）或者其它核方法計算兩個樣本之間的類似性這個方法會頗有用。
Normalization主要思想是對每一個樣本計算其p-範數，而後對該樣本中每一個元素除以該範數，這樣處理的結果是使得每一個處理後樣本的p-範數（l1-norm,l2-norm）等於1。
p-範數的計算公式：||X||p=(|x1|^p+|x2|^p+...+|xn|^p)^1/p
該方法主要應用於文本分類和聚類中。例如，對於兩個TF-IDF向量的l2-norm進行點積，就能夠獲得這兩個向量的餘弦類似性。
一、可使用preprocessing.normalize()函數對指定數據進行轉換：
|
1
2
3
4
5
6
7
8
9
|
>>> X
=
[[
1.
,
-
1.
,
2.
],
... [
2.
,
0.
,
0.
],
... [
0.
,
1.
,
-
1.
]]
>>> X_normalized
=
preprocessing.normalize(X, norm
=
'l2'
)
>>> X_normalized
array([[
0.40
...,
-
0.40
...,
0.81
...],
[
1.
...,
0.
...,
0.
...],
[
0.
...,
0.70
...,
-
0.70
...]])
|
二、可使用processing.Normalizer()類實現對訓練集和測試集的擬合和轉換：
|
1
2
3
4
5
6
7
8
9
10
11
12
|
>>> normalizer
=
preprocessing.Normalizer().fit(X)
# fit does nothing
>>> normalizer
Normalizer(copy
=
True
, norm
=
'l2'
)
>>>
>>> normalizer.transform(X)
array([[
0.40
...,
-
0.40
...,
0.81
...],
[
1.
...,
0.
...,
0.
...],
[
0.
...,
0.70
...,
-
0.70
...]])
>>> normalizer.transform([[
-
1.
,
1.
,
0.
]])
array([[
-
0.70
...,
0.70
...,
0.
...]])
|
補充：
相關文章
- 1. 使用sklearn進行數據預處理 —— 歸一化/標準化/正則化
- 2. 使用sklearn實現數據預處理 —— 歸一化/標準化/正則化
- 3. Python數據預處理—歸一化，標準化，正則化
- 4. [Scikit-Learn] - 數據預處理 - 歸一化/標準化/正則化
- 5. 數據預處理：標準化，歸一化，正則化 - 知乎
- 6. 標準化歸一化正則化
- 7. 標準化、歸一化、正則化
- 8. 歸一化、標準化和正則化
- 9. Python數據預處理(sklearn.preprocessing)—歸一化(MinMaxScaler)，標準化(StandardScaler)，正則化(Normalizer, normalize).
- 10. 機器學習：數據預處理之標準化、歸一化、正則化
- 更多相關文章...
- • Web 語義化 - 網站建設指南
- • Scala 函數柯里化(Currying) - Scala教程
- • Git可視化極簡易教程 — Git GUI使用方法
- • Java Agent入門實戰（三）-JVM Attach原理與使用
相關標籤/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
最新文章
- 1. 融合阿里雲，牛客助您找到心儀好工作
- 2. 解決jdbc(jdbctemplate)在測試類時不報錯在TomCatb部署後報錯
- 3. 解決PyCharm GoLand IntelliJ 等 JetBrains 系列 IDE無法輸入中文
- 4. vue+ant design中關於圖片請求不顯示的問題。
- 5. insufficient memory && Native memory allocation (malloc) failed
- 6. 解決IDEA用Maven創建的Web工程不能創建Java Class文件的問題
- 7. [已解決] Error: Cannot download ‘https://start.spring.io/starter.zip?
- 8. 在idea讓java文件夾正常使用
- 9. Eclipse啓動提示「subversive connector discovery」
- 10. 帥某-技巧-快速轉帖博主文章（article_content）
歡迎關注本站公眾號,獲取更多信息
相關文章
- 1. 使用sklearn進行數據預處理 —— 歸一化/標準化/正則化
- 2. 使用sklearn實現數據預處理 —— 歸一化/標準化/正則化
- 3. Python數據預處理—歸一化，標準化，正則化
- 4. [Scikit-Learn] - 數據預處理 - 歸一化/標準化/正則化
- 5. 數據預處理：標準化，歸一化，正則化 - 知乎
- 6. 標準化歸一化正則化
- 7. 標準化、歸一化、正則化
- 8. 歸一化、標準化和正則化
- 9. Python數據預處理(sklearn.preprocessing)—歸一化(MinMaxScaler)，標準化(StandardScaler)，正則化(Normalizer, normalize).
- 10. 機器學習：數據預處理之標準化、歸一化、正則化