python：經常使用的幾種預處理方法

標準化

變換後各維特徵有0均值，單位方差。也叫z-score規範化（零均值規範化）。計算方式是將特徵值減去均值，除以標準差。

1. from sklearn.preprocessing import scale
2. X = np.array([[ 1., -1., 2.],[ 2., 0., 0.],[ 0., 1., -1.]])
3. scale(X)

通常會把train和test集放在一塊兒作標準化，或者在train集上作標準化後，用一樣的標準化器去標準化test集，此時能夠用scaler

1. from sklearn.preprocessing import StandardScaler
2. scaler = StandardScaler().fit(train)
3. scaler.transform(train)
4. scaler.transform(test)

最小-最大規範化

最小-最大規範化對原始數據進行線性變換，變換到[0,1]區間（也能夠是其餘固定最小最大值的區間）

1. min_max_scaler = sklearn.preprocessing.MinMaxScaler()
2. min_max_scaler.fit_transform(X_train)

規範化:正則化

規範化是將不一樣變化範圍的值映射到相同的固定範圍，常見的是[0,1]，此時也稱爲歸一化。《機器學習》周志華

1. X = [[ 1, -1, 2],[ 2, 0, 0], [ 0, 1, -1]]
2. sklearn.preprocessing.normalize(X, norm='l2')

1. array([[ 0.40, -0.40, 0.81], [ 1, 0, 0], [ 0, 0.70, -0.70]])

能夠發現對於每個樣本都有，0.4^2+0.4^2+0.81^2=1,這就是L2 norm，變換後每一個樣本的各維特徵的平方和爲1。相似地，L1 norm則是變換後每一個樣本的各維特徵的絕對值和爲1。還有max norm，則是將每一個樣本的各維特徵除以該樣本各維特徵的最大值。
在度量樣本之間類似性時，若是使用的是二次型kernel，須要作Normalization

特徵二值化

給定閾值，將特徵轉換爲0/1

1. binarizer = sklearn.preprocessing.Binarizer(threshold=1.1)
2. binarizer.transform(X)

標籤二值化

1. from sklearn import preprocessing
2. lb = preprocessing.LabelBinarizer()
3. lb.fit([1, 2, 6, 4, 2])
4. lb.classes_
5. array([1, 2, 4, 6])
6. lb.transform([1, 6])#必須[1, 2, 6, 4, 2]裏面
7. array([[1, 0, 0, 0],
8. [0, 0, 0, 1]])

類別特徵編碼

有時候特徵是類別型的，而一些算法的輸入必須是數值型，此時須要對其編碼。
下面這個例子，第一維特徵有兩種值0和1，用兩位去編碼。第二維用三位，第三維用四位。

1. enc = preprocessing.OneHotEncoder()
2. enc.fit([[0, 0, 3], [1, 1, 0], [0, 2, 1], [1, 0, 2]])
3. enc.transform([[0, 1, 3]]).toarray() #array([[ 1., 0., 0., 1., 0., 0., 0., 0., 1.]])

標籤編碼

1. le = sklearn.preprocessing.LabelEncoder()
2. le.fit([1, 2, 2, 6])
3. le.transform([1, 1, 2, 6]) #array([0, 0, 1, 2])
4. #非數值型轉化爲數值型
5. le.fit(["paris", "paris", "tokyo", "amsterdam"])
6. le.transform(["tokyo", "tokyo", "paris"]) #array([2, 2, 1])

含有異常值

1. sklearn.preprocessing.robust_scale

生成多項式

這個其實涉及到特徵工程了，多項式特徵/交叉特徵

原始特徵

轉化後

1. poly = sklearn.preprocessing.PolynomialFeatures(2)
2. poly.fit_transform(X)