使用這些基本 REST API 最佳實踐構建出色的 API
明確業務問題是機器學習的先決條件，即抽象出該問題為機器學習的預測問題：需要學習什么樣的數據作為輸入，目標是得到什么樣的模型做決策作為輸出。
一個簡單的新聞分類的場景，就是學習已有的新聞及其類別標簽數據，得到一個文本分類模型，通過模型對每天新的新聞做類別預測，以歸類到每個新聞頻道。
機器學習廣泛流傳一句話：“數據和特征決定了機器學習結果的上限，而模型算法只是盡可能逼近這個上限”，意味著數據及其特征表示的質量決定了模型的最終效果，且在實際的工業應用中，算法通常占了很小的一部分，大部分的工作都是在找數據、提煉數據、分析數據及特征工程。
數據選擇是準備機器學習原料的關鍵，需要關注的是：① 數據的代表性：數據質量差或無代表性，會導致模型擬合效果差；② 數據時間范圍：對于監督學習的特征變量X及標簽Y，如與時間先后有關，則需要劃定好數據時間窗口，否則可能會導致數據泄漏，即存在和利用因果顛倒的特征變量的現象。（如預測明天會不會下雨，但是訓練數據引入明天溫濕度情況）；③ 數據業務范圍：明確與任務相關的數據表范圍，避免缺失代表性數據或引入大量無關數據作為噪音。
特征工程就是對原始數據分析處理轉化為模型可用的特征，這些特征可以更好地向預測模型描述潛在規律，從而提高模型對未見數據的準確性。特征工程按技術上可分為如下幾步：① 探索性數據分析：數據分布、缺失、異常及相關性等情況；② 數據預處理：缺失值/異常值處理，數據離散化，數據標準化等；③ 特征提取：特征表示，特征衍生，特征選擇，特征降維等；
拿到數據后，可以先做探索性數據分析（EDA）去理解數據本身的內部結構及規律，如果你對數據情況不了解也沒有相關的業務背景知識，不做相關的分析及預處理，直接將數據喂給傳統模型往往效果不太好。通過探索性數據分析，可以了解數據分布、缺失、異常及相關性等情況，利用這些基本信息做數據的處理及特征加工，可以進一步提高特征質量，靈活選擇合適的模型方法。
異常值處理
收集的數據由于人為或者自然因素可能引入了異常值（噪音），這會對模型學習進行干擾。 通常需要處理人為引起的異常值，通過業務或技術手段(如3σ準則)判定異常值，再由（正則式匹配）等方式篩選異常的信息，并結合業務情況刪除或者替換數值。
缺失值處理
數據缺失值可以通過結合業務進行填充數值、不做處理或者刪除。根據特征缺失率情況及處理方式分為以下情況：① 缺失率較高，并結合業務可以直接刪除該特征變量。經驗上可以新增一個bool類型的變量特征記錄該字段的缺失情況，缺失記為1，非缺失記為0；② 缺失率較低，結合業務可使用一些缺失值填充手段，如pandas的fillna方法、訓練回歸模型預測缺失值并填充；③ 不做處理：部分模型如隨機森林、xgboost、lightgbm能夠處理數據缺失的情況，不需要對缺失數據再做處理。
數據離散化
離散化是將連續的數據進行分段，使其變為一段段離散化的區間，分段的原則有等寬、等頻等方法。通過離散化一般可以增加抗噪能力、使特征更有業務解釋性、減小算法的時間及空間開銷（不同算法情況不一）。
數據標準化
數據各個特征變量的量綱差異很大，可以使用數據標準化消除不同分量量綱差異的影響，加速模型收斂的效率。常用的方法有：① min-max 標準化：可將數值范圍縮放到（0, 1）且無改變數據分布。max為樣本最大值，min為樣本最小值。
② z-score 標準化：可將數值范圍縮放到0附近， 經過處理的數據符合標準正態分布。是平均值，σ是標準差。
特征表示
數據需要轉換為計算機能夠處理的數值形式，圖片類的數據需要轉換為RGB三維矩陣的表示。
字符類的數據可以用多維數組表示，有Onehot獨熱編碼表示（用單獨一個位置的1來表示）、word2vetor分布式表示等；
特征衍生
基礎特征對樣本信息的表達有限，可通過特征衍生可以增加特征的非線性表達能力，提升模型效果。另外，在業務上的理解設計特征，還可以增加模型的可解釋性。(如體重除以身高就是表達健康情況的重要特征。) 特征衍生是對現有基礎特征的含義進行某種處理（聚合/轉換之類），常用方法人工設計、自動化特征衍生（圖4.15）：① 結合業務的理解做人工衍生設計：聚合的方式是指對字段聚合后求平均值、計數、最大值等。比如通過12個月工資可以加工出：平均月工資，薪資最大值 等等；轉換的方式是指對字段間做加減乘除之類。比如通過12個月工資可以加工出：當月工資收入與支出的比值、差值等等；
② 使用自動化特征衍生工具：如Featuretools等，可以使用聚合(agg_primitives)、轉換(trans_primitives)或則自定義方式暴力生成特征；
特征選擇
特征選擇的目標是尋找最優特征子集，通過篩選出顯著特征、摒棄冗余特征，減少模型的過擬合風險并提高運行效率。特征選擇方法一般分為三類：① 過濾法：計算特征的缺失情況、發散性、相關性、信息量、穩定性等類型的指標對各個特征進行評估選擇，常用如缺失率、單值率、方差驗證、pearson相關系數、chi2卡方檢驗、IV值、信息增益及PSI等方法。② 包裝法：通過每次選擇部分特征迭代訓練模型，根據模型預測效果評分選擇特征的去留，如sklearn的RFE遞歸特征消除。③ 嵌入法：直接使用某些模型訓練的到特征重要性，在模型訓練同時進行特征選擇。通過模型得到各個特征的權值系數，根據權值系數從大到小來選擇特征。常用如基于L1正則項的邏輯回歸、XGBOOST特征重要性選擇特征。
特征降維
如果特征選擇后的特征數目仍太多，這種情形下常會有數據樣本稀疏、距離計算困難的問題（稱為 “維數災難”），可以通過特征降維解決。常用的降維方法有：主成分分析法（PCA）等。
模型訓練是利用既定的模型方法去學習數據經驗的過程，這過程還需要結合模型評估以調整算法的超參數，最終選擇表現較優的模型。
訓練模型前，常用的HoldOut驗證法（此外還有留一法、k折交叉驗證等方法），把數據集分為訓練集和測試集，并可再對訓練集進一步細分為訓練集和驗證集，以方便評估模型的性能。① 訓練集（training set）：用于運行學習算法，訓練模型。② 開發驗證集（development set）用于調整超參數、選擇特征等，以選擇合適模型。③ 測試集（test set）只用于評估已選擇模型的性能，但不會據此改變學習算法或參數。###3.2 模型方法選擇 結合當前任務及數據情況選擇合適的模型方法，常用的方法如下圖 ，scikit-learn模型方法的選擇。此外還可以結合多個模型做模型融合。
模型的訓練過程即學習數據經驗得到較優模型及對應參數（如神經網絡最終學習到較優的權重值）。整個訓練過程還需要通過調節超參數（如神經網絡層數、梯度下降的學習率)進行控制優化的。調節超參數是一個基于數據集、模型和訓練過程細節的實證過程，需要基于對算法的原理理解和經驗，借助模型在驗證集的評估進行參數調優，此外還有自動調參技術：網格搜索、隨機搜索及貝葉斯優化等。
機器學習的直接目的是學（擬合）到“好”的模型，不僅僅是學習過程中對訓練數據的良好的學習預測能力，根本上在于要對新數據能有很好的預測能力（泛化能力），所以客觀地評估模型性能至關重要。技術上常根據訓練集及測試集的指標表現，評估模型的性能。
常用的評估標準有查準率P、查全率R及兩者調和平均F1-score 等，并由混淆矩陣的統計相應的個數計算出數值：
查準率是指分類器分類正確的正樣本（TP）的個數占該分類器所有預測為正樣本個數（TP+FP）的比例；查全率是指分類器分類正確的正樣本個數（TP）占所有的正樣本個數（TP+FN）的比例。F1-score是查準率P、查全率R的調和平均：
評估回歸模型
常用的評估指標有MSE均方誤差等。反饋的是預測數值與實際值的擬合情況。
評估聚類模型
可分為兩類方式，一類將聚類結果與某個“參考模型”的結果進行比較，稱為“外部指標”（external index）：如蘭德指數，FM指數等。另一類是直接考察聚類結果而不利用任何參考模型，稱為“內部指標”（internal index）：如緊湊度、分離度等。
訓練機器學習模型所使用的數據樣本集稱之為訓練集（training set）， 在訓練數據的誤差稱之為訓練誤差（training error），在測試數據上的誤差，稱之為測試誤差（test error）或泛化誤差 （generalization error）。
描述模型擬合（學習）程度常用欠擬合、擬合良好、過擬合，我們可以通過訓練誤差及測試誤差評估模型的擬合程度。從整體訓練過程來看，欠擬合時訓練誤差和測試誤差均較高，隨著訓練時間及模型復雜度的增加而下降。在到達一個擬合最優的臨界點之后，訓練誤差下降，測試誤差上升，這個時候就進入了過擬合區域。
欠擬合是指相較于數據而言模型結構過于簡單，以至于無法學習到數據中的規律。過擬合是指模型只過分地匹配訓練數據集，以至于對新數據無良好地擬合及預測。其本質是較復雜模型從訓練數據中學習到了統計噪聲導致的。分析模型擬合效果并對模型進行優化，常用的方法有：
決策應用是機器學習最終目的，對模型預測信息加以分析解釋，并應用于實際的工作領域。需要注意的是，工程上是結果導向，模型在線上運行的效果直接決定模型的成敗，不僅僅包括其準確程度、誤差等情況，還包括其運行的速度(時間復雜度)、資源消耗程度（空間復雜度）、穩定性的綜合考慮。
項目的實驗數據來源著名的UCI機器學習數據庫，該數據庫有大量的人工智能數據挖掘數據。本例選用的是sklearn上的數據集版本：Breast Cancer Wisconsin DataSet(威斯康星州乳腺癌數據集)，這些數據來源美國威斯康星大學醫院的臨床病例報告，每條樣本有30個特征屬性，標簽為是否良性腫瘤，即有監督分類預測的問題。?項目的建模思路是通過分析乳腺癌數據集數據，特征工程，構建邏輯回歸模型學習數據，預測樣本的類別是否為良性腫瘤。
導入相關的Python庫，加載cancer數據集，查看數據介紹， 并轉為DataFrame格式。
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from keras.models import Sequential
from keras.layers import Dense, Dropout
from keras.utils import plot_model
from sklearn import datasets
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import train_test_split
from sklearn.metrics import precision_score, recall_score, f1_scoredataset_cancer = datasets.load_breast_cancer() # 加載癌細胞數據集
print(dataset_cancer['DESCR'])
df = pd.DataFrame(dataset_cancer.data, columns=dataset_cancer.feature_names)
df['label'] = dataset_cancer.target
print(df.shape)
df.head()
探索性數據分析EDA：使用pandas_profiling庫分析數據數值情況，缺失率及相關性等。
import pandas_profiling
pandas_profiling.ProfileReport(df, title='Breast Cancer DataSet EDA')
特征工程方面主要的分析及處理有：
● 分析特征無明顯異常值及缺失的情況，無需處理；
● 已有mean/standard error等衍生特征，無需特征衍生；
● 結合相關性等指標做特征選擇（過濾法）；
● 對特征進行標準化以加速模型學習過程；
# 篩選相關性>0.99的特征清單列表及標簽
drop_feas = ['label','worst_radius','mean_radius']
# 選擇標簽y及特征x
y = df.label
x = df.drop(drop_feas,axis=1) # 刪除相關性強特征及標簽列
# holdout驗證法： 按3：7劃分測試集 訓練集
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.3)
# 特征z-score 標準化
sc = StandardScaler()
x_train = sc.fit_transform(x_train) # 注：訓練集測試集要分別標準化，以免測試集信息泄露到模型訓練
x_test = sc.transform(x_test) 模型訓練：使用keras搭建邏輯回歸模型，訓練模型，觀察模型訓練集及驗證集的loss損失
_dim = x_train.shape[1] # 輸入模型的特征數
# LR邏輯回歸模型
model = Sequential()
model.add(Dense(1, input_dim=_dim, activation='sigmoid',bias_initializer='uniform')) # 添加網絡層，激活函數sigmoid
model.summary()
plot_model(model,show_shapes=True)model.compile(optimizer='adam', loss='binary_crossentropy') #模型編譯：選擇交叉熵損失函數及adam梯度下降法優化算法
model.fit(x, y, validation_split=0.3, epochs=200) # 模型迭代訓練: validation_split比例0.3, 迭代epochs200次
# 模型訓練集及驗證集的損失
plt.figure()
plt.plot(model.history.history['loss'],'b',label='Training loss')
plt.plot(model.history.history['val_loss'],'r',label='Validation val_loss')
plt.title('Traing and Validation loss')
plt.legend()
以測試集F1-score等指標的表現，評估模型的泛化能力。最終測試集的f1-score有88%，有較好的模型表現。
def model_metrics(model, x, y):
"""
評估指標
"""
yhat = model.predict(x).round() # 模型預測yhat，預測閾值按默認0.5劃分
result = {
'f1_score': f1_score(y, yhat),
'precision':precision_score(y, yhat),
'recall':recall_score(y, yhat)
}
return result
# 模型評估結果
print("TRAIN")
print(model_metrics(model, x_train, y_train))
print("TEST")
print(model_metrics(model, x_test, y_test))本文章轉載微信公眾號@算法進階