處理缺失的數(shù)據(jù)并不是一件容易的事。 方法的范圍從簡單的均值插補和觀察值的完全刪除到像MICE這樣的更高級的技術。 解決問題的挑戰(zhàn)性是選擇使用哪種方法。 今天，我們將探索一種簡單但高效的填補缺失數(shù)據(jù)的方法-KNN算法。

KNN代表" K最近鄰居"，這是一種簡單算法，可根據(jù)定義的最接近鄰居數(shù)進行預測。 它計算從您要分類的實例到訓練集中其他所有實例的距離。

正如標題所示，我們不會將算法用于分類目的，而是填充缺失值。 本文將使用房屋價格數(shù)據(jù)集，這是一個簡單而著名的數(shù)據(jù)集，僅包含500多個條目。

這篇文章的結構如下：

• 數(shù)據(jù)集加載和探索
• KNN歸因
• 歸因優(yōu)化
•  結論

數(shù)據(jù)集加載和探索

如前所述，首先下載房屋數(shù)據(jù)集。 另外，請確保同時導入了Numpy和Pandas。 這是前幾行的外觀：

默認情況下，數(shù)據(jù)集缺失值非常低-單個屬性中只有五個：

讓我們改變一下。 您通常不會這樣做，但是我們需要更多缺少的值。 首先，我們創(chuàng)建兩個隨機數(shù)數(shù)組，其范圍從1到數(shù)據(jù)集的長度。 第一個數(shù)組包含35個元素，第二個數(shù)組包含20個(任意選擇)：

i1 = np.random.choice(a=df.index, size=35)  
i2 = np.random.choice(a=df.index, size=20) 

這是第一個數(shù)組的樣子：

您的數(shù)組將有所不同，因為隨機化過程是隨機的。 接下來，我們將用NAN替換特定索引處的現(xiàn)有值。 這是如何做：

df.loc[i1, 'INDUS'] = np.nan  
df.loc[i2, 'TAX'] = np.nan 

現(xiàn)在，讓我們再次檢查缺失值-這次，計數(shù)有所不同：

這就是我們從歸因開始的全部前置工作。 讓我們在下一部分中進行操作。

KNN歸因

整個插補可歸結為4行代碼-其中之一是庫導入。 我們需要sklearn.impute中的KNNImputer，然后以一種著名的Scikit-Learn方式創(chuàng)建它的實例。 該類需要一個強制性參數(shù)– n_neighbors。 它告訴冒充參數(shù)K的大小是多少。

首先，讓我們選擇3的任意數(shù)字。稍后我們將優(yōu)化此參數(shù)，但是3足以啟動。 接下來，我們可以在計算機上調用fit_transform方法以估算缺失的數(shù)據(jù)。

最后，我們將結果數(shù)組轉換為pandas.DataFrame對象，以便于解釋。 這是代碼：

from sklearn.impute import KNNImputer 
 
imputer = KNNImputer(n_neighbors=3) 
imputed = imputer.fit_transform(df) 
df_imputed = pd.DataFrame(imputed, columns=df.columns) 

非常簡單。 讓我們現(xiàn)在檢查缺失值：

盡管如此，仍然存在一個問題-我們如何為K選擇正確的值?

歸因優(yōu)化

該住房數(shù)據(jù)集旨在通過回歸算法進行預測建模，因為目標變量是連續(xù)的(MEDV)。 這意味著我們可以訓練許多預測模型，其中使用不同的K值估算缺失值，并查看哪個模型表現(xiàn)最佳。

但首先是導入。 我們需要Scikit-Learn提供的一些功能-將數(shù)據(jù)集分為訓練和測試子集，訓練模型并進行驗證。 我們選擇了"隨機森林"算法進行訓練。 RMSE用于驗證：

from sklearn.model_selection import train_test_split 
from sklearn.ensemble import RandomForestRegressor 
from sklearn.metrics import mean_squared_error 
 
rmse = lambda y, yhat: np.sqrt(mean_squared_error(y, yhat)) 

以下是執(zhí)行優(yōu)化的必要步驟：

迭代K的可能范圍-1到20之間的所有奇數(shù)都可以

• 使用當前的K值執(zhí)行插補
• 將數(shù)據(jù)集分為訓練和測試子集
• 擬合隨機森林模型
• 預測測試集
• 使用RMSE進行評估

聽起來很多，但可以歸結為大約15行代碼。 這是代碼段：

def optimize_k(data, target): 
    errors = [] 
    for k in range(1, 20, 2): 
        imputer = KNNImputer(n_neighbors=k) 
        imputed = imputer.fit_transform(data) 
        df_imputed = pd.DataFrame(imputed, columns=df.columns) 
         
        X = df_imputed.drop(target, axis=1) 
        y = df_imputed[target] 
        X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) 
 
        model = RandomForestRegressor() 
        model.fit(X_train, y_train) 
        preds = model.predict(X_test) 
        error = rmse(y_test, preds) 
        errors.append({'K': k, 'RMSE': error}) 
         
    return errors 

現(xiàn)在，我們可以使用修改后的數(shù)據(jù)集(在3列中缺少值)調用optimize_k函數(shù)，并傳入目標變量(MEDV)：

k_errors = optimize_k(data=df, target='MEDV') 

就是這樣! k_errors數(shù)組如下所示：

以視覺方式表示：

看起來K = 15是給定范圍內的最佳值，因為它導致最小的誤差。 我們不會涵蓋該錯誤的解釋，因為它超出了本文的范圍。 讓我們在下一節(jié)中總結一下。

總結

編寫處理缺少數(shù)據(jù)歸因的代碼很容易，因為有很多現(xiàn)有的算法可以讓我們直接使用。 但是我們很難理解里面原因-了解應該推定哪些屬性，不應該推算哪些屬性。 例如，可能由于客戶未使用該類型的服務而缺失了某些值，因此沒有必要執(zhí)行估算。

最終確定是否需要進行缺失數(shù)據(jù)的處理，還需要有領域的專業(yè)知識，與領域專家進行咨詢并研究領域是一種很好的方法。