機(jī)器學(xué)習(xí)、人工智能應(yīng)該是近幾年最火的關(guān)鍵詞之一了。今天分享一些機(jī)器學(xué)習(xí)的基礎(chǔ)知識(shí)。如果有啥不正確的地方，歡迎各位大佬指正。

[[383223]]

01機(jī)器學(xué)習(xí)的定義

在說(shuō)機(jī)器學(xué)習(xí)之前先明確一下，什么是人類的學(xué)習(xí)行為呢?

可以這樣總結(jié)，人類從歷史經(jīng)驗(yàn)中獲取規(guī)律，并將其應(yīng)用到新的類似場(chǎng)景中，就是人類的學(xué)習(xí)行為。

相對(duì)應(yīng)的，機(jī)器學(xué)習(xí)是指讓機(jī)器去訓(xùn)練、去學(xué)習(xí)，讓機(jī)器從大量數(shù)據(jù)中找到數(shù)據(jù)中的內(nèi)在特征，從而對(duì)新事物做出判斷。

02機(jī)器學(xué)習(xí)的分類

機(jī)器學(xué)習(xí)有哪些類別呢?按照不同的分類方式，有不同的細(xì)分類別。梳理了一下，主要有以下的概況圖：

(1)按照學(xué)習(xí)目標(biāo)分類

什么是機(jī)器學(xué)習(xí)目標(biāo)呢?通俗來(lái)講，就是我們想通過(guò)機(jī)器學(xué)習(xí)，最終實(shí)現(xiàn)的結(jié)果形態(tài)是什么樣。

按照學(xué)習(xí)目標(biāo)，主要可以分為三類：回歸問(wèn)題、分類問(wèn)題、排序問(wèn)題。

• 回歸問(wèn)題：解決的是目標(biāo)是連續(xù)性變量的問(wèn)題。比如想根據(jù)身高預(yù)測(cè)體重，體重就是一個(gè)連續(xù)性變量。
• 分類問(wèn)題：解決的是目標(biāo)是離散的標(biāo)簽的問(wèn)題。比如預(yù)測(cè)一個(gè)人是男還是女。
• 排序問(wèn)題：模型輸出的是經(jīng)過(guò)排序的對(duì)象列表。

(2)按照訓(xùn)練數(shù)據(jù)的特性分類

上文提到了，進(jìn)行機(jī)器學(xué)習(xí)是需要訓(xùn)練數(shù)據(jù)為基礎(chǔ)的(不然機(jī)器沒(méi)法學(xué)習(xí)呀)。按照訓(xùn)練數(shù)據(jù)的特性，主要分為以下兩類：

• 有監(jiān)督學(xué)習(xí)：通過(guò)已有的訓(xùn)練樣本去訓(xùn)練得到一個(gè)最優(yōu)模型，再利用這個(gè)模型將所有的輸入映射為相應(yīng)的輸出，對(duì)輸出進(jìn)行簡(jiǎn)單的判斷從而實(shí)現(xiàn)預(yù)測(cè)和分類的目的，也就具有了對(duì)未知數(shù)據(jù)進(jìn)行預(yù)測(cè)和分類的能力。有監(jiān)督算法常見(jiàn)的有：線性回歸算法、BP神經(jīng)網(wǎng)絡(luò)算法、決策樹、支持向量機(jī)、KNN等。
• 無(wú)監(jiān)督學(xué)習(xí)：訓(xùn)練樣本的標(biāo)記信息未知，目標(biāo)是通過(guò)對(duì)無(wú)標(biāo)記訓(xùn)練樣本的學(xué)習(xí)來(lái)揭示數(shù)據(jù)的內(nèi)在性質(zhì)及規(guī)律，為進(jìn)一步的數(shù)據(jù)分析提供基礎(chǔ)，此類學(xué)習(xí)任務(wù)中研究最多、應(yīng)用最廣的是"聚類"，聚類目的在于把相似的東西聚在一起，主要通過(guò)計(jì)算樣本間和群體間距離得到。深度學(xué)習(xí)和PCA都屬于無(wú)監(jiān)督學(xué)習(xí)的范疇。無(wú)監(jiān)督算法常見(jiàn)的有：密度估計(jì)、異常檢測(cè)、層次聚類、EM算法、K-Means算法、DBSCAN算法等。

(3)按照模型的復(fù)雜程度分類

按照模型的復(fù)雜度，主要分為兩類：線性模型和非線性模型。

• 線性模型：決策邊界為直線。例如邏輯回歸模型。
• 非線性模型：決策邊界為非直線。例如神經(jīng)網(wǎng)絡(luò)模型。

(4)按照模型功能分類

按照模型的功能來(lái)分類，主要分為判別模型與生成模型。

• 判別模型：由數(shù)據(jù)直接學(xué)習(xí)決策函數(shù)f(x)或條件概率分布P(y|x)進(jìn)行預(yù)測(cè)的模型，其關(guān)心的是對(duì)給定的輸入x,應(yīng)該預(yù)測(cè)什么樣的輸出y。常見(jiàn)的k近鄰法、感知機(jī)、決策樹、邏輯回歸、線性回歸、最大熵模型。
• 生成模型：由數(shù)據(jù)學(xué)習(xí)輸入和輸出聯(lián)合概率分布P(x,y)，然后求出后驗(yàn)概率分布P(y|x)進(jìn)行預(yù)測(cè)的模型。常見(jiàn)的生成模型樸素貝葉斯、隱馬爾可夫(em算法)。

03機(jī)器學(xué)習(xí)的基本流程

對(duì)于一個(gè)機(jī)器學(xué)習(xí)項(xiàng)目而言，主要的流程有以下概況：

(1)數(shù)據(jù)預(yù)處理

數(shù)據(jù)清洗是檢測(cè)和去除數(shù)據(jù)集中的噪聲數(shù)據(jù)和無(wú)關(guān)數(shù)據(jù)，處理遺漏數(shù)據(jù)，去除空白數(shù)據(jù)域和知識(shí)背景下的白噪聲。

(2)數(shù)據(jù)切分

在機(jī)器學(xué)習(xí)中，通常將所有的數(shù)據(jù)劃分為三份：訓(xùn)練數(shù)據(jù)集、驗(yàn)證數(shù)據(jù)集和測(cè)試數(shù)據(jù)集。它們的功能分別為

• 訓(xùn)練數(shù)據(jù)集(train dataset)：用來(lái)構(gòu)建機(jī)器學(xué)習(xí)模型
• 驗(yàn)證數(shù)據(jù)集(validation dataset)：輔助構(gòu)建模型，用于在構(gòu)建過(guò)程中評(píng)估模型，為模型提供無(wú)偏估計(jì)，進(jìn)而調(diào)整模型超參數(shù)
• 測(cè)試數(shù)據(jù)集(test dataset)：用來(lái)評(píng)估訓(xùn)練好的最終模型的性能

關(guān)于數(shù)據(jù)如何進(jìn)行切分，后續(xù)再進(jìn)行分享。

(3)特征工程

特征構(gòu)建是指從原始數(shù)據(jù)中人工的找出一些具有物理意義的特征。需要花時(shí)間去觀察原始數(shù)據(jù)，思考問(wèn)題的潛在形式和數(shù)據(jù)結(jié)構(gòu)，對(duì)數(shù)據(jù)敏感性和機(jī)器學(xué)習(xí)實(shí)戰(zhàn)經(jīng)驗(yàn)?zāi)軒椭卣鳂?gòu)建。

關(guān)于機(jī)器學(xué)習(xí)，就先分享這些。歡迎大家繼續(xù)關(guān)注~