考慮一種棘手的情況：訓練數據中大部分樣本沒有標簽。此時，我們可以考慮使用半監督學習方法來處理。半監督學習能夠利用這些額外的未標記數據，更好地捕捉數據分布的潛在形狀，并在新樣本上的泛化能力更強。當我們只有非常少量的已標記數據，同時有大量未標記數據點時，這種算法可以表現得非常出色。

在sklearn中，基于圖算法的半監督學習有Label Propagation和Label Spreading兩種。他們的主要區別是第二種方法帶有正則化機制。

一、Label Propagation

基本原理：

Label Propagation算法基于圖理論。算法首先構建一個圖，其中每個節點代表一個數據點，無論是標記的還是未標記的。節點之間的邊代表數據點之間的相似性。算法的目的是通過圖傳播標簽信息，使未標記數據獲得標簽。

關鍵特點：

相似性度量：通常使用K近鄰（KNN）或者基于核的方法來定義數據點之間的相似性。

標簽傳播：標簽信息從標記數據點傳播到未標記數據點，通過迭代過程實現。

適用場景：適合于數據量較大、標記數據稀缺的情況。

二、Label Spreading

基本原理：

Label Spreading和Label Propagation非常相似，但在處理標簽信息和正則化方面有所不同。它同樣基于構建圖來傳播標簽。

關鍵特點：

正則化機制：Label Spreading引入了正則化參數，可以控制標簽傳播的過程，使算法更加健壯。

穩定性：由于正則化的存在，Label Spreading在面對噪聲數據時通常比Label Propagation更穩定。

適用場景：同樣適用于有大量未標記數據的情況，尤其當數據包含噪聲時。

本文首先介紹Label Propagation，帶有正則的Label Spreading 將在下篇介紹。首先生成一些凹的數據。

# 生成環形數據
import numpy as np
from sklearn.datasets import make_circles
X, y = make_circles(n_samples=200, shuffle=False)
outer, inner = 0, 1
labels = np.full(200, -1.0)
labels[0] = outer
labels[-1] = inner

# 畫圖
import matplotlib.pyplot as plt
plt.figure(figsize=(4, 4))
plt.scatter(X[labels == outer, 0], X[labels == outer, 1],)
plt.scatter(X[labels == inner, 0], X[labels == inner, 1],)
plt.scatter(X[labels == -1, 0], X[labels == -1, 1], marker=".",);

標簽處理是CDA數據分析師二級考試的核心內容，在給工商銀行等銀行做內訓時，這一部分技能是銀行最重視的，因為銀行防作弊放欺詐最核心的就是對用戶打標簽，如果大家想提升這塊的能力，點擊下方鏈接。

Label Propagation算法的迭代計算過程是基于圖論原理的。在這個過程中，算法首先構建一個圖，其中每個節點代表一個數據點，然后通過圖中的連接來傳播標簽信息。下面是詳細的步驟介紹：

1、構建圖

?首先，算法構建一個圖，圖中的每個節點代表一個數據樣本。這些節點包括已標記的節點和未標記的節點。

2、確定相似性權重

在圖中，節點之間的邊代表數據點之間的相似性。這種相似性通常通過一些度量來計算，比如歐幾里得距離（用于K近鄰方法）或者基于核的相似性函數（如高斯核）。每條邊的權重反映了兩個節點之間的相似度。

3、初始化標簽信息

對于每個數據點，算法維護一個標簽分布向量。對于已標記的數據點，這個向量直接反映了其標簽信息。對于未標記的數據點，標簽分布初始通常是均勻的，或者用其他方式初始化。

4、迭代更新標簽?????????

接下來，算法進入迭代過程。在每次迭代中，每個未標記節點的標簽信息會根據其鄰居節點（包括已標記和未標記的節點）的標簽信息進行更新。具體來說，一個節點的新標簽分布是其所有鄰居節點的標簽分布的加權平均，權重由相似性權重決定。

5、歸一化

更新完所有未標記節點的標簽分布后，通常需要對這些分布進行歸一化處理，以確保它們表示有效的概率分布。

6、收斂判斷

這個過程會不斷迭代，直到達到某個收斂條件，比如迭代次數達到預設的上限，或者標簽分布的變化小于某個閾值。

7、確定最終標簽

一旦算法收斂，每個未標記數據點的標簽被確定為其標簽分布中概率最高的標簽。

# Label Propagation
from sklearn.semi_supervised import LabelPropagation

label_propagation = LabelPropagation(kernel="knn")
label_propagation.fit(X, labels)

# Label Propagation打標簽后的結果
output= np.asarray(label_propagation.transduction_)
outer_numbers = np.where(output == outer)[0]
inner_numbers = np.where(output == inner)[0]

plt.figure(figsize=(4, 4))
plt.scatter(X[outer_numbers, 0], X[outer_numbers, 1],)
plt.scatter(X[inner_numbers, 0], X[inner_numbers, 1],);

注意參數kernel="knn"?？梢园l現，若把kernel換成rbf，則無法得到正確傳播結果。這是因為rbf是考慮全局的數據分布，因此內圈初始的標簽擴散出去后很難被更新。KNN只考慮局部，不會出現此問題。

KNN 圖

• 數據量大，計算資源有限。

• 數據點分布稀疏，且局部鄰域信息足夠區分標簽（如聚類明顯的情況下）。

RBF 圖

• 數據量較小或中等，計算資源充足。

• 數據點分布緊密，且需要捕獲全局信息（如圖像或文本的復雜分布）。

抓住機遇，狠狠提升自己

隨著各行各業進行數字化轉型，數據分析能力已經成了職場的剛需能力，這也是這兩年CDA數據分析師大火的原因。和領導提建議再說“我感覺”“我覺得”，自己都覺得心虛，如果說“數據分析發現……”，肯定更有說服力。想在職場精進一步還是要學習數據分析的，統計學、概率論、商業模型、SQL，Python還是要會一些，能讓你工作效率提升不少。備考CDA數據分析師的過程就是個自我提升的過程。

CDA 考試官方報名入口:https://www.cdaglobal.com/pinggu.html