ml/ library Learn by doing
ALGORITHM 32 · PYTHON / JAVASCRIPT

Gaussian Mixture Model

แทนข้อมูลด้วยการผสม Gaussian หลายก้อนพร้อมความน่าจะเป็นสมาชิก

LEARNING LEVEL2
ต่อยอดโดยตรงควรรู้มาก่อน · K-Means และ Maximum Likelihood Estimation
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — Gaussian Mixture Model สมมติว่าข้อมูลเกิดจาก Gaussian หลาย component แล้วใช้ EM สลับคำนวณ responsibility กับอัปเดตค่าเฉลี่ย covariance และน้ำหนักผสม

ลองนึกภาพว่า — เหมือนแยกเสียงเพลงที่ซ้อนกัน โดยคำนวณว่าแต่ละช่วงน่าจะมาจากเครื่องดนตรีใดกี่เปอร์เซ็นต์

ตัวอย่างการนำไปใช้ — soft clustering ประมาณ density และค้นหากลุ่มทรงวงรี

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Gaussian Mixture Model เริ่มจากคำถามง่าย ๆ ว่า แทนข้อมูลด้วยการผสม Gaussian หลายก้อนพร้อมความน่าจะเป็นสมาชิก วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนแยกเสียงเพลงที่ซ้อนกัน โดยคำนวณว่าแต่ละช่วงน่าจะมาจากเครื่องดนตรีใดกี่เปอร์เซ็นต์ ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

Gaussian Mixture Model สมมติว่าข้อมูลเกิดจาก Gaussian หลาย component แล้วใช้ EM สลับคำนวณ responsibility กับอัปเดตค่าเฉลี่ย covariance และน้ำหนักผสม พารามิเตอร์หลักใน Playground คือ จำนวน Gaussian components เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ พิกัด 2 มิติ · 3 Gaussian components เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น soft clustering ประมาณ density และค้นหากลุ่มทรงวงรี ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: responsibility=[0.8,0.15,0.05] พร้อมจำข้อจำกัดสำคัญว่า อาจติด local optimum ต้องลองหลาย initialization และ Gaussian อาจไม่เหมาะกับกลุ่มรูปร่างซับซ้อน

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    X เป็น feature ต่อเนื่องที่สเกลเหมาะสม ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ n_components เพื่อจำนวน Gaussian และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    E-step คำนวณ responsibility ของแต่ละ component จากนั้น M-step อัปเดต mean covariance และ mixing weight Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    วนเพิ่ม log-likelihood จนลู่เข้า ผลที่ได้คือ soft probabilities, labels และพารามิเตอร์ Gaussian ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ n_components ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า อาจติด local optimum ต้องลองหลาย initialization และ Gaussian อาจไม่เหมาะกับกลุ่มรูปร่างซับซ้อน

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · features · no target yพิกัด 2 มิติ · 3 Gaussian components
CALCULATEGaussian Mixture Model
n_componentscovariance_typereg_covar
RESULTcluster labels + centersresponsibility=[0.8,0.15,0.05]
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

X เป็น feature ต่อเนื่องที่สเกลเหมาะสม

พิกัด 2 มิติ · 3 Gaussian components
PARAMETERS

พารามิเตอร์ที่ใช้

n_components
จำนวน Gaussian
covariance_type
รูปแบบ covariance ของแต่ละ component
reg_covar
ค่าบวกช่วยให้ covariance คำนวณได้เสถียร
OUTPUT

ผลลัพธ์ที่ได้

soft probabilities, labels และพารามิเตอร์ Gaussian

responsibility=[0.8,0.15,0.05]
CALCULATION

คำนวณทีละขั้น

  1. 01

    E-step คำนวณ responsibility ของแต่ละ component

  2. 02

    M-step อัปเดต mean covariance และ mixing weight

  3. 03

    วนเพิ่ม log-likelihood จนลู่เข้า

ควรรู้อีกนิด — อาจติด local optimum ต้องลองหลาย initialization และ Gaussian อาจไม่เหมาะกับกลุ่มรูปร่างซับซ้อน

04Make it yours

Python · scikit-learn
# ติดตั้ง: pip install numpy scikit-learnimport numpy as np data = np.genfromtxt("gaussian-mixture-model-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] from sklearn.mixture import GaussianMixturefrom sklearn.metrics import silhouette_score # sample.csv ใช้หน่วยเดียวกันทั้งสองแกน; ข้อมูลจริงควรปรับสเกลใน pipelinemodel = GaussianMixture(n_components=3, covariance_type="full", n_init=5, random_state=42)labels = model.fit_predict(X)print("Labels:", labels)print("Groups:", np.unique(labels, return_counts=True))valid = labels >= 0if valid.sum() > 2 and 1 < len(np.unique(labels[valid])) < valid.sum():    print("Silhouette:", silhouette_score(X[valid], labels[valid]))print("Responsibilities:", model.predict_proba(X[:5]))print("Converged:", model.converged_)

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

ปรับ จำนวน Gaussian components แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที

Sample dataset / Unlabeled points● คำนวณใหม่เมื่อปรับค่า
จำนวน distribution ที่นำมาผสม
กากบาทดำคือ centroid จาก mini batch123กากบาท = centroid · สี = กลุ่มที่เรียนรู้
Mean responsibility0.988
Covariancediagonal/isotropic
พารามิเตอร์ที่ลอง3

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ scikit-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง