01Overall Concept
ไอเดียหลัก — Gaussian Mixture Model สมมติว่าข้อมูลเกิดจาก Gaussian หลาย component แล้วใช้ EM สลับคำนวณ responsibility กับอัปเดตค่าเฉลี่ย covariance และน้ำหนักผสม
ลองนึกภาพว่า — เหมือนแยกเสียงเพลงที่ซ้อนกัน โดยคำนวณว่าแต่ละช่วงน่าจะมาจากเครื่องดนตรีใดกี่เปอร์เซ็นต์
ตัวอย่างการนำไปใช้ — soft clustering ประมาณ density และค้นหากลุ่มทรงวงรี
02อธิบายภาษาคนเข้าใจง่ายๆ
Gaussian Mixture Model เริ่มจากคำถามง่าย ๆ ว่า แทนข้อมูลด้วยการผสม Gaussian หลายก้อนพร้อมความน่าจะเป็นสมาชิก วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ
เหมือนแยกเสียงเพลงที่ซ้อนกัน โดยคำนวณว่าแต่ละช่วงน่าจะมาจากเครื่องดนตรีใดกี่เปอร์เซ็นต์ ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน
Gaussian Mixture Model สมมติว่าข้อมูลเกิดจาก Gaussian หลาย component แล้วใช้ EM สลับคำนวณ responsibility กับอัปเดตค่าเฉลี่ย covariance และน้ำหนักผสม พารามิเตอร์หลักใน Playground คือ จำนวน Gaussian components เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ
ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ พิกัด 2 มิติ · 3 Gaussian components เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก
งานที่เหมาะ เช่น soft clustering ประมาณ density และค้นหากลุ่มทรงวงรี ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า
ภาพจำ: responsibility=[0.8,0.15,0.05] พร้อมจำข้อจำกัดสำคัญว่า อาจติด local optimum ต้องลองหลาย initialization และ Gaussian อาจไม่เหมาะกับกลุ่มรูปร่างซับซ้อน
03How it works
ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ
เตรียมข้อมูลให้ตรงโจทย์
X เป็น feature ต่อเนื่องที่สเกลเหมาะสม ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล
ตั้งค่าที่ควบคุมพฤติกรรม
ใช้ n_components เพื่อจำนวน Gaussian และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้
คำนวณแก่นของวิธี
E-step คำนวณ responsibility ของแต่ละ component จากนั้น M-step อัปเดต mean covariance และ mixing weight Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ
สร้างผลลัพธ์ที่นำไปอ่านได้
วนเพิ่ม log-likelihood จนลู่เข้า ผลที่ได้คือ soft probabilities, labels และพารามิเตอร์ Gaussian ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล
ตรวจว่าคำตอบใช้ได้จริง
เปรียบเทียบหลายค่าของ n_components ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า อาจติด local optimum ต้องลองหลาย initialization และ Gaussian อาจไม่เหมาะกับกลุ่มรูปร่างซับซ้อน
ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ
n_componentscovariance_typereg_covarข้อมูลที่รับเข้ามา
X เป็น feature ต่อเนื่องที่สเกลเหมาะสม
พิกัด 2 มิติ · 3 Gaussian componentsพารามิเตอร์ที่ใช้
- n_components
- จำนวน Gaussian
- covariance_type
- รูปแบบ covariance ของแต่ละ component
- reg_covar
- ค่าบวกช่วยให้ covariance คำนวณได้เสถียร
ผลลัพธ์ที่ได้
soft probabilities, labels และพารามิเตอร์ Gaussian
responsibility=[0.8,0.15,0.05]คำนวณทีละขั้น
- 01
E-step คำนวณ responsibility ของแต่ละ component
- 02
M-step อัปเดต mean covariance และ mixing weight
- 03
วนเพิ่ม log-likelihood จนลู่เข้า
ควรรู้อีกนิด — อาจติด local optimum ต้องลองหลาย initialization และ Gaussian อาจไม่เหมาะกับกลุ่มรูปร่างซับซ้อน
04Make it yours
# ติดตั้ง: pip install numpy scikit-learnimport numpy as np data = np.genfromtxt("gaussian-mixture-model-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] from sklearn.mixture import GaussianMixturefrom sklearn.metrics import silhouette_score # sample.csv ใช้หน่วยเดียวกันทั้งสองแกน; ข้อมูลจริงควรปรับสเกลใน pipelinemodel = GaussianMixture(n_components=3, covariance_type="full", n_init=5, random_state=42)labels = model.fit_predict(X)print("Labels:", labels)print("Groups:", np.unique(labels, return_counts=True))valid = labels >= 0if valid.sum() > 2 and 1 < len(np.unique(labels[valid])) < valid.sum(): print("Silhouette:", silhouette_score(X[valid], labels[valid]))print("Responsibilities:", model.predict_proba(X[:5]))print("Converged:", model.converged_)โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด
05Learn by playing
ปรับ จำนวน Gaussian components แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที
Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ scikit-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง