ml/ library Learn by doing
ALGORITHM 37 · PYTHON / JAVASCRIPT

Nonnegative Matrix Factorization

แยกตารางไม่ติดลบเป็นส่วนประกอบที่บวกกันได้

LEARNING LEVEL2
ต่อยอดโดยตรงควรรู้มาก่อน · Principal Component Analysis และ matrix factorization
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — NMF ประมาณ X≈WH โดยบังคับ W และ H ไม่ติดลบ จึงมักได้ representation แบบส่วนประกอบ เช่น เอกสารหนึ่งผสมหลายหัวข้อด้วยน้ำหนักบวก

ลองนึกภาพว่า — เหมือนผสมสีจากแม่สีหลายกระป๋อง โดยปริมาณสีทุกชนิดต้องเป็นศูนย์หรือบวก ไม่สามารถใส่สีติดลบ

ตัวอย่างการนำไปใช้ — topic modeling แยกส่วนภาพ และ representation ของข้อมูล count

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Nonnegative Matrix Factorization เริ่มจากคำถามง่าย ๆ ว่า แยกตารางไม่ติดลบเป็นส่วนประกอบที่บวกกันได้ วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนผสมสีจากแม่สีหลายกระป๋อง โดยปริมาณสีทุกชนิดต้องเป็นศูนย์หรือบวก ไม่สามารถใส่สีติดลบ ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

NMF ประมาณ X≈WH โดยบังคับ W และ H ไม่ติดลบ จึงมักได้ representation แบบส่วนประกอบ เช่น เอกสารหนึ่งผสมหลายหัวข้อด้วยน้ำหนักบวก พารามิเตอร์หลักใน Playground คือ จำนวนส่วนประกอบ เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ document-term counts → document-topic × topic-word เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น topic modeling แยกส่วนภาพ และ representation ของข้อมูล count ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: เอกสาร = 0.7 หัวข้อ A + 0.3 หัวข้อ B พร้อมจำข้อจำกัดสำคัญว่า รับค่า X ติดลบไม่ได้ คำตอบไม่เป็นเอกลักษณ์และขึ้นกับ initialization จำนวน component ต้องเลือกจากทั้ง error และการตีความ

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    X เป็น matrix ที่ทุกค่าไม่ติดลบ ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ n_components เพื่อจำนวน latent components และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    ตั้ง W,H เป็นค่าบวก จากนั้น ลด reconstruction loss ||X−WH|| Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    สลับอัปเดต W และ H จนลู่เข้า ผลที่ได้คือ W เป็นคะแนน component ต่อแถว และ H เป็น basis ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ n_components ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า รับค่า X ติดลบไม่ได้ คำตอบไม่เป็นเอกลักษณ์และขึ้นกับ initialization จำนวน component ต้องเลือกจากทั้ง error และการตีความ

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · features · no target ydocument-term counts → document-topic × topic-word
CALCULATENonnegative Matrix Factorization
n_componentsinitl1_ratio
RESULTcluster labels + centersเอกสาร = 0.7 หัวข้อ A + 0.3 หัวข้อ B
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

X เป็น matrix ที่ทุกค่าไม่ติดลบ

document-term counts → document-topic × topic-word
PARAMETERS

พารามิเตอร์ที่ใช้

n_components
จำนวน latent components
init
วิธีตั้งค่า W และ H เริ่มต้น
l1_ratio
สัดส่วน regularization ที่ส่งเสริม sparsity
OUTPUT

ผลลัพธ์ที่ได้

W เป็นคะแนน component ต่อแถว และ H เป็น basis

เอกสาร = 0.7 หัวข้อ A + 0.3 หัวข้อ B
CALCULATION

คำนวณทีละขั้น

  1. 01

    ตั้ง W,H เป็นค่าบวก

  2. 02

    ลด reconstruction loss ||X−WH||

  3. 03

    สลับอัปเดต W และ H จนลู่เข้า

ควรรู้อีกนิด — รับค่า X ติดลบไม่ได้ คำตอบไม่เป็นเอกลักษณ์และขึ้นกับ initialization จำนวน component ต้องเลือกจากทั้ง error และการตีความ

04Make it yours

Python · scikit-learn
# ติดตั้ง: pip install numpy scikit-learnimport numpy as np data = np.genfromtxt("nonnegative-matrix-factorization-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] from sklearn.decomposition import NMFfrom sklearn.preprocessing import StandardScaler X_scaled = StandardScaler().fit_transform(X)X_nonnegative = X - X.min(axis=0)model = NMF(n_components=2, init="nndsvda", random_state=42, max_iter=1000)Z = model.fit_transform(X_nonnegative)print("Output shape:", Z.shape)print("First rows:\n", Z[:5])if hasattr(model, "explained_variance_ratio_"):    print("Explained variance:", model.explained_variance_ratio_)if hasattr(model, "components_"):    print("Components:\n", model.components_)

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

ปรับ จำนวนส่วนประกอบ แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที

Sample dataset / Transformed representation● คำนวณใหม่เมื่อปรับค่า
จำนวนแถวของ basis H ที่ใช้ประกอบข้อมูล
กากบาทดำคือ centroid จาก mini batchกากบาท = centroid · สี = กลุ่มที่เรียนรู้
Variance retained1
Output shape150 × 2
พารามิเตอร์ที่ลอง2

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ scikit-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง