ml/ library Learn by doing
ALGORITHM 74 · PYTHON / JAVASCRIPT

UMAP

สร้างแผนที่มิติต่ำจากกราฟเพื่อนบ้านแบบ fuzzy

LEARNING LEVEL3
ผสานหลายแนวคิดควรรู้มาก่อน · kNN graph และ manifold
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — UMAP สร้าง weighted nearest-neighbor graph แล้วปรับ embedding ให้โครงสร้างกราฟในมิติต่ำคล้ายต้นฉบับ จึงใช้สำรวจข้อมูลและแปลงข้อมูลใหม่ได้

ลองนึกภาพว่า — เหมือนย่อแผนที่เครือข่ายโดยเก็บทั้งตรอกใกล้บ้านและภาพรวมของย่านไว้เท่าที่ทำได้

ตัวอย่างการนำไปใช้ — แสดงข้อมูลชีวภาพ รูปภาพ ข้อความ และเตรียม feature ก่อน clustering

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

UMAP เริ่มจากคำถามง่าย ๆ ว่า สร้างแผนที่มิติต่ำจากกราฟเพื่อนบ้านแบบ fuzzy วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนย่อแผนที่เครือข่ายโดยเก็บทั้งตรอกใกล้บ้านและภาพรวมของย่านไว้เท่าที่ทำได้ ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

UMAP สร้าง weighted nearest-neighbor graph แล้วปรับ embedding ให้โครงสร้างกราฟในมิติต่ำคล้ายต้นฉบับ จึงใช้สำรวจข้อมูลและแปลงข้อมูลใหม่ได้ พารามิเตอร์หลักใน Playground คือ จำนวนเพื่อนบ้าน เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ feature matrix เชิงตัวเลขที่ใช้วัดระยะได้ · ตัวอย่าง 60–150 แถว เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น แสดงข้อมูลชีวภาพ รูปภาพ ข้อความ และเตรียม feature ก่อน clustering ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: พิกัด embedding และ transform สำหรับข้อมูลใหม่ · Playground แสดงผลเมื่อปรับ จำนวนเพื่อนบ้าน พร้อมจำข้อจำกัดสำคัญว่า รูปกลุ่มขึ้นกับ metric และพารามิเตอร์ จึงต้องตรวจความเสถียรและไม่ใช้ภาพเป็นหลักฐานของคลาสโดยลำพัง

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    feature matrix เชิงตัวเลขที่ใช้วัดระยะได้ ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ n_neighbors เพื่อค่าน้อยเน้นโครงสร้างเฉพาะที่ ค่ามากมองภาพกว้างขึ้น และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    สร้าง fuzzy nearest-neighbor graph จากนั้น กำหนดกราฟเป้าหมายในมิติต่ำ Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    ปรับพิกัดเพื่อลด cross-entropy ผลที่ได้คือ พิกัด embedding และ transform สำหรับข้อมูลใหม่ ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ n_neighbors ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า รูปกลุ่มขึ้นกับ metric และพารามิเตอร์ จึงต้องตรวจความเสถียรและไม่ใช้ภาพเป็นหลักฐานของคลาสโดยลำพัง

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · features · no target yfeature matrix เชิงตัวเลขที่ใช้วัดระยะได้ · ตัวอย่าง 60–150 แถว
CALCULATEUMAP
n_neighborsrandom_statevalidation
RESULTcluster labels + centersพิกัด embedding และ transform สำหรับข้อมูลใหม่ · Playground แสดงผลเมื่อปรับ จำนวนเพื่อนบ้าน
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

feature matrix เชิงตัวเลขที่ใช้วัดระยะได้

feature matrix เชิงตัวเลขที่ใช้วัดระยะได้ · ตัวอย่าง 60–150 แถว
PARAMETERS

พารามิเตอร์ที่ใช้

n_neighbors
ค่าน้อยเน้นโครงสร้างเฉพาะที่ ค่ามากมองภาพกว้างขึ้น
random_state
ตรึงการสุ่มเพื่อให้ทดลองซ้ำและเปรียบเทียบได้
validation
เก็บข้อมูลส่วนหนึ่งไว้ตรวจคุณภาพกับตัวอย่างที่ไม่ใช้ฝึก
OUTPUT

ผลลัพธ์ที่ได้

พิกัด embedding และ transform สำหรับข้อมูลใหม่

พิกัด embedding และ transform สำหรับข้อมูลใหม่ · Playground แสดงผลเมื่อปรับ จำนวนเพื่อนบ้าน
CALCULATION

คำนวณทีละขั้น

  1. 01

    สร้าง fuzzy nearest-neighbor graph

  2. 02

    กำหนดกราฟเป้าหมายในมิติต่ำ

  3. 03

    ปรับพิกัดเพื่อลด cross-entropy

ควรรู้อีกนิด — รูปกลุ่มขึ้นกับ metric และพารามิเตอร์ จึงต้องตรวจความเสถียรและไม่ใช้ภาพเป็นหลักฐานของคลาสโดยลำพัง

04Make it yours

Python · umap-learn
# ติดตั้ง: pip install numpy scikit-learn umap-learn# ดาวน์โหลด sample.csv จากหน้านี้ แล้ววางไว้ข้างสคริปต์import numpy as npdata = np.genfromtxt("umap-sample.csv", delimiter=",", skip_header=1)from sklearn.preprocessing import StandardScalerfrom umap import UMAPX = StandardScaler().fit_transform(data[:, :2])model = UMAP(n_neighbors=15, n_components=2, min_dist=.1, random_state=42)embedding = model.fit_transform(X)print("Embedding:", embedding[:8])

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

จะรักษารายละเอียดเฉพาะที่หรือภาพรวมของกราฟมากกว่ากัน?

UMAP / ภาพกลไกที่พารามิเตอร์ควบคุม● คำนวณใหม่เมื่อปรับค่า
ค่าน้อยเน้นโครงสร้างเฉพาะที่ ค่ามากมองภาพกว้างขึ้น
ดูภาพอย่างไร

เส้นบางคือ fuzzy graph และตำแหน่งขวาคือ embedding

เมื่อเพิ่มค่า

มองบริเวณกว้างขึ้นและมักทำให้กลุ่มต่อเนื่องกว่าเดิม

ลองเปรียบเทียบ

เปรียบเทียบว่าจุดใกล้กันในกราฟยังอยู่ใกล้กันใน embedding หรือไม่

โครงสร้าง/กราฟเดิมrepresentation หลังแปลง
Graph distortion15.966
จำนวนเพื่อนบ้าน15
พารามิเตอร์ที่ลอง15

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ umap-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง