ml/ library Learn by doing
ALGORITHM 15 · PYTHON / JAVASCRIPT

Random Search

สุ่มชุดพารามิเตอร์จาก distribution ภายใต้งบที่กำหนด

LEARNING LEVEL1
พื้นฐานควรรู้มาก่อน · validation set distribution และ sampling
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — Random Search สุ่ม hyperparameter combinations ตามจำนวน n_iter จึงกระจายการลองในพื้นที่กว้างและควบคุมงบได้ เหมาะเมื่อมีพารามิเตอร์หลายตัวหรือบางตัวสำคัญกว่าตัวอื่น

ลองนึกภาพว่า — เหมือนสุ่มชิมสูตรจากช่วงค่ากว้าง ๆ ให้ครบตามงบ แทนการชิมทุกช่องของตาราง

ตัวอย่างการนำไปใช้ — ค้นหา hyperparameters ในพื้นที่ใหญ่และสร้าง baseline ก่อนปรับละเอียด

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Random Search เริ่มจากคำถามง่าย ๆ ว่า สุ่มชุดพารามิเตอร์จาก distribution ภายใต้งบที่กำหนด วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนสุ่มชิมสูตรจากช่วงค่ากว้าง ๆ ให้ครบตามงบ แทนการชิมทุกช่องของตาราง ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

Random Search สุ่ม hyperparameter combinations ตามจำนวน n_iter จึงกระจายการลองในพื้นที่กว้างและควบคุมงบได้ เหมาะเมื่อมีพารามิเตอร์หลายตัวหรือบางตัวสำคัญกว่าตัวอื่น พารามิเตอร์หลักใน Playground คือ จำนวนชุดที่สุ่ม เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ C ~ log-uniform · 10 samples · 5 folds เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น ค้นหา hyperparameters ในพื้นที่ใหญ่และสร้าง baseline ก่อนปรับละเอียด ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: n_iter=10 → ประเมิน 10 ชุด ไม่ขึ้นกับขนาด grid เต็ม พร้อมจำข้อจำกัดสำคัญว่า ผลขึ้นกับ distribution และ seed งบน้อยอาจพลาดบริเวณดี และ test set ต้องเก็บไว้ประเมินครั้งสุดท้าย

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    estimator, distributions ของพารามิเตอร์ และข้อมูลฝึก ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ param_distributions เพื่อช่วงหรือ distribution ที่ใช้สุ่ม และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    สุ่ม combination ตาม distributions จากนั้น ประเมินทุกชุดด้วย cross-validation Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    เลือกชุดคะแนนเฉลี่ยดีที่สุดและ refit ผลที่ได้คือ ค่าที่สุ่ม คะแนน CV และ best estimator ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ n_iter ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า ผลขึ้นกับ distribution และ seed งบน้อยอาจพลาดบริเวณดี และ test set ต้องเก็บไว้ประเมินครั้งสุดท้าย

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · featuresy · targetC ~ log-uniform · 10 samples · 5 folds
CALCULATERandom Search
param_distributionsn_iterrandom_state
RESULT0.800.150.05class / probabilityn_iter=10 → ประเมิน 10 ชุด ไม่ขึ้นกับขนาด grid เต็ม
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

estimator, distributions ของพารามิเตอร์ และข้อมูลฝึก

C ~ log-uniform · 10 samples · 5 folds
PARAMETERS

พารามิเตอร์ที่ใช้

param_distributions
ช่วงหรือ distribution ที่ใช้สุ่ม
n_iter
จำนวน combinations ทั้งหมด
random_state
ล็อกการสุ่มเพื่อทำซ้ำ
OUTPUT

ผลลัพธ์ที่ได้

ค่าที่สุ่ม คะแนน CV และ best estimator

n_iter=10 → ประเมิน 10 ชุด ไม่ขึ้นกับขนาด grid เต็ม
CALCULATION

คำนวณทีละขั้น

  1. 01

    สุ่ม combination ตาม distributions

  2. 02

    ประเมินทุกชุดด้วย cross-validation

  3. 03

    เลือกชุดคะแนนเฉลี่ยดีที่สุดและ refit

ควรรู้อีกนิด — ผลขึ้นกับ distribution และ seed งบน้อยอาจพลาดบริเวณดี และ test set ต้องเก็บไว้ประเมินครั้งสุดท้าย

04Make it yours

Python · scikit-learn
# ติดตั้ง: pip install numpy scikit-learnimport numpy as np data = np.genfromtxt("random-search-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] y = data[:, 2].astype(int)from sklearn.neighbors import KNeighborsClassifierfrom sklearn.model_selection import RandomizedSearchCV, train_test_splitfrom sklearn.pipeline import make_pipelinefrom sklearn.preprocessing import StandardScaler X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=.2, stratify=y, random_state=42)search = RandomizedSearchCV(KNeighborsClassifier(), param_distributions={"n_neighbors": np.arange(1, 30)}, n_iter=10, random_state=42, cv=5, scoring="accuracy")search.fit(StandardScaler().fit_transform(X_train), y_train)print("Best parameters:", search.best_params_)print("Mean CV score:", search.best_score_)

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

ปรับ จำนวนชุดที่สุ่ม แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที

Sample dataset / Three classes● คำนวณใหม่เมื่อปรับค่า
งบจำนวน combinations ที่จะประเมิน
พื้นที่สีคือคำทำนาย จุดคือคำตอบจริงFeature x → · Feature y ↑ · ขอบเข้ม = ชุดทดสอบ
Test accuracy100.0%
Best K จาก validation3
พารามิเตอร์ที่ลอง10

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ scikit-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง