01Overall Concept
ไอเดียหลัก — Random Search สุ่ม hyperparameter combinations ตามจำนวน n_iter จึงกระจายการลองในพื้นที่กว้างและควบคุมงบได้ เหมาะเมื่อมีพารามิเตอร์หลายตัวหรือบางตัวสำคัญกว่าตัวอื่น
ลองนึกภาพว่า — เหมือนสุ่มชิมสูตรจากช่วงค่ากว้าง ๆ ให้ครบตามงบ แทนการชิมทุกช่องของตาราง
ตัวอย่างการนำไปใช้ — ค้นหา hyperparameters ในพื้นที่ใหญ่และสร้าง baseline ก่อนปรับละเอียด
02อธิบายภาษาคนเข้าใจง่ายๆ
Random Search เริ่มจากคำถามง่าย ๆ ว่า สุ่มชุดพารามิเตอร์จาก distribution ภายใต้งบที่กำหนด วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ
เหมือนสุ่มชิมสูตรจากช่วงค่ากว้าง ๆ ให้ครบตามงบ แทนการชิมทุกช่องของตาราง ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน
Random Search สุ่ม hyperparameter combinations ตามจำนวน n_iter จึงกระจายการลองในพื้นที่กว้างและควบคุมงบได้ เหมาะเมื่อมีพารามิเตอร์หลายตัวหรือบางตัวสำคัญกว่าตัวอื่น พารามิเตอร์หลักใน Playground คือ จำนวนชุดที่สุ่ม เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ
ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ C ~ log-uniform · 10 samples · 5 folds เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก
งานที่เหมาะ เช่น ค้นหา hyperparameters ในพื้นที่ใหญ่และสร้าง baseline ก่อนปรับละเอียด ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า
ภาพจำ: n_iter=10 → ประเมิน 10 ชุด ไม่ขึ้นกับขนาด grid เต็ม พร้อมจำข้อจำกัดสำคัญว่า ผลขึ้นกับ distribution และ seed งบน้อยอาจพลาดบริเวณดี และ test set ต้องเก็บไว้ประเมินครั้งสุดท้าย
03How it works
ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ
เตรียมข้อมูลให้ตรงโจทย์
estimator, distributions ของพารามิเตอร์ และข้อมูลฝึก ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล
ตั้งค่าที่ควบคุมพฤติกรรม
ใช้ param_distributions เพื่อช่วงหรือ distribution ที่ใช้สุ่ม และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้
คำนวณแก่นของวิธี
สุ่ม combination ตาม distributions จากนั้น ประเมินทุกชุดด้วย cross-validation Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ
สร้างผลลัพธ์ที่นำไปอ่านได้
เลือกชุดคะแนนเฉลี่ยดีที่สุดและ refit ผลที่ได้คือ ค่าที่สุ่ม คะแนน CV และ best estimator ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล
ตรวจว่าคำตอบใช้ได้จริง
เปรียบเทียบหลายค่าของ n_iter ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า ผลขึ้นกับ distribution และ seed งบน้อยอาจพลาดบริเวณดี และ test set ต้องเก็บไว้ประเมินครั้งสุดท้าย
ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ
param_distributionsn_iterrandom_stateข้อมูลที่รับเข้ามา
estimator, distributions ของพารามิเตอร์ และข้อมูลฝึก
C ~ log-uniform · 10 samples · 5 foldsพารามิเตอร์ที่ใช้
- param_distributions
- ช่วงหรือ distribution ที่ใช้สุ่ม
- n_iter
- จำนวน combinations ทั้งหมด
- random_state
- ล็อกการสุ่มเพื่อทำซ้ำ
ผลลัพธ์ที่ได้
ค่าที่สุ่ม คะแนน CV และ best estimator
n_iter=10 → ประเมิน 10 ชุด ไม่ขึ้นกับขนาด grid เต็มคำนวณทีละขั้น
- 01
สุ่ม combination ตาม distributions
- 02
ประเมินทุกชุดด้วย cross-validation
- 03
เลือกชุดคะแนนเฉลี่ยดีที่สุดและ refit
ควรรู้อีกนิด — ผลขึ้นกับ distribution และ seed งบน้อยอาจพลาดบริเวณดี และ test set ต้องเก็บไว้ประเมินครั้งสุดท้าย
04Make it yours
# ติดตั้ง: pip install numpy scikit-learnimport numpy as np data = np.genfromtxt("random-search-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] y = data[:, 2].astype(int)from sklearn.neighbors import KNeighborsClassifierfrom sklearn.model_selection import RandomizedSearchCV, train_test_splitfrom sklearn.pipeline import make_pipelinefrom sklearn.preprocessing import StandardScaler X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=.2, stratify=y, random_state=42)search = RandomizedSearchCV(KNeighborsClassifier(), param_distributions={"n_neighbors": np.arange(1, 30)}, n_iter=10, random_state=42, cv=5, scoring="accuracy")search.fit(StandardScaler().fit_transform(X_train), y_train)print("Best parameters:", search.best_params_)print("Mean CV score:", search.best_score_)โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด
05Learn by playing
ปรับ จำนวนชุดที่สุ่ม แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที
Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ scikit-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง