ml/ library Learn by doing
ALGORITHM 14 · PYTHON / JAVASCRIPT

Grid Search

ลองค่าพารามิเตอร์ทุกชุดในตารางที่กำหนด

LEARNING LEVEL1
พื้นฐานควรรู้มาก่อน · validation set และ metric
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — Grid Search แจกแจงค่าพารามิเตอร์เป็นตาราง ฝึกและประเมินทุก combination ด้วย cross-validation แล้วเลือกชุดที่ได้คะแนนเฉลี่ยดีที่สุด

ลองนึกภาพว่า — เหมือนชิมสูตรกาแฟทุกคู่ของระดับบดและอุณหภูมิที่เขียนไว้ในตาราง ก่อนเลือกสูตรที่คะแนนเฉลี่ยดีที่สุด

ตัวอย่างการนำไปใช้ — เลือก hyperparameters ของโมเดลและ pipeline เมื่อพื้นที่ค้นหาไม่ใหญ่

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Grid Search เริ่มจากคำถามง่าย ๆ ว่า ลองค่าพารามิเตอร์ทุกชุดในตารางที่กำหนด วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนชิมสูตรกาแฟทุกคู่ของระดับบดและอุณหภูมิที่เขียนไว้ในตาราง ก่อนเลือกสูตรที่คะแนนเฉลี่ยดีที่สุด ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

Grid Search แจกแจงค่าพารามิเตอร์เป็นตาราง ฝึกและประเมินทุก combination ด้วย cross-validation แล้วเลือกชุดที่ได้คะแนนเฉลี่ยดีที่สุด พารามิเตอร์หลักใน Playground คือ จำนวนค่าที่ลอง เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ LogisticRegression · C จำนวน 6 ค่า · 5 folds เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น เลือก hyperparameters ของโมเดลและ pipeline เมื่อพื้นที่ค้นหาไม่ใหญ่ ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: ลอง 6 ค่า × 5 folds = 30 fits พร้อมจำข้อจำกัดสำคัญว่า จำนวนงานโตแบบคูณเมื่อเพิ่มพารามิเตอร์ อย่าใช้ test set เลือกค่า และการเลือก metric ผิดทำให้ได้โมเดลผิดเป้าหมาย

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    estimator, parameter grid และข้อมูลฝึกที่จะแบ่ง cross-validation ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ param_grid เพื่อรายการค่าที่ต้องลองทุก combination และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    สร้างทุก combination จาก grid จากนั้น ประเมินแต่ละชุดด้วย cross-validation เดียวกัน Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    เลือกคะแนนเฉลี่ยสูงสุดแล้ว refit บนชุดฝึกทั้งหมด ผลที่ได้คือ best_params_, best_score_ และตารางผล cv_results_ ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ candidates ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า จำนวนงานโตแบบคูณเมื่อเพิ่มพารามิเตอร์ อย่าใช้ test set เลือกค่า และการเลือก metric ผิดทำให้ได้โมเดลผิดเป้าหมาย

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · featuresy · targetLogisticRegression · C จำนวน 6 ค่า · 5 folds
CALCULATEGrid Search
param_gridcvscoring
RESULT0.800.150.05class / probabilityลอง 6 ค่า × 5 folds = 30 fits
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

estimator, parameter grid และข้อมูลฝึกที่จะแบ่ง cross-validation

LogisticRegression · C จำนวน 6 ค่า · 5 folds
PARAMETERS

พารามิเตอร์ที่ใช้

param_grid
รายการค่าที่ต้องลองทุก combination
cv
วิธีแบ่ง validation folds
scoring
metric ที่ใช้จัดอันดับ
OUTPUT

ผลลัพธ์ที่ได้

best_params_, best_score_ และตารางผล cv_results_

ลอง 6 ค่า × 5 folds = 30 fits
CALCULATION

คำนวณทีละขั้น

  1. 01

    สร้างทุก combination จาก grid

  2. 02

    ประเมินแต่ละชุดด้วย cross-validation เดียวกัน

  3. 03

    เลือกคะแนนเฉลี่ยสูงสุดแล้ว refit บนชุดฝึกทั้งหมด

ควรรู้อีกนิด — จำนวนงานโตแบบคูณเมื่อเพิ่มพารามิเตอร์ อย่าใช้ test set เลือกค่า และการเลือก metric ผิดทำให้ได้โมเดลผิดเป้าหมาย

04Make it yours

Python · scikit-learn
# ติดตั้ง: pip install numpy scikit-learnimport numpy as np data = np.genfromtxt("grid-search-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] y = data[:, 2].astype(int)from sklearn.neighbors import KNeighborsClassifierfrom sklearn.model_selection import GridSearchCV, train_test_splitfrom sklearn.pipeline import make_pipelinefrom sklearn.preprocessing import StandardScaler X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=.2, stratify=y, random_state=42)search = GridSearchCV(KNeighborsClassifier(), param_grid={"n_neighbors": np.unique(np.linspace(1, 29, 6, dtype=int))}, cv=5, scoring="accuracy")search.fit(StandardScaler().fit_transform(X_train), y_train)print("Best parameters:", search.best_params_)print("Mean CV score:", search.best_score_)

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

ปรับ จำนวนค่าที่ลอง แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที

Sample dataset / Three classes● คำนวณใหม่เมื่อปรับค่า
จำนวนค่า C บนตาราง log scale
พื้นที่สีคือคำทำนาย จุดคือคำตอบจริงFeature x → · Feature y ↑ · ขอบเข้ม = ชุดทดสอบ
Test accuracy100.0%
Best K จาก validation1
พารามิเตอร์ที่ลอง6

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ scikit-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง