ml/ library Learn by doing
ALGORITHM 09 · PYTHON / JAVASCRIPT

Perceptron

ขยับเส้นแบ่งทุกครั้งที่จำแนกตัวอย่างผิด

LEARNING LEVEL1
พื้นฐานควรรู้มาก่อน · สมการเชิงเส้นและการอัปเดตน้ำหนัก
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — Perceptron เป็นตัวจำแนกเชิงเส้นที่คำนวณคะแนน w·x+b แล้วอัปเดตน้ำหนักเมื่อทายผิด เป็นรากฐานสำคัญของแนวคิด neural network แต่ตัวมันเองสร้างได้เพียงขอบเขตเส้นตรง

ลองนึกภาพว่า — เหมือนขยับไม้บรรทัดทีละนิดทุกครั้งที่มีจุดอยู่ผิดฝั่ง จนแยกสองกลุ่มได้ดีที่สุด

ตัวอย่างการนำไปใช้ — จำแนกข้อมูลเชิงเส้น สตรีมข้อมูล และใช้สอนแนวคิดการเรียนรู้น้ำหนัก

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Perceptron เริ่มจากคำถามง่าย ๆ ว่า ขยับเส้นแบ่งทุกครั้งที่จำแนกตัวอย่างผิด วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนขยับไม้บรรทัดทีละนิดทุกครั้งที่มีจุดอยู่ผิดฝั่ง จนแยกสองกลุ่มได้ดีที่สุด ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

Perceptron เป็นตัวจำแนกเชิงเส้นที่คำนวณคะแนน w·x+b แล้วอัปเดตน้ำหนักเมื่อทายผิด เป็นรากฐานสำคัญของแนวคิด neural network แต่ตัวมันเองสร้างได้เพียงขอบเขตเส้นตรง พารามิเตอร์หลักใน Playground คือ learning rate เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ จุด 2 มิติ + label 0/1 เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น จำแนกข้อมูลเชิงเส้น สตรีมข้อมูล และใช้สอนแนวคิดการเรียนรู้น้ำหนัก ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: score ≥ 0 → class 1 · score < 0 → class 0 พร้อมจำข้อจำกัดสำคัญว่า ถ้าข้อมูลแยกด้วยเส้นตรงไม่ได้ โมเดลอาจไม่ลู่เข้า และคะแนนดิบไม่ใช่ความน่าจะเป็น

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    X เป็น feature ตัวเลขและ y เป็นคลาส ควรปรับสเกลเพื่อให้การอัปเดตสมดุล ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ eta0 เพื่อขนาดก้าวเริ่มต้น และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    คำนวณ score=w·x+b จากนั้น ถ้าทายผิด อัปเดต w และ b ไปทางคำตอบจริง Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    วนหลาย epoch จนหยุดหรือแยกได้ ผลที่ได้คือ น้ำหนัก เส้นแบ่ง และคลาสที่ทำนาย ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ eta0 ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า ถ้าข้อมูลแยกด้วยเส้นตรงไม่ได้ โมเดลอาจไม่ลู่เข้า และคะแนนดิบไม่ใช่ความน่าจะเป็น

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · featuresy · targetจุด 2 มิติ + label 0/1
CALCULATEPerceptron
eta0max_iterpenalty
RESULT0.800.150.05class / probabilityscore ≥ 0 → class 1 · score < 0 → class 0
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

X เป็น feature ตัวเลขและ y เป็นคลาส ควรปรับสเกลเพื่อให้การอัปเดตสมดุล

จุด 2 มิติ + label 0/1
PARAMETERS

พารามิเตอร์ที่ใช้

eta0
ขนาดก้าวเริ่มต้น
max_iter
จำนวนรอบสูงสุด
penalty
regularization ของน้ำหนัก
OUTPUT

ผลลัพธ์ที่ได้

น้ำหนัก เส้นแบ่ง และคลาสที่ทำนาย

score ≥ 0 → class 1 · score < 0 → class 0
CALCULATION

คำนวณทีละขั้น

  1. 01

    คำนวณ score=w·x+b

  2. 02

    ถ้าทายผิด อัปเดต w และ b ไปทางคำตอบจริง

  3. 03

    วนหลาย epoch จนหยุดหรือแยกได้

ควรรู้อีกนิด — ถ้าข้อมูลแยกด้วยเส้นตรงไม่ได้ โมเดลอาจไม่ลู่เข้า และคะแนนดิบไม่ใช่ความน่าจะเป็น

04Make it yours

Python · scikit-learn
# ติดตั้ง: pip install numpy scikit-learnimport numpy as np data = np.genfromtxt("perceptron-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] y = data[:, 2].astype(int)from sklearn.linear_model import Perceptronfrom sklearn.pipeline import make_pipelinefrom sklearn.preprocessing import StandardScalerfrom sklearn.model_selection import train_test_splitfrom sklearn.metrics import accuracy_score X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=.2, stratify=y, random_state=42)model = make_pipeline(StandardScaler(), Perceptron(eta0=0.2, max_iter=1000, random_state=42))model.fit(X_train, y_train)pred = model.predict(X_test)print("Test accuracy:", accuracy_score(y_test, pred))

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

ปรับ learning rate แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที

Sample dataset / Three classes● คำนวณใหม่เมื่อปรับค่า
ควบคุมขนาดการขยับน้ำหนักเมื่อทายผิด
พื้นที่สีคือคำทำนาย จุดคือคำตอบจริงFeature x → · Feature y ↑ · ขอบเข้ม = ชุดทดสอบ
Test accuracy93.3%
Epochs35
พารามิเตอร์ที่ลอง0.20

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ scikit-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง