ml/ library Learn by doing
ALGORITHM 64 · PYTHON / JAVASCRIPT

Poisson Regression

ทำนายค่าเฉลี่ยของจำนวนเหตุการณ์ด้วย log link เพื่อให้ผลไม่ติดลบ

LEARNING LEVEL3
ผสานหลายแนวคิดควรรู้มาก่อน · Generalized Linear Model และ Poisson distribution
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — Poisson Regression สมมติ target เป็น count และใช้ log link เชื่อม linear predictor กับค่าเฉลี่ย μ ทำให้ coefficient ตีความเป็นอัตราส่วนแบบคูณได้

ลองนึกภาพว่า — เหมือนประเมินจำนวนสายเข้าศูนย์บริการจากชั่วโมงและวัน โดยทุกการเพิ่ม feature หนึ่งหน่วยคูณอัตราที่คาดด้วยค่าคงที่

ตัวอย่างการนำไปใช้ — จำนวนเคลม จำนวนการคลิก จำนวนเหตุการณ์ หรือ rate เมื่อใส่ exposure

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Poisson Regression เริ่มจากคำถามง่าย ๆ ว่า ทำนายค่าเฉลี่ยของจำนวนเหตุการณ์ด้วย log link เพื่อให้ผลไม่ติดลบ วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนประเมินจำนวนสายเข้าศูนย์บริการจากชั่วโมงและวัน โดยทุกการเพิ่ม feature หนึ่งหน่วยคูณอัตราที่คาดด้วยค่าคงที่ ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

Poisson Regression สมมติ target เป็น count และใช้ log link เชื่อม linear predictor กับค่าเฉลี่ย μ ทำให้ coefficient ตีความเป็นอัตราส่วนแบบคูณได้ พารามิเตอร์หลักใน Playground คือ Regularization α เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ x 60 ค่า → count จาก Poisson mean เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น จำนวนเคลม จำนวนการคลิก จำนวนเหตุการณ์ หรือ rate เมื่อใส่ exposure ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: เพิ่ม x หนึ่งหน่วยคูณ μ ด้วย exp(β) พร้อมจำข้อจำกัดสำคัญว่า Poisson สมมติ variance ใกล้ mean หากข้อมูล overdispersed มาก standard error และ prediction interval จะไม่น่าเชื่อถือ

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    X และ y ที่เป็นจำนวนเต็มไม่ติดลบ พร้อม exposure หากระยะสังเกตต่างกัน ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ alpha เพื่อควบคุม L2 regularization และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    สร้าง linear predictor η=Xβ จากนั้น แปลงเป็นค่าเฉลี่ย μ=exp(η) Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    หา β ที่ลด Poisson deviance พร้อม penalty ผลที่ได้คือ ค่า count เฉลี่ยที่ทำนาย coefficients และ deviance ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ alpha ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า Poisson สมมติ variance ใกล้ mean หากข้อมูล overdispersed มาก standard error และ prediction interval จะไม่น่าเชื่อถือ

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · featuresy · targetx 60 ค่า → count จาก Poisson mean
CALCULATEPoisson Regression
alphafit_interceptsolver
RESULTnumeric predictionเพิ่ม x หนึ่งหน่วยคูณ μ ด้วย exp(β)
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

X และ y ที่เป็นจำนวนเต็มไม่ติดลบ พร้อม exposure หากระยะสังเกตต่างกัน

x 60 ค่า → count จาก Poisson mean
PARAMETERS

พารามิเตอร์ที่ใช้

alpha
ควบคุม L2 regularization
fit_intercept
เพิ่ม baseline log-rate หรือไม่
solver
เลือกวิธี optimize likelihood
OUTPUT

ผลลัพธ์ที่ได้

ค่า count เฉลี่ยที่ทำนาย coefficients และ deviance

เพิ่ม x หนึ่งหน่วยคูณ μ ด้วย exp(β)
CALCULATION

คำนวณทีละขั้น

  1. 01

    สร้าง linear predictor η=Xβ

  2. 02

    แปลงเป็นค่าเฉลี่ย μ=exp(η)

  3. 03

    หา β ที่ลด Poisson deviance พร้อม penalty

ควรรู้อีกนิด — Poisson สมมติ variance ใกล้ mean หากข้อมูล overdispersed มาก standard error และ prediction interval จะไม่น่าเชื่อถือ

04Make it yours

Python · scikit-learn
# ติดตั้ง: pip install numpy scikit-learnimport numpy as np data = np.genfromtxt("poisson-regression-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] y, X = data[:, 1], data[:, :1]from sklearn.linear_model import PoissonRegressorfrom sklearn.metrics import mean_poisson_deviance model = PoissonRegressor(alpha=0.3, max_iter=1000).fit(X, y)pred = model.predict(X)print("Coefficients:", model.coef_, model.intercept_)print("Mean deviance:", mean_poisson_deviance(y, pred))print("Predictions:", pred[:8])

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

ปรับ Regularization α แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที

Sample dataset / Curved signal● คำนวณใหม่เมื่อปรับค่า
L2 penalty ที่ช่วยคุม coefficients
ข้อมูลฝึกและผลการทำนายFeature xค่าจริง • / ค่าทำนาย —
Deviance proxy0.395
Linklog
พารามิเตอร์ที่ลอง0.3

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ scikit-learn จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง