ml/ library Learn by doing
ALGORITHM 65 · PYTHON / JAVASCRIPT

Negative Binomial Regression

ขยาย Poisson ให้ความแปรปรวนของ count สูงกว่าค่าเฉลี่ยได้

LEARNING LEVEL3
ผสานหลายแนวคิดควรรู้มาก่อน · Generalized Linear Model และ overdispersion
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — Negative Binomial Regression ใช้ log link เหมือน Poisson แต่เพิ่ม dispersion parameter เพื่อรองรับความผันผวนส่วนเกินและกลุ่มที่มี rate แฝงต่างกัน

ลองนึกภาพว่า — เหมือนนับลูกค้าที่เข้าร้านหลายสาขา โดยบางสาขาผันผวนกว่าสาขาอื่นมากจนสมมติฐานค่าเฉลี่ยเท่าความแปรปรวนไม่พอ

ตัวอย่างการนำไปใช้ — จำนวนเหตุการณ์ที่กระจายกว้าง เช่น เคลม การเข้าโรงพยาบาล หรือยอดสั่งซื้อ

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Negative Binomial Regression เริ่มจากคำถามง่าย ๆ ว่า ขยาย Poisson ให้ความแปรปรวนของ count สูงกว่าค่าเฉลี่ยได้ วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนนับลูกค้าที่เข้าร้านหลายสาขา โดยบางสาขาผันผวนกว่าสาขาอื่นมากจนสมมติฐานค่าเฉลี่ยเท่าความแปรปรวนไม่พอ ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

Negative Binomial Regression ใช้ log link เหมือน Poisson แต่เพิ่ม dispersion parameter เพื่อรองรับความผันผวนส่วนเกินและกลุ่มที่มี rate แฝงต่างกัน พารามิเตอร์หลักใน Playground คือ Dispersion α เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ count 60 ค่า · variance เพิ่มตาม μ และ α เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น จำนวนเหตุการณ์ที่กระจายกว้าง เช่น เคลม การเข้าโรงพยาบาล หรือยอดสั่งซื้อ ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: α→0 ทำให้แบบจำลองเข้าใกล้ Poisson พร้อมจำข้อจำกัดสำคัญว่า ข้อมูลศูนย์จำนวนมากอาจต้อง zero-inflated model และ dispersion ที่กำหนดหรือประมาณผิดเปลี่ยน uncertainty อย่างมาก

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    X และ count y ที่มี variance สูงกว่า mean ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ dispersion เพื่อควบคุมความแปรปรวนส่วนเกิน และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    สร้าง μ=exp(Xβ) จากนั้น กำหนด variance เป็น μ+αμ² Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    ประมาณ β จาก likelihood หรือ iteratively reweighted least squares ผลที่ได้คือ ค่า count เฉลี่ย coefficients และ dispersion ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ dispersion ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า ข้อมูลศูนย์จำนวนมากอาจต้อง zero-inflated model และ dispersion ที่กำหนดหรือประมาณผิดเปลี่ยน uncertainty อย่างมาก

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · featuresy · targetcount 60 ค่า · variance เพิ่มตาม μ และ α
CALCULATENegative Binomial Regression
dispersionlinkexposure
RESULTnumeric predictionα→0 ทำให้แบบจำลองเข้าใกล้ Poisson
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

X และ count y ที่มี variance สูงกว่า mean

count 60 ค่า · variance เพิ่มตาม μ และ α
PARAMETERS

พารามิเตอร์ที่ใช้

dispersion
ควบคุมความแปรปรวนส่วนเกิน
link
เชื่อม mean กับ linear predictor โดยทั่วไปใช้ log
exposure
ชดเชยเวลาหรือขนาดฐานที่ต่างกัน
OUTPUT

ผลลัพธ์ที่ได้

ค่า count เฉลี่ย coefficients และ dispersion

α→0 ทำให้แบบจำลองเข้าใกล้ Poisson
CALCULATION

คำนวณทีละขั้น

  1. 01

    สร้าง μ=exp(Xβ)

  2. 02

    กำหนด variance เป็น μ+αμ²

  3. 03

    ประมาณ β จาก likelihood หรือ iteratively reweighted least squares

ควรรู้อีกนิด — ข้อมูลศูนย์จำนวนมากอาจต้อง zero-inflated model และ dispersion ที่กำหนดหรือประมาณผิดเปลี่ยน uncertainty อย่างมาก

04Make it yours

Python · statsmodels
# ติดตั้ง: pip install numpy statsmodelsimport numpy as np data = np.genfromtxt("negative-binomial-regression-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] y = data[:, 1]X_design = np.column_stack([np.ones(len(X)), X[:, 0]])import statsmodels.api as sm model = sm.GLM(y, X_design, family=sm.families.NegativeBinomial(alpha=0.6)).fit()print(model.summary())print("Predictions:", model.predict(X_design)[:8])

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

ปรับ Dispersion α แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที

Sample dataset / Curved signal● คำนวณใหม่เมื่อปรับค่า
ค่าสูงอนุญาตให้ variance โตเหนือ mean มากขึ้น
ข้อมูลฝึกและผลการทำนายFeature xค่าจริง • / ค่าทำนาย —
Deviance proxy0.403
Linklog
พารามิเตอร์ที่ลอง0.60

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ statsmodels จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง