ml/ library Learn by doing
ALGORITHM 42 · PYTHON / JAVASCRIPT

Autoregressive Model

ใช้ค่าหลายช่วงก่อนหน้าเป็นตัวแปรเพื่อทำนายค่าถัดไป

LEARNING LEVEL2
ต่อยอดโดยตรงควรรู้มาก่อน · ลำดับเวลา lag และ Linear Regression
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — Autoregressive Model หรือ AR(p) สร้างสมการเชิงเส้นจากค่า lag ของอนุกรมเดียวกัน โดย p ระบุว่าต้องย้อนกลับไปกี่ช่วงเพื่ออธิบายค่าปัจจุบัน

ลองนึกภาพว่า — เหมือนเดาอุณหภูมิชั่วโมงหน้าโดยเปิดดูบันทึกของหลายชั่วโมงล่าสุดแทนการดูเพียงค่าปัจจุบัน

ตัวอย่างการนำไปใช้ — พยากรณ์สัญญาณที่มี autocorrelation เช่น demand ระยะสั้น เซนเซอร์ หรือปริมาณงาน

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Autoregressive Model เริ่มจากคำถามง่าย ๆ ว่า ใช้ค่าหลายช่วงก่อนหน้าเป็นตัวแปรเพื่อทำนายค่าถัดไป วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนเดาอุณหภูมิชั่วโมงหน้าโดยเปิดดูบันทึกของหลายชั่วโมงล่าสุดแทนการดูเพียงค่าปัจจุบัน ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

Autoregressive Model หรือ AR(p) สร้างสมการเชิงเส้นจากค่า lag ของอนุกรมเดียวกัน โดย p ระบุว่าต้องย้อนกลับไปกี่ช่วงเพื่ออธิบายค่าปัจจุบัน พารามิเตอร์หลักใน Playground คือ จำนวน lag p เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ 60 ช่วงเวลา → lag matrix p คอลัมน์ เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น พยากรณ์สัญญาณที่มี autocorrelation เช่น demand ระยะสั้น เซนเซอร์ หรือปริมาณงาน ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: AR(2): ŷ(t)=c+φ₁y(t-1)+φ₂y(t-2) พร้อมจำข้อจำกัดสำคัญว่า lag มากเกินไปทำให้พารามิเตอร์เยอะและ overfit ส่วนอนุกรมที่ไม่ stationary อาจให้ความสัมพันธ์ลวง

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    y เป็นอนุกรมตามเวลาที่ควรมีรูปแบบค่อนข้างคงที่หลังจัดการ trend หรือ seasonality ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ lags เพื่อกำหนดจำนวนอดีตที่โมเดลมองเห็น และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    เลื่อนอนุกรมสร้างคอลัมน์ y(t-1)…y(t-p) จากนั้น ประมาณสัมประสิทธิ์ของแต่ละ lag ด้วย least squares Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    แทนค่าล่าสุดเพื่อคำนวณ forecast แบบวนซ้ำ ผลที่ได้คือ ค่าสัมประสิทธิ์ lag fitted values และ forecast ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ lags ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า lag มากเกินไปทำให้พารามิเตอร์เยอะและ overfit ส่วนอนุกรมที่ไม่ stationary อาจให้ความสัมพันธ์ลวง

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · featuresy · target60 ช่วงเวลา → lag matrix p คอลัมน์
CALCULATEAutoregressive Model
lagstrendold_names
RESULTnumeric predictionAR(2): ŷ(t)=c+φ₁y(t-1)+φ₂y(t-2)
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

y เป็นอนุกรมตามเวลาที่ควรมีรูปแบบค่อนข้างคงที่หลังจัดการ trend หรือ seasonality

60 ช่วงเวลา → lag matrix p คอลัมน์
PARAMETERS

พารามิเตอร์ที่ใช้

lags
กำหนดจำนวนอดีตที่โมเดลมองเห็น
trend
เพิ่มค่าคงที่หรือแนวโน้มเวลา
old_names
ควบคุมรูปแบบชื่อผลลัพธ์ใน statsmodels
OUTPUT

ผลลัพธ์ที่ได้

ค่าสัมประสิทธิ์ lag fitted values และ forecast

AR(2): ŷ(t)=c+φ₁y(t-1)+φ₂y(t-2)
CALCULATION

คำนวณทีละขั้น

  1. 01

    เลื่อนอนุกรมสร้างคอลัมน์ y(t-1)…y(t-p)

  2. 02

    ประมาณสัมประสิทธิ์ของแต่ละ lag ด้วย least squares

  3. 03

    แทนค่าล่าสุดเพื่อคำนวณ forecast แบบวนซ้ำ

ควรรู้อีกนิด — lag มากเกินไปทำให้พารามิเตอร์เยอะและ overfit ส่วนอนุกรมที่ไม่ stationary อาจให้ความสัมพันธ์ลวง

04Make it yours

Python · statsmodels
# ติดตั้ง: pip install numpy statsmodelsimport numpy as np data = np.genfromtxt("autoregressive-model-sample.csv", delimiter=",", skip_header=1)X = data[:, :2] from statsmodels.tsa.ar_model import AutoReg y = data[:, 1]model = AutoReg(y, lags=4, trend="ct").fit()print("Parameters:", model.params)print("Forecast:", model.predict(len(y), len(y) + 5))print("AIC:", model.aic)

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

ปรับ จำนวน lag p แล้วสังเกตรูปแบบคำทำนายและตัวชี้วัดที่คำนวณใหม่ทันที

Sample time series / Fitted signal● คำนวณใหม่เมื่อปรับค่า
จำนวนค่าก่อนหน้าที่นำมาเป็นตัวแปร
ข้อมูลฝึกและผลการทำนายFeature xค่าจริง • / ค่าทำนาย —
In-sample RMSE1.803
ค่าล่าสุดที่กรองได้37.57
พารามิเตอร์ที่ลอง4

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ statsmodels จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง