ml/ library Learn by doing
ALGORITHM 115 · PYTHON / JAVASCRIPT

Generative Adversarial Network

ให้ generator สร้างตัวอย่างแข่งกับ discriminator ที่พยายามจับของปลอม

LEARNING LEVEL5
เฉพาะทางควรรู้มาก่อน · MLP, CNN และ minimax optimization
ลองใน Playground

01Overall Concept

OVERALL CONCEPT

ไอเดียหลัก — GAN ฝึกสองเครือข่ายในเกม adversarial: discriminator แยกข้อมูลจริงจากข้อมูลสร้าง ส่วน generator ปรับตัวให้ตัวอย่างหลอก discriminator ได้ดีขึ้น

ลองนึกภาพว่า — เหมือนนักปลอมภาพกับผู้ตรวจสอบที่พัฒนาฝีมือแข่งกันจากข้อผิดพลาดของอีกฝ่าย

ตัวอย่างการนำไปใช้ — สร้างภาพ ปรับ domain, super-resolution และ data augmentation

02อธิบายภาษาคนเข้าใจง่ายๆ

เล่าแบบไม่ใช้ศัพท์ยาก

Generative Adversarial Network เริ่มจากคำถามง่าย ๆ ว่า ให้ generator สร้างตัวอย่างแข่งกับ discriminator ที่พยายามจับของปลอม วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ

เหมือนนักปลอมภาพกับผู้ตรวจสอบที่พัฒนาฝีมือแข่งกันจากข้อผิดพลาดของอีกฝ่าย ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน

GAN ฝึกสองเครือข่ายในเกม adversarial: discriminator แยกข้อมูลจริงจากข้อมูลสร้าง ส่วน generator ปรับตัวให้ตัวอย่างหลอก discriminator ได้ดีขึ้น พารามิเตอร์หลักใน Playground คือ ขนาด noise vector เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ

ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ ตัวอย่างจริงและ random latent vectors · ตัวอย่างขนาดเล็กที่ทำซ้ำได้ เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก

งานที่เหมาะ เช่น สร้างภาพ ปรับ domain, super-resolution และ data augmentation ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า

ภาพจำ: generated samples และ discriminator scores · Playground อัปเดตเมื่อปรับ ขนาด noise vector พร้อมจำข้อจำกัดสำคัญว่า การฝึกอาจไม่เสถียร เกิด mode collapse และ loss ของสองฝ่ายไม่ได้บอกคุณภาพตัวอย่างโดยตรง

03How it works

ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ

  1. เตรียมข้อมูลให้ตรงโจทย์

    ตัวอย่างจริงและ random latent vectors ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล

  2. ตั้งค่าที่ควบคุมพฤติกรรม

    ใช้ latent_dim เพื่อกำหนดความจุของ input สุ่มให้ generator และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้

  3. คำนวณแก่นของวิธี

    ฝึก discriminator ด้วยข้อมูลจริงและปลอม จากนั้น สุ่ม latent แล้วให้ generator สร้างตัวอย่าง Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ

  4. สร้างผลลัพธ์ที่นำไปอ่านได้

    อัปเดต generator ผ่าน discriminator โดยตั้งเป้าให้ถูกมองเป็นจริง ผลที่ได้คือ generated samples และ discriminator scores ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล

  5. ตรวจว่าคำตอบใช้ได้จริง

    เปรียบเทียบหลายค่าของ latent_dim ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า การฝึกอาจไม่เสถียร เกิด mode collapse และ loss ของสองฝ่ายไม่ได้บอกคุณภาพตัวอย่างโดยตรง

เปิดตัวอย่างโค้ดเพื่อลองทำตาม →ตัวอย่างตัวเลขในเรื่องใช้ช่วยอธิบาย ส่วนโค้ดและ Playground ใช้ชุดข้อมูลสาธิตของแต่ละหน้าอ่านเอกสารอ้างอิงของเทคนิคนี้ ↗

ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ

DATA INX · featuresy · targetตัวอย่างจริงและ random latent vectors · ตัวอย่างขนาดเล็กที่ทำซ้ำได้
CALCULATEGenerative Adversarial Network
latent_dimlearning_ratevalidation
RESULT0.800.150.05class / probabilitygenerated samples และ discriminator scores · Playground อัปเดตเมื่อปรับ ขนาด noise vector
เส้นทางของข้อมูล: จากค่าที่รับเข้า ผ่านการคำนวณด้วยพารามิเตอร์ ไปเป็นผลลัพธ์
INPUT

ข้อมูลที่รับเข้ามา

ตัวอย่างจริงและ random latent vectors

ตัวอย่างจริงและ random latent vectors · ตัวอย่างขนาดเล็กที่ทำซ้ำได้
PARAMETERS

พารามิเตอร์ที่ใช้

latent_dim
กำหนดความจุของ input สุ่มให้ generator
learning_rate
ควบคุมขนาดการอัปเดตในแต่ละรอบเมื่อโมเดลเรียนด้วย gradient
validation
กำหนดข้อมูลที่กันไว้เลือกค่าและตรวจการใช้งานกับตัวอย่างใหม่
OUTPUT

ผลลัพธ์ที่ได้

generated samples และ discriminator scores

generated samples และ discriminator scores · Playground อัปเดตเมื่อปรับ ขนาด noise vector
CALCULATION

คำนวณทีละขั้น

  1. 01

    ฝึก discriminator ด้วยข้อมูลจริงและปลอม

  2. 02

    สุ่ม latent แล้วให้ generator สร้างตัวอย่าง

  3. 03

    อัปเดต generator ผ่าน discriminator โดยตั้งเป้าให้ถูกมองเป็นจริง

ควรรู้อีกนิด — การฝึกอาจไม่เสถียร เกิด mode collapse และ loss ของสองฝ่ายไม่ได้บอกคุณภาพตัวอย่างโดยตรง

04Make it yours

Python · NumPy
# ติดตั้ง: pip install numpy# ดาวน์โหลด sample.csv จากหน้านี้ แล้ววางไว้ข้างสคริปต์import numpy as npdata = np.genfromtxt("generative-adversarial-network-sample.csv", delimiter=",", skip_header=1)rng=np.random.default_rng(42); latent_dim=16Z=rng.normal(size=(len(data),latent_dim)); Wg=rng.normal(0,.2,(latent_dim,2))fake=np.tanh(Z@Wg); real=(data[:,:2]-data[:,:2].mean(0))/(data[:,:2].std(0)+1e-9)Wd=rng.normal(0,.2,2); sigmoid=lambda x:1/(1+np.exp(-x))d_real=sigmoid(real@Wd); d_fake=sigmoid(fake@Wd)print("Discriminator real/fake:", d_real.mean(), d_fake.mean())print("Generated samples:\n", fake[:5])

โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด

05Learn by playing

noise vector ขนาดใดให้ generator สร้างความหลากหลายได้?

Generative Adversarial Network / ภาพกลไกที่พารามิเตอร์ควบคุม● คำนวณใหม่เมื่อปรับค่า
กำหนดความจุของ input สุ่มให้ generator
ดูภาพอย่างไร

generator เปลี่ยน noise เป็นตัวอย่าง ส่วน discriminator ส่ง gradient ว่าดูจริงเพียงใด

เมื่อเพิ่มค่า

มีแกนสุ่มมากขึ้นแต่ไม่ได้รับประกันว่าจะใช้ครบทุกแกน

ลองเปรียบเทียบ

ดูความหลากหลายของตัวอย่างเพื่อจับ mode collapse ไม่ดู loss อย่างเดียว

noise zgeneratorfake samplediscriminatorreal / fakegenerator สร้างตัวอย่าง · discriminator ส่ง gradient กลับไปสอน
Discriminator balance54.0%
Noise dimensions16
พารามิเตอร์ที่ลอง16

Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ NumPy จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง