01Overall Concept
ไอเดียหลัก — GAN ฝึกสองเครือข่ายในเกม adversarial: discriminator แยกข้อมูลจริงจากข้อมูลสร้าง ส่วน generator ปรับตัวให้ตัวอย่างหลอก discriminator ได้ดีขึ้น
ลองนึกภาพว่า — เหมือนนักปลอมภาพกับผู้ตรวจสอบที่พัฒนาฝีมือแข่งกันจากข้อผิดพลาดของอีกฝ่าย
ตัวอย่างการนำไปใช้ — สร้างภาพ ปรับ domain, super-resolution และ data augmentation
02อธิบายภาษาคนเข้าใจง่ายๆ
Generative Adversarial Network เริ่มจากคำถามง่าย ๆ ว่า ให้ generator สร้างตัวอย่างแข่งกับ discriminator ที่พยายามจับของปลอม วิธีนี้ไม่ได้มองข้อมูลทุกชนิดเหมือนกัน จึงต้องเตรียมข้อมูลให้ตรงกับสิ่งที่อัลกอริทึมใช้คำนวณ
เหมือนนักปลอมภาพกับผู้ตรวจสอบที่พัฒนาฝีมือแข่งกันจากข้อผิดพลาดของอีกฝ่าย ภาพเปรียบเทียบนี้ช่วยจำแก่นของวิธี แต่ตอนใช้งานจริงคอมพิวเตอร์ทำงานกับตัวเลขและกฎที่กำหนดไว้อย่างชัดเจน
GAN ฝึกสองเครือข่ายในเกม adversarial: discriminator แยกข้อมูลจริงจากข้อมูลสร้าง ส่วน generator ปรับตัวให้ตัวอย่างหลอก discriminator ได้ดีขึ้น พารามิเตอร์หลักใน Playground คือ ขนาด noise vector เมื่อเลื่อนค่า ระบบจะคำนวณผลใหม่จากข้อมูลชุดเดิม จึงเปรียบเทียบการเปลี่ยนแปลงได้ตรง ๆ
ข้อมูลตัวอย่างบนหน้าใช้รูปแบบ ตัวอย่างจริงและ random latent vectors · ตัวอย่างขนาดเล็กที่ทำซ้ำได้ เราแยกสิ่งที่อัลกอริทึมรับเข้าออกจากผลลัพธ์ เพื่อไม่เผลอส่งข้อมูลคำตอบหรือข้อมูลอนาคตเข้าไปตอนฝึก
งานที่เหมาะ เช่น สร้างภาพ ปรับ domain, super-resolution และ data augmentation ก่อนใช้จริงควรกำหนด metric ที่สัมพันธ์กับเป้าหมาย แล้วเปรียบเทียบกับวิธีพื้นฐานที่ง่ายกว่า
ภาพจำ: generated samples และ discriminator scores · Playground อัปเดตเมื่อปรับ ขนาด noise vector พร้อมจำข้อจำกัดสำคัญว่า การฝึกอาจไม่เสถียร เกิด mode collapse และ loss ของสองฝ่ายไม่ได้บอกคุณภาพตัวอย่างโดยตรง
03How it works
ค่อยๆ ทำไปด้วยกัน ตั้งแต่ข้อมูลแถวแรกจนถึงการตรวจคำตอบ
เตรียมข้อมูลให้ตรงโจทย์
ตัวอย่างจริงและ random latent vectors ตรวจค่าที่หาย หน่วยของแต่ละคอลัมน์ และแยกข้อมูลประเมินก่อนเรียนรู้พารามิเตอร์จากข้อมูล
ตั้งค่าที่ควบคุมพฤติกรรม
ใช้ latent_dim เพื่อกำหนดความจุของ input สุ่มให้ generator และบันทึกค่าเริ่มต้นหรือ random seed เมื่อวิธีมีการสุ่ม เพื่อให้ทำซ้ำและเปรียบเทียบได้
คำนวณแก่นของวิธี
ฝึก discriminator ด้วยข้อมูลจริงและปลอม จากนั้น สุ่ม latent แล้วให้ generator สร้างตัวอย่าง Playground ใช้ข้อมูลสาธิตชุดเดิมทุกครั้งเพื่อให้เห็นผลของ slider โดยไม่ถูกความสุ่มกลบ
สร้างผลลัพธ์ที่นำไปอ่านได้
อัปเดต generator ผ่าน discriminator โดยตั้งเป้าให้ถูกมองเป็นจริง ผลที่ได้คือ generated samples และ discriminator scores ตัวเลขหรือกลุ่มที่ได้ยังต้องตีความร่วมกับบริบทของข้อมูล
ตรวจว่าคำตอบใช้ได้จริง
เปรียบเทียบหลายค่าของ latent_dim ด้วย metric ที่เหมาะ ดูทั้งผลรวมและกรณีที่พลาด แล้วทดสอบกับข้อมูลที่ไม่ใช้ปรับค่า โดยคำนึงถึงข้อจำกัดว่า การฝึกอาจไม่เสถียร เกิด mode collapse และ loss ของสองฝ่ายไม่ได้บอกคุณภาพตัวอย่างโดยตรง
ข้อมูล พารามิเตอร์ และภาพรวมการคำนวณ
latent_dimlearning_ratevalidationข้อมูลที่รับเข้ามา
ตัวอย่างจริงและ random latent vectors
ตัวอย่างจริงและ random latent vectors · ตัวอย่างขนาดเล็กที่ทำซ้ำได้พารามิเตอร์ที่ใช้
- latent_dim
- กำหนดความจุของ input สุ่มให้ generator
- learning_rate
- ควบคุมขนาดการอัปเดตในแต่ละรอบเมื่อโมเดลเรียนด้วย gradient
- validation
- กำหนดข้อมูลที่กันไว้เลือกค่าและตรวจการใช้งานกับตัวอย่างใหม่
ผลลัพธ์ที่ได้
generated samples และ discriminator scores
generated samples และ discriminator scores · Playground อัปเดตเมื่อปรับ ขนาด noise vectorคำนวณทีละขั้น
- 01
ฝึก discriminator ด้วยข้อมูลจริงและปลอม
- 02
สุ่ม latent แล้วให้ generator สร้างตัวอย่าง
- 03
อัปเดต generator ผ่าน discriminator โดยตั้งเป้าให้ถูกมองเป็นจริง
ควรรู้อีกนิด — การฝึกอาจไม่เสถียร เกิด mode collapse และ loss ของสองฝ่ายไม่ได้บอกคุณภาพตัวอย่างโดยตรง
04Make it yours
# ติดตั้ง: pip install numpy# ดาวน์โหลด sample.csv จากหน้านี้ แล้ววางไว้ข้างสคริปต์import numpy as npdata = np.genfromtxt("generative-adversarial-network-sample.csv", delimiter=",", skip_header=1)rng=np.random.default_rng(42); latent_dim=16Z=rng.normal(size=(len(data),latent_dim)); Wg=rng.normal(0,.2,(latent_dim,2))fake=np.tanh(Z@Wg); real=(data[:,:2]-data[:,:2].mean(0))/(data[:,:2].std(0)+1e-9)Wd=rng.normal(0,.2,2); sigmoid=lambda x:1/(1+np.exp(-x))d_real=sigmoid(real@Wd); d_fake=sigmoid(fake@Wd)print("Discriminator real/fake:", d_real.mean(), d_fake.mean())print("Generated samples:\n", fake[:5])โค้ดเปลี่ยนตามค่าที่เลือกใน Playground · แต่ละภาษาใช้ข้อมูลตัวอย่างตามที่ระบุในโค้ด
05Learn by playing
noise vector ขนาดใดให้ generator สร้างความหลากหลายได้?
generator เปลี่ยน noise เป็นตัวอย่าง ส่วน discriminator ส่ง gradient ว่าดูจริงเพียงใด
มีแกนสุ่มมากขึ้นแต่ไม่ได้รับประกันว่าจะใช้ครบทุกแกน
ดูความหลากหลายของตัวอย่างเพื่อจับ mode collapse ไม่ดู loss อย่างเดียว
Playground เป็น implementation เพื่อการเรียนรู้ที่คำนวณในเบราว์เซอร์ ส่วนโค้ด Python ใช้ NumPy จึงอาจให้ค่าต่างกันเล็กน้อยจากรายละเอียดการ optimize และค่าเริ่มต้นของไลบรารี ผลนี้ไม่ใช่ benchmark บนข้อมูลจริง