NPU คือ อะไร มีหลักการทำงานยังไง ต่างกับ CPU และ GPU ยังไง

NPU หรือ Neural Processing Unit คือ หน่วยประมวลผลเฉพาะทาง สำหรับใช้ Process งานด้าน AI โดยเฉพาะ บทความนี้ ผมจะมาอธิบายถึงฟีเจอร์ของมัน, หลักการทำงาน, ข้อได้เปรียบ และตัวอย่างเคสการใช้งานให้เข้าใจกันง่ายๆ

โดยทั่วไป NPU มักจะถูกนำไปใช้งานร่วมกับหน่วยประมวลผลแบบอื่นๆ อย่าง CPU และ GPU โดยใน Datacenter ที่มีสเกลใหญ่ๆ ก็มักจะมี NPU Built-in อยู่ในระบบของเมนบอร์ดโดยเฉพาะ แต่ในอุปกรณ์ทั่วไปอย่างสมาร์ทโฟนหรือโน๊ตบุ๊ค มักจะมี NPU ที่รวมเข้ามาแล้วกับหน่วยประมวลผลอื่นๆ ในชิปตัวเดียว เรียกว่า System-on-Chip (SoC)

การที่ NPU ถูกคิดค้นขึ้นมา ทำให้แบรนด์ซอฟต์แวร์ต่างๆ สามารถเขียนแอพพลิเคชั่นที่เกี่ยวข้องกับ AI ออกมาให้ใช้งานกันได้มากขึ้น และสามารถทำงานได้ทันทีบนอุปกรณ์ที่ติดตั้ง แทนที่จะต้องพึ่งพาทรัพยากรจากอินเตอร์เน็ตหรือเซิร์ฟเวอร์ ทำให้การประมวลผล AI ทำได้อย่างรวดเร็ว ประหยัดพลังงาน และมีประสิทธิภาพมากขึ้น

คุณสมบัติเด่นของ NPU

NPU เหมาะกับงานที่ต้องใช้การประมวลผลแบบ Parallel และมีความหน่วงต่ำ เช่น การประมวลผลอัลกอริทึ่ม, ภาษาธรรมชาติ, ภาพ, วิดีโอ, การจดจำเสียงพูด และ การตรวจจับวัตถุ โดยคุณสมบัติเด่นๆ ของมัน หลักๆ แล้ว ก็ คือ

• การประมวลผลแบบ Parallel
  NPU สามารถแตกโจทย์ปัญหาขนาดใหญ่ ออกเป็นส่วนเล็กๆ แยกจากกัน เพื่อจะได้แก้ไขไปพร้อมๆ กัน แบบ Multitask ได้
• การคำนวณแบบ Low Precision Arithmetic
  Neural Processor Unit รองรับการประมวลผลแบบ 8-bit หรือต่ำกว่านั้น เพื่อลดทอนความซับซ้อน และเสริมความประหยัดพลังงาน
• หน่วยความจำแบบ High-bandwidth
  NPU ส่วนใหญ่จะมีหน่วยความจำแบนด์วิดสูงแบบ on-chip ซึ่งส่งเสริมการทำงานด้าน AI ที่ต้องการชุดข้อมูลจำนวนมากได้อย่างดี
• เสริมการใช้งาน Hardware
  NPU รุ่นใหม่ๆ มักจะมีการออกแบบโดยเสริมเทคนิค Hardware Acceleration เข้ามาด้วย เช่น สถาปัจกรรมแบบ Systolic Array หรือ การพัฒนา Tensor Processing Module

NPU มีการทำงานเสมือนเป็นโครงข่ายระบบประสาทบนสมอง คือ จะทำการจำลองพฤติกรรมของระบบเซลล์ประสาทของมนุษย์ ส่งผลให้มันประมวลผลงานด้าน Deep Learning ได้อย่างสมบูรณืแบบ โดยการสั่งการเพียงครั้งเดียว ก็จะสามารถ Process กลุ่มของโครงข่ายประสาทหลายๆ กลุ่ม ได้พร้อมๆ กันด้วย

NPU ไม่ได้ออกแบบมาเพื่อให้ทำงานด้านการคำนวณทางคอมพิวเตอร์ที่ต้องการความแม่นยำเหมือน CPU แต่มันถูกสร้างมาให้แก้ไขปัญหาต่างๆ และสามารถพัฒนาตนเองได้ตลอดเวลาที่ใช้งานไปเรื่อยๆ รวมถึงสามารถเรียนรู้ข้อมูลแต่ละประเภทที่แตกต่างกัน ด้วยการที่มันถนัดในงานด้าน Machine Learning และ AI ทำให้มันแก้ Solution ต่างๆ ได้อย่างรวดเร็ว โดยที่ไม่ต้องอาศัยการโปรแกรมมิ่งที่ซับซ้อน

หนึ่งในข้อโดดเด่นของ NPU คือ สามารถประมวลผลแบบ Parallel ได้ ทำให้สามารถเร่งการทำงานด้าน AI ได้เร็วขึ้น ผ่าน Core ที่ถูกออกแบบมาอย่างเรียบง่าย แต่มีประสิทธิภาพสูง และทำงานโดยเฉพาะเจาะจง ไม่ต้องแบ่งทรัพยากรไปทำงานด้านอื่นๆ อย่าง CPU หรือ GPU

NPU ประกอบไปด้วยโมดูลเฉพาะทางสำหรับทำงานต่างๆ ดังนี้

• การคูณและการบวก
• การเปิดใช้งานฟังก์ชั่นต่างๆ
• งานปฏิบัติการแบบ 2 มิติ
• การคลายข้อมูล

ในขณะที่ Processor แบบดั้งเดิมอย่าง CPU ต้องอาศัยคำสั่งหลายร้อยถึงหลายพันคำสั่ง เพื่อประมวลผลข้อมูลด้าน Neural แต่ NPU สามารถคำนวณให้เสร็จลุล่วงได้ภายในการสั่งการเพียง 1 ครั้ง นอกจากนี้ NPU ยังมีการผนวก Storage และ Compution เข้าไว้ด้วยกัน ผ่านสิ่งที่เรียกว่า Synaptic Weights ซึ่งเป็นหน่วยความจำที่เรียนรู้ได้ สามารถชี้ว่าทางเลือกไหนถูกต้อง หรือผิดพลาด ผลลัพธ์ คือ ทำให้มันมีการเรียนรู้ด้วยตนเองตลอดเวลา เพิ่มประสิทธิผลในการทำงานให้ดีขึ้นเรื่อยๆ

ปัจจุบัน มีการทดสอบว่า NPU ที่มีการพัฒนาขึ้นแล้ว มีประสิทธิภาพในการประมวลผลงานด้าน AI เหนือกว่า GPU ถึง 100 เท่าตัว ในปริมาณการใช้งานพลังงานที่เท่ากัน

ตัวอย่างผังการทำงาน NPU แบบ On-Chip

ในอดีต CPU หรือ Central Processing Unit เปรียบเสมือนสมองของคอมพิวเตอร์ มันทำหน้าที่ประมวลผลการคำนวณพื้นฐานแทบทุกอย่าง และรับผิดชอบต่อการเปิดใช้งาน Application ที่หลากหลาย หลักการทำงานคือ มันจะทำงานทีละอย่างตาม Order โดยการตอบสนองคำสั่งที่เข้ามาทีละคำสั่ง ตั้งแต่ปี 1950s จนถึง 1990s CPU ทำหน้าที่รับผิดชอบการประมวลผลทั้งหมดของคอมพิวเตอร์ ไม่ว่าจะเป็น การรันโปรแกรมต่างๆ, การควบรคุมระบบ และการจัดการอุปกรณ์เสริม

อย่างไรก็ตาม ในเวลาต่อมา ก็มีการกำเนิดของ Application รุ่นใหม่ๆ ที่มีความต้องการที่หลากหลายมากขึ้น ทำให้การใช้ CPU เริ่มมีข้อจำกัด ส่งผลให้การทำงานสมัยใหม่เกิดความล่าช้า หรือระบบล้มเหลวเลยทีเดียว

> อ่านบทความ CPU คืออะไร

ด้วยประเภทงานที่หลากหลายขึ้น ทำให้กำเนิด GPU หรือ Graphics Processing Unit ขึ้นมา โดยเดิมที มันถูกสร้างมาเพื่อประมวลผลรูปภาพโดยเฉพาะ ซึ่งแม้ว่ามันไม่ได้ถูกออกแบบมาให้ทำงานคำนวณแบบ Linear เหมือน CPU แต่มันจะมีจำนวน Core เยอะมากกว่า ทำให้สามารถทำงานแบบ Parallel ได้ดีดว่า

ในเวลาต่อมา มันจึงถูกพัฒนาให้เน้นประมวลผลทั้งในงานด้านกราฟฟิค วิดีโอ และรูปภาพ ด้วยความสามารถในการประมวลผลแบบคู่ขนาน ทำให้มันถูกนำไปใช้ในการประมวลผลด้าน AI ด้วย อย่างไรก็ตาม มันก็มีข้อจำกัด คือมีการกินพลังงานที่สูงมากๆ โดยยิ่งรุ่นที่มีประสิทธิภาพสูง ก็จะยิ่งกินพลังงานมากขึ้นอย่างเห็นได้ชัด

ส่วน NPU นั้น เป็นหน่วยประมวลผลสำหรับ AI ทางเลือกใหม่ ที่จะมาช่วยเหลือ GPU ในการทำงานด้านนี้แทน โดยสามารถทำงานด้าน AI ได้อย่างดี แต่กินพลังงานต่ำมากๆ

เปรียบเทียบ CPU vs GPU vs NPU

• CPU
  เป็นเสมือนสมองของคอมพิวเตอร์ มีจำนวนคอร์ไม่เยอะมาก และใช้การประมวลผลแบบเรียงลำดับ (Serial Computing) เหมาะกับงานที่ต้องการความแม่นยำในการตัดสินใจแบบมีตรรกะ โลจิค เช่น ระบบควบคุม, การประมวลผลงานทั่วๆ ไป
• GPU
  ถูกพัฒนาขึ้นมาเพื่อประมวลผลงานด้านวิดีโอและรูปภาพโดยเฉพาะ มีจำนวน Core เยอะกว่า CPU มาก ทำให้สามารถประมวลผลงานหลายๆ งานได้พร้อมๆ กัน เหมาะกับงาน Graphic, Data Center และ Blockchain
• NPU
  NPU พัฒนาต่อยอดมาจาก GPU โดยมีต้นแบบ คือ เซลล์ประสาทของมนุษย์ ใช้สถาปัตยกรรมแบบ Neural Network ผลลัพธ์การทำงานอาจจะไม่แม่นยำเหมือน CPU แต่รวดเร็วและใช้พลังงานน้อยกว่าเยอะ เหมาะกับงานแนว Machine Learning หรือ Deep Learning ที่ต้องมีการเรียนรู้อย่างต่อเนื่อง

รูปแผนผังองค์ประกอบ Processor แต่ละแบบ

NPU ไม่ได้ถูกออกแบบมาเพื่อทดแทน CPU หรือ GPU แต่ถูกคิดค้นมาเพื่อช่วยเหลือ Processor ทั้ง 2 แบบในการประมวลผลงานเฉพาะทาง ได้แก่งานแบบคู่ขนานและ Machine Learning ทำให้เมื่อหน่วยประมวลผลทั้ง 3 แบบทำงานร่วมกัน จะส่งผลให้คอมพิวเตอร์เราได้เปรียบในการทำงานรอบด้านเป็นอย่างมาก

ข้อได้เปรียบหลักๆ ของการมี NPU ช่วยประมวลผล คือ

การประมวลผลแบบคู่ขนาน

อย่างที่กล่าวไปในหัวข้อก่อนหน้า ว่า NPU สามารถแตกโจทย์ขนาดใหญ่เป็นองค์ประกอบเล็กๆ และแก้ไขไปพร้อมๆ กันแบบ Multitask ทำให้ ซึ่งโดยปกติ การทำงานในลักษณะนี้ คอมพิวเตอร์จะใช้ GPU ทำ แต่หากเรามี NPU มาทำแทน จะได้ผลลัพธ์ที่รวดเร็วมากกว่า และยังช่วยให้ GPU มีทรัพยากรไปประมวลผลด้านกราฟฟิคตามที่มันถนัดได้อย่างเต็มที่

ประหยัดพลังงาน

ในอดีต GPU มักจะถูกใช้ประมวลผลงานคำนวณระดับประสิทธิภาพสูงและงานด้าน AI แต่การเข้ามาของ NPU นั้น มันสามารถมาแทนที่ได้ แถมยังได้ผลลัพธ์ที่ดีกว่า และที่สำคัญ กินพลังงานน้อยกว่าด้วยอย่างเห็นได้ชัด

ประมวลผลข้อมูลแบบเรียลไทม์

NPU สามารถประมวลผลข้อมูลได้กว้างมากๆ ไม่ว่าจะเป็น รูปภาพ วิดีโอ หรือไฟล์เสียง ทำให้สามารถนำไปเสริมการใช้งานในแอพพลิเคชั่นต่างๆ ได้มากมาย เช่น พวกหุ่นยนต์ อุปกรณ์ IoT หรือ อุปกรณ์สวมใส่ ให้สามารถตอบสนองผู้ใช้งานแบบ Real Time ได้ ส่งผลให้ลดทอนความล่าช้าในการทำงานได้อย่างดี

NPU คือ เทคโนโลยีใหม่ที่กำลังมาแรง ทำให้แบรนด์ผู้ผลิตคอมพิวเตอร์ฮาร์ดแวร์หลายๆ แบรนด์ ไม่ว่าจะเป็น Microsoft, Intel, AMD, Nvidia หรือ Qualcomm ต่างก็มีการพัฒนา NPU ของตนเอง ทั้งแบบ Standalone และแบบ ฝังรวมในชิป เช่น Apple Neural Engine

ผมขอยกตัวอย่าง Use Case ของ NPU ที่น่าสนใจ ดังนี้

AI และโมเดล Large Language

อย่างที่ทราบกันว่า NPU ถูกออกแบบมาเพื่อเสริมประสิทธิภาพในการประมวลผลงานด้าน AI และ Machine Learning โดยเฉพาะ เสริมการทำงานของ GPU ด้วยการประมวลผลแบบคู่ขนานที่เหนือกว่า ส่งผลให้เร่งการทำงานของโมเดล AI ขนาดใหญ่ เช่น การแกะข้อมู,จากภาพ เสียง วิดีโอ, การจดจำเสียงพูด หรือการสร้างภาพด้วย AI เป็นต้น

อุปกรณ์ IoT Devices

ด้วยการประมวลผลแบบ Parallel ทำให้ NPU เหมาะกับการใช้งานร่วมกับอุปกรณ์ที่เชื่อมต่อกับเครือข่าย เช่น อุปกรณ์สวมใส่อัจฉริยะ, สมาร์ทวอทช์ หรือ เครื่องใช้ไฟฟ้าอัจฉริยะ เป็นต้น

ศูนย์ข้อมูล Datacenter

AI และ Machine Learning ถือเป็นตัวช่วยสำคัญสำหรับ Data Center ที่ต้องการบริหารจัดการพลังงานให้ประหยัดที่สุด NPU จึงมักถูกนำเข้ามาใช้เพื่อช่วยให้ประหยัดพลังงานมากขึ้น และยังสามารถจัดการทรัพยากรได้ดีบนระบบคลาวด์

ยานพาหนะอัตโนมัติ

ยานพาหนะที่มีการขับเคลื่อนอัตโนมัติ เช่น โดรน หรือ รถยนต์ที่ขับขี่ด้วยตนเอง จะได้รับประโยชน์จาก NPU เป็นอย่างยิ่ง ช่วยให้มันเชื่อมต่อและทำงานได้เร็วขึ้ และดีขึ้น

หุ่นยนต์ Robotics

NPU เชี่ยวชาญในการจัดการงานที่เกี่ยวข้องกับ Machine Learning และ Computer Vision จึงกลายเป็นหัวใจสำคัญที่ช่วยผลักดันการพัฒนาในอุตสาหกรรมหุ่นยนต์ ไม่ว่าจะเป็น หุ่นยนต์ผู้ช่วยในบ้าน ไปจนถึง เครื่องมือผ่าตัดอัตโนมัติ NPU ช่วย ในการเรียนรู้ สังเกตสิ่งรอบตัว และตอบสนองต่อสภาพแวดล้อม ได้อย่างแม่นยำแลฉลาดขึ้น

สนใจสั่งซื้อหรือสอบถามรายละเอียดเพิ่มเติม สามารถติดต่อได้ที่หน้า Contact

หรือ

สรุป NPU คือ อะไร

NPU คือ Neural Processing Unit เป็นหน่วยประมวลผลที่ออกแบบมาเลียนแบบระบบโครงข่ายประสาทเทียมของมนุษย์ จุดเด่นคือสามารถประมวลผลแบบคู่ขนาน Parallel ทำให้จัดการชุดข้อมูลหลายๆ ชุดพร้อมๆ กันได้แบบ Multitask จึงเหมาะกับการใช้ทำงานด้าน AI, Deep Learning และ Machine Learning โดยเฉพาะ

ปัจจุบัน NPU ถูกนำมาใช้ร่วมกับ CPU และ GPU เพื่อลดทอนให้ระบบประมวลผลทั้ง 2 ไม่ต้องทำงานหนัก และนำทรัพยากรไปใช้งานใน Task ที่ตัวมันถนัดมากขึ้น โดยข้อได้เปรียบข้อง NPU คือ ประมวลผลแบบคู่ขนานได้รวดเร็ว, ประหยัดพลังงาน และคำนวณข้อมูลแบบ Real Time ได้ดีมาก

ตัวอย่างการใช้งานของ NPU เช่น ใช้ในศูนย์ข้อมูล Data Center, ใช้ในพวกยานพาหนะอัตโนมัติ หรือ พวกหุ่นยนต์ เป็นต้น

Facebook Inbox : https://goo.gl/9wo8oL
Hotline : 063-819-7299
โทร : 02-713-2261
Line@ : @addinonline
Email : [email protected]

ผู้เขียน

Unnote

อดีตสถาปนิกและนักศึกษาจบปริญญาโทสาขาอสังหาริมทรัพย์ ผันตัวมาคลุกคลีในวงการไอที เพื่อเรียนรู้สิ่งใหม่ๆ

[email protected]