หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) ในสมาร์ทโฟน: มันคืออะไร ทำงานอย่างไร และทำไมมันถึงสำคัญมาก

หากคุณเคยสงสัยว่าโทรศัพท์มือถือของคุณทำงานได้อย่างไร ปรับแต่งใบหน้าของคุณในรูปถ่าย ทำความเข้าใจสิ่งที่คุณพูดด้วยเสียง หรือลบวัตถุออกจากภาพ ในเวลาเพียงไม่กี่วินาที คำตอบก็เหลือเพียงสามตัวอักษร: NPU (NullPointerActive Unit) ชิ้นส่วนเล็กๆ ภายในโปรเซสเซอร์นี้ได้กลายเป็นหนึ่งในตัวเอกเงียบๆ ของคลื่นลูกใหม่ของปัญญาประดิษฐ์ในโทรศัพท์มือถือ

ปัจจุบันสมาร์ทโฟนรุ่นใหม่เกือบทั้งหมดมีหน่วยประมวลผลประสาทเทียม (NPU) แต่มีคนจำนวนน้อยมากที่รู้เรื่องนี้ มันทำหน้าที่อะไรกันแน่ แตกต่างจาก CPU และ GPU อย่างไร และทำไมมันถึงมีผลกระทบอย่างมากต่อกล้อง แบตเตอรี่ และความเป็นส่วนตัว?เราจะมาเจาะลึกทุกอย่างที่อยู่เบื้องหลัง "สมอง AI" ของโทรศัพท์มือถือของคุณ พร้อมตัวอย่างที่ชัดเจน การเปรียบเทียบ และประเด็นสำคัญบางประการ เพื่อช่วยให้คุณเลือกโทรศัพท์เครื่องต่อไปได้อย่างชาญฉลาด

NPU ในสมาร์ทโฟนคืออะไร?

คำย่อ NPU ย่อมาจาก หน่วยประมวลผลประสาท หรือ หน่วยประมวลผลประสาทเป็นหน่วยประมวลผลเฉพาะทางชนิดหนึ่ง ที่รวมอยู่ใน SoC (system-on-chip) ของโทรศัพท์มือถือของคุณ โดยมีจุดประสงค์หลักเพื่อเร่งความเร็วในการคำนวณที่จำเป็นสำหรับการทำงานของปัญญาประดิษฐ์และโมเดลการเรียนรู้ของเครื่อง

ในขณะที่ CPU และ GPU เป็นส่วนประกอบอเนกประสงค์ทั่วไป แต่ NPU นั้นได้รับการออกแบบมาเพื่อ... ทำการคำนวณทางคณิตศาสตร์แบบเดียวกันเสมอ แต่ในปริมาณมากและแบบขนานกัน: การคูณเมทริกซ์ การคอนโวลูชัน และการคำนวณอื่นๆ โดยใช้โครงข่ายประสาทเทียมเชิงลึก

โครงข่ายประสาทเทียมเป็นรากฐานของปัญญาประดิษฐ์สมัยใหม่: โครงสร้างแบบหลายชั้นที่มีพารามิเตอร์นับล้านตัวที่ มันรับข้อมูลเข้า (ข้อความ รูปภาพ เสียง) ประมวลผล และสร้างผลลัพธ์ออกมาเช่น การแปล การตอบคำถาม หรือการจำแนกประเภทสิ่งที่ปรากฏในภาพถ่าย หน่วยประมวลผลประสาทเทียม (NPU) คือกลไกที่ประมวลผลโมเดลเหล่านี้ภายในตัวอุปกรณ์เอง

แทนที่จะพึ่งพาระบบคลาวด์อยู่เสมอ โทรศัพท์รุ่นปัจจุบันหลายรุ่นสามารถประมวลผลงาน AI ส่วนใหญ่ได้ในเครื่อง berkat หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) เร็วกว่าและประหยัดพลังงานมากกว่า CPU หรือ GPU แบบดั้งเดิมมาก เมื่อต้องรับมือกับการคำนวณที่ซ้ำซากและซับซ้อนขนาดนี้

นั่นเป็นเหตุผลว่าทำไม เมื่อโทรศัพท์ของคุณทำสิ่งต่างๆ เช่น เบลอพื้นหลังในโหมดภาพบุคคล จดจำใบหน้าของคุณเพื่อปลดล็อก หรือแนะนำข้อความตอบกลับด่วนในข้อความ มักจะมีโมเดล AI อยู่เบื้องหลัง ทำงานบน NPU ไม่ใช่บน CPUประหยัดเวลาและแบตเตอรี่

CPU, GPU และ NPU: “ทีมที่สมบูรณ์แบบ” ของ SoC

เพื่อให้เข้าใจบทบาทของ NPU อย่างถ่องแท้ จำเป็นต้องดูว่าการทำงานถูกแบ่งอย่างไรกับ CPU และ GPU ภายใน SoC ซึ่งเป็น "สมอง" ที่แท้จริงของสมาร์ทโฟนและทำหน้าที่รวมฟังก์ชันต่างๆ เข้าด้วยกัน ซีพียู, จีพียู, เอ็นพียู, โมเด็ม, ตัวประมวลสัญญาณภาพ, โมดูลวิดีโอ และส่วนประกอบอื่นๆ บนชิปขนาดเล็กเพียงชิ้นเดียว

CPU (หน่วยประมวลผลกลาง) คือหน่วยประมวลผลหลัก มีหน้าที่รับผิดชอบ... เรียกใช้ระบบปฏิบัติการ แอปพลิเคชัน และตรรกะทั่วไป ของอุปกรณ์นั้น มันทำหน้าที่ประมวลผลเชิงตรรกะ คำนวณ และควบคุม รวมถึงประสานงานว่าแต่ละส่วนประกอบของระบบควรทำอะไรในแต่ละช่วงเวลา

GPU (หน่วยประมวลผลกราฟิก) มีความเชี่ยวชาญด้านกราฟิก ใช้สำหรับ... การเรนเดอร์ภาพนิ่ง ภาพเคลื่อนไหว อินเทอร์เฟซ 2 มิติ และ 3 มิติเกม เอฟเฟ็กต์ภาพ และทุกสิ่งที่ต้องการการแสดงผลพิกเซลที่ราบรื่น มันโดดเด่นในการคำนวณที่เกี่ยวข้องกับกราฟิกจำนวนมากพร้อมกัน

NPU จะเข้ามามีบทบาทเมื่อสิ่งที่จำเป็นไม่ใช่การวาดภาพกราฟิก แต่เป็นการ... เรียกใช้โมเดล AI ในปริมาณมากและรวดเร็วแม้ว่างานบางอย่างเหล่านี้จะสามารถทำได้ด้วย CPU หรือ GPU แต่ NPU ได้รับการออกแบบมาตั้งแต่เริ่มต้นเพื่อให้ทำงานได้ดีขึ้น เร็วขึ้น และใช้พลังงานน้อยลง

ถ้าเปรียบเทียบกับกีฬาฟุตบอล เราอาจกล่าวได้ว่า CPU คือกัปตันที่คอยวางแผนการเล่น ส่วน GPU คือกองหน้าผู้รับผิดชอบด้านการสร้าง "ลูกเล่น" ทางสายตา และ NPU เปรียบเสมือนโค้ชที่คาดการณ์ วิเคราะห์รูปแบบ และปรับปรุงการตัดสินใจให้เหมาะสมที่สุด โดยอิงจากข้อมูลจำนวนมาก

เหตุใด NPU จึงมีความสำคัญมากเช่นนี้?

การเกิดขึ้นและการนำ NPU มาใช้กันอย่างแพร่หลายไม่ใช่เพียงแค่กลยุทธ์ทางการตลาด แต่เป็นคำตอบสำหรับปัญหาเฉพาะเจาะจง: งาน AI ที่เราใช้ในชีวิตประจำวันนั้นมีความซับซ้อนและเกิดขึ้นบ่อยขึ้นเรื่อยๆและการใช้งานบนระบบคลาวด์ตลอดเวลานั้นไม่ใช่ทางเลือกที่เหมาะสมทั้งในแง่ของความเร็วและความเป็นส่วนตัว

สิ่งที่เรามองว่าเป็นเรื่องปกติในสมาร์ทโฟนยุคใหม่ เช่น โหมดถ่ายภาพบุคคล โหมดกลางคืนขั้นสูง และคำแนะนำส่วนบุคคล การบันทึกเสียงพูด การแปลพร้อมกัน การแนะนำการเขียนระบบผู้ช่วยเสียงที่เข้าใจภาษาธรรมชาติ และการปรับปรุงคุณภาพวิดีโออัตโนมัติ ล้วนต้องใช้พลังการประมวลผลสูงมาก

หากไม่มี NPU งานเหล่านี้จะต้องถูกส่งต่อไปยัง CPU หรือ GPU ซึ่งหมายความว่า การใช้พลังงานอย่างมหาศาล อุณหภูมิของอุปกรณ์สูงขึ้น และในหลายกรณี จำเป็นต้องเชื่อมต่อกับเซิร์ฟเวอร์ภายนอกอย่างต่อเนื่องเพื่อประมวลผลทุกอย่าง

หน่วยประมวลผล NPU ช่วยให้ระบบอัจฉริยะส่วนใหญ่ทำงานได้โดยตรงบนโทรศัพท์ ซึ่งหมายความว่า... ความเร็วที่สูงขึ้น (ความหน่วงต่ำลง), อายุการใช้งานแบตเตอรี่ที่ยาวนานขึ้น และความเป็นส่วนตัวที่มากขึ้นคุณสามารถประมวลผลเสียง รูปภาพ หรือวิดีโอของคุณได้ในเครื่องโดยไม่ต้องออกจากอุปกรณ์ในหลายๆ ฟังก์ชัน

นอกจากนี้ เนื่องจากชิปรุ่นใหม่เกือบทั้งหมดมีหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) ผู้ผลิตระบบปฏิบัติการและแอปพลิเคชันจึงเริ่มปล่อยฟีเจอร์เฉพาะด้าน AI ออกมา บีบอัดหน่วยเหล่านี้: Apple Intelligence, Galaxy AI, Xiaomi HyperAI, Google Pixel พร้อม Google Tensorระบบ Copilot บนอุปกรณ์พกพา ฯลฯ

หลักการทำงานภายในของ NPU

NPU ประกอบด้วยหน่วยประมวลผลแบบง่ายจำนวนมากที่ทำงานแบบขนาน การออกแบบของมันถูกปรับให้เหมาะสมที่สุดสำหรับ คูณและบวกเมทริกซ์ ใช้การคำนวณคอนโวลูชัน และดำเนินการซ้ำๆ ซึ่งเป็นลักษณะเฉพาะของโครงข่ายประสาทเทียมเชิงลึก

เมื่อแอปต้องการใช้ AI บนอุปกรณ์ แอปจะปฏิบัติตามขั้นตอนการทำงานโดยทั่วไปที่ค่อนข้างคล้ายกัน คือ ขั้นแรกต้องรับข้อมูล (รูปภาพ เสียง หรือข้อความ) พวกมันกลายเป็นตัวแทนเชิงตัวเลข ซึ่งเป็นข้อมูลที่หน่วยประมวลผล NPU สามารถจัดการได้ โดยทั่วไปจะเป็นเวกเตอร์หรือเทนเซอร์

ถัดไป โมเดล AI ที่ได้รับการฝึกฝนล่วงหน้าแล้ว เช่น โมเดลการจดจำวัตถุหรือเสียงพูด จะถูกโหลดเข้าไปใน NPU โมเดลนี้ประกอบด้วยชั้นของเซลล์ประสาทเทียมที่เชื่อมต่อกันด้วยน้ำหนัก NPU จะนำค่าน้ำหนักและฟังก์ชันการกระตุ้นเหล่านั้นมาใช้ แปลงข้อมูลป้อนเข้าเป็นข้อมูลส่งออก

ผลลัพธ์ที่ได้อาจเป็นป้ายกำกับ (เช่น ภาพนี้มี “สุนัข” อยู่) การประมาณค่า (เช่น อัตราส่วนพื้นหลังต่อวัตถุในภาพ) ข้อความที่สร้างขึ้น หรือคำแปล สิ่งสำคัญคือ หน่วยประมวลผล NPU สามารถดำเนินการคำสั่งเหล่านี้ได้หลายล้านครั้งต่อวินาที ใช้พลังงานน้อยกว่า CPU หรือ GPU

แม้ว่า NPU มักถูกนำไปเปรียบเทียบกับสมองของมนุษย์ แต่ก็มีความแตกต่างที่สำคัญอยู่หลายประการ: สมองจะจัดระเบียบการเชื่อมต่อของมันใหม่ในเชิงกายภาพ (ความยืดหยุ่นของระบบประสาท) ในขณะที่ NPU มีสถาปัตยกรรมที่ตายตัว และ "การเชื่อมต่อ" จะเปลี่ยนแปลงได้เฉพาะในระดับซอฟต์แวร์เท่านั้นโดยปรับเปลี่ยนน้ำหนักในโมเดล ไม่ใช่ตัวฮาร์ดแวร์เอง

NPU แตกต่างจาก CPU และ GPU อย่างไร?

ซีพียูได้รับการปรับแต่งให้สามารถประมวลผลการคำนวณที่ซับซ้อนบางอย่างได้อย่างแม่นยำและยืดหยุ่นสูง นั่นจึงเป็นเหตุผลว่าทำไมมันถึงเหมาะอย่างยิ่งสำหรับ งานทั่วไป ตรรกะเชิงโปรแกรม การจัดการเธรด การประมวลผลระบบ และแอปพลิเคชันแต่เมื่อคุณต้องดำเนินการง่ายๆ นับล้านครั้งพร้อมกัน มันก็จะไม่ค่อยมีประสิทธิภาพอีกต่อไป

หน่วยประมวลผลกราฟิก (GPU) ซึ่งได้รับการออกแบบมาเพื่อการประมวลผลกราฟิก ถือเป็นก้าวสำคัญในด้านปัญญาประดิษฐ์ (AI) เนื่องจากมีความสามารถในการ... ดำเนินการคำสั่งที่คล้ายกันหลายพันรายการพร้อมกันที่จริงแล้ว Nvidia ได้ใช้ประโยชน์จากสิ่งนี้เพื่อนำ GPU ของตนไปใช้กับงานด้านแมชชีนเลิร์นนิง ก่อนที่ NPU เชิงพาณิชย์จะถือกำเนิดขึ้นเสียอีก

NPU ก้าวไปอีกขั้น: มันยอมเสียสละความหลากหลายในการใช้งานเพื่อแลกกับการเพิ่มประสิทธิภาพสูงสุดสำหรับการคำนวณเฉพาะที่โมเดล AI ต้องการ สามารถมอบประสิทธิภาพ AI ที่เทียบเท่าหรือเหนือกว่า โดยใช้พลังงานเพียงเศษเสี้ยวเดียว เปรียบเทียบประสิทธิภาพของ GPU หรือ CPU สำหรับงานเดียวกัน

บนอุปกรณ์พกพา ซึ่งอายุการใช้งานแบตเตอรี่และการระบายความร้อนเป็นสิ่งสำคัญ สิ่งนี้จึงสร้างความแตกต่างอย่างมาก โดยเฉพาะอย่างยิ่งงานที่เกี่ยวข้องกับการจดจำภาพหรือเสียงที่... หากใช้งานผ่าน CPU หรือ GPU จะทำให้แบตเตอรี่หมดเร็วสามารถดำเนินการได้อย่างต่อเนื่องบน NPU โดยมีผลกระทบต่อระบบน้อยลงมาก

ความเชี่ยวชาญเฉพาะด้านนี้ยังช่วยให้สามารถใช้งานฟังก์ชันต่างๆ เช่น การจดจำใบหน้าที่ปลอดภัย การวิเคราะห์กล้องแบบเรียลไทม์ หรือ คำแนะนำตามบริบทโดยอิงจากการใช้งานอุปกรณ์ของคุณ สามารถใช้งานได้แทบทั้งวันโดยที่คุณไม่รู้สึกว่าแบตเตอรี่ลดลงอย่างเห็นได้ชัด

การประยุกต์ใช้งานจริงของ NPU ในอุปกรณ์เคลื่อนที่

ในการใช้งานประจำวัน หน่วยประมวลผลประสาทเทียม (NPU) มีส่วนเกี่ยวข้องกับหลายแง่มุมของโทรศัพท์ของคุณมากกว่าที่คุณคิด หนึ่งในส่วนที่เห็นได้ชัดเจนที่สุดคือกล้อง ได้แก่ โหมดถ่ายภาพบุคคล โหมดกลางคืน การลดสัญญาณรบกวน และการระบุฉากอัตโนมัติ พวกเขาใช้โมเดลคอมพิวเตอร์วิชั่นที่ทำงานบน NPU.

เมื่อคุณถ่ายรูป ระบบสามารถตรวจจับใบหน้า แยกแยะส่วนต่างๆ ของภาพว่าเป็นท้องฟ้า พืชพรรณ หรืออาคาร และปรับพารามิเตอร์ต่างๆ ได้แบบเรียลไทม์ นอกจากนี้ยังสามารถ... จดจำผู้คนและจัดกลุ่มพวกเขาไว้ในแกลเลอรี่หรือแนะนำภาพที่ดีที่สุดจากภาพถ่ายหลายภาพโดยใช้ AI

ในส่วนของเสียง หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) ช่วยเร่งความเร็วในการจดจำเสียงพูดสำหรับการเขียนตามคำบอก การถอดเสียงแบบเรียลไทม์ และผู้ช่วยเสมือน ทำให้สามารถใช้งานฟังก์ชันเหล่านี้ได้มากมาย สามารถทำงานได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ตอย่างถาวรลดการพึ่งพาระบบคลาวด์และเพิ่มความเป็นส่วนตัว

นอกจากนี้ยังมีฟีเจอร์ "ที่มองไม่เห็น" อีกมากมาย เช่น การวิเคราะห์รูปแบบการใช้งานของคุณ คาดการณ์ว่าคุณจะเปิดแอปพลิเคชันใดบ้าง และโหลดแอปเหล่านั้นไว้ล่วงหน้าปรับการใช้พลังงานให้เหมาะสม หรือแสดงคำแนะนำที่ตรงกับความต้องการของคุณมากขึ้น ทั้งหมดนี้ขึ้นอยู่กับโมเดล AI ที่ทำงานบน NPU เป็นหลัก

นอกจากนี้ NPU ยังถูกใช้สำหรับงานด้านความปลอดภัย เช่น การปลดล็อกด้วยใบหน้าขั้นสูง การจดจำลายนิ้วมือที่ชาญฉลาดขึ้น และการตรวจจับความพยายามในการเข้าถึงที่น่าสงสัย การป้องกันพฤติกรรมผิดปกติในแอปพลิเคชัน และฟังก์ชันอื่นๆ ที่ต้องการวิเคราะห์ข้อมูลปริมาณมากอย่างรวดเร็วและในพื้นที่

นอกจากอุปกรณ์พกพาแล้ว NPU ยังถูกนำไปใช้ในอุปกรณ์ใดอีกบ้าง?

แม้ว่าโดยทั่วไปเราจะเชื่อมโยงหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) กับสมาร์ทโฟน แต่การใช้งานของมันก็แพร่หลายมากขึ้นเรื่อยๆ ในศูนย์ข้อมูล ผู้ให้บริการคลาวด์รายใหญ่ก็ใช้ NPU เช่นกัน ตัวเร่งความเร็วเฉพาะทางสำหรับการฝึกอบรมและการให้บริการโมเดล AI ในระดับมหาศาล โดยหลายส่วนมีสถาปัตยกรรมคล้ายกับหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU)

ในโลกของยานยนต์ รถยนต์ไร้คนขับและระบบช่วยเหลือผู้ขับขี่ขั้นสูงจำเป็นต้องประมวลผลข้อมูล ข้อมูลแบบเรียลไทม์จากกล้อง เรดาร์ ไลดาร์ และเซ็นเซอร์อื่นๆนั่นคือจุดที่ชิปที่มีหน่วยประมวลผลประสาทที่สามารถตัดสินใจได้ทันทีเข้ามามีบทบาท

หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) หรือบล็อกที่เทียบเท่ากันกำลังถูกนำไปรวมเข้ากับอุปกรณ์ปลายทาง เช่น กล้องรักษาความปลอดภัยอัจฉริยะ อุปกรณ์อุตสาหกรรม เป็นต้น เซ็นเซอร์ IoT และอุปกรณ์ทางการแพทย์ซึ่งต้องการความสามารถด้าน AI ในพื้นที่โดยไม่ต้องพึ่งพาการเชื่อมต่อถาวร

ในด้านคอมพิวเตอร์ส่วนบุคคล โปรเซสเซอร์สำหรับแล็ปท็อปและเดสก์ท็อปบางรุ่นจาก Intel, AMD และ Apple มีคุณสมบัติดังกล่าวอยู่แล้ว ส่วนประกอบ AI เฉพาะทางเพื่อเร่งความเร็วงานด้านการสร้างแบบจำลองภาพ เสียง วิดีโอ และภาษาซึ่งเป็นการสนับสนุนแนวโน้มของระบบปฏิบัติการและโปรแกรมเดสก์ท็อปที่มี AI ในตัว

สภาพแวดล้อมเหล่านี้ใช้ตรรกะเดียวกันกับอุปกรณ์เคลื่อนที่ กล่าวคือ การเรียกใช้โมเดล AI บนตัวอุปกรณ์เองช่วยให้สามารถ... ลดความหน่วง ประหยัดแบนด์วิดท์ และเสริมสร้างความเป็นส่วนตัวรวมถึงเปิดโอกาสให้เกิดฟีเจอร์ใหม่ๆ ที่ตอบสนองต่อการกระทำของผู้ใช้ได้ทันที

ความแตกต่างระหว่างผู้ผลิตและประเภทของ NPU

แม้ว่าหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) ทุกตัวจะมีเป้าหมายเดียวกันคือการเร่งความเร็วในการคำนวณของ AI แต่ก็ไม่ได้เหมือนกันทั้งหมด ผู้ผลิตแต่ละรายออกแบบสถาปัตยกรรมของตนเองและตัดสินใจ... จำนวนคอร์ที่จัดสรร ประเภทของการประมวลผลที่ปรับให้เหมาะสม และแบนด์วิดท์หน่วยความจำที่ใช้ เป็นผู้จัดหาแกนกลางเหล่านั้น

ดังนั้น Apple จึงได้รวม Neural Engine เข้าไว้ในชิป A-series และ SoC ในคอมพิวเตอร์ของตน Google กำลังเดิมพันกับ TPU (Tensor Processing Unit) ที่ออกแบบเองใน Pixel และในศูนย์ข้อมูลของตน ส่วน Qualcomm ก็พูดถึง... กลไก AI ใน Snapdragonซัมซุงได้รวมหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) เข้ากับโปรเซสเซอร์ Exynos และ MediaTek ก็ทำเช่นเดียวกันในตระกูล Dimensity

ความแตกต่างเหล่านี้ไม่เพียงส่งผลต่อกำลังดิบเท่านั้น แต่ยังรวมถึง... การใช้พลังงาน ความเข้ากันได้กับเฟรมเวิร์กการพัฒนาต่างๆ (เช่น TensorFlow, PyTorch, ONNX เป็นต้น) และความสะดวกในการที่นักพัฒนาสามารถใช้ประโยชน์จาก NPU กับแอปและโมเดลของตนเองได้

ในโลกของศูนย์ข้อมูล บริษัทต่างๆ เช่น Nvidia, Intel, Google และ Graphcore ต่างก็เสนอบริการที่หลากหลาย ตัวเร่งความเร็วเฉพาะที่มีสถาปัตยกรรมหลากหลายแต่ละแบบมีจุดแข็งที่แตกต่างกันไป ขึ้นอยู่กับประเภทของแบบจำลอง ขนาดของการใช้งาน หรือข้อกำหนดด้านต้นทุนและประสิทธิภาพ

สำหรับผู้ใช้งานทั่วไปแล้ว ทั้งหมดนี้หมายความว่าโทรศัพท์สองเครื่องที่มี "หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU)" อาจมอบประสบการณ์การใช้งาน AI ที่แตกต่างกันอย่างมาก เครื่องหนึ่งสามารถประมวลผลโมเดลที่ซับซ้อนกว่าได้ในเครื่อง ขณะที่อีกเครื่องหนึ่งอาจทำได้น้อยกว่า มันจะขึ้นอยู่กับระบบคลาวด์มากขึ้น หรืออาจมีข้อจำกัดบางอย่าง สำหรับรุ่นที่เบากว่า

TOPS คืออะไร และจะวัดกำลังการประมวลผลของ NPU ได้อย่างไร

เมื่อพูดถึงประสิทธิภาพของ NPU ตัวเลข TOPS (Tera Operations Per Second) มักถูกกล่าวถึงบ่อยครั้ง การดำเนินการหลายล้านล้านครั้งต่อวินาที(เป็นวิธีวัดว่าหน่วยประมวลผล AI สามารถดำเนินการทางคณิตศาสตร์ได้กี่ครั้งในหนึ่งวินาที)

ค่า TOPS ขึ้นอยู่กับปัจจัยต่างๆ เช่น ความเร็วสัญญาณนาฬิกาของ NPU และจำนวนหน่วยประมวลผล ตัวอย่างเช่น ชิปประสิทธิภาพสูงรุ่นใหม่ๆ อาจมีประมาณ TOPS หลายสิบตัวบน NPU มือถือของคุณในขณะที่ GPU สำหรับเดสก์ท็อปที่ออกแบบมาเพื่อ AI โดยเฉพาะ สามารถทำความเร็วได้เกิน 1,000 TOPS อย่างง่ายดาย

อย่างไรก็ตาม TOPS เป็นเพียงตัวชี้วัดแนวทางเท่านั้น เพราะไม่ใช่ทุกผู้ผลิตจะคำนวณด้วยวิธีเดียวกัน และไม่ใช่ทุกงาน AI จะคำนวณด้วยวิธีเดียวกันเช่นกัน พวกเขาใช้ประโยชน์จากตัวเลขสูงสุดทางทฤษฎีนั้นนอกจากนี้ ข้อกำหนดที่แท้จริงของ TOPS สำหรับฟังก์ชันเฉพาะนั้น มักไม่ค่อยมีการอธิบายให้ผู้ใช้ทราบ

ถึงกระนั้น ข้อมูลเหล่านี้ก็ช่วยให้เห็นภาพรวมได้: หากคุณต้องการใช้งานโมเดลที่ซับซ้อนกว่านี้ (ตัวอย่างเช่น โมเดลภาษาขนาดใหญ่ หรือ โปรแกรมสร้างภาพบนโทรศัพท์มือถือคุณสนใจหน่วยประมวลผลกลาง (NPU) ที่มีค่า TOPS สูงและมีประสิทธิภาพการใช้พลังงานที่ดี

มีแอปพลิเคชันเฉพาะสำหรับการวัดประสิทธิภาพ เช่น NPU Check ซึ่งรันโมเดลภาษาจริงในเครื่องเพื่อวัดผล จำนวนโทเค็นต่อวินาที, ความหน่วงในการประมวลผล และพารามิเตอร์อื่นๆเครื่องมือเหล่านี้จะช่วยให้คุณเข้าใจข้อจำกัดของ NPU ในอุปกรณ์ของคุณได้อย่างแท้จริง

ความเป็นส่วนตัว ระบบปฏิบัติการ และเป็นไปได้หรือไม่ที่จะ "หลีกหนี" จากปัญญาประดิษฐ์?

ด้วยการขยายตัวของหน่วยประมวลผลแบบ NPU ทำให้เกิดข้อกังวลที่สมเหตุสมผลขึ้นมา: หากฮาร์ดแวร์ AI เป็นมาตรฐานในโปรเซสเซอร์เกือบทุกตัวอยู่แล้ว เป็นไปได้หรือไม่ที่จะหลีกเลี่ยงการใช้งาน AI บนอุปกรณ์พกพาที่เน้นความเป็นส่วนตัว? หรือใช้งานบนระบบปฏิบัติการทางเลือกอื่นๆ เช่น GrapheneOS หรือ Linux สำหรับสมาร์ทโฟน?

ความเป็นจริงก็คือ ตลอดหลายปีที่ผ่านมา ชิปประมวลผล (SoC) เกือบทั้งหมดที่ใช้ในอุปกรณ์ระดับกลางและระดับสูงต่างก็มีหน่วยประมวลผลประสาทเทียม (NPU) รวมอยู่ด้วย แม้แต่โทรศัพท์ราคาประหยัดบางรุ่นก็เริ่มใช้ชิปที่มีความสามารถด้าน AI โดยเฉพาะแล้ว และ โครงการพัฒนาโทรศัพท์ Linux รุ่นใหม่ๆ กำลังหันมาใช้ชิป SoC เชิงพาณิชย์ที่มีหน่วยประมวลผลประสาท (NPU) ในตัว.

ในระดับฮาร์ดแวร์ คุณไม่สามารถ "ถอด" NPU ออกจากชิปได้ สิ่งที่คุณทำได้ และสิ่งที่ระบบที่เน้นความเป็นส่วนตัวให้ความสำคัญ คือ ควบคุมว่าซอฟต์แวร์ใดบ้างที่ได้รับอนุญาตให้ใช้งานได้ข้อมูลใดบ้างที่ระบบจัดการ และได้รับอนุญาตให้ส่งข้อมูลไปยังระบบคลาวด์หรือไม่

ตัวอย่างเช่น คุณสามารถปิดใช้งานผู้ช่วยเสียง ฟีเจอร์กล้องที่จดจำใบหน้า หรือ บริการที่วิเคราะห์รูปแบบการใช้งาน เพื่อสร้างคำแนะนำ นั่นไม่ได้หมายความว่าจะกำจัด NPU ออกไปทั้งหมด แต่จะลดขอบเขตการนำไปใช้ในการวิเคราะห์ข้อมูลส่วนบุคคลลงอย่างมาก

ในทางปฏิบัติ ดูเหมือนยากที่จะจินตนาการถึงอนาคตที่ปราศจาก AI ในอุปกรณ์ต่างๆ แต่การมุ่งหวังถึงสถานการณ์ที่ผู้ใช้มี AI นั้นเป็นเรื่องที่สมเหตุสมผล มีการควบคุมและความโปร่งใสมากขึ้นเกี่ยวกับแบบจำลองที่จะนำมาใช้ ข้อมูลที่ใช้ และวัตถุประสงค์ในการใช้งานและนั่นคือจุดที่ NPU (หน่วยประมวลผลแบบโครงข่ายประสาทเทียม) สามารถเป็นพันธมิตรของความเป็นส่วนตัวได้ หากใช้งานอย่างเหมาะสม เพราะจะช่วยให้มีการประมวลผลในระดับท้องถิ่นมากขึ้น

โทรศัพท์มือถือรุ่นใดบ้างที่มีหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) และตั้งแต่เมื่อไหร่?

การนำหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) มาใช้ในเชิงพาณิชย์ในสมาร์ทโฟนครั้งแรกนั้น เกิดขึ้นประมาณปี 2017 เมื่อหัวเว่ยได้เปิดตัว ชิป Kirin 970 พร้อมหน่วยประมวลผลประสาทใน Mate 10และ Apple ได้เปิดตัวชิป A11 Bionic ที่มีความสามารถในการประมวลผลเครือข่ายประสาทเทียมใน iPhone 8 และรุ่นต่อๆ มา

นับตั้งแต่นั้นมา ผู้ผลิตรายใหญ่ทั้งหมดได้รวมหน่วยประมวลผลประสาทเทียมไว้ในชิป SoC ของตนแล้ว ได้แก่ Snapdragon, Exynos, Dimensity, Apple A-series และชิป Tensor ของ Google ซึ่งรวมถึงบล็อกที่จัดไว้สำหรับปัญญาประดิษฐ์ (AI) ไม่ว่าจะด้วยวิธีใดก็ตาม

เมื่อก่อน คุณอาจยังหาซื้อโทรศัพท์ราคาถูกที่ไม่มีหน่วยประมวลผลประสาทเทียม (NPU) หรือมีฟังก์ชัน AI น้อยมากได้ แต่ในช่วงไม่กี่ปีมานี้ มาตรฐานต่างๆ เริ่มชัดเจนขึ้น: สมาร์ทโฟนรุ่นใหม่เกือบทั้งหมดมีหน่วยประมวลผลประสาทเทียม (NPU) อยู่ด้วยแม้แต่ในกลุ่มสินค้าราคาต่ำก็ตาม

ตัวอย่างเฉพาะเจาะจงมีตั้งแต่ iPhone ที่ใช้ Neural Engine (ใช้สำหรับ Face ID, การถ่ายภาพด้วยคอมพิวเตอร์ขั้นสูง หรือการวิเคราะห์เสียง) ไปจนถึง ตระกูล Galaxy ของซัมซุงซึ่งโปรเซสเซอร์ Exynos และ Snapdragon ผสานรวม NPU สำหรับ Bixby ฟังก์ชันกล้อง และ Galaxy AI ไปจนถึง Google Pixel ที่ใช้ชิป Tensor และมีฟังก์ชันลบภาพอัตโนมัติ การแปลแบบเรียลไทม์ หรือการแก้ไขภาพขั้นสูง

ความก้าวหน้าในปัจจุบันบ่งชี้ว่า NPU กลายเป็นส่วนประกอบมาตรฐานไปแล้ว เช่นเดียวกับ GPU หรือโมเด็ม 4G/5G ในยุคของมัน บริการ AI ระบบใหม่ ๆ เช่น Apple Intelligence, Galaxy AI, Copilot, Gemini บน Pixel เป็นต้น พวกเขาพึ่งพาหน่วยประมวลผลประสาทเหล่านี้อย่างชัดเจน เพื่อให้สามารถทำงานได้โดยไม่เกิดความล่าช้าจนรับไม่ได้ และไม่ทำให้แบตเตอรี่หมดเร็ว

สิ่งที่ควรพิจารณาเมื่อเลือกซื้อโทรศัพท์มือถือที่มีหน่วยประมวลผลประสาท (NPU) ที่ดี

หากคุณต้องการสมาร์ทโฟนที่พร้อมรับมือกับคลื่นแห่งปัญญาประดิษฐ์ (AI) ที่กำลังจะมาถึง (และคลื่นที่มาถึงแล้ว) คุณควรให้ความสนใจกับหลายๆ ด้านที่เกี่ยวข้องกับหน่วยประมวลผลประสาทเทียม (NPU) และวิธีการที่ผู้ผลิตพัฒนาเทคโนโลยีนี้ นำพลังนั้นมาใช้ประโยชน์ในโลกแห่งความเป็นจริงไม่เฉพาะในข้อกำหนดทางเทคนิคเท่านั้น

• ประเภทและกำลังไฟของ NPUตรวจสอบว่าโทรศัพท์ใช้ชิปประมวลผล (SoC) รุ่นใด (Snapdragon, Exynos, Dimensity, Apple, Tensor ฯลฯ) และมีประสิทธิภาพด้าน AI เท่าใด (TOPS) ยิ่งมีประสิทธิภาพและประสิทธิภาพสูงเท่าไร ก็ยิ่งมีพื้นที่เหลือเฟือสำหรับการประมวลผลโมเดลที่ซับซ้อนบนเครื่องมากขึ้นเท่านั้น
• คุณสมบัติ AI ที่มีให้ใช้งานลองดูว่าระบบนี้มีอะไรบ้าง: การถ่ายภาพด้วยคอมพิวเตอร์ขั้นสูง, ผู้ช่วยที่ได้รับการปรับปรุง, การถอดเสียงแบบออฟไลน์, การแปลแบบเรียลไทม์, การแก้ไขภาพและวิดีโออัจฉริยะ, คำแนะนำส่วนบุคคล และอื่นๆ
• การอัปเดตซอฟต์แวร์ปัญญาประดิษฐ์ (AI) พัฒนาไปอย่างรวดเร็วมาก ดังนั้นจึงเป็นเรื่องสำคัญที่ผู้ผลิตจะต้องให้คำมั่นสัญญาและส่งมอบการอัปเดตอย่างต่อเนื่องเป็นเวลาหลายปี ฟีเจอร์ AI ใหม่ ๆ กำลังจะเปิดตัวอีกมากมาย พวกมันมาถึงผ่านทางซอฟต์แวร์และใช้ประโยชน์จาก NPU ได้ดียิ่งขึ้น เมื่อเวลาผ่านไป
• ความเป็นส่วนตัวและการควบคุมตรวจสอบว่าระบบมีตัวเลือกใดบ้างสำหรับการจัดการสิทธิ์การใช้งาน AI กระบวนการใดบ้างที่ดำเนินการในเครื่อง และกระบวนการใดบ้างที่ดำเนินการบนคลาวด์ และ วิธีการจัดการข้อมูลส่วนบุคคล ใช้โดยนางแบบ
• บทวิจารณ์และการทดสอบอิสระนอกเหนือจากการตลาดแล้ว การตรวจสอบบทวิจารณ์ทางเทคนิคและผลการทดสอบประสิทธิภาพ (รวมถึงผลการทดสอบเฉพาะสำหรับ NPU) ก็เป็นสิ่งที่ควรพิจารณา เพื่อดูว่าประสิทธิภาพ AI ในโลกแห่งความเป็นจริงตรงตามความคาดหวังหรือไม่ ตรงตามที่ระบุไว้ในเอกสารทุกประการ.

เมื่อนำปัจจัยเหล่านี้มารวมกัน ก็จะสามารถค้นหาโทรศัพท์มือถือที่ NPU ไม่ได้เป็นเพียงแค่ตัวเลือกให้ติ๊กเลือกเท่านั้น แต่ยังมอบฟังก์ชันการทำงานที่แท้จริงอีกด้วย ประสบการณ์การถ่ายภาพที่เหนือกว่า ผู้ช่วยที่ให้ความช่วยเหลือมากขึ้น การแปลที่รวดเร็วยิ่งขึ้น และฟีเจอร์ AI ที่ให้ความรู้สึกเป็นธรรมชาติในชีวิตประจำวัน

ท้ายที่สุดแล้ว NPU ได้กลายเป็นชิ้นส่วนสำคัญของจิ๊กซอว์: มันไม่ใช่สิ่งแปลกใหม่ที่สงวนไว้สำหรับรุ่นพรีเมียมอีกต่อไปแล้ว แต่เป็นส่วนหนึ่งของ... เป็นส่วนประกอบฮาร์ดแวร์หลักของสมาร์ทโฟนรุ่นใหม่เกือบทุกรุ่นการเข้าใจว่า AI ทำอะไรและส่งผลต่อประสบการณ์จริงอย่างไร จะช่วยให้เราเลือกได้ดีขึ้นและใช้ประโยชน์จากพลังของ AI ที่เราพกติดตัวได้อย่างแท้จริง