NVIDIA JetPack 7.2: ก้าวสู่ AI แห่งโลกจริงบน Edge ด้วยประสิทธิภาพที่เหนือกว่า

การพัฒนาปัญญาประดิษฐ์ (AI) กำลังก้าวข้ามขีดจำกัดจากโลกดิจิทัลไปสู่การใช้งานจริงในสภาพแวดล้อมทางกายภาพ และ NVIDIA Jetson คือหัวใจสำคัญที่จะช่วยเร่งการนำ AI เหล่านี้ไปใช้งานได้อย่างมีประสิทธิภาพ โดยเฉพาะอย่างยิ่งในเวอร์ชันล่าสุดอย่าง NVIDIA JetPack 7.2 ที่มาพร้อมกับการปรับปรุงด้านหน่วยความจำและประสิทธิภาพอันน่าทึ่ง

การอัปเดตครั้งนี้ได้นำเสนอคุณสมบัติใหม่มากมายที่ตอบโจทย์นักพัฒนา AI ที่ต้องการสร้างแอปพลิเคชัน AI แบบ Agentic (ทำงานได้อัตโนมัติเหมือนมีตัวแทน) ให้พร้อมใช้งานบนอุปกรณ์ Edge ได้อย่างง่ายดายและรวดเร็ว

คุณสมบัติเด่นที่ NVIDIA JetPack 7.2 นำเสนอ

JetPack 7.2 ได้ยกระดับแพลตฟอร์ม Jetson ให้มีความสามารถที่หลากหลายยิ่งขึ้น ด้วยการรวมเอาเทคโนโลยีและเครื่องมือที่จำเป็นสำหรับการพัฒนา AI ที่ซับซ้อนมาไว้ในที่เดียว

🚀 การติดตั้ง NVIDIA NemoClaw ในคำสั่งเดียว

NVIDIA JetPack 7.2 รองรับการติดตั้ง NVIDIA NemoClaw แบบ One-Command Deployment ซึ่ง NemoClaw เป็น Stack แบบ Open Source ที่เพิ่มการควบคุมด้านความเป็นส่วนตัวและความปลอดภัยให้กับ OpenClaw ทำให้การพัฒนาแอปพลิเคชัน AI แบบ Agentic ที่ปลอดภัยสำหรับงานด้านหุ่นยนต์, ระบบอัตโนมัติในโรงงาน และระบบ Edge AI เป็นเรื่องง่ายขึ้นอย่างมาก

เพียงใช้คำสั่งเดียว: curl -fsSL ขอบคุณ แหล่งข้อมูล
https://www.nvidia.com/nemoclaw.sh | bash
ก็พร้อมใช้งาน NemoClaw บน Jetson ที่รัน JetPack 7.2 ได้ทันที โดยไม่ต้องตั้งค่าสภาพแวดล้อมที่ซับซ้อน

🤖 NVIDIA Agent Skills สำหรับ Jetson: เร่งการพัฒนาด้วย AI

JetPack 7.2 มาพร้อมกับ Jetson Agent Skills ซึ่งเป็นชุดคำสั่งที่ AI Agent สามารถนำไปใช้เพื่อทำงานพัฒนาซอฟต์แวร์ Jetson ได้โดยอัตโนมัติ ช่วยลดความซับซ้อนและเร่งเวลาในการนำผลิตภัณฑ์ออกสู่ตลาด Agent Skills เหล่านี้ครอบคลุมงานสำคัญๆ เช่น:

  • การปรับแต่ง Linux สำหรับ Jetson: ช่วยสร้างและปรับแต่ง Board Support Package (BSP) ตั้งแต่เริ่มต้นสำหรับบอร์ดที่ออกแบบเอง รวมถึงการตั้งค่า I/O, การควบคุมพัดลม, โปรไฟล์พลังงาน และอื่นๆ งานที่เคยต้องใช้เวลาหลายสัปดาห์สามารถเสร็จสิ้นได้รวดเร็วขึ้น
  • การปรับปรุงการใช้หน่วยความจำ: ปรับแต่งการใช้หน่วยความจำทั่วทั้ง Software Stack ตั้งแต่ Bootloader, Kernel ไปจนถึง User Space เพื่อให้ได้การกำหนดค่าซอฟต์แวร์ที่ประหยัดหน่วยความจำที่สุดสำหรับแต่ละ Workload ซึ่งช่วยลด Total Cost of Ownership (TCO) ได้อย่างมาก
  • การทดสอบประสิทธิภาพโมเดล (Model Benchmarking): ช่วยให้นักพัฒนาค้นหาการกำหนดค่าโมเดลที่เหมาะสมที่สุดสำหรับการใช้งาน โดยครอบคลุมถึงการทดสอบประสิทธิภาพ, การปรับปรุง Inference และการวินิจฉัย Jetson

นอกจากนี้ยังมีการเพิ่ม Skills ที่ช่วยในการสร้าง Vision Pipelines โดยใช้ NVIDIA DeepStream และ NVIDIA Metropolis Blueprint สำหรับการค้นหาและสรุปวิดีโอ (VSS) อีกด้วย

⚙️ Multi-Instance GPU (MIG) บน Jetson Thor: จัดสรรทรัพยากร GPU อย่างเหนือชั้น

JetPack 7.2 บน Jetson Thor รองรับ Multi-Instance GPU (MIG) ซึ่งสามารถแบ่ง GPU ในตัวออกเป็น 2 Instance ที่แยกจากกันอย่างสมบูรณ์ พร้อมทรัพยากร Compute, Cache และ Memory Bandwidth ที่จัดสรรให้โดยเฉพาะ ทำให้สามารถรัน AI Workload หลายตัวพร้อมกันได้อย่างมีประสิทธิภาพและคาดการณ์ผลลัพธ์ได้

เมื่อทำงานร่วมกับ Preemptible RT Kernel ใน JetPack 7, MIG จะช่วยสร้างสภาพแวดล้อมการทำงานที่แน่นอน (Deterministic) สำหรับระบบที่มีความสำคัญหลากหลายระดับ (Mixed-Criticality Systems) ซึ่งสำคัญอย่างยิ่งสำหรับระบบ AI ทางกายภาพ เช่น หุ่นยนต์, เครื่องจักรอัตโนมัติ หรืออุปกรณ์ทางการแพทย์

🛠️ รองรับ Yocto Project อย่างเป็นทางการ: สร้าง Linux Distribution ที่ปรับแต่งได้

NVIDIA JetPack 7.2 นำเสนอ การรองรับ Yocto Project อย่างเป็นทางการ สำหรับ Jetson ซึ่งมาพร้อมกับ Recipes และ Reference Images ที่ผ่านการตรวจสอบแล้ว Yocto Project เป็นโครงการ Open Source ที่ช่วยให้นักพัฒนาสามารถสร้าง Linux Distribution ที่ปรับแต่งได้อย่างละเอียดสำหรับฮาร์ดแวร์ Embedded โดยเฉพาะ

ประโยชน์หลักๆ ของ Yocto Project บน Jetson ได้แก่:

  • ความสามารถในการปรับแต่ง (Customizability): สร้าง Image ที่มีเฉพาะ Service, Driver และ Library ที่จำเป็น ลดขนาดหน่วยความจำและเพิ่มประสิทธิภาพสูงสุด
  • ความสามารถในการทำซ้ำ (Reproducibility): สร้าง Image ที่เหมือนกันทุกครั้งที่ Build ช่วยให้การ Debug, ทดสอบ และรับรองเป็นไปอย่างราบรื่น
  • ระบบนิเวศแบบเปิด (Open Ecosystem): เข้าถึง Recipes และ Layers จำนวนมากสำหรับ AI Frameworks, Industrial Protocols และ Middleware ต่างๆ

💡 JetPack 7.2: รวม Stack เดียวกัน เพิ่มประสิทธิภาพสูงสุด

JetPack 7.2 ได้ขยาย Stack การประมวลผลที่ใช้ Ubuntu 24.04, Kernel 6.8 และ CUDA Toolkit 13.0 (ที่เริ่มใช้กับ Jetson Thor) ไปยังตระกูล Jetson Orin ด้วย ทำให้ทั้งสองแพลตฟอร์มใช้รากฐานซอฟต์แวร์ที่เหมือนกันทั้งหมด การมี Stack ที่เหมือนกันนี้ช่วยลดความซับซ้อนในการพัฒนา, ทดสอบ, นำไปใช้ และบำรุงรักษา Application ที่ต้องทำงานบนฮาร์ดแวร์หลายรุ่น

⚡ Super Mode บน Jetson AGX Orin 32 GB: ประสิทธิภาพใกล้เคียงรุ่นพี่ ในราคาที่เข้าถึงง่าย

JetPack 7.2 ยังเปิดตัว Super Mode สำหรับ Jetson AGX Orin 32 GB ซึ่งเป็นการปลดล็อกการกำหนดค่า GPU และพลังงานที่สูงขึ้น ทำให้ประสิทธิภาพใกล้เคียงกับ Jetson AGX Orin 64 GB มากขึ้น โดยเพิ่มความถี่ GPU จาก 930 MHz เป็น 1.3 GHz และเพิ่มการใช้พลังงานสูงสุดถึง 60W ส่งผลให้ AI Performance เพิ่มขึ้นกว่า 20% (จาก 200 TOPS เป็น 241 TOPS)

Super Mode นี้ทำให้โมดูล 32 GB เป็นทางเลือกที่คุ้มค่าสำหรับงาน Generative AI, Robotics และ Edge AI โดยมีต้นทุนโมดูลที่ลดลงถึง 45%

สรุป

NVIDIA JetPack 7.2 คือการอัปเดตครั้งสำคัญที่ช่วยให้นักพัฒนาสามารถนำ AI ที่พร้อมใช้งานแบบ Agentic ไปปรับใช้บนอุปกรณ์ Edge ได้อย่างมีประสิทธิภาพยิ่งขึ้น ด้วยการติดตั้งที่ง่ายขึ้น, เครื่องมือช่วยพัฒนาอัตโนมัติ, การจัดการทรัพยากร GPU ที่เหนือกว่า, ความยืดหยุ่นในการสร้าง OS และการรวม Stack ซอฟต์แวร์ที่ช่วยลดความซับซ้อนทั้งหมดนี้ จะช่วยเร่งการนำ AI ไปสู่การใช้งานจริงในโลกแห่งความเป็นจริงได้อย่างแน่นอน

#NVIDIAGPU #Jetson #EdgeAI #AI #Robotics #IoT

ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/deploy-agentic-ready-ai-at-the-edge-with-memory-efficiency-in-nvidia-jetpack-7-2/

NVIDIA JetPack 7.2: ก้าวสู่ AI แห่งโลกจริงบน Edge ด้วยประสิทธิภาพที่เหนือกว่าการพัฒนาปัญญาประดิษฐ์ (AI) กำลังก้าวข้ามขีดจำกัดจากโลกดิจิทัลไปสู่การใช้งานจริงในสภาพแวดล้อมทางกายภาพ และ NVIDIA Jetson คือหัวใจสำคัญที่จะช่วยเร่งการนำ AI เหล่านี้ไปใช้งานได้อย่างมีประสิทธิภาพ โดยเฉพาะอย่างยิ่งในเวอร์ชันล่าสุดอย่าง NVIDIA JetPack 7.2 ที่มาพร้อมกับการปรับปรุงด้านหน่วยความจำและประสิทธิภาพอันน่าทึ่งการอัปเดตครั้งนี้ได้นำเสนอคุณสมบัติใหม่มากมายที่ตอบโจทย์นักพัฒนา AI ที่ต้องการสร้างแอปพลิเคชัน AI แบบ Agentic (ทำงานได้อัตโนมัติเหมือนมีตัวแทน) ให้พร้อมใช้งานบนอุปกรณ์ Edge ได้อย่างง่ายดายและรวดเร็วคุณสมบัติเด่นที่ NVIDIA JetPack 7.2 นำเสนอJetPack 7.2 ได้ยกระดับแพลตฟอร์ม Jetson ให้มีความสามารถที่หลากหลายยิ่งขึ้น ด้วยการรวมเอาเทคโนโลยีและเครื่องมือที่จำเป็นสำหรับการพัฒนา AI ที่ซับซ้อนมาไว้ในที่เดียว🚀 การติดตั้ง NVIDIA NemoClaw ในคำสั่งเดียวNVIDIA JetPack 7.2 รองรับการติดตั้ง NVIDIA NemoClaw แบบ One-Command Deployment ซึ่ง NemoClaw เป็น Stack แบบ Open Source ที่เพิ่มการควบคุมด้านความเป็นส่วนตัวและความปลอดภัยให้กับ OpenClaw ทำให้การพัฒนาแอปพลิเคชัน AI แบบ Agentic ที่ปลอดภัยสำหรับงานด้านหุ่นยนต์, ระบบอัตโนมัติในโรงงาน และระบบ Edge AI เป็นเรื่องง่ายขึ้นอย่างมากเพียงใช้คำสั่งเดียว: curl -fsSL https://www.nvidia.com/nemoclaw.sh | bash ก็พร้อมใช้งาน NemoClaw บน Jetson ที่รัน JetPack 7.2 ได้ทันที โดยไม่ต้องตั้งค่าสภาพแวดล้อมที่ซับซ้อน🤖 NVIDIA Agent Skills สำหรับ Jetson: เร่งการพัฒนาด้วย AIJetPack 7.2 มาพร้อมกับ Jetson Agent Skills ซึ่งเป็นชุดคำสั่งที่ AI Agent สามารถนำไปใช้เพื่อทำงานพัฒนาซอฟต์แวร์ Jetson ได้โดยอัตโนมัติ ช่วยลดความซับซ้อนและเร่งเวลาในการนำผลิตภัณฑ์ออกสู่ตลาด Agent Skills เหล่านี้ครอบคลุมงานสำคัญๆ เช่น:การปรับแต่ง Linux สำหรับ Jetson: ช่วยสร้างและปรับแต่ง Board Support Package (BSP) ตั้งแต่เริ่มต้นสำหรับบอร์ดที่ออกแบบเอง รวมถึงการตั้งค่า I/O, การควบคุมพัดลม, โปรไฟล์พลังงาน และอื่นๆ งานที่เคยต้องใช้เวลาหลายสัปดาห์สามารถเสร็จสิ้นได้รวดเร็วขึ้นการปรับปรุงการใช้หน่วยความจำ: ปรับแต่งการใช้หน่วยความจำทั่วทั้ง Software Stack ตั้งแต่ Bootloader, Kernel ไปจนถึง User Space เพื่อให้ได้การกำหนดค่าซอฟต์แวร์ที่ประหยัดหน่วยความจำที่สุดสำหรับแต่ละ Workload ซึ่งช่วยลด Total Cost of Ownership (TCO) ได้อย่างมากการทดสอบประสิทธิภาพโมเดล (Model Benchmarking): ช่วยให้นักพัฒนาค้นหาการกำหนดค่าโมเดลที่เหมาะสมที่สุดสำหรับการใช้งาน โดยครอบคลุมถึงการทดสอบประสิทธิภาพ, การปรับปรุง Inference และการวินิจฉัย Jetsonนอกจากนี้ยังมีการเพิ่ม Skills ที่ช่วยในการสร้าง Vision Pipelines โดยใช้ NVIDIA DeepStream และ NVIDIA Metropolis Blueprint สำหรับการค้นหาและสรุปวิดีโอ (VSS) อีกด้วย⚙️ Multi-Instance GPU (MIG) บน Jetson Thor: จัดสรรทรัพยากร GPU อย่างเหนือชั้นJetPack 7.2 บน Jetson Thor รองรับ Multi-Instance GPU (MIG) ซึ่งสามารถแบ่ง GPU ในตัวออกเป็น 2 Instance ที่แยกจากกันอย่างสมบูรณ์ พร้อมทรัพยากร Compute, Cache และ Memory Bandwidth ที่จัดสรรให้โดยเฉพาะ ทำให้สามารถรัน AI Workload หลายตัวพร้อมกันได้อย่างมีประสิทธิภาพและคาดการณ์ผลลัพธ์ได้เมื่อทำงานร่วมกับ Preemptible RT Kernel ใน JetPack 7, MIG จะช่วยสร้างสภาพแวดล้อมการทำงานที่แน่นอน (Deterministic) สำหรับระบบที่มีความสำคัญหลากหลายระดับ (Mixed-Criticality Systems) ซึ่งสำคัญอย่างยิ่งสำหรับระบบ AI ทางกายภาพ เช่น หุ่นยนต์, เครื่องจักรอัตโนมัติ หรืออุปกรณ์ทางการแพทย์🛠️ รองรับ Yocto Project อย่างเป็นทางการ: สร้าง Linux Distribution ที่ปรับแต่งได้NVIDIA JetPack 7.2 นำเสนอ การรองรับ Yocto Project อย่างเป็นทางการ สำหรับ Jetson ซึ่งมาพร้อมกับ Recipes และ Reference Images ที่ผ่านการตรวจสอบแล้ว Yocto Project เป็นโครงการ Open Source ที่ช่วยให้นักพัฒนาสามารถสร้าง Linux Distribution ที่ปรับแต่งได้อย่างละเอียดสำหรับฮาร์ดแวร์ Embedded โดยเฉพาะประโยชน์หลักๆ ของ Yocto Project บน Jetson ได้แก่:ความสามารถในการปรับแต่ง (Customizability): สร้าง Image ที่มีเฉพาะ Service, Driver และ Library ที่จำเป็น ลดขนาดหน่วยความจำและเพิ่มประสิทธิภาพสูงสุดความสามารถในการทำซ้ำ (Reproducibility): สร้าง Image ที่เหมือนกันทุกครั้งที่ Build ช่วยให้การ Debug, ทดสอบ และรับรองเป็นไปอย่างราบรื่นระบบนิเวศแบบเปิด (Open Ecosystem): เข้าถึง Recipes และ Layers จำนวนมากสำหรับ AI Frameworks, Industrial Protocols และ Middleware ต่างๆ💡 JetPack 7.2: รวม Stack เดียวกัน เพิ่มประสิทธิภาพสูงสุดJetPack 7.2 ได้ขยาย Stack การประมวลผลที่ใช้ Ubuntu 24.04, Kernel 6.8 และ CUDA Toolkit 13.0 (ที่เริ่มใช้กับ Jetson Thor) ไปยังตระกูล Jetson Orin ด้วย ทำให้ทั้งสองแพลตฟอร์มใช้รากฐานซอฟต์แวร์ที่เหมือนกันทั้งหมด การมี Stack ที่เหมือนกันนี้ช่วยลดความซับซ้อนในการพัฒนา, ทดสอบ, นำไปใช้ และบำรุงรักษา Application ที่ต้องทำงานบนฮาร์ดแวร์หลายรุ่น⚡ Super Mode บน Jetson AGX Orin 32 GB: ประสิทธิภาพใกล้เคียงรุ่นพี่ ในราคาที่เข้าถึงง่ายJetPack 7.2 ยังเปิดตัว Super Mode สำหรับ Jetson AGX Orin 32 GB ซึ่งเป็นการปลดล็อกการกำหนดค่า GPU และพลังงานที่สูงขึ้น ทำให้ประสิทธิภาพใกล้เคียงกับ Jetson AGX Orin 64 GB มากขึ้น โดยเพิ่มความถี่ GPU จาก 930 MHz เป็น 1.3 GHz และเพิ่มการใช้พลังงานสูงสุดถึง 60W ส่งผลให้ AI Performance เพิ่มขึ้นกว่า 20% (จาก 200 TOPS เป็น 241 TOPS)Super Mode นี้ทำให้โมดูล 32 GB เป็นทางเลือกที่คุ้มค่าสำหรับงาน Generative AI, Robotics และ Edge AI โดยมีต้นทุนโมดูลที่ลดลงถึง 45%สรุปNVIDIA JetPack 7.2 คือการอัปเดตครั้งสำคัญที่ช่วยให้นักพัฒนาสามารถนำ AI ที่พร้อมใช้งานแบบ Agentic ไปปรับใช้บนอุปกรณ์ Edge ได้อย่างมีประสิทธิภาพยิ่งขึ้น ด้วยการติดตั้งที่ง่ายขึ้น, เครื่องมือช่วยพัฒนาอัตโนมัติ, การจัดการทรัพยากร GPU ที่เหนือกว่า, ความยืดหยุ่นในการสร้าง OS และการรวม Stack ซอฟต์แวร์ที่ช่วยลดความซับซ้อนทั้งหมดนี้ จะช่วยเร่งการนำ AI ไปสู่การใช้งานจริงในโลกแห่งความเป็นจริงได้อย่างแน่นอน#NVIDIAGPU #Jetson #EdgeAI #AI #Robotics #IoThttps://developer.nvidia.com/blog/deploy-agentic-ready-ai-at-the-edge-with-memory-efficiency-in-nvidia-jetpack-7-2/
Shared content
DEVELOPER.NVIDIA.COM
Deploy Agentic-Ready AI at the Edge with Memory Efficiency in NVIDIA JetPack 7.2
As AI agents move from the digital world to the physical environment, they can readily use NVIDIA Jetson to accelerate real-world deployment with optimized memory and performance. NVIDIA JetPack 7.2…
3 Commenti 0 condivisioni 262 Views 0 Anteprima