NVIDIA DSX OS: ซอฟต์แวร์โอเพนซอร์สสำหรับขับเคลื่อน AI Factory ยุคใหม่

NVIDIA DSX OS: ซอฟต์แวร์โอเพนซอร์สสำหรับขับเคลื่อน AI Factory ยุคใหม่ปัญญาประดิษฐ์ (AI) กลายเป็นโครงสร้างพื้นฐานที่สำคัญในปัจจุบัน โดยมี "AI Factory" เป็นหัวใจหลักในการสร้างสรรค์ความฉลาดในรูปแบบของโทเค็น เมื่อความต้องการ AI เติบโตขึ้น AI Factory เหล่านี้จึงต้องสามารถขยายขนาดได้เร็วขึ้น ทำงานได้อย่างมีประสิทธิภาพสูงขึ้น และลดต้นทุนในการสร้างความฉลาดให้ได้มากที่สุดNVIDIA DSX Platform คือชุดเครื่องมือครบวงจรสำหรับการออกแบบ จำลอง สร้าง และดำเนินการ AI Factory โดยผสานทุกองค์ประกอบของสแต็ก ตั้งแต่พลังงาน ชิป โครงสร้างพื้นฐาน โมเดล ไปจนถึงแอปพลิเคชัน ผ่านสถาปัตยกรรมที่ออกแบบร่วมกันอย่างลงตัวล่าสุด NVIDIA DSX OS คือซอฟต์แวร์ที่เข้ามาเสริมทัพ DSX Platform เพื่อเร่งการติดตั้ง AI Factory และเพิ่มประสิทธิภาพการดำเนินงาน DSX OS ประกอบด้วยส่วนประกอบซอฟต์แวร์แบบโอเพนซอร์สที่ทำงานร่วมกันได้ (Modular) ซึ่งถูกสร้างขึ้นมาโดยเฉพาะสำหรับการดำเนินการและขยายขนาด AI Factory แบบ Multi-tenantเมื่อรวมกันแล้ว ส่วนประกอบของ DSX OS ช่วยให้ระบบนิเวศ AI Factory ของ NVIDIA DSX สามารถนำซอฟต์แวร์โครงสร้างพื้นฐาน Agentic AI ล่าสุดมาใช้ได้เต็มรูปแบบ ช่วยเพิ่มจำนวนโทเค็นต่อวัตต์ (tokens per watt) ลดต้นทุนโทเค็น เร่งการติดตั้งให้เร็วขึ้น และเสริมความน่าเชื่อถือและความยืดหยุ่นในการดำเนินงานเหตุผลที่ DSX OS สำคัญต่อระบบนิเวศ AI FactoryAI Factory ต้องทำงานให้ได้ประสิทธิภาพสูงสุด เพื่อผลิตโทเค็นให้ได้มากที่สุดเมื่อเทียบกับพลังงานที่ใช้ และสร้างมูลค่าที่แท้จริงให้กับผู้ปฏิบัติงานเพื่อให้บรรลุเป้าหมายนี้ เครือข่ายที่ซับซ้อนของส่วนประกอบต่างๆ ที่ใช้ในการประมวลผล AI เวิร์กโหลดขนาดใหญ่ในดาต้าเซ็นเตอร์ต้องทำงานประสานกันอย่างใกล้ชิด ซึ่งต้องอาศัยการทำงานร่วมกันระหว่างชิป ระบบ โครงสร้างพื้นฐานของศูนย์ข้อมูล เช่น ระบบควบคุมอาคาร ระบบระบายความร้อน และหน่วยจ่ายไฟ (PDU) รวมถึงโครงข่ายไฟฟ้า ซอฟต์แวร์และเทคโนโลยีจากพันธมิตรที่ควบคุมส่วนประกอบเหล่านี้ทั้งหมด และแพลตฟอร์ม AI รวมถึงบริการต่างๆ ที่ทำงานอยู่บนสุดซอฟต์แวร์ DSX OS ได้รับการออกแบบมาเพื่อระบบนิเวศของส่วนประกอบทั้งหมดนี้ โดยนำเสนอชุดเทคโนโลยีและความสามารถแบบเปิดที่สามารถขยายและนำไปรวมกับแพลตฟอร์มและซอฟต์แวร์ที่มีอยู่เดิมได้ความสามารถเหล่านี้ได้รับการออกแบบและปรับแต่งให้ทำงานบนสถาปัตยกรรมร่วมกัน ช่วยให้ส่วนประกอบทั้งหมดทำงานร่วมกันเพื่อส่งมอบผลลัพธ์หลัก 3 ประการ ที่ขับเคลื่อนเศรษฐศาสตร์ของ AI Factory:1. เร่งเวลาในการสร้างรายได้ (Faster Time to Revenue) 🚀NVIDIA ได้สร้างและดำเนินการโครงสร้างพื้นฐานและแพลตฟอร์มซอฟต์แวร์บน NVIDIA DGX Cloud และขณะนี้ซอฟต์แวร์ดังกล่าวได้ถูกเผยแพร่เป็นโอเพนซอร์สแล้ว พันธมิตรในระบบนิเวศของ NVIDIA สามารถใช้ประโยชน์จากส่วนประกอบเหล่านี้เพื่อส่งมอบบริการ AI ได้โดยไม่ต้องเริ่มต้นสร้างใหม่ทั้งหมด ซึ่งช่วยลดระยะเวลาในการพัฒนาที่ต้องใช้เองไปได้หลายเดือน2. ประสิทธิภาพที่ดีขึ้น (Better Efficiency) 💡พลังงานเป็นปัจจัยจำกัดใน AI Factory และ DSX เชื่อมโยงพฤติกรรมการใช้พลังงานและโครงข่ายไฟฟ้าเข้าเป็นส่วนหนึ่งของแพลตฟอร์ม แทนที่จะแยกเป็นเรื่องของอาคารและโครงสร้างพื้นฐาน ด้วยซอฟต์แวร์ DSX AI Factory สามารถรัน GPU ได้มากขึ้นถึง 40% ที่ประสิทธิภาพการใช้พลังงานสูงสุด ภายใต้งบประมาณพลังงานที่จำกัด โดยส่งผลกระทบต่อประสิทธิภาพของเวิร์กโหลด Inference น้อยที่สุด3. ความน่าเชื่อถือและความยืดหยุ่นที่สูงขึ้น (Higher Reliability and Resiliency) ✅AI Factory ต้องทำงานเวิร์กโหลดขนาดใหญ่ได้อย่างต่อเนื่อง แม้จะเผชิญกับความผิดพลาดของฮาร์ดแวร์ เหตุการณ์ที่เกี่ยวกับโครงข่ายไฟฟ้า หรือการเปลี่ยนแปลงการดำเนินงาน DSX OS เปลี่ยนการดำเนินงานของคลัสเตอร์จากการแจ้งเตือนแบบ Reactive ไปสู่การแก้ไขปัญหาอัตโนมัติ รักษาเวอร์ชัน Runtime ให้สอดคล้องกันทั่วทั้งภูมิภาค และให้ผู้ปฏิบัติงานสามารถมองเห็นภาพรวมของระบบทั้งหมดได้DSX OS ช่วยขับเคลื่อน AI Factory ระดับ Gigawatt ได้อย่างไรส่วนประกอบโอเพนซอร์สแบบ Modular ของ DSX OS เป็นเทคโนโลยีพื้นฐานสำหรับการสร้างและดำเนินการ AI Factory และได้รับการออกแบบมาเพื่อแก้ไขปัญหาเฉพาะที่เกี่ยวกับการดำเนินงาน AI เวิร์กโหลดอย่างมีประสิทธิภาพและน่าเชื่อถือในระดับ Gigawattส่วนประกอบเหล่านี้ทำงานโดยการนำเสนอชุดความสามารถหลักที่ออกแบบร่วมกัน ซึ่งรวมถึง (แต่ไม่จำกัดเพียง) การสื่อสารที่เป็นมาตรฐาน การปรับปรุงประสิทธิภาพพลังงาน การจัดเตรียมและการจัดการวงจรชีวิต การตรวจสอบสุขภาพและการแก้ไขปัญหา และบริการแพลตฟอร์มอัจฉริยะการสื่อสารที่เป็นมาตรฐานทั่วทั้งดาต้าเซ็นเตอร์ สำหรับ Agentic InterfacesAI Factory ครอบคลุมระบบประมวลผล ระบบเครือข่าย ระบบพลังงาน และระบบระบายความร้อน ซึ่งทั้งหมดต้องทำงานร่วมกันได้อย่างราบรื่น DSX Exchange ทำหน้าที่เป็นศูนย์กลางการสื่อสาร IT/OT แบบ MQTT ที่ทำให้สัญญาณระดับอาคาร เช่น เหตุการณ์ที่เกี่ยวกับโครงข่ายไฟฟ้า ข้อมูลความร้อน และความผิดปกติของพลังงาน สามารถมองเห็นได้โดยซอฟต์แวร์ที่จัดการส่วนที่เหลือของ AI Factory ช่วยให้ส่วนประกอบต่างๆ เช่น DSX Flex, MaxLPS และซอฟต์แวร์จากพันธมิตร สามารถตอบสนองต่อสถานะของกันและกันได้แบบเรียลไทม์ ซึ่งช่วยเพิ่มการประสานงานและประสิทธิภาพส่วนประกอบซอฟต์แวร์ DSX OS ทั่วทั้ง DSX Stack จะมี MCP Servers สำหรับการจัดเตรียม การจัดการเครือข่าย การสังเกตการณ์ และอื่นๆ การใช้ MCP Servers เหล่านี้ Agent สามารถค้นพบพื้นผิวการทำงานทั้งหมดของ Factory ได้ในฐานะแคตตาล็อกเครื่องมือแบบรวมศูนย์ ทำให้สามารถเชื่อมต่อกับทุกระบบและทำการวิเคราะห์ข้ามโดเมนได้ ด้วย Agentic AI Factory ผู้ปฏิบัติงานสามารถเชื่อมโยงเหตุการณ์ความผิดปกติของ GPU เข้ากับความผิดปกติของอุณหภูมิ หรือปัญหาเครือข่ายกับปัญหาด้านประสิทธิภาพ หรือสถานการณ์อื่นๆ ได้อย่างง่ายดายการปรับปรุงประสิทธิภาพพลังงาน (Power and Efficiency Optimization) ⚡การจัดสรรพลังงานแบบคงที่ทำให้สูญเสียศักยภาพ การระบายความร้อนแบบ Reactive ทำให้เกิดการสั่นของอุณหภูมิ และระบบ IT/OT ที่ขาดการเชื่อมต่อทำให้เหตุการณ์โครงข่ายไฟฟ้ากลายเป็นเรื่องที่ต้องจัดการด้วยตนเอง DSX MaxLPS ประกอบด้วยซอฟต์แวร์ที่จัดการพลังงานเป็นทรัพยากรที่ตั้งโปรแกรมได้ โดยการบังคับใช้นโยบายแบบไดนามิกที่ระดับ GPU, Rack, ระบบระบายความร้อน และระดับเวิร์กโหลด ช่วยให้ AI Factory สามารถดึงพลังงานที่สูญเสียไปกลับมาเพื่อใช้ประมวลผลเพิ่มเติมได้อย่างเต็มประสิทธิภาพ DSX Flex ขยายขอบเขตการทำงานนอก Factory ด้วยไลบรารีสำหรับการเชื่อมต่อเวิร์กโหลดกับบริการโครงข่ายไฟฟ้า ทำให้ AI Factory สามารถปรับตัวเข้ากับ Demand Response การลดโหลด และความพร้อมใช้งานของพลังงานหมุนเวียนได้โดยอัตโนมัติ พันธมิตร เช่น CoreWeave, Firmus, Lambda, Nscale และ Phaidra กำลังนำ MaxLPS มาใช้ ในขณะที่ Emerald AI, ENGIE, Silicon Valley Power และ UK National Grid กำลังใช้ประโยชน์จาก DSX Flexการจัดเตรียมและการจัดการวงจรชีวิตแบบ Multi-tenant (Provisioning and Multi-tenant Lifecycle Operations) 🛠️ในระดับสเกล การจัดเตรียมเป็นเวิร์กโฟลว์อย่างต่อเนื่อง: โหนดจะหมุนเวียนการกำหนดผู้เช่า ฮาร์ดแวร์จะถูกเปลี่ยน และทุกการเปลี่ยนผ่านต้องสามารถตรวจสอบได้และปลอดภัย NVIDIA Infra Controller (NICo) ทำให้สิ่งนี้สามารถตั้งโปรแกรมได้ด้วยการจัดการวงจรชีวิตแบบ Bare-metal ที่ขับเคลื่อนด้วย API และการแยกผู้เช่าที่บังคับโดยฮาร์ดแวร์ผ่าน NVIDIA BlueField DPUs และ NVIDIA DOCA Platform Framework NVIDIA AI Cluster Runtime (AICR) เสริมการทำงานนี้โดยการบันทึกการกำหนดค่า Runtime ที่ผ่านการตรวจสอบแล้วเป็นสูตรที่ล็อกเวอร์ชัน ช่วยลดปัญหาการกำหนดค่าที่คลาดเคลื่อนซึ่งนำไปสู่ความล้มเหลวที่ตรวจไม่พบในกลุ่มระบบขนาดใหญ่พันธมิตร เช่น IREN, OpenNebula Systems, Mirantis, Rafay, Red Hat และ Supermicro กำลังผสานรวมส่วนประกอบเหล่านี้เครื่องมือตรวจสอบสุขภาพและระบบอัตโนมัติ (Health Monitoring and Automation Tooling) 🔍ในกลุ่ม GPU ขนาดใหญ่ การเสื่อมสภาพของฮาร์ดแวร์เป็นสิ่งที่เกิดขึ้นทุกวัน และวงจรการแจ้งเตือน-ตรวจสอบ-สืบสวนแบบดั้งเดิมนั้นต้องใช้กำลังคนมากเกินไปสำหรับการลดผลกระทบต่อเวิร์กโหลด NVIDIA NVSentinel ให้การตรวจจับความผิดปกติของ GPU แบบ Native สำหรับ Kubernetes และการแก้ไขปัญหาอัตโนมัติ โดยการแยกโหนดประมวลผลที่ไม่สมบูรณ์และถ่ายโอนเวิร์กโหลดออกไปในเวลาไม่กี่วินาที แทนที่จะเป็นนาทีหรือชั่วโมง NVIDIA Fleet Intelligence ให้การมองเห็นภาพรวมของระบบทั้งหมด การตรวจสอบความสมบูรณ์ และการติดตามสุขภาพทั่วทั้งการติดตั้งทั่วโลก Lambda เป็นผู้ใช้งาน Fleet Intelligence รายแรกๆการจัดตาราง AI Workload อัจฉริยะและบริการแพลตฟอร์ม (Intelligent AI Workload Scheduling and Platform Services) 🧠AI Workload ต้องการมากกว่าแค่การเข้าถึง GPU แต่ต้องการการจัดตารางแบบ Topology-aware ที่ชาญฉลาด การกระจาย Inference และ Production APIs KAI Scheduler และ NVIDIA Run:ai ให้การจัดวางเวิร์กโหลดแบบ GPU-aware พร้อมการจัดสรรแบบเศษส่วนและโควต้าแบบลำดับชั้น NVIDIA Dynamo และ NVIDIA Grove ให้บริการ Inference แบบกระจายพร้อมการ Pre-fill/Decode แบบแยกส่วนและการปรับขนาดอัตโนมัติในแต่ละขั้นตอน NVIDIA Cloud Functions (NVCF) เชื่อมโยงทุกอย่างเข้าด้วยกันด้วย API แบบรวมศูนย์สำหรับเวิร์กโหลด Inference, Fine-tuning และ Batch พร้อมการรองรับ Multi-tenancy ในตัว พันธมิตร เช่น Aible, Beyond AI, Bhashini, Crusoe, DCAI, Mirantis, Nebius, Rafay, Sarvam, Simplismart, Spectro Cloud, vCluster, Vultr และ Yotta กำลังใช้ส่วนประกอบเหล่านี้จำนวนมากในการผลิตส่วนประกอบของ DSX OS พร้อมใช้งานบน GitHub และออกแบบมาเพื่อการนำไปใช้และผสานรวมกับสแต็กซอฟต์แวร์ที่มีอยู่แบบค่อยเป็นค่อยไปเริ่มต้นด้วยส่วนประกอบที่ตอบสนองความต้องการที่เร่งด่วนที่สุดของคุณ แล้วค่อยๆ สร้างต่อยอด โดยใช้ประโยชน์จากความสามารถและเทคโนโลยีที่มีอยู่เพื่อเร่งการติดตั้ง AI Factory ของคุณและเพิ่มประสิทธิภาพการดำเนินงานตัวอย่างบางส่วนมีดังนี้:การสื่อสาร IT/OT: DSX Exchangeการจัดการวงจรชีวิต Bare-metal และการแยกผู้เช่า: NVIDIA Infra Controller และ DOCA Platform Frameworkการมองเห็นภาพรวมสุขภาพและความสมบูรณ์ของระบบ: NVIDIA Fleet IntelligenceAPI สำหรับ Inference AI แบบรวมศูนย์: NVIDIA Cloud Functionsตรวจสอบเอกสาร NVIDIA DSX เพื่อดูรายละเอียดเพิ่มเติมเกี่ยวกับส่วนประกอบทั้งหมดของ DSX OS, คู่มือการใช้งานและอ้างอิง, Quickstarts และคำแนะนำในการผสานรวม#NVIDIA #DSXOS #AIFactoryhttps://developer.nvidia.com/blog/nvidia-dsx-os-delivers-open-modular-software-for-operating-ai-factories-at-scale/