ทำความรู้จัก NVIDIA Kubernetes Engine (NVKE) และ NVIDIA Kubernetes Recipes (NVKR) โซลูชันใหม่สำหรับโครงสร้างพื้นฐาน GPU
การจัดการโครงสร้างพื้นฐาน AI และระบบประมวลผลขนาดใหญ่ให้มีประสิทธิภาพถือเป็นโจทย์สำคัญสำหรับองค์กรในยุคปัจจุบัน ล่าสุด NVIDIA ได้เปิดตัวสองโครงการโอเพนซอร์สใหม่ ได้แก่ NVIDIA Kubernetes Engine (NVKE) และ NVIDIA Kubernetes Recipes (NVKR) ซึ่งออกแบบมาเพื่อช่วยสร้างและบริหารจัดการบริการ Kubernetes บนโครงสร้างพื้นฐาน GPU โดยเฉพาะ 💡
จุดเด่นและแนวคิดการทำงานของ NVKE และ NVKR
โครงการทั้งสองถูกพัฒนาขึ้นมาเพื่อแบ่งการทำงานออกเป็นส่วนของการจัดการคลัสเตอร์และการสร้างซอฟต์แวร์ที่สามารถทำซ้ำได้อย่างแม่นยำ โดยแต่ละส่วนมีหน้าที่สำคัญดังนี้
- NVKR (NVIDIA Kubernetes Recipes): ทำหน้าที่สร้างอิมเมจของโหนด (Node Images) อิมเมจคอนเทนเนอร์ และแพ็กเกจต่างๆ จากแหล่งซอร์สโค้ดที่มีการกำหนดเวอร์ชันไว้อย่างชัดเจน ช่วยให้ทีมงานสามารถตรวจสอบและสร้างอิมเมจซ้ำได้ตามต้องการ 🛠️
- NVKE (NVIDIA Kubernetes Engine): ทำหน้าที่นำออติเฟกต์จาก NVKR ไปใช้ในการเตรียมความพร้อมและจัดการคลัสเตอร์ Kubernetes ผ่าน REST API และคอนโทรลเลอร์ที่ทำงานบนแมเนจเมนต์คลัสเตอร์
การทำงานร่วมกันตั้งแต่ระบบแบร์เมทัลจนถึงคลัสเตอร์ลูกค้า
กระบวนการทำงานเริ่มต้นจากการใช้ NVKR สร้างอิมเมจและแพ็กเกจซอฟต์แวร์ที่ผ่านการตรวจสอบความถูกต้อง จากนั้นจึงใช้เครื่องมืออย่าง nvkectl เพื่อเริ่มสร้างซีดคลัสเตอร์ชั่วคราวบนโฮสต์ และประสานงานกับ NVIDIA Infra Controller (NICo) เพื่อดึงเซิร์ฟเวอร์ฮาร์ดแวร์มาประกอบกันเป็นแมเนจเมนต์คลัสเตอร์
เมื่อแมเนจเมนต์คลัสเตอร์พร้อมแล้ว ระบบจะสามารถสร้างเวิร์กโหลดคลัสเตอร์ให้กับลูกค้าได้ โดยแต่ละคลัสเตอร์จะมี Control Plane และ Node Pools เป็นของตัวเอง พร้อมทั้งรองรับการตรวจสอบความปลอดภัยด้วย SPIFFE และการจัดเก็บข้อมูลการทำงานผ่านระบบ Telemetry ที่ใช้ OpenTelemetry
พาร์ทเนอร์และสถานะการให้บริการในปัจจุบัน
ปัจจุบันโครงการทั้งสองอยู่ในช่วง Public Preview ภายใต้สัญญาอนุญาตแบบ Apache 2.0 ซึ่งยังไม่แนะนำให้นำไปใช้กับงานในระบบจริง (Production) เนื่องจาก API และพฤติกรรมบางอย่างอาจมีการเปลี่ยนแปลงในอนาคต ⚠️
อย่างไรก็ตาม มีผู้ให้บริการคลาวด์และพาร์ทเนอร์ชั้นนำหลายราย เช่น Firmus และ SK Telecom รวมถึงพาร์ทเนอร์ด้านเทคโนโลยีอย่าง Mirantis, Rafay, Spectro Cloud, OpenNebula Systems, vCluster และ Netris ที่กำลังบูรณาการเทคโนโลยีเหล่านี้เข้ากับแพลตฟอร์มของตนเพื่อรองรับงานประมวลผล AI ในอนาคต ⭐
คำถามที่พบบ่อย
NVKE และ NVKR เหมาะกับใคร
เหมาะสำหรับองค์กร ผู้ดูแลระบบโครงสร้างพื้นฐาน และ AI Factories ที่ต้องการจัดการทรัพยากร GPU ผ่าน Kubernetes APIs และเครื่องมือที่คุ้นเคยโดยมีระบบอัตโนมัติคอยช่วยบริหารจัดการ
สามารถทดลองใช้งานโดยไม่มี GPU ได้หรือไม่
สามารถทำได้ โดยผู้สนใจสามารถเริ่มต้นทดลองใช้งานผ่าน Local Quickstart บนเครื่องคอมพิวเตอร์เดี่ยวเพื่อประเมินการทำงานเบื้องต้นได้ทันทีโดยไม่ต้องมีฮาร์ดแวร์ GPU
#NVIDIA #Kubernetes #CloudNative #GPUInfrastructure #TechNews
ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/manage-kubernetes-clusters-for-gpu-infrastructure-with-nvidia-kubernetes-engine/