ทำความรู้จัก NVIDIA Kubernetes Engine (NVKE) และ NVIDIA Kubernetes Recipes (NVKR) โซลูชันใหม่สำหรับโครงสร้างพื้นฐาน GPU

การจัดการโครงสร้างพื้นฐาน AI และระบบประมวลผลขนาดใหญ่ให้มีประสิทธิภาพถือเป็นโจทย์สำคัญสำหรับองค์กรในยุคปัจจุบัน ล่าสุด NVIDIA ได้เปิดตัวสองโครงการโอเพนซอร์สใหม่ ได้แก่ NVIDIA Kubernetes Engine (NVKE) และ NVIDIA Kubernetes Recipes (NVKR) ซึ่งออกแบบมาเพื่อช่วยสร้างและบริหารจัดการบริการ Kubernetes บนโครงสร้างพื้นฐาน GPU โดยเฉพาะ 💡

จุดเด่นและแนวคิดการทำงานของ NVKE และ NVKR

โครงการทั้งสองถูกพัฒนาขึ้นมาเพื่อแบ่งการทำงานออกเป็นส่วนของการจัดการคลัสเตอร์และการสร้างซอฟต์แวร์ที่สามารถทำซ้ำได้อย่างแม่นยำ โดยแต่ละส่วนมีหน้าที่สำคัญดังนี้

  • NVKR (NVIDIA Kubernetes Recipes): ทำหน้าที่สร้างอิมเมจของโหนด (Node Images) อิมเมจคอนเทนเนอร์ และแพ็กเกจต่างๆ จากแหล่งซอร์สโค้ดที่มีการกำหนดเวอร์ชันไว้อย่างชัดเจน ช่วยให้ทีมงานสามารถตรวจสอบและสร้างอิมเมจซ้ำได้ตามต้องการ 🛠️
  • NVKE (NVIDIA Kubernetes Engine): ทำหน้าที่นำออติเฟกต์จาก NVKR ไปใช้ในการเตรียมความพร้อมและจัดการคลัสเตอร์ Kubernetes ผ่าน REST API และคอนโทรลเลอร์ที่ทำงานบนแมเนจเมนต์คลัสเตอร์

การทำงานร่วมกันตั้งแต่ระบบแบร์เมทัลจนถึงคลัสเตอร์ลูกค้า

กระบวนการทำงานเริ่มต้นจากการใช้ NVKR สร้างอิมเมจและแพ็กเกจซอฟต์แวร์ที่ผ่านการตรวจสอบความถูกต้อง จากนั้นจึงใช้เครื่องมืออย่าง nvkectl เพื่อเริ่มสร้างซีดคลัสเตอร์ชั่วคราวบนโฮสต์ และประสานงานกับ NVIDIA Infra Controller (NICo) เพื่อดึงเซิร์ฟเวอร์ฮาร์ดแวร์มาประกอบกันเป็นแมเนจเมนต์คลัสเตอร์

เมื่อแมเนจเมนต์คลัสเตอร์พร้อมแล้ว ระบบจะสามารถสร้างเวิร์กโหลดคลัสเตอร์ให้กับลูกค้าได้ โดยแต่ละคลัสเตอร์จะมี Control Plane และ Node Pools เป็นของตัวเอง พร้อมทั้งรองรับการตรวจสอบความปลอดภัยด้วย SPIFFE และการจัดเก็บข้อมูลการทำงานผ่านระบบ Telemetry ที่ใช้ OpenTelemetry

พาร์ทเนอร์และสถานะการให้บริการในปัจจุบัน

ปัจจุบันโครงการทั้งสองอยู่ในช่วง Public Preview ภายใต้สัญญาอนุญาตแบบ Apache 2.0 ซึ่งยังไม่แนะนำให้นำไปใช้กับงานในระบบจริง (Production) เนื่องจาก API และพฤติกรรมบางอย่างอาจมีการเปลี่ยนแปลงในอนาคต ⚠️

อย่างไรก็ตาม มีผู้ให้บริการคลาวด์และพาร์ทเนอร์ชั้นนำหลายราย เช่น Firmus และ SK Telecom รวมถึงพาร์ทเนอร์ด้านเทคโนโลยีอย่าง Mirantis, Rafay, Spectro Cloud, OpenNebula Systems, vCluster และ Netris ที่กำลังบูรณาการเทคโนโลยีเหล่านี้เข้ากับแพลตฟอร์มของตนเพื่อรองรับงานประมวลผล AI ในอนาคต ⭐

คำถามที่พบบ่อย

NVKE และ NVKR เหมาะกับใคร

เหมาะสำหรับองค์กร ผู้ดูแลระบบโครงสร้างพื้นฐาน และ AI Factories ที่ต้องการจัดการทรัพยากร GPU ผ่าน Kubernetes APIs และเครื่องมือที่คุ้นเคยโดยมีระบบอัตโนมัติคอยช่วยบริหารจัดการ

สามารถทดลองใช้งานโดยไม่มี GPU ได้หรือไม่

สามารถทำได้ โดยผู้สนใจสามารถเริ่มต้นทดลองใช้งานผ่าน Local Quickstart บนเครื่องคอมพิวเตอร์เดี่ยวเพื่อประเมินการทำงานเบื้องต้นได้ทันทีโดยไม่ต้องมีฮาร์ดแวร์ GPU

#NVIDIA #Kubernetes #CloudNative #GPUInfrastructure #TechNews

ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/manage-kubernetes-clusters-for-gpu-infrastructure-with-nvidia-kubernetes-engine/

ทำความรู้จัก NVIDIA Kubernetes Engine (NVKE) และ NVIDIA Kubernetes Recipes (NVKR) โซลูชันใหม่สำหรับโครงสร้างพื้นฐาน GPUการจัดการโครงสร้างพื้นฐาน AI และระบบประมวลผลขนาดใหญ่ให้มีประสิทธิภาพถือเป็นโจทย์สำคัญสำหรับองค์กรในยุคปัจจุบัน ล่าสุด NVIDIA ได้เปิดตัวสองโครงการโอเพนซอร์สใหม่ ได้แก่ NVIDIA Kubernetes Engine (NVKE) และ NVIDIA Kubernetes Recipes (NVKR) ซึ่งออกแบบมาเพื่อช่วยสร้างและบริหารจัดการบริการ Kubernetes บนโครงสร้างพื้นฐาน GPU โดยเฉพาะ 💡จุดเด่นและแนวคิดการทำงานของ NVKE และ NVKRโครงการทั้งสองถูกพัฒนาขึ้นมาเพื่อแบ่งการทำงานออกเป็นส่วนของการจัดการคลัสเตอร์และการสร้างซอฟต์แวร์ที่สามารถทำซ้ำได้อย่างแม่นยำ โดยแต่ละส่วนมีหน้าที่สำคัญดังนี้NVKR (NVIDIA Kubernetes Recipes): ทำหน้าที่สร้างอิมเมจของโหนด (Node Images) อิมเมจคอนเทนเนอร์ และแพ็กเกจต่างๆ จากแหล่งซอร์สโค้ดที่มีการกำหนดเวอร์ชันไว้อย่างชัดเจน ช่วยให้ทีมงานสามารถตรวจสอบและสร้างอิมเมจซ้ำได้ตามต้องการ 🛠️NVKE (NVIDIA Kubernetes Engine): ทำหน้าที่นำออติเฟกต์จาก NVKR ไปใช้ในการเตรียมความพร้อมและจัดการคลัสเตอร์ Kubernetes ผ่าน REST API และคอนโทรลเลอร์ที่ทำงานบนแมเนจเมนต์คลัสเตอร์การทำงานร่วมกันตั้งแต่ระบบแบร์เมทัลจนถึงคลัสเตอร์ลูกค้ากระบวนการทำงานเริ่มต้นจากการใช้ NVKR สร้างอิมเมจและแพ็กเกจซอฟต์แวร์ที่ผ่านการตรวจสอบความถูกต้อง จากนั้นจึงใช้เครื่องมืออย่าง nvkectl เพื่อเริ่มสร้างซีดคลัสเตอร์ชั่วคราวบนโฮสต์ และประสานงานกับ NVIDIA Infra Controller (NICo) เพื่อดึงเซิร์ฟเวอร์ฮาร์ดแวร์มาประกอบกันเป็นแมเนจเมนต์คลัสเตอร์เมื่อแมเนจเมนต์คลัสเตอร์พร้อมแล้ว ระบบจะสามารถสร้างเวิร์กโหลดคลัสเตอร์ให้กับลูกค้าได้ โดยแต่ละคลัสเตอร์จะมี Control Plane และ Node Pools เป็นของตัวเอง พร้อมทั้งรองรับการตรวจสอบความปลอดภัยด้วย SPIFFE และการจัดเก็บข้อมูลการทำงานผ่านระบบ Telemetry ที่ใช้ OpenTelemetryพาร์ทเนอร์และสถานะการให้บริการในปัจจุบันปัจจุบันโครงการทั้งสองอยู่ในช่วง Public Preview ภายใต้สัญญาอนุญาตแบบ Apache 2.0 ซึ่งยังไม่แนะนำให้นำไปใช้กับงานในระบบจริง (Production) เนื่องจาก API และพฤติกรรมบางอย่างอาจมีการเปลี่ยนแปลงในอนาคต ⚠️อย่างไรก็ตาม มีผู้ให้บริการคลาวด์และพาร์ทเนอร์ชั้นนำหลายราย เช่น Firmus และ SK Telecom รวมถึงพาร์ทเนอร์ด้านเทคโนโลยีอย่าง Mirantis, Rafay, Spectro Cloud, OpenNebula Systems, vCluster และ Netris ที่กำลังบูรณาการเทคโนโลยีเหล่านี้เข้ากับแพลตฟอร์มของตนเพื่อรองรับงานประมวลผล AI ในอนาคต ⭐คำถามที่พบบ่อยNVKE และ NVKR เหมาะกับใครเหมาะสำหรับองค์กร ผู้ดูแลระบบโครงสร้างพื้นฐาน และ AI Factories ที่ต้องการจัดการทรัพยากร GPU ผ่าน Kubernetes APIs และเครื่องมือที่คุ้นเคยโดยมีระบบอัตโนมัติคอยช่วยบริหารจัดการสามารถทดลองใช้งานโดยไม่มี GPU ได้หรือไม่สามารถทำได้ โดยผู้สนใจสามารถเริ่มต้นทดลองใช้งานผ่าน Local Quickstart บนเครื่องคอมพิวเตอร์เดี่ยวเพื่อประเมินการทำงานเบื้องต้นได้ทันทีโดยไม่ต้องมีฮาร์ดแวร์ GPU#NVIDIA #Kubernetes #CloudNative #GPUInfrastructure #TechNewshttps://developer.nvidia.com/blog/manage-kubernetes-clusters-for-gpu-infrastructure-with-nvidia-kubernetes-engine/
Shared content
DEVELOPER.NVIDIA.COM
Manage Kubernetes Clusters for GPU Infrastructure with NVIDIA Kubernetes Engine
NVIDIA is announcing two open source projects for building and operating managed Kubernetes services on GPU infrastructure—NVIDIA Kubernetes Engine (NVKE) and NVIDIA Kubernetes Recipes (NVKR).
6 Reacties 0 aandelen 2K Views 0 voorbeeld