NVIDIA Vera CPU: มาตรฐานใหม่สำหรับงาน Agentic AI ในยุค AI Factories

NVIDIA Vera CPU: มาตรฐานใหม่สำหรับงาน Agentic AI ในยุค AI Factoriesคลื่นลูกใหม่ของ AI ได้สร้างกฎการขยายตัว (scaling law) ที่แตกต่างไปจากเดิม การ Pretraining ทำให้เกิดความฉลาดผ่านชุดข้อมูลที่ใหญ่ขึ้น พารามิเตอร์ที่มากขึ้น และระบบ GPU ที่ทำงานแบบขนานมหาศาล ส่วนการ Post-training ก็ช่วยเพิ่มประโยชน์ใช้สอยผ่านการปรับแต่งด้วยคำสั่ง (instruction tuning) และการจัดสรร GPU ใหม่สำหรับการอนุมานแบบสร้างสรรค์ (generative inference) การปรับขนาดในเวลาทดสอบ (Test-time scaling) ก็ช่วยเพิ่มความสามารถในการใช้เหตุผลของโมเดลด้วยการสร้างโทเค็นที่มากขึ้นเพื่อการคิดวิเคราะห์แต่ในยุคปัจจุบัน Agentic AI และ Reinforcement Learning คือคลื่นลูกใหม่ที่เข้ามาช่วยขยายขีดความสามารถในการ "ลงมือทำ" (Actions) ของ AI โมเดล AI สามารถดำเนินการหลายขั้นตอน เรียกใช้เครื่องมือหลากหลาย ตรวจสอบผลลัพธ์ และโต้ตอบกับสภาพแวดล้อมจริงเพื่อทำงานให้สำเร็จลุล่วงบทความนี้จะอธิบายว่า NVIDIA Vera CPU เข้ามามีบทบาทสำคัญอย่างไรในการช่วยให้ AI Factories สามารถขยายขีดความสามารถของ Agentic AI และ Reinforcement Learning ได้อย่างมีประสิทธิภาพ ด้วยการลดเวลาประมวลผลของ CPU, เพิ่มปริมาณงานที่ทำได้ (task throughput), ปรับปรุงผลผลิตโดยรวมของ AI Factory และช่วยให้ Agent มีความฉลาดมากขึ้น สามารถคิดวิเคราะห์ได้ยาวนานขึ้นทำไม CPU ถึงมีความสำคัญมากขึ้นในยุค Agentic AI?แม้ว่า GPU จะยังคงเป็นหัวใจสำคัญสำหรับการฝึก (training) และการอนุมาน (inference) ของโมเดล AI แต่ในงานที่เกี่ยวข้องกับ Agentic AI, Reinforcement Learning และบริการ AI ที่ต้องประมวลผลข้อมูลจำนวนมาก ส่วนสำคัญของการทำงานกลับเกิดขึ้นบน CPU โดยเฉพาะ:การประมวลผลโค้ดและเครื่องมือในสภาพแวดล้อมที่แยกส่วน (Sandboxed code and tool execution): เพื่อความปลอดภัยและประสิทธิภาพการดึงและประมวลผลข้อมูล (Data retrieval and data processing): เตรียมข้อมูลสำหรับโมเดลการจัดตารางและการควบคุม (Scheduling and orchestration): จัดการลำดับการทำงานของส่วนต่างๆวงจรการทำงานจะเป็นดังนี้:Prompt เริ่มต้น: ผู้ใช้, โทเค็นการใช้เหตุผล, หรือผลลัพธ์จากรอบก่อนหน้า เป็นตัวกระตุ้นให้เกิดการสร้าง Prompt ใหม่ เช่น "ฉันควรจะคอมไพล์และรัน hello.c"GPU สร้างพารามิเตอร์: GPU จะสร้างพารามิเตอร์สำหรับเรียกใช้เครื่องมือบน CPU เช่น gcc -o hello hello.c ; ./helloCPU ประมวลผล: CPU จะดำเนินการเรียกใช้เครื่องมือนั้น และส่งผลลัพธ์กลับไปให้ GPU เพื่ออัปเดตน้ำหนัก (weights) ในระหว่างการทำ Reinforcement Learning หรือใช้เป็นข้อมูลสำหรับ Prompt ถัดไป เช่น Output: ‘Hello, world!’ – Task Returned (0) – SuccessfulGPU สร้างโทเค็นการใช้เหตุผล: GPU จะประมวลผลผลลัพธ์ที่ได้เพื่อสร้างโทเค็นการใช้เหตุผล เช่น "อืม! ดูเหมือนว่ามันจะทำงานได้ดี!"ยิ่ง Agent มีความสามารถมากขึ้นเท่าใด ก็จะยิ่งต้องทำงานหลายขั้นตอนมากขึ้น เรียกใช้เครื่องมือมากขึ้น และทำการตรวจสอบมากขึ้น ส่งผลให้เวลาที่ใช้บน CPU เพิ่มสูงขึ้นตามไปด้วยนี่ทำให้ CPU กลายเป็นส่วนสำคัญในเส้นทางการประมวลผล (critical path) ไม่ใช่แค่ตัวประมวลผลหลักที่คอยป้อนข้อมูลให้ GPU อีกต่อไป แต่ CPU มีผลโดยตรงต่อ ความหน่วง (latency), การใช้งานตัวเร่งความเร็ว (accelerator utilization), และ ปริมาณผลผลิตโดยรวมของ AI Factory เมื่อเทียบกับพลังงานและต้นทุนการเปลี่ยนแปลงกระบวนทัศน์: จาก "จำนวนคอร์" สู่ "ปริมาณผลผลิต AI"ตลอดทศวรรษที่ผ่านมา ตลาด CPU ในศูนย์ข้อมูลมักให้ความสำคัญกับเศรษฐศาสตร์ของคลาวด์ โดยเน้นที่จำนวนคอร์ที่มากขึ้น, Virtual Machines ที่มากขึ้น, และต้นทุนต่อคอร์ที่ต่ำลง ซึ่งยังคงสำคัญสำหรับบริการคลาวด์ทั่วไป แต่ประสิทธิภาพต่อคอร์ (performance per core) กลับไม่ได้พัฒนาไปในอัตราที่รวดเร็วเท่ายิ่งไปกว่านั้น การสิ้นสุดของกฎของมัวร์ (Moore's Law) ยังจำกัดการเพิ่มประสิทธิภาพของ CPU ในแต่ละรุ่น แม้ว่าสถาปัตยกรรม GPU จะได้รับประโยชน์จากวงจรการปรับแต่งร่วมกันอย่างต่อเนื่องก็ตามAI Factories ได้เปลี่ยนการวัดผลจาก "จำนวนคอร์ต่อดอลลาร์" (cores per dollar) ไปสู่ "ปริมาณโทเค็นต่อดอลลาร์" (tokens per dollar) หรือกล่าวคือ แทนที่จะมองว่าศูนย์ข้อมูลสามารถเช่า CPU ได้กี่คอร์ ก็หันมามองว่าสามารถสร้างผลผลิต AI ได้มากน้อยเพียงใดสิ่งนี้ต้องการจุดออกแบบ CPU ใหม่สำหรับ AI Factories โดยเฉพาะ:จำนวนคอร์สูง: เพื่อรองรับการทำงานของ Agent, สภาพแวดล้อม RL, Sandbox, และบริการต่างๆ ที่ทำงานพร้อมกันหลายพันรายการประสิทธิภาพต่อคอร์สูง: เนื่องจากแต่ละขั้นตอนของ Agentic AI ถูกจำกัดด้วยการประมวลผลแบบลำดับ (sequential execution)แบนด์วิดท์หน่วยความจำที่ประหยัดพลังงาน: เพื่อให้ข้อมูลเคลื่อนที่ได้อย่างราบรื่น โดยไม่ทำให้โครงสร้างพื้นฐาน CPU กลายเป็นคอขวดNVIDIA Vera CPU: ออกแบบมาเพื่อ Agent AI โดยเฉพาะNVIDIA Vera CPU ถูกออกแบบมาเพื่อตอบสนองความต้องการของเวิร์กโหลด AI สมัยใหม่ ด้วยประสิทธิภาพต่อคอร์ที่รวดเร็ว, การทำงานพร้อมกันจำนวนมาก, และแบนด์วิดท์หน่วยความจำที่ประหยัดพลังงาน เพื่อขับเคลื่อน AI Factory ให้ทำงานได้อย่างต่อเนื่องVera CPU ผสานรวม 88 NVIDIA Olympus cores เข้ากับแบนด์วิดท์หน่วยความจำ LPDDR5X สูงสุด 1.2 TB/s เพื่อป้อนข้อมูลให้กับคอร์อย่างสม่ำเสมอในระหว่างการเรียกใช้เครื่องมือ, การประมวลผลโค้ดใน Sandbox (ทั้ง Native code และภาษาอย่าง Python หรือ JavaScript), การดึงข้อมูล, การประมวลผลข้อมูล, และการควบคุมการทำงานหัวใจสำคัญคือ ประสิทธิภาพต่อคอร์ที่รวดเร็วและสม่ำเสมอ ซึ่งแตกต่างจาก Virtual Machines ในคลาวด์ โดย CPU sockets จะทำงานเต็มประสิทธิภาพอยู่เสมอ เพื่อจัดการ Agent ที่ทำงานพร้อมกันจำนวนมาก คอร์ที่ยังคงความเร็วสูงภายใต้ภาระงานที่หนักหน่วง จะช่วยลดเวลาในการทำงานให้เสร็จสิ้น ส่งมอบผลลัพธ์ที่รวดเร็วยิ่งขึ้น พร้อมทั้งปลดปล่อยทรัพยากรเพื่อรองรับคำขอถัดไปสำหรับ Agent หมายถึง ความหน่วงที่ลดลง ในคำขอหลายขั้นตอน สำหรับ Reinforcement Learning หมายถึง การประเมินผลที่มากขึ้น และ ข้อมูลที่ได้มากขึ้น จากแต่ละหน้าต่างการฝึก (training window) ช่วยให้โมเดลบรรลุคุณภาพที่สูงขึ้นได้อย่างรวดเร็ว สำหรับ AI Factories คอร์ที่รวดเร็วจะช่วยให้ตัวเร่งความเร็ว (accelerators) ไม่ต้องรอการควบคุม, การประมวลผลเครื่องมือ, หรือการเคลื่อนย้ายข้อมูลการส่งมอบประสิทธิภาพนี้ต้องการการออกแบบคอร์, ระบบหน่วยความจำ, และ Fabric ที่ทำงานร่วมกันอย่างลงตัว เพื่อรองรับโค้ดที่มีการแตกแขนง (branch-heavy code), การเคลื่อนย้ายข้อมูลแบนด์วิดท์สูง, และประสิทธิภาพที่คาดการณ์ได้ภายใต้ภาระงานทั้งหมดนี้เริ่มต้นที่ NVIDIA custom Olympus core ที่อยู่ภายใน Vera CPUNVIDIA Olympus core และระบบหน่วยความจำNVIDIA Olympus core มอบ IPC (Instructions Per Cycle) ที่สูงกว่า NVIDIA Grace ถึง 50% โดยผสานรวมส่วนหน้า (wide front end) ที่กว้าง, การคาดการณ์การแตกแขนงขั้นสูง (advanced branch prediction), การจัดลำดับคำสั่งแบบนอกลำดับที่ลึก (deep out-of-order instruction scheduling), และการดึงข้อมูลล่วงหน้าเฉพาะทาง (specialized memory prefetching) เพื่อรักษาปริมาณงานที่สูงบนโค้ด Agentic ที่มีลักษณะ branch-heavy และ memory-sensitiveOlympus ใช้ Neural Branch Predictor เพื่อลดการหยุดชะงักในโค้ดที่มีการแตกแขนงจำนวนมาก เมื่อรวมกับกลไกการคาดการณ์อื่นๆ สามารถรักษาปริมาณงานได้ถึง 2 branching ที่ถูกคาดการณ์ต่อรอบสัญญาณนาฬิกา (cycle) โดยไม่มีการลงโทษ (penalty) ทำให้ปริมาณงานของสแต็กซอฟต์แวร์ที่ซับซ้อน เช่น PyTorch, กราฟเวิร์กโหลด, และเอนจิ้นสคริปต์ เป็นไปอย่างต่อเนื่องOlympus ยังมี 10-wide decode unit และ deep out-of-order engine ที่ออกแบบมาเพื่อรักษา IPC ให้สูงอยู่เสมอ บัฟเฟอร์ขนาดใหญ่และการจัดลำดับคำสั่งขั้นสูงช่วยให้คอร์สามารถเดินหน้าต่อไปได้ เมื่อเส้นทางการทำงาน (code paths), การพึ่งพา (dependencies), และรูปแบบการเข้าถึงหน่วยความจำเปลี่ยนแปลงไปการรักษา IPC ให้สูงภายใต้ภาระงานต้องการการป้อนข้อมูลให้กับคอร์อย่างสม่ำเสมอ Vera CPUs มอบ แบนด์วิดท์หน่วยความจำ LPDDR5X สูงสุด 1.2 TB/s ซึ่งรักษาประสิทธิภาพได้มากกว่า 90% ของแบนด์วิดท์สูงสุดภายใต้ภาระงาน นอกจากนี้ยังมีความหน่วงหน่วยความจำสูงสุด (peak memory latency) ต่ำกว่า CPU x86 ถึง 40% ทำให้ Olympus cores ได้รับข้อมูลตามเวลาที่กำหนดผ่านการดึงข้อมูล, การวิเคราะห์, การประมวลผลใน Sandbox, และการควบคุมOlympus ยังเพิ่ม Graph Prefetcher แบบใหม่ที่ออกแบบมาสำหรับรูปแบบการเข้าถึงหน่วยความจำแบบอ้อม (indirect memory access patterns) ที่พบได้ทั่วไปในการวิเคราะห์กราฟและการเข้าถึงหน่วยความจำของ Agent เมื่อรวมกับแบนด์วิดท์หน่วยความจำต่อคอร์ที่สูง Vera CPUs จึงมอบ ประสิทธิภาพมากกว่า 3 เท่า บนเวิร์กโหลดการท่องกราฟ (graph traversal workloads) เมื่อเทียบกับสถาปัตยกรรม x86NVIDIA Scalable Coherency Fabric (SCF) เชื่อมต่อคอร์ทั้งหมดและแคชแบบรวม (unified cache) ทั่วทั้ง Mesh แบบ Monolithic ส่งมอบความหน่วงที่คาดการณ์ได้ และการเคลื่อนย้ายข้อมูลระหว่างคอร์ที่ เร็วขึ้น 50% เมื่อเทียบกับ CPU ที่มีการแบ่งการประมวลผลข้าม Die สำหรับ Reinforcement Learning และ Agentic AI ความคาดการณ์ได้นี้ช่วยรักษาการทำงานของวงจรการประเมินผล (evaluation loops) ให้คงที่ภายใต้ภาระงานเต็มที่เมื่อทำงานร่วมกัน Olympus core, NVIDIA SCF, และระบบหน่วยความจำ LPDDR5X ทำให้ Vera CPU สามารถส่งมอบ ประสิทธิภาพ Sandbox ที่สูงกว่าคู่แข่งมากกว่า 1.8 เท่า สำหรับ Agentic workloads ภายใต้ภาระงานเต็มที่ ดังที่แสดงในรูปที่ 4ประสิทธิภาพต่อวัตต์ที่เหนือกว่านอกเหนือจากประสิทธิภาพแล้ว Agentic AI ยังสร้างแรงกดดันต่อประสิทธิภาพของโครงสร้างพื้นฐานเพิ่มขึ้นเรื่อยๆ เมื่อ AI Factories ขยายขนาดไปสู่ CPU หลายพันตัว พลังงานหน่วยความจำสามารถกลายเป็นส่วนสำคัญของพลังงานแพลตฟอร์ม, ความต้องการระบบระบายความร้อน, และต้นทุนการดำเนินงานVera CPU จับคู่สถาปัตยกรรมเข้ากับหน่วยความจำ LPDDR5X SOCAMM แบนด์วิดท์สูง เพื่อลดพลังงานของหน่วยความจำเมื่อเทียบกับการออกแบบเซิร์ฟเวอร์ DDR แบบดั้งเดิม ระบบ LPDDR5X โดยทั่วไปใช้พลังงานน้อยกว่า 30 วัตต์ เทียบกับ DDR5 ที่อาจสูงกว่า 100 วัตต์ ระบบที่ใช้ MRDIMM อาจเพิ่มพลังงานหน่วยความจำให้สูงขึ้นไปอีกด้วยช่วง TDP ที่ปรับได้ตั้งแต่ 250 W ถึง 450 W Vera CPU จึงช่วยลดพลังงานรวมของ CPU และระบบหน่วยความจำ ในขณะที่ยังคงให้แบนด์วิดท์ที่จำเป็นสำหรับการอนุมานของ Agent และสภาพแวดล้อม Reinforcement Learning สำหรับ AI Factories สิ่งนี้หมายถึง ประสิทธิภาพต่อวัตต์ที่ดีขึ้น, ต้นทุนการดำเนินงานที่ต่ำลง, และการใช้โครงสร้างพื้นฐานพลังงานและระบบระบายความร้อนอย่างมีประสิทธิภาพมากขึ้นCPU สำหรับ Agent ใน AI Factoryยุคของ Agentic AI ต้องการการเปลี่ยนแปลงในการออกแบบ CPU จากการเพิ่มจำนวนคอร์ต่อดอลลาร์สูงสุด ไปสู่การเพิ่มปริมาณผลผลิตของ AI Factory ต่อวัตต์และต่อดอลลาร์สูงสุด NVIDIA Vera CPU คือ CPU สำหรับ Agent ที่ผสานรวมประสิทธิภาพต่อคอร์ที่รวดเร็ว, การทำงานพร้อมกันจำนวนมาก, และแบนด์วิดท์หน่วยความจำที่ประหยัดพลังงาน ด้วย Olympus core ที่ออกแบบเอง, หน่วยความจำ LPDDR5X, และ NVIDIA Scalable Coherency Fabric, Vera CPU มอบประสิทธิภาพ Sandbox สำหรับ Agent ที่สูงกว่าสถาปัตยกรรม x86 แบบดั้งเดิมมากกว่า 1.8 เท่า ช่วยให้ AI Factories สามารถดำเนินการเรียกใช้เครื่องมือได้มากขึ้น, ส่งคืนการประเมินผลได้มากขึ้น, และรักษาการทำงานของตัวเร่งความเร็วให้ราบรื่นเรียนรู้เพิ่มเติมเกี่ยวกับ Vera CPU, NVIDIA Vera Rubin NVL2, และการทดสอบประสิทธิภาพ Vera CPU โดย Phoronix*ประสิทธิภาพสัมพัทธ์อิงตามข้อมูลที่วัดได้ และอาจมีการเปลี่ยนแปลง ประสิทธิภาพของ NVIDIA Vera CPU ด้วย Lhttps://developer.nvidia.com/blog/nvidia-vera-cpu-sets-a-new-standard-for-agentic-workloads-in-ai-factories/