แสงสว่างแห่งอนาคต: Pat Gelsinger กับการปลุกชีพกฎของมัวร์ด้วยเทคโนโลยีแสง

ในยุคที่ปัญญาประดิษฐ์ (AI) กำลังเข้ามาพลิกโฉมอุตสาหกรรมซอฟต์แวร์อย่างที่ไม่เคยมีมาก่อน ความต้องการพลังประมวลผลที่สูงขึ้นก็เพิ่มทวีคูณตามไปด้วย แต่เส้นทางสู่ชิปที่ทรงพลังยิ่งกว่าเดิมกลับเต็มไปด้วยความท้าทายทางฟิสิกส์และต้นทุนที่สูงลิ่ว ท่ามกลางสถานการณ์นี้ Pat Gelsinger อดีต CEO ของ Intel และผู้คร่ำหวอดในวงการเซมิคอนดักเตอร์ ได้ก้าวเข้ามาพร้อมวิสัยทัศน์ที่น่าจับตามอง นั่นคือการใช้ "แสง" มาเป็นกุญแจสำคัญในการปลุกชีพ "กฎของมัวร์" ให้กลับมามีชีวิตอีกครั้ง

กฎของมัวร์: จากคำทำนายสู่วิกฤต

กฎของมัวร์ (Moore's Law) ที่เสนอโดย Gordon Moore ผู้ร่วมก่อตั้ง Intel เคยทำนายไว้ว่า จำนวนทรานซิสเตอร์บนชิปจะเพิ่มขึ้นเป็นสองเท่าทุกๆ สองปี ซึ่งส่งผลให้ประสิทธิภาพของชิปเพิ่มขึ้นตามไปด้วย คำทำนายนี้เป็นจริงมานานหลายทศวรรษ และเป็นแรงผลักดันสำคัญของการพัฒนาเทคโนโลยีคอมพิวเตอร์ แต่ในปัจจุบัน การย่อขนาดทรานซิสเตอร์ให้เล็กลงในระดับอะตอมนั้นกำลังเผชิญกับข้อจำกัดทางฟิสิกส์ที่ยากจะก้าวข้าม ทั้งในด้านเทคนิคและความคุ้มค่า

แสงสว่างนำทาง: Lithography เทคโนโลยีการพิมพ์ชิปด้วยแสง

Gelsinger เชื่อว่าทางออกของปัญหานี้อยู่ที่ Lithography หรือเทคโนโลยีการพิมพ์ลายวงจรบนชิป ซึ่งเขาเชื่อว่าการใช้ลำแสงที่มีความละเอียดสูงระดับนาโนเมตร จะสามารถช่วยแก้ปัญหานี้ได้ เทคโนโลยี Lithography ชั้นนำในปัจจุบัน ที่พัฒนาโดยบริษัท ASML ของเนเธอร์แลนด์ สามารถพิมพ์ลายวงจรด้วยแสงความยาวคลื่น 13.5 นาโนเมตร การพัฒนาให้สามารถย่อขนาดเลนส์ให้เล็กลงไปอีก จะนำไปสู่การสร้างโปรเซสเซอร์ที่ทรงพลังยิ่งขึ้น

xLight: เดิมพันครั้งใหม่กับอนาคตของชิป

ด้วยความเชื่อมั่นในศักยภาพของเทคโนโลยีแสง Gelsinger ได้เข้าร่วมเป็น General Partner ที่ Playground Capital บริษัทร่วมลงทุนที่เน้นการลงทุนในเทคโนโลยีเชิงลึก (Deep Tech) และได้เข้าไปมีบทบาทใน xLight บริษัทในเครือที่กำลังพัฒนาเทคนิค Lithography รูปแบบใหม่ ซึ่งได้รับเงินทุนสนับสนุนจากรัฐบาลสหรัฐฯ ด้วยเช่นกัน Gelsinger มองว่าการแก้ปัญหาเรื่อง "แสง" คือความท้าทายที่สำคัญที่สุด และหากทำสำเร็จ จะสามารถก้าวข้ามขีดจำกัดของเทคโนโลยีปัจจุบันไปได้

AI พลิกโฉมอุตสาหกรรม: โอกาสใหม่ของ Deep Tech Venture

การเข้ามาของ AI ได้จุดประกายให้บริษัทร่วมลงทุนจำนวนมากหันมาให้ความสนใจกับ Deep Tech มากขึ้น Gelsinger ชี้ให้เห็นว่าภาคส่วนนี้กำลังเติบโตอย่างก้าวกระโดด จนทำให้ประมาณการมูลค่าตลาดเซมิคอนดักเตอร์ที่เคยคาดว่าจะถึง 1 ล้านล้านดอลลาร์ในปี 2030 อาจจะเกิดขึ้นได้เร็วขึ้นถึงในปีหน้า อย่างไรก็ตาม เขาเตือนว่าแม้จะมี VC จำนวนมากเข้ามาลงทุนใน Deep Tech แต่หลายรายก็ยังขาดความเข้าใจและประสบการณ์ในการคัดเลือกผู้ชนะในตลาดนี้

กระบวนการคัดเลือกผู้ประกอบการ Deep Tech

Gelsinger เน้นย้ำว่าทีมงานของเขาประกอบด้วยผู้เชี่ยวชาญด้านเทคนิคอย่างแท้จริง ทั้งวิศวกร นักวิทยาศาสตร์ และอาจารย์มหาวิทยาลัย ซึ่งจะผ่านกระบวนการตรวจสอบทางเทคนิคอย่างเข้มงวด รวมถึงการสัมภาษณ์และตรวจสอบประวัติอย่างละเอียด เพื่อให้มั่นใจว่าสามารถคัดเลือกทีมที่ดีที่สุดในหัวข้อนั้นๆ ได้

พลังของแสง: กุญแจสู่นวัตกรรมที่ไม่สิ้นสุด

Gelsinger เปรียบเทียบการลงทุนในเทคโนโลยีใหม่ๆ กับการค้นพบแสงสว่างในความมืด เขาเชื่อว่า "แสง" คือปัจจัยที่สำคัญที่สุดในการขับเคลื่อนอุตสาหกรรมเซมิคอนดักเตอร์ไปข้างหน้า ไม่ว่าจะเป็นวัสดุโครงสร้างใหม่ๆ หรือเทคโนโลยีอย่าง Superconducting และ Ferroelectric Materials ล้วนต้องการเทคโนโลยี Lithography ที่ก้าวหน้า ซึ่งการปลุกชีพ Lithography ให้ตื่นจากการหลับใหล จะนำไปสู่นวัตกรรมที่น่าตื่นเต้นอย่างที่ไม่เคยมีมาก่อน

พลังงาน: คอขวดสำคัญของ AI

นอกจากการพัฒนาชิปแล้ว Gelsinger ยังชี้ให้เห็นถึงปัญหาคอขวดสำคัญอีกประการหนึ่งคือ "พลังงาน" การขยายตัวของกำลังการผลิตพลังงานในสหรัฐฯ ที่ต่ำมากในช่วงทศวรรษที่ผ่านมา ถือเป็นอุปสรรคสำคัญต่อการเติบโตของยุค AI การลงทุนในแหล่งพลังงานใหม่ๆ ที่มีประสิทธิภาพและยั่งยืน รวมถึงการพัฒนาระบบการจัดการพลังงานที่ดีขึ้น จะเป็นปัจจัยชี้ขาดความสำเร็จในยุค AI

ความท้าทายด้านกฎระเบียบของ AI

ในขณะที่สหรัฐฯ กำลังพยายามรักษาความเป็นผู้นำด้าน AI และเซมิคอนดักเตอร์ ท่ามกลางความกังวลเกี่ยวกับความปลอดภัยและความมั่นคง Gelsinger มองว่าการถกเถียงเรื่องกฎระเบียบเป็นสิ่งจำเป็น เขาเห็นว่าการพัฒนา AI ที่รวดเร็วนี้ จำเป็นต้องมีการตรวจสอบมาตรฐานความปลอดภัยและคุณค่าที่สอดคล้องกัน ไม่ว่าจะเป็นการตรวจสอบโดยอุตสาหกรรมเอง หรือการเข้ามาของภาครัฐ เพื่อให้แน่ใจว่า AI จะถูกพัฒนาไปในทิศทางที่เป็นประโยชน์ต่อมนุษยชาติอย่างแท้จริง

ขอบคุณ แหล่งข้อมูล
https://www.wired.com/story/pat-gelsinger-moores-law-light-chips/

ศูนย์ข้อมูล: พลังงานที่เพิ่มขึ้นอย่างก้าวกระโดดสู่ปี 2035 💡

ในยุคดิจิทัลที่ขับเคลื่อนด้วยเทคโนโลยี เราคงคุ้นเคยกับคำว่า "ศูนย์ข้อมูล" (Data Center) กันดี แต่เคยสงสัยไหมว่าเบื้องหลังการทำงานอันมหาศาลของศูนย์ข้อมูลเหล่านี้ จำเป็นต้องใช้พลังงานมากแค่ไหน? รายงานล่าสุดจาก BloombergNEF ได้เผยข้อมูลที่น่าสนใจว่า ศูนย์ข้อมูลกำลังจะกลายเป็นผู้ใช้ไฟฟ้าปริมาณมหาศาล ส่งผลกระทบต่อโครงข่ายไฟฟ้าที่เราใช้อยู่ในปัจจุบัน

การเติบโตที่คาดไม่ถึงของศูนย์ข้อมูล 🚀

รายงานชี้ว่า ภายในปี 2035 ศูนย์ข้อมูลทั่วสหรัฐอเมริกาจะใช้ไฟฟ้ามากถึงหนึ่งในห้าของปริมาณไฟฟ้าทั้งหมดที่ผลิตได้ ซึ่งเป็นตัวเลขที่สูงกว่าปัจจุบันถึง 4 เท่า! การเติบโตนี้มีปัจจัยหลักมาจากการพัฒนาอย่างรวดเร็วของเทคโนโลยีปัญญาประดิษฐ์ (AI) ที่ต้องการพลังประมวลผลสูงมาก

คาดการณ์ว่าความต้องการใช้พลังงานของศูนย์ข้อมูลจะพุ่งสูงขึ้นเกือบ 200 กิกะวัตต์ ในทศวรรษหน้า โดยครึ่งหนึ่งของปริมาณนี้จะถูกใช้ไปกับการฝึกฝน (Training) และการอนุมาน (Inference) ของ AI ซึ่งส่วนใหญ่จะกระจุกตัวอยู่ในสหรัฐอเมริกา โดยภายในปี 2033 สหรัฐฯ จะรองรับชิป AI คิดเป็น 64% ของความต้องการใช้พลังงานทั้งหมด

ตัวเลขที่น่าตกใจ: การปรับประมาณการที่สูงขึ้น 📈

ที่น่าสนใจคือ ตัวเลขเหล่านี้อาจยังดูอนุรักษ์นิยมเกินไป เมื่อเทียบกับการคาดการณ์ก่อนหน้า BloombergNEF ได้ปรับประมาณการความต้องการไฟฟ้าของศูนย์ข้อมูลในปี 2035 ให้สูงขึ้นถึง 83% จากที่เคยคาดการณ์ไว้ในเดือนธันวาคม นอกจากนี้ องค์กรอื่น ๆ เช่น EPRI และ S&P ก็ได้ปรับเพิ่มประมาณการของตนเองเช่นกัน สะท้อนให้เห็นถึงอัตราการพัฒนาศูนย์ข้อมูลที่ร้อนแรงทั่วสหรัฐอเมริกา

ความท้าทายของโครงข่ายไฟฟ้า ⚡

ในอีกสิบปีข้างหน้า ศูนย์ข้อมูลใหม่ ๆ ส่วนใหญ่จะเชื่อมต่อเข้ากับโครงข่ายไฟฟ้าที่กำลังตึงเครียดอยู่แล้ว ตัวอย่างเช่น:

• PJM Interconnection: ครอบคลุมพื้นที่ตั้งแต่รัฐเวอร์จิเนียไปจนถึงอิลลินอยส์ คาดว่า 34% ของไฟฟ้าทั้งหมดจะถูกใช้โดยศูนย์ข้อมูล
• ERCOT: ครอบคลุมพื้นที่ส่วนใหญ่ของรัฐเท็กซัส จะต้องจัดสรรกำลังการผลิตไฟฟ้าถึง 22% ให้กับศูนย์ข้อมูล

PJM ซึ่งเป็นพื้นที่ที่มีศูนย์ข้อมูลอยู่จำนวนมากอยู่แล้ว กำลังประสบปัญหาในการจัดการคำขอเชื่อมต่อจากทั้งผู้ผลิตและผู้ใช้ไฟฟ้าขนาดใหญ่ จนต้องระงับการรับคำขอใหม่เป็นเวลา 4 ปี ทำให้สถานการณ์ยิ่งเปราะบางเมื่อความต้องการยังคงเพิ่มสูงขึ้น

แม้ว่า PJM จะเปิดรับคำขอใหม่สำหรับแหล่งผลิตไฟฟ้าแล้ว แต่สถานการณ์ก็เลวร้ายถึงขั้นที่บริษัท American Electric Power (AEP) ขู่ว่าจะถอนตัวออกจากระบบ ทำให้เกิดความไม่สมดุลระหว่างอุปทานและอุปสงค์ และส่งผลให้ราคาไฟฟ้าพุ่งสูงขึ้น 76% ในปีที่ผ่านมา

ทั่วโลกก็ได้รับผลกระทบ 🌍

แม้ว่าสหรัฐอเมริกาจะเป็นผู้นำด้านการประมวลผล AI แต่ศูนย์ข้อมูลก็ยังคงเติบโตอย่างต่อเนื่องในประเทศอื่น ๆ เช่นกัน หากการนำ AI มาใช้ยังคงดำเนินไปอย่างรวดเร็ว ภายในปี 2033 ศูนย์ข้อมูลทั่วโลกจะสร้างความต้องการไฟฟ้าใหม่เพิ่มขึ้นถึง 1,935 เทราวัตต์-ชั่วโมง ซึ่งเกือบเท่ากับปริมาณการใช้ไฟฟ้าประจำปีของประเทศอินเดีย

ข้อคิดที่ควรพิจารณา 🤔

การเติบโตของศูนย์ข้อมูลและการใช้งาน AI เป็นสิ่งที่หลีกเลี่ยงไม่ได้ และนำมาซึ่งประโยชน์มากมาย แต่ในขณะเดียวกัน เราก็ต้องตระหนักถึงผลกระทบต่อการใช้พลังงานและโครงข่ายไฟฟ้า การวางแผนและการลงทุนในโครงสร้างพื้นฐานด้านพลังงานที่ยั่งยืนจึงเป็นสิ่งสำคัญอย่างยิ่ง เพื่อรองรับความต้องการที่เพิ่มขึ้นในอนาคต

#ศูนย์ข้อมูล #พลังงาน #AI #โครงข่ายไฟฟ้า #เทคโนโลยี

ขอบคุณ แหล่งข้อมูล
https://techcrunch.com/2026/07/21/data-centers-expected-to-use-4x-more-electricity-by-2035/

NVIDIA Rubin GPU: สถาปัตยกรรมใหม่ ขับเคลื่อนยุค AI Agentic

โลกของปัญญาประดิษฐ์ (AI) กำลังก้าวข้ามขีดจำกัดจากการฝึกโมเดลแบบแยกส่วนและแชทบอทที่ตอบโต้กับมนุษย์ ไปสู่ "โรงงาน AI" ที่ทำงานตลอดเวลาเพื่อสร้างสรรค์ความฉลาดในระดับมหาศาล โรงงานเหล่านี้กำลังถูกมอบหมายให้ขับเคลื่อนเวิร์กโฟลว์แบบ Agentic AI ซึ่งสามารถใช้เหตุผล วางแผน ใช้เครื่องมือ ตรวจสอบผลลัพธ์ระหว่างดำเนินการ และทำงานที่ซับซ้อนหลายขั้นตอนในบริบทที่กว้างขวาง

เวิร์กโฟลว์แบบ Agentic AI ไม่ได้ถูกจำกัดด้วยการตอบสนองต่อ Prompt เพียงครั้งเดียว แต่เป็นการอนุมานอย่างต่อเนื่องผ่านขั้นตอนการใช้เหตุผลจำนวนมาก ซึ่งต้องการความหน่วงแฝงต่อขั้นตอนที่ต่ำ, ทรูพุตการถอดรหัสที่สูง, การประมวลผล Long-Context Attention ที่มีประสิทธิภาพ, ความจุ KV Cache ขนาดใหญ่ และความสามารถในการปรับขนาดโมเดลข้ามโดเมน GPU ที่เชื่อมต่อกันอย่างแน่นหนา เพื่อให้วิสัยทัศน์นี้เป็นจริง ศูนย์ข้อมูลจึงต้องได้รับการออกแบบใหม่ให้เป็นหน่วยประมวลผลเดี่ยว ซึ่งเป็นสิ่งที่แพลตฟอร์ม NVIDIA Vera Rubin สามารถทำได้

หัวใจสำคัญ: NVIDIA Rubin GPU

NVIDIA Rubin GPU คือแกนหลักของแพลตฟอร์ม Vera Rubin ซึ่งถูกออกแบบมาเพื่อมอบ ทรูพุต Agentic ที่สูงขึ้นถึง 10 เท่าต่อหน่วยพลังงาน เมื่อเทียบกับ NVIDIA Blackwell โดยมีส่วนประกอบสำคัญคือ:

• 336 พันล้านทรานซิสเตอร์: ให้ความหนาแน่นในการประมวลผลที่สูง
• 224 Streaming Multiprocessors (SMs): หน่วยประมวลผลหลักที่ทำงานขนานกัน
• 896 Tensor Cores: ปรับปรุงประสิทธิภาพการคำนวณเมทริกซ์ พร้อมความยืดหยุ่นในการเลือกใช้ Precision ที่สูงขึ้น
• Transformer Engine รุ่นที่ 3: ช่วยเร่งการทำงานของโมเดล Transformer ให้มีประสิทธิภาพสูงสุด
• 288 GB HBM4 Memory: หน่วยความจำความเร็วสูงที่ให้แบนด์วิดท์สูงสุดถึง 22 TB/s

นวัตกรรมเหล่านี้ เช่น Tensor Memory Accelerator ที่ได้รับการปรับปรุง, การอัปเดต Descriptor แบบ Inline, การจัดการ Activation Sparsity, Adaptive Compression และการกระตุ้น Kernel แบบ Fine-grained ช่วยเพิ่มประสิทธิภาพการปรับขนาดโมเดลแบบ Mixture-of-Experts (MoE), การประมวลผล Long-Context Attention และลดความหน่วงแฝงในการเปลี่ยน Kernel ทำให้สามารถ เพิ่มจำนวน Tokens ต่อวินาที และ Tokens ต่อวัตต์ สำหรับเวิร์กโหลด Agentic Inference ได้อย่างมีนัยสำคัญ

สถาปัตยกรรม Rubin: รองรับ Agentic Workloads อย่างไร?

Rubin GPU ถูกสร้างขึ้นจากชิปประมวลผลที่จำกัดด้วย Reticle เพื่อให้ได้ความหนาแน่นและประสิทธิภาพสูง โดยชิปทั้งสองจะถูกรวมเข้าด้วยกันในแพ็คเกจเดียวผ่านลิงก์ความเร็วสูงที่เรียกว่า NVIDIA High-Bandwidth Interface (NV-HBI)

หัวใจสำคัญของสถาปัตยกรรมนี้คือการจัดการให้การประมวลผลจำนวนมหาศาลทำงานได้อย่างต่อเนื่อง แม้ว่า Agentic Workloads จะมีการสลับเปลี่ยนระหว่างการใช้เหตุผล, การสร้างข้อความ, การดึงข้อมูล หรือการใช้เครื่องมือก็ตาม ด้วยจำนวนทรานซิสเตอร์, SMs และ Tensor Cores ที่กล่าวมาข้างต้น พร้อม Transformer Engine รุ่นที่ 3 ที่สามารถมอบประสิทธิภาพ NVFP4 สูงถึง 50 Petaflops Rubin GPU จึงมีความยืดหยุ่นในการปรับ Precision ให้เหมาะสมกับรูปแบบตัวเลขต่างๆ โดยยังคงรักษาความแม่นยำไว้ได้

ประสิทธิภาพไม่ได้ขึ้นอยู่กับทรูพุตของ Tensor Core เพียงอย่างเดียว Rubin GPU จัดระเบียบทรัพยากรการประมวลผลเป็น Graphics Processor Clusters (GPCs) พร้อม L2 Cache ขนาดใหญ่ที่อยู่ตรงกลาง GigaThread Engine ทำหน้าที่ประสานงานการทำงาน, MIG Control แบ่งพาร์ติชัน GPU สำหรับเวิร์กโหลดหลายรายการ และ NV-DEC เร่งการถอดรหัส ความสามารถเหล่านี้ช่วยให้ Rubin GPU เปลี่ยนความหนาแน่นของการประมวลผลให้เป็นการใช้งานที่ต่อเนื่องสำหรับเวิร์กโหลดที่หลากหลายและเปลี่ยนแปลงตลอดเวลาของระบบ Agentic ขนาดใหญ่

การใช้งานที่ต่อเนื่องยังขึ้นอยู่กับความเร็วในการนำข้อมูลไปยังคอร์ประมวลผล Rubin ได้รวมเอา HBM4 Memory สูงสุด 288 GB ซึ่งขับเคลื่อนโดย HBM controllers และ 12-Hi stacks เพื่อมอบแบนด์วิดท์สูงสุดถึง 22 TB/s นอกจากนี้ Enhanced Tensor Memory Accelerator (TMA) ยังจัดการการเคลื่อนย้ายข้อมูลอย่างมีประสิทธิภาพสูงข้ามเลย์เอาต์ข้อมูลที่ซับซ้อน NVIDIA NVLink 6 ให้แบนด์วิดท์ Scale-up สูงถึง 3,600 GB/s สำหรับการสื่อสาร GPU-GPU แบบ All-to-all, NVLink-C2C ให้การสื่อสาร CPU-GPU ที่สอดคล้องกันที่ 1,800 GB/s และ PCIe Gen 6 x16 ให้การเชื่อมต่อ Host สูงสุดถึง 256 GB/s

สุดท้าย การปรับใช้ Agentic ขนาดใหญ่จำเป็นต้องปกป้องข้อมูลเสมอเมื่อมีการเคลื่อนย้ายผ่านโดเมนการประมวลผลนี้ Confidential Computing พร้อม TEE-I/O ได้รับการออกแบบมาเพื่อรักษาความปลอดภัยของข้อมูลทั้งในขณะจัดเก็บ, ขณะส่งผ่าน และขณะใช้งานทั่วทั้ง AI Factory ความสามารถเหล่านี้ทั้งด้านการประมวลผล, หน่วยความจำ, การเชื่อมต่อ และความปลอดภัย จึงเป็นรากฐานระดับ GPU สำหรับ Agentic Workloads ที่ต้องคงประสิทธิภาพการประมวลผลอย่างต่อเนื่องสำหรับโมเดลที่ใหญ่ขึ้นเรื่อยๆ และโดเมน Scale-up

Rubin GPU เร่งความเร็วเส้นทางการอนุมานที่สำคัญอย่างไร?

ทรูพุตการประมวลผลสูงสุดเพียงอย่างเดียวไม่เพียงพอสำหรับการเร่งความเร็ว Agentic Inference ประสิทธิภาพในโลกจริงยังขึ้นอยู่กับความมีประสิทธิภาพของ GPU ในการเคลื่อนย้ายข้อมูล, การดำเนินการคำนวณเมทริกซ์, การประมวลผล Long-Context Attention และการเปลี่ยนจาก Kernel หนึ่งไปยังอีก Kernel หนึ่ง ส่วนนี้จะสำรวจคุณสมบัติของ Rubin GPU ที่ออกแบบมาเพื่อลด Overhead ในเส้นทางการประมวลผลที่สำคัญเหล่านี้

🚀 เร่งการเคลื่อนย้ายน้ำหนัก (Weights) และโทเค็น (Tokens) สำหรับ MoE ในระดับ Rack

โมเดล Mixture-of-Experts (MoE) จะกำหนดเส้นทางของโทเค็นไปยังเครือข่ายผู้เชี่ยวชาญ (Expert Networks) หลายเครือข่ายแบบไดนามิก เมื่อจำนวนผู้เชี่ยวชาญเพิ่มขึ้น การค้นหาและเคลื่อนย้ายน้ำหนักของผู้เชี่ยวชาญอย่างมีประสิทธิภาพจะมีความสำคัญต่อประสิทธิภาพการอนุมานมากขึ้น

Rubin GPU ได้ปรับปรุง Tensor Memory Accelerator เพื่อลด Overhead การเคลื่อนย้ายข้อมูลสำหรับโมเดลที่มีผู้เชี่ยวชาญจำนวนมาก การจัดการ Descriptor ที่ดีขึ้นช่วยให้ซอฟต์แวร์ทำงานกับ Tensors ที่มีเลย์เอาต์เหมือนกันแต่เก็บอยู่ในตำแหน่งหน่วยความจำต่างกันได้อย่างมีประสิทธิภาพมากขึ้น

Rubin ปรับปรุงสิ่งนี้ด้วยการรองรับการอัปเดต Descriptor แบบ Inline (รูปที่ 3) แทนที่จะแก้ไข Descriptor ในหน่วยความจำ Kernel สามารถเก็บ Descriptor แบบรวมสำหรับ Tensors ที่มีเลย์เอาต์เดียวกัน และแทนที่ฟิลด์ต่างๆ เช่น ตัวชี้หน่วยความจำและ Stride ได้โดยตรงในคำสั่ง TMA ขณะรันไทม์

สิ่งนี้ช่วยให้โมเดล MoE สามารถปรับขนาดได้อย่างมีประสิทธิภาพมากขึ้นเมื่อจำนวนผู้เชี่ยวชาญเพิ่มขึ้น ด้วยการลด Overhead การจัดการ Metadata และการเคลื่อนย้ายข้อมูล Rubin ช่วยให้เวลา GPU ถูกนำไปใช้กับการประมวลผล Inference ที่มีประโยชน์มากขึ้น สนับสนุนทรูพุตที่สูงขึ้นสำหรับ Agentic Workloads ที่ต้องพึ่งพาโมเดล MoE ขนาดใหญ่

✌️ เพิ่มประสิทธิภาพการคำนวณเมทริกซ์เป็นสองเท่าในระดับ Rack

Rubin สองเท่าของทรูพุต Tensor Core ต่อ Clock โดยการเพิ่มปริมาณข้อมูลที่สามารถประมวลผลตามมิติ \(K\) เป็นสองเท่า การปรับปรุงนี้ไม่เพียงช่วย Kernel ที่มีข้อจำกัดด้านทรูพุต แต่ยัง

ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/inside-nvidia-rubin-gpu-architecture-powering-the-era-of-agentic-ai/

การค้นพบปะการังที่เคยสูญหายไป นำความหวังใหม่สู่ชายฝั่งแอฟริกาตะวันตก

เคยมีคน

ขอบคุณ แหล่งข้อมูล
https://e360.yale.edu/digest/benin-coral-reef

ChatGPT สำหรับธุรกิจขนาดเล็ก: เครื่องมือทรงพลังที่เข้าถึงได้ง่าย

ในยุคดิจิทัลที่ทุกธุรกิจต้องปรับตัวให้ทันเทคโนโลยี การมีเครื่องมือที่ช่วยเพิ่มประสิทธิภาพ ลดต้นทุน และสร้างสรรค์สิ่งใหม่ๆ ถือเป็นความได้เปรียบที่สำคัญ แต่หลายครั้งเครื่องมือที่ทรงพลังมักมาพร้อมกับราคาที่สูง ทำให้ธุรกิจขนาดเล็กอาจเข้าถึงได้ยาก

วันนี้ OpenAI ได้เปิดตัว โปรแกรม ChatGPT สำหรับธุรกิจขนาดเล็ก (ChatGPT Small Business Program) ที่จะช่วยให้ธุรกิจขนาดเล็กสามารถเข้าถึงเทคโนโลยี AI ที่ล้ำสมัยได้อย่างง่ายดายและคุ้มค่า

โปรแกรมนี้คืออะไร?

โปรแกรม ChatGPT สำหรับธุรกิจขนาดเล็ก ถูกออกแบบมาเพื่อมอบเครื่องมือ AI ที่มีประสิทธิภาพสูงให้กับธุรกิจขนาดเล็กโดยเฉพาะ โดยมีเป้าหมายเพื่อให้ธุรกิจเหล่านี้สามารถนำเทคโนโลยีไปใช้ประโยชน์ในการดำเนินงาน สร้างสรรค์ผลิตภัณฑ์และบริการใหม่ๆ รวมถึงเพิ่มขีดความสามารถในการแข่งขันในตลาด

ประโยชน์ที่ธุรกิจขนาดเล็กจะได้รับ

การเข้าร่วมโปรแกรมนี้จะช่วยให้ธุรกิจขนาดเล็กได้รับประโยชน์มากมาย เช่น:

• เพิ่มประสิทธิภาพการทำงาน: ChatGPT สามารถช่วยทำงานที่ซ้ำซ้อน หรืองานที่ต้องใช้เวลามาก เช่น การร่างอีเมล การสรุปข้อมูล การเขียนบทความเบื้องต้น หรือการตอบคำถามลูกค้าเบื้องต้น ทำให้พนักงานมีเวลาไปโฟกัสกับงานที่สำคัญกว่า
• สร้างสรรค์ไอเดียใหม่ๆ: AI สามารถเป็นแหล่งระดมสมองชั้นยอด ช่วยคิดไอเดียทางการตลาด เนื้อหาสำหรับโซเชียลมีเดีย หรือแม้กระทั่งไอเดียผลิตภัณฑ์ใหม่ๆ
• ยกระดับการบริการลูกค้า: การมีเครื่องมือช่วยตอบคำถามลูกค้าได้อย่างรวดเร็วและแม่นยำ จะช่วยสร้างความพึงพอใจให้กับลูกค้าได้ดียิ่งขึ้น
• ลดต้นทุน: การนำ AI มาช่วยทำงานบางส่วน สามารถช่วยลดความจำเป็นในการจ้างบุคลากรเพิ่ม หรือลดค่าใช้จ่ายในการจ้างฟรีแลนซ์สำหรับงานบางประเภท
• เข้าถึงเทคโนโลยีระดับโลก: ธุรกิจขนาดเล็กจะได้ใช้เทคโนโลยี AI เดียวกันกับที่บริษัทใหญ่ๆ ทั่วโลกกำลังใช้งานอยู่

ทำไมต้อง ChatGPT?

ChatGPT เป็นโมเดลภาษาขนาดใหญ่ที่พัฒนาโดย OpenAI มีความสามารถในการเข้าใจและสร้างข้อความภาษาธรรมชาติได้อย่างน่าทึ่ง ทำให้สามารถทำงานได้หลากหลายรูปแบบ ไม่ว่าจะเป็น:

• การเขียน: ร่างอีเมล, เขียนบทความ, สร้างคอนเทนต์โซเชียลมีเดีย, แต่งเรื่อง, เขียนโค้ดเบื้องต้น
• การสรุป: ย่อบทความยาวๆ, สรุปประเด็นสำคัญจากการประชุม
• การตอบคำถาม: ให้ข้อมูล, อธิบายหัวข้อต่างๆ
• การแปล: แปลภาษา
• การระดมสมอง: เสนอไอเดีย, ช่วยวางแผน

เหมาะกับธุรกิจประเภทไหน?

โปรแกรมนี้เหมาะสำหรับธุรกิจขนาดเล็กที่ต้องการ:

• เพิ่มประสิทธิภาพการทำงานของทีม
• ปรับปรุงการสื่อสารทั้งภายในและภายนอก
• สร้างสรรค์คอนเทนต์และการตลาด
• ยกระดับประสบการณ์ลูกค้า
• ค้นหาโซลูชันใหม่ๆ ด้วยเทคโนโลยี AI

ก้าวต่อไปสำหรับธุรกิจของคุณ

การนำเทคโนโลยี AI มาใช้ในธุรกิจขนาดเล็กไม่ใช่เรื่องไกลตัวอีกต่อไป โปรแกรม ChatGPT สำหรับธุรกิจขนาดเล็กจาก OpenAI เปิดโอกาสให้ธุรกิจของคุณได้สัมผัสพลังของ AI ในราคาที่เข้าถึงได้

หากธุรกิจของคุณกำลังมองหาเครื่องมือที่จะช่วยให้ก้าวไปข้างหน้าอย่างแข็งแกร่งและมีประสิทธิภาพ โปรแกรมนี้อาจเป็นคำตอบที่คุณกำลังมองหา

#ChatGPT #ธุรกิจขนาดเล็ก #AI #OpenAI #เทคโนโลยี

ขอบคุณ แหล่งข้อมูล
https://openai.com/index/introducing-chatgpt-small-business-program

Grabette: ระบบบันทึกข้อมูลการควบคุมหุ่นยนต์แบบโอเพนซอร์ส เพื่อสร้างชุดข้อมูลร่วมกัน 🤖

ปัญหาคอขวดที่แท้จริงในวงการหุ่นยนต์ไม่ใช่โมเดล แต่คือ "ข้อมูล" ปัจจุบันเรามีสถาปัตยกรรมโมเดลที่ทรงพลังและทรัพยากร GPU เพียงพอสำหรับการฝึกฝน แต่สิ่งที่ขาดแคลนคือ ชุดข้อมูลการควบคุมหุ่นยนต์ในโลกจริงที่มีขนาดใหญ่และหลากหลาย

การเก็บข้อมูลด้วยการควบคุมหุ่นยนต์จากระยะไกล (Teleoperation) มักมีค่าใช้จ่ายสูงและต้องใช้ความพยายามอย่างมาก เพราะต้องมีหุ่นยนต์จริง ๆ และอาจใช้เวลานาน ทำให้การขยายขอบเขตการเก็บข้อมูลให้ครอบคลุมงานและสภาพแวดล้อมที่หลากหลายเป็นไปได้ยาก

แต่ข่าวดีคือ คุณไม่จำเป็นต้องมีหุ่นยนต์เพื่อเก็บข้อมูลหุ่นยนต์! เพียงแค่มีมือมนุษย์ กริปเปอร์ (gripper) กล้อง และวิธีติดตามการเคลื่อนที่ 6 แกน (6-DoF) ของมือ คุณก็สามารถบันทึกการสาธิตการทำงานเพื่อนำไปให้หุ่นยนต์เรียนรู้ได้แล้ว

นี่คือสิ่งที่เราภูมิใจนำเสนอ: Grabette ระบบโอเพนซอร์สต้นทุนต่ำสำหรับการบันทึกข้อมูลการควบคุมหุ่นยนต์ เพียงแค่หยิบ Grabette ขึ้นมา บันทึกงานด้วยมือของคุณเอง คุณก็จะได้ชุดข้อมูลที่พร้อมใช้งานสำหรับหุ่นยนต์ โดยไม่ต้องใช้หุ่นยนต์จริง ไม่ต้องมีห้องแล็บ หรืออุปกรณ์ Teleoperation ที่ซับซ้อน

เป้าหมายที่ใหญ่กว่านั้นคือ หากการบันทึกการสาธิตทำได้ง่ายเหมือนการถ่ายวิดีโอ ทุกคนก็สามารถมี

ขอบคุณ แหล่งข้อมูล
https://huggingface.co/blog/grabette

"เดินออกจากงานรับปริญญา": เมื่อนักศึกษา Stanford ไม่พอใจ Google และนโยบายรัฐบาล

เหตุการณ์เมื่อนักศึกษา Stanford จำนวนมากเลือกที่จะเดินออกจากงานรับปริญญา แทนที่จะนั่งฟังสุนทรพจน์ของ Sundar Pichai ซีอีโอของ Google สะท้อนให้เห็นถึงความไม่พอใจและความกังวลของคนรุ่นใหม่ ที่มีต่อบทบาทของบริษัทเทคโนโลยียักษ์ใหญ่ และนโยบายของรัฐบาล

เบื้องหลังการประท้วง: ไม่ใช่แค่เรื่อง AI

แม้ว่าการพูดถึงปัญญาประดิษฐ์ (AI) จะเป็นประเด็นร้อนแรงในหมู่นักศึกษาหลายมหาวิทยาลัย โดยเฉพาะอย่างยิ่งความกังวลเกี่ยวกับผลกระทบต่ออนาคต แต่สำหรับนักศึกษา Stanford ที่จัดกิจกรรมเดินออกจากการรับปริญญาครั้งนี้ ประเด็นไม่ได้จำกัดอยู่เพียงแค่เรื่อง AI เท่านั้น

Amanda Campos และ Eva Jones ผู้จัดงานประท้วง เล่าถึงเหตุผลเบื้องหลังว่า การเดินออกครั้งนี้มีจุดประสงค์หลักเพื่อ เรียกร้องความสนใจต่อสัญญาของ Google กับรัฐบาลสหรัฐฯ และอิสราเอล รวมถึงข้อตกลงกับหน่วยงาน ICE (Immigration and Customs Enforcement) ซึ่งเป็นประเด็นที่นักศึกษากลุ่มนี้มองว่ามีความเชื่อมโยงกับความไม่เป็นธรรมทางสังคมและสิ่งแวดล้อม

ความเชื่อที่เปลี่ยนไป: จากความฝันสู่ความเป็นจริง

Amanda Campos ซึ่งศึกษาด้านนโยบายสิ่งแวดล้อม เล่าว่า เธอมา Stanford ด้วยความตั้งใจที่จะแก้ปัญหาวิกฤตสิ่งแวดล้อม แต่กลับพบว่ามหาวิทยาลัยมีผลประโยชน์ทับซ้อนกับอุตสาหกรรมเชื้อเพลิงฟอสซิล ทำให้เธอเริ่มเข้ามามีส่วนร่วมในการเคลื่อนไหว

Eva Jones ผู้ศึกษาด้านอุทกวิทยาและทรัพยากรน้ำ มองว่า Stanford ควรเป็นศูนย์รวมขององค์ความรู้และทรัพยากรเพื่อแก้ไขปัญหาระดับโลก แต่เมื่อเห็นการเชื่อมโยงของมหาวิทยาลัยกับบริษัทเทคโนโลยีขนาดใหญ่ และนโยบายบางอย่างของรัฐบาล เธอจึงรู้สึกผิดหวัง

ทั้งสองคนเห็นพ้องต้องกันว่า การจัดกิจกรรมครั้งนี้เป็นส่วนหนึ่งของการเคลื่อนไหวของนักศึกษา ที่ต้องการแสดงจุดยืนและนิยามความหมายของการศึกษาในมุมมองของตนเอง โดยเฉพาะอย่างยิ่งเมื่อต้องเผชิญกับโลกที่ถูกขับเคลื่อนด้วย "Big Tech"

การประท้วงที่กลายเป็นข่าว: "People's Commencement"

การเดินออกจากงานรับปริญญาของนักศึกษา Stanford ไม่ใช่เพียงแค่การแสดงออกเชิงสัญลักษณ์ แต่ยังนำไปสู่การจัด "People's Commencement" ซึ่งเป็นพิธีรับปริญญาอีกรูปแบบหนึ่ง ที่จัดขึ้นพร้อมกัน เพื่อเฉลิมฉลองการศึกษาและการตัดสินใจของนักศึกษา ที่อาจขัดแย้งกับแนวทางของมหาวิทยาลัยและผู้สนับสนุนที่เป็นบริษัท

Eva Jones กล่าวว่า "People's Commencement" เป็นพื้นที่ที่นักศึกษาที่มีความเชื่อมั่น ได้มาร่วมฉลองการศึกษาของตนเอง พร้อมกับครอบครัว เพื่อน และผู้ให้คำปรึกษา ซึ่งเป็นสิ่งที่เธอรู้สึกว่ามีความหมายและทรงคุณค่ามากกว่าการรับฟังคำปราศรัยจากซีอีโอของบริษัทใหญ่

ความตั้งใจของคนรุ่นใหม่: สร้างอนาคตที่ดีกว่า

แม้ว่าการประท้วงดังกล่าวอาจไม่สามารถเปลี่ยนแปลงนโยบายของ Google ได้โดยตรง แต่ก็สามารถสร้างปรากฏการณ์ข่าวระดับนานาชาติได้สำเร็จ วิดีโอการเดินออกจากการรับปริญญามียอดวิวหลายล้านครั้ง

Campos และ Jones ย้ำว่า การเคลื่อนไหวครั้งนี้เป็นเพียงจุดเริ่มต้น พวกเขามีความหวังในขบวนการนักศึกษา และเชื่อว่าพลังของการรวมตัวและการใช้เสียงของประชาชน จะสามารถนำไปสู่การเปลี่ยนแปลงที่ดียิ่งขึ้น ทั้งในด้านสิ่งแวดล้อม สิทธิมนุษยชน และการต่อต้านสงคราม

เหตุการณ์นี้เป็นเครื่องเตือนใจว่า คนรุ่นใหม่ไม่ได้มองข้ามผลกระทบของเทคโนโลยีและนโยบายของรัฐบาล แต่กำลังมองหาแนวทางที่จะสร้างอนาคตที่เท่าเทียมและยั่งยืนกว่าเดิม

#Stanford #SundarPichai #Google #BigTech #AI #StudentProtest #PeoplesCommencement

ขอบคุณ แหล่งข้อมูล
https://www.wired.com/story/big-interview-stanford-students-booing-sundar-pichai/

Gritt: หุ่นยนต์อัจฉริยะระดมทุน 34 ล้านดอลลาร์ เพื่อเร่งสร้างโรงไฟฟ้าพลังงานแสงอาทิตย์

การเปลี่ยนผ่านสู่พลังงานสะอาดเป็นหนึ่งในภารกิจสำคัญของโลกยุคปัจจุบัน บริษัทและประเทศต่างๆ ทั่วโลกกำลังเร่งผลักดันการติดตั้งระบบพลังงานแสงอาทิตย์และแบตเตอรี่ เพื่อสร้างความมั่นคงทางพลังงานและจำกัดผลกระทบจากการเปลี่ยนแปลงสภาพภูมิอากาศ

อย่างไรก็ตาม การขยายตัวดังกล่าวกลับเผชิญกับความท้าทายด้านตลาดแรงงาน เมื่อจำนวนบุคลากรที่เพียงพอต่อความต้องการในการติดตั้งยังคงมีจำกัด หุ่นยนต์อาจเป็นทางออก แต่หุ่นยนต์อุตสาหกรรมแบบดั้งเดิมมักประสบปัญหาในการทำงานในสภาพแวดล้อมที่ไม่มีแบบแผนตายตัว จนกระทั่งปัจจุบัน เทคโนโลยี AI รุ่นใหม่ล่าสุดอาจเข้ามาเปลี่ยนแปลงสมการนี้

นี่คือแนวคิดหลักเบื้องหลัง Gritt สตาร์ทอัพที่ก่อตั้งโดยผู้เชี่ยวชาญด้านหุ่นยนต์จาก Carnegie Mellon สองท่าน คือ Puneet Puri (CEO) และ Vishal Dugar (CTO) บริษัทได้ประกาศออกจากสถานะ "Stealth Mode" พร้อมกับการระดมทุนรอบ Series A จำนวน 26 ล้านดอลลาร์ นำโดย Obvious Ventures ร่วมด้วย Union Square Ventures และ Active Impact Investment ทำให้ยอดเงินลงทุนรวมของบริษัทอยู่ที่ 34 ล้านดอลลาร์ หลังจากได้รับเงินทุนสนับสนุนรอบ Seed ก่อนหน้านี้จาก First Round Capital, Climactic, Congruent Ventures และ VSC Ventures Gritt กำลังสร้างระบบอัจฉริยะเพื่อ "ช่วยให้มนุษยชาติสร้างโครงสร้างพื้นฐานได้เร็วขึ้น" ตามคำกล่าวของ Puri

"วิสัยทัศน์ของเราคือ หากเราต้องการเร่งการก่อสร้างอย่างแท้จริง จำเป็นต้องมีระบบอัจฉริยะที่สามารถทำงานในสภาพแวดล้อมกลางแจ้งที่วุ่นวายของไซต์ก่อสร้าง และต้องมีความยืดหยุ่นเพียงพอที่จะปรับใช้ได้ในสภาพแวดล้อมที่หลากหลาย" Puri กล่าวกับ TechCrunch

แทนที่จะสร้างหุ่นยนต์ขึ้นมาเองทั้งหมด Gritt ใช้ฮาร์ดแวร์ที่มีอยู่ทั่วไป โดยในปัจจุบันใช้รถตักและแขนกลที่ผลิตโดยบริษัทอย่าง Kawasaki มาประกอบเป็นแพลตฟอร์มที่ควบคุมด้วยโมเดล AI ของบริษัท งานแรกที่ระบบของ Gritt เข้ามาจัดการคือการขนย้ายแผงโซลาร์เซลล์ขนาดใหญ่ที่มีส่วนประกอบเป็นกระจก การนำแผงไปวางใกล้กับโครงโลหะที่ต้องติดตั้ง และการจัดตำแหน่งให้มีความแม่นยำระดับมิลลิเมตร เพื่อให้คนงานสามารถยึดติดแผงได้อย่างสมบูรณ์

Andrew Beebe จาก Obvious Ventures ซึ่งเป็นผู้นำการลงทุนรอบ Series A ของ Gritt กล่าวว่า "มีกลุ่มคนที่เคยสร้างจรวดที่เดินทางสู่อวกาศและมีงบประมาณไม่จำกัดสำหรับชิ้นส่วนเล็กๆ และมีอีกกลุ่มที่เข้าใจความหมายของการทำงานที่สกปรก น่าเบื่อ และอันตราย และสามารถขยายขนาดการทำงานได้อย่างมหาศาล คนกลุ่มนี้อยู่ในค่ายที่สอง ซึ่งเป็นผู้ประกอบการที่มีความสามารถทางเทคนิค ทั้ง AI และทักษะด้าน Machine Vision ที่ทำให้สิ่งนี้เป็นจริงได้"

ปัจจุบัน Gritt มีระบบที่ใช้งานจริงอยู่สองระบบ โดยใช้ข้อมูลที่ได้จากการปฏิบัติงานเพื่อปรับปรุงประสิทธิภาพ Puri กล่าวว่า ทีมงานติดตั้งทั่วไป 8 คน สามารถติดตั้งแผงโซลาร์เซลล์ได้ 800 แผงต่อวัน แต่ทีมงานเดียวกันที่ใช้ระบบของ Gritt สามารถติดตั้งได้ถึง 3,000 ถึง 4,000 แผงต่อวัน

ขณะนี้ บริษัทมีสัญญารับผิดชอบการติดตั้งแผงโซลาร์เซลล์รวม 2.8 กิกะวัตต์ภายใน 18 เดือนข้างหน้า และลูกค้ารวมถึงบริษัทก่อสร้างพลังงานชั้นนำ 3 ใน 10 อันดับแรกของสหรัฐอเมริกา Gritt ตั้งเป้าที่จะมีระบบปฏิบัติการ 48 ระบบภายในหกเดือนข้างหน้า

TechCrunch ได้พูดคุยกับลูกค้าของ Gritt รายหนึ่งซึ่งขอไม่เปิดเผยชื่อด้วยเหตุผลด้านการแข่งขัน ลูกค้าได้แสดงความกระตือรือร้นเกี่ยวกับความสามารถของระบบในการปรับปรุงการทำงาน โดยคาดว่าการทำงานในพื้นที่ห่างไกลที่หาแรงงานได้ยากจะง่ายขึ้น และคาดว่าจะลดการบาดเจ็บจากการที่คนงานต้องยกแผงน้ำหนัก 100 ปอนด์ซ้ำๆ เหนือศีรษะ

Gritt กำลังแข่งขันกับบริษัทที่มีหุ่นยนต์ติดตั้งแผงโซลาร์เซลล์ของตนเอง เช่น Luminous Robotics, Cosmic และ Trinabot ของจีน บริษัทเหล่านี้สร้างฮาร์ดแวร์ของตนเอง แทนที่จะมุ่งเน้นไปที่ยานพาหนะและแขนกลที่มีอยู่ทั่วไปเหมือน Gritt ซึ่งความแตกต่างนี้อาจส่งผลต่อการเติบโตและความคล่องตัวด้านโครงสร้างต้นทุนเมื่อความต้องการเพิ่มสูงขึ้น

Gritt ต้องการเพิ่มงานด้านการจัดการใหม่ๆ ให้กับระบบ เช่น การยึดแผงโซลาร์เซลล์ การเจาะเสา หรือแม้กระทั่งการสร้างโครงที่แผงตั้งอยู่ ในระยะยาว บริษัทยังต้องการขยายไปสู่ภารกิจก่อสร้างที่ใช้แรงงานเข้มข้นอื่นๆ เช่น การผูกเหล็กเส้นก่อนเทคอนกรีตทับ

อะไรคือปัจจัยที่ทำให้สตาร์ทอัพนี้สามารถทำตามวิสัยทัศน์ได้? ส่วนใหญ่แล้วคือการเติบโตของโมเดล AI ใหม่ๆ ผู้ก่อตั้งกล่าว

"การสร้างระบบสำหรับโซลูชันเดียวอาจยังคงเป็นไปได้ในระดับหนึ่งเมื่อ 5 ปีก่อนใช่ไหม" Puri กล่าว "แต่ AI ในปัจจุบันทำให้งานนั้นมีความยืดหยุ่นมากขึ้น ระบบพื้นฐานเดียวกันสามารถนำกลับมาใช้ใหม่และปรับปรุงได้ในหลากหลายงาน" เพื่อเป็นตัวอย่าง เขาชี้ให้เห็นว่า การฝึกระบบให้วางซ้อนบล็อกคอนกรีตใช้เวลาหลายสัปดาห์ ในขณะที่การสาธิตการผูกเหล็กเส้นที่คล้ายกันใช้เวลาเพียงวันเดียวโดยใช้ซอฟต์แวร์เดียวกัน

แต่การฝึกงานใหม่ๆ เป็นเพียงจุดเริ่มต้นของวิสัยทัศน์ของ Gritt ผู้ก่อตั้งเชื่อว่าชุดเซ็นเซอร์และระบบอัจฉริยะที่ระบบของพวกเขานำมาสู่ไซต์ก่อสร้างสามารถทำอะไรได้มากกว่าการติดตั้งแผง แต่ยังสามารถช่วยเพิ่มประสิทธิภาพการจัดการและการตัดสินใจได้ ตัวอย่างเช่น พวกเขามองว่าระบบสามารถสังเกตเห็นว่ามีร่องเปิดอยู่ขณะที่พายุใกล้เข้ามา ทำให้สามารถแจ้งเตือนคนงานให้ปิดร่องก่อนที่ฝนจะสร้างความเสียหายให้กับส่วนประกอบ หรือแจ้งเตือนสินค้าคงคลังที่ขาดหายไป

"Gritt จะกลายเป็นชั้นของ AI ทางกายภาพ ที่ทำงานที่ต้องใช้ความชำนาญและแรงงานจำนวนมาก พร้อมทั้งช่วยในการตัดสินใจในไซต์งานได้" Puri กล่าว

ขอบคุณ แหล่งข้อมูล
https://techcrunch.com/2026/07/21/gritt-exits-stealth-with-34-million-for-robots-to-build-solar-plants-then-everything-else/

เพิ่มประสิทธิภาพการใช้พลังงาน AI Factory: เทคนิคการปรับแต่งแบบ Full-Stack ทั้ง Training และ Inference

การดำเนินงาน AI Factory ให้มีประสิทธิภาพสูงสุดด้านพลังงานเป็นหัวใจสำคัญในการลดต้นทุนการดำเนินงาน (OpEx) โดยเฉพาะอย่างยิ่งเมื่อพลังงานอาจคิดเป็นสัดส่วนถึง 40% ของค่าใช้จ่ายทั้งหมด การใช้พลังงานทุกหน่วยอย่างคุ้มค่า ไม่ว่าจะกับการประมวลผลข้อมูล การฝึกโมเดล หรือการสร้างโทเค็นสำหรับลูกค้า ล้วนส่งผลโดยตรงต่อความสามารถในการแข่งขันและผลกำไร

บทความนี้จะเจาะลึกถึงเทคนิคและแนวทางปฏิบัติที่ช่วยเพิ่มประสิทธิภาพการใช้พลังงานใน AI Factory อย่างเต็มศักยภาพ ตั้งแต่ระดับฮาร์ดแวร์ ซอฟต์แวร์ ไปจนถึงการปรับแต่งโมเดล ทั้งในส่วนของการอนุมาน (Inference) ซึ่งสร้างรายได้โดยตรง และการฝึกโมเดล (Training) ซึ่งเป็นรากฐานสำคัญของการพัฒนา AI

ทำไมการปรับแต่ง Inference จึงสำคัญต่อ AI Factory?

Inference คือกระบวนการที่สร้างรายได้ให้กับ AI Factory โดยตรง การเพิ่มปริมาณการประมวลผล Inference ต่อหน่วยพลังงาน (Throughput per Watt) หมายถึงความสามารถในการสร้างโทเค็นหรือข้อมูลเชิงลึกที่มากขึ้น ซึ่งจะนำไปสู่รายได้ที่เพิ่มขึ้นตามไปด้วย ในระดับโรงงานขนาดใหญ่ที่ใช้พลังงานหลายร้อยเมกะวัตต์ การเพิ่มประสิทธิภาพเพียงไม่กี่เปอร์เซ็นต์ ก็สามารถสร้างผลกำไรที่มหาศาลได้

นอกจากนี้ โครงสร้างโมเดลก็มีผลต่อประสิทธิภาพพลังงาน โมเดลแบบ Mixture-of-Experts (MoE) มักจะใช้พลังงานอย่างมีประสิทธิภาพมากกว่าโมเดลแบบ Dense ที่มีจำนวนพารามิเตอร์รวมเท่ากัน เนื่องจากมีการเปิดใช้งานผู้เชี่ยวชาญ (Experts) เพียงบางส่วนต่อโทเค็น ทำให้สามารถสร้าง "ความฉลาด" ได้มากขึ้นด้วยพลังงานที่เท่าเดิมหรือน้อยลง

กลยุทธ์เพิ่มประสิทธิภาพพลังงานและประสิทธิภาพต่อวัตต์

NVIDIA ได้ออกแบบสถาปัตยกรรมและแพลตฟอร์มที่มุ่งเน้นการเพิ่มปริมาณ "ความฉลาด" ที่สร้างขึ้นต่อหน่วยพลังงานให้สูงขึ้นอย่างต่อเนื่อง ในช่วง 6 เจนเนอเรชันที่ผ่านมา NVIDIA ได้เพิ่มประสิทธิภาพ Inference ต่อเมกะวัตต์ได้ถึง 1,000,000 เท่า

• NVIDIA GB200 NVL72 Rack-Scale System: ระบบนี้ได้รับการออกแบบมาเพื่อเพิ่มประสิทธิภาพพลังงานผ่านการผสานรวมอย่างสุดขั้ว โดยใช้สถาปัตยกรรมแบบระบายความร้อนด้วยของเหลวโดยตรง (Direct-to-Chip Liquid Cooling) ที่หนาแน่น ช่วยให้ได้ Throughput ต่อวัตต์สูงขึ้น ระบบยังมีการจัดการพลังงานภายในแร็ค (In-rack Power Smoothing) เพื่อลดการกระชากของกระแสไฟฟ้า ทำให้สามารถติดตั้ง GPU ได้มากขึ้นภายใต้งบประมาณพลังงานและโครงสร้างพื้นฐานที่เท่าเดิม
• NVIDIA DSX: เป็นแพลตฟอร์ม AI Factory แบบเปิด ที่รองรับการจัดสรรพลังงานแบบไดนามิก (Dynamic Power Allocation) การวัดค่าแบบเรียลไทม์ (Real-time Telemetry) และการควบคุมระดับแร็คขั้นสูง เพื่อดึงพลังงานที่ไม่ได้ใช้งาน (Stranded Power) กลับมาใช้ และเพิ่มจำนวนโทเค็นต่อวัตต์
• Floating Point Precision: การคำนวณที่ใช้ความแม่นยำสูงมักจะช้าและใช้พลังงานมากกว่า ในขณะที่รูปแบบความแม่นยำที่แคบลง เช่น NVFP4 จะมีประสิทธิภาพด้านพลังงานมากกว่าและให้ Throughput สูงกว่า โดยยังคงความแม่นยำเทียบเท่า FP8
• NVIDIA Dynamo และ NVIDIA TensorRT-LLM: เครื่องมือเหล่านี้ช่วยแปลงประสิทธิภาพที่ได้จากฮาร์ดแวร์และซอฟต์แวร์ให้กลายเป็นการอนุมานในโลกจริง โดยเพิ่ม Throughput ลดต้นทุน และปรับขนาดโมเดลภาษาขนาดใหญ่ (LLM) ได้อย่างมีประสิทธิภาพยิ่งขึ้นบนโครงสร้างพื้นฐาน GPU

การออกแบบระบบ การกำจัดคอขวดที่ไม่ใช่ GPU และการปรับขนาด Batch Size ให้เหมาะสมกับการใช้งาน หน่วยความจำ และการขนาน (Parallelism) เป็นปัจจัยสำคัญในการเพิ่มประสิทธิภาพการใช้พลังงานและ Throughput ต่อวัตต์

การเพิ่มประสิทธิภาพพลังงานในการฝึก LLM

การฝึกโมเดลขนาดใหญ่ต้องมีการกระจายงานไปยัง GPU หลายตัว โดยใช้เทคนิคการขนานหลายรูปแบบ ในระหว่างการฝึก การเร่งความเร็วรอบการประมวลผล (Iteration Speed) ให้สูงสุด อาจนำไปสู่การใช้พลังงานที่สูงมาก

นอกจากนี้ การจัดสรรงานในแต่ละ GPU อาจไม่สมดุลเสมอไป ทำให้บาง GPU อยู่ในสถานะ Idle ในขณะที่ GPU อื่นกำลังประมวลผล ซึ่งเป็นการสิ้นเปลืองพลังงาน

• การปรับความเร็ว GPU แบบละเอียด: นักวิจัยจาก ML.ENERGY Initiative ได้แสดงให้เห็นว่าการปรับความเร็วประมวลผลของ GPU แต่ละตัวสามารถลดการใช้พลังงานที่สูญเปล่าในการฝึกโมเดลขนาดใหญ่ได้ GPU ที่มีภาระงานมากที่สุด (Critical Path) จะทำงานด้วยความเร็วสูงสุด ในขณะที่ GPU ที่มีภาระงานน้อยกว่าจะถูกลดความเร็วลงโดยเจตนา วิธีนี้ช่วยลดเวลาที่ GPU ต้องรอ (Idle Time) GPU ที่ทำงานด้วยความเร็วต่ำลงจะใช้พลังงานน้อยลง โดยที่เวลาการฝึกโดยรวมยังคงเท่าเดิม
• Megatron-LM: เป็นการนำการใช้งานแบบอ้างอิงโอเพนซอร์สของ NVIDIA สำหรับการฝึกโมเดลภาษาขนาดใหญ่ NVIDIA ได้ร่วมมือกับทีม ML.ENERGY เพื่อปรับปรุงประสิทธิภาพพลังงานของ Megatron-LM อย่างต่อเนื่อง โดยการวิเคราะห์พฤติกรรมพลังงานและประสิทธิภาพในระดับ Kernel, Scheduling, และ Parallelism เพื่อนำข้อมูลไปปรับแต่งให้เกิดการใช้พลังงานที่ชาญฉลาดยิ่งขึ้น

การวิเคราะห์ละเอียดในระดับ Kernel และ Phase เพื่อระบุส่วนที่เป็นข้อจำกัดด้านการประมวลผล หน่วยความจำ การสื่อสาร และพลังงาน การวิเคราะห์ว่าการตั้งค่า Parallelism, ความไม่สมดุลของ Pipeline, และการทับซ้อนของการสื่อสาร ส่งผลต่อ Performance-per-Watt อย่างไร ข้อมูลเชิงลึกเหล่านี้ถูกนำไปใช้ในการออกแบบ Scheduling ที่คำนึงถึงพลังงาน และการปรับความถี่/Power Cap ของ GPU ให้สอดคล้องกับ Critical Path ที่แท้จริงของการฝึก

เป้าหมายของงานนี้คือการเพิ่มประสิทธิภาพพลังงาน เพื่อให้การฝึกโมเดลเสร็จสิ้นเร็วขึ้นภายในขีดจำกัดพลังงานเท่าเดิม หรือให้ได้ Throughput การฝึกเท่าเดิมโดยใช้พลังงานน้อยลง ทำให้สามารถนำพลังงานที่เหลือไปใช้กับการฝึกเพิ่มเติม หรือเปลี่ยนจากการฝึกไปเป็นการ Inference บนโครงสร้างพื้นฐานเดียวกันที่ปรับแต่งแล้วได้

NVIDIA DSX ช่วยเพิ่มประสิทธิภาพ AI Factory ได้อย่างไร?

ML.ENERGY Initiative ได้พัฒนา Leaderboard และ Benchmark เพื่อแบ่งปันข้อมูลเชิงลึกจากการวัดค่าต่างๆ และกรอบการทำงานที่อธิบายพฤติกรรมด้านพลังงานที่สังเกตได้

Benchmark เหล่านี้สามารถนำไปเชื่อมโยงกับการดำเนินงานที่คำนึงถึงพลังงาน (Energy-aware Operations) ผ่านระบบ Telemetry เพื่อแสดงวิธีการรัน AI Factory ภายใต้ข้อจำกัดการใช้งานจริง เช่น ต้นทุนพลังงาน ความเข้มของคาร์บอน อุณหภูมิ ความสามารถในการระบายความร้อน และข้อจำกัดของโครงข่ายไฟฟ้า

NVIDIA DSX ให้บริการ Energy-aware Operations เหล่านี้ แพลตฟอร์มนี้ให้มุมมองที่ประสานงานกันระหว่าง Compute, Racks, Cooling, Facility Power, และ Workload Scheduling โดยเป็นสถาปัตยกรรมปฏิบัติการร่วมที่สามารถเชื่อมโยงการจำลองในขั้นตอนการออกแบบ (Design-time Simulation) กับ Telemetry ขณะใช้งานจริง (Runtime Telemetry) ช่วยให้ผู้ปฏิบัติงานเข้าใจว่าพลังงานถูกใช้ไปที่ใด ส่วนใดที่ยังไม่ได้ใช้ และสามารถเพิ่มการประมวลผลที่มีประโยชน์ได้อีกเท่าใดภายใต้ข้อจำกัดของพื้นที่

DSX กำหนดวิธีการออกแบบ สร้าง และปรับปรุง AI Factory ตั้งแต่ระดับชิป ระบบ ไปจนถึงซอฟต์แวร์โครงสร้างพื้นฐาน โรงงาน และเทคโนโลยีจากพาร์ทเนอร์ โดยการรวม Software Libraries แบบเปิด, Workflow Guides, และ Reference Designs เข้ากับ NVIDIA Compute Platforms และโครงสร้างพื้นฐาน OEM ที่ออกแบบร่วมกัน เพื่อสร้างระบบนิเวศที่ครอบคลุมทั้งซอฟต์แวร์และฮาร์ดแวร์

ด้วยการจัดแนวทุกชั้น (Layer) ผ่านสถาปัตยกรรมร่วม DSX จึงช่วยเพิ่ม Tokens per Watt, เร่งการติดตั้ง, และเสริมความน่าเชื่อถือและความยืดหยุ่นในการดำเนินงาน

DSX จัดการประสิทธิภาพและพฤติกรรมของพลังงานภายในแร็ค, ที่ระดับ AI Factory, และระหว่าง AI Factory กับโครงข่ายไฟฟ้า DSX MaxLPS ทำงานภายใน AI Factory ในขณะที่ DSX Flex ทำงานระหว่างโครงข่ายไฟฟ้าและโรงงาน

DSX MaxLPS เป็นชุดเทคโนโลยีสำหรับเพิ่มประสิทธิภาพ AI Factory สูงสุด ประกอบด้วย:

• 45°C Liquid Cooling: การใช้ประโยชน์จากนวัตกรรมระดับชิป, ระบบระบายความร้อน, และระบบ ทำให้ผู้ปฏิบัติงานสามารถใช้อุณหภูมิน้ำเข้าที่สูงขึ้น (45°C) เพื่อปรับปรุงค่า Power Usage Effectiveness (PUE) ทำให้พลังงานส่วนใหญ่ของ AI Factory ถูกนำไปใช้กับการประมวลผลที่สร้างรายได้
• Dynamic Power Allocation: ซอฟต์แวร์จะคอยตรวจสอบการใช้พลังงานของ GPU และระดับแร็คอย่างต่อเนื่อง และจัดสรรพลังงานใหม่ตามความต้องการ เพื่อปลดล็อกศักยภาพที่ไม่ได้ใช้งาน (Stranded Capacity) และเพิ่มการใช้งานโดยรวม ระบบทำงานภายใต้งบประมาณพลังงานที่กำหนด ปรับเปลี่ยนตามการเปลี่ยนแปลงของงบประมาณแบบเรียลไทม์ และรับประกันการทำงานที่ปลอดภัยและเป็นไปตามข้อกำหนด
• Advanced Techniques: เทคนิคขั้นสูงที่รวมเข้ากับ NVIDIA GPUs โดยตรง ช่วยเพิ่มประสิทธิภาพต่อวัตต์ที่ประสิทธิภาพเท่าเดิม รวมถึง Power Steering, การตั้งค่า Workload Profiles ที่เหมาะสมสำหรับการกำหนดค่า GPU อย่างรวดเร็ว, และซอฟต์แวร์อย่าง NVIDIA Dynamo สำหรับการจัดการการทำงานร่วมกันระหว่างแร็คทั้งด้านพลังงานและประสิทธิภาพ

DSX Flex เป็นชั้นการจัดการพลังงานที่เชื่อมโยง AI Factory กับสัญญาณจากโครงข่ายไฟฟ้าและแหล่งพลังงานภายนอก

เมื่อพลังงาน, การระบายความร้อน, และการเชื่อมต่อโครงข่ายไฟฟ้าได้รับการปรับปรุงอย่างเต็มที่แล้ว ความสนใจจะเปลี่ยนไปสู่การดึงประสิทธิภาพสูงสุดจาก Workloads เอง

โอกาสสำคัญคือการใช้ Benchmark เพื่อเป็นแนวทางในการเลือกโมเดล, การทำ Batching, และการเลือก Precision บนพื้นฐานของ AI Factory ที่ปรับแต่งแล้ว การจัดวาง Workload, Scheduling, และการจัดสรรพลังงานให้สอดคล้องกับโซนการประมวลผลและการระบายความร้อนที่มีประสิทธิภาพที่สุด ช่วยให้ผู้ปฏิบัติงานสามารถเพิ่มการปรับแต่งระดับ Workload เข้ากับการปรับปรุงระดับโครงสร้างพื้นฐานได้

ซึ่งรวมถึงการจัดสมดุล Workload ใหม่ภายใต้งบประมาณพลังงานที่คงที่, การระบุ Workload ที่สามารถลดพลังงานได้ผ่านการกำหนดค่าที่มีประสิทธิภาพมากขึ้นหรือตระกูลโมเดลที่เหมาะสม, และการจัดลำดับความสำคัญของ Workload ที่คุ้มค่ากับการใช้พลังงานที่สูงขึ้น เนื่องจากสร้างรายได้ต่อโทเค็นได้มากกว่า ด้วยวิธีนี้ AI Factory จะถูกขับเคลื่อนอย่างต่อเนื่องไปสู่ Tokens per Watt สูงสุด ซึ่งจะช่วยลดต้นทุนต่อโทเค็นเมื่อเวลาผ่านไป

ก้าวต่อไป

ในอนาคต ตัวชี้วัด Tokenomics ควรได้รับการพิจารณาเป็นเป้าหมายการออกแบบระดับแรก ทีมควรสำรวจการผสมผสานการปรับปรุงโครงสร้างพื้นฐานที่ขับเคลื่อนด้วย Digital Twin เข้ากับการปรับแต่ง Workload ที่ขับเคลื่อนด้วย Benchmark

แนวทางนี้จะเปลี่ยนข้อจำกัดด้านพลังงานให้กลายเป็นความได้เปรียบในการแข่งขันที่ออกแบบมาโดยเฉพาะ ทั้งในด้านความจุโทเค็นและรายได้

สรุป

AI Factory มีข้อจำกัดพื้นฐานที่พลังงาน การเพิ่มประสิทธิภาพ Performance per Watt จึงเป็นตัวขับเคลื่อนหลักของต้นทุนโทเค็นและความสามารถในการทำกำไร การปรับแต่ง Inference ให้เหมาะสมเป็นสิ่งสำคัญยิ่ง เนื่องจากช่วยเพิ่มรายได้โดยตรงผ่านปริมาณโทเค็นที่สูงขึ้น ในขณะที่การปรับปรุงแบบ Full-Stack ทั้งฮาร์ดแวร์ ซอฟต์แวร์ และการออกแบบโมเดล จะช่วยเพิ่มประสิทธิภาพโดยรวม

การฝึกโมเดลก็สามารถทำให้มีประสิทธิภาพด้านพลังงานมากขึ้นโดยไม่ลดทอนความเร็ว ด้วยการลดเวลาที่ GPU ต้องรอ NVIDIA DSX ช่วยให้การปรับแต่งที่คำนึงถึงพลังงานแบบเรียลไทม์สามารถทำได้ทั่วทั้งโครงสร้างพื้นฐาน ซึ่งจะช่วยเพิ่ม Tokens per Watt และรายได้ต่อเมกะวัตต์สูงสุด

#AI #AIFactory #NVIDIA #EnergyEfficiency #Inference #Training #LLM #DSX

ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/maximize-ai-factory-energy-efficiency-through-full-stack-inference-and-training-optimizations/

Qwen Studio: เปิดโลก AI อัจฉริยะ ครบวงจรทั้ง Chatbot, สร้างภาพ, และอีกมากมาย

ในยุคที่เทคโนโลยี AI ก้าวหน้าอย่างรวดเร็ว การมีเครื่องมือ AI ที่ทรงพลังและหลากหลายครบวงจรเป็นสิ่งสำคัญอย่างยิ่ง Qwen Studio จาก Alibaba คือคำตอบที่ตอบโจทย์ความต้องการนี้ได้อย่างยอดเยี่ยม ด้วยความสามารถที่ครอบคลุมตั้งแต่การสนทนาโต้ตอบอัจฉริยะ การทำความเข้าใจภาพและวิดีโอ ไปจนถึงการสร้างสรรค์ภาพตามจินตนาการ และการประมวลผลเอกสารต่างๆ

Qwen Studio ทำอะไรได้บ้าง? 🔍

Qwen Studio ไม่ได้เป็นเพียงแค่ AI Chatbot ทั่วไป แต่เป็นแพลตฟอร์มที่รวบรวมฟังก์ชัน AI อันหลากหลายไว้ในที่เดียว ทำให้ผู้ใช้สามารถทำงานที่ซับซ้อนได้อย่างง่ายดายและมีประสิทธิภาพมากขึ้น

• Chatbot อัจฉริยะ: สนทนาโต้ตอบได้อย่างเป็นธรรมชาติ เข้าใจคำสั่งและให้ข้อมูลที่ถูกต้องแม่นยำ
• การทำความเข้าใจภาพและวิดีโอ (Vision-Language): วิเคราะห์และตีความข้อมูลจากรูปภาพและวิดีโอ สามารถตอบคำถามเกี่ยวกับสิ่งที่เห็นในภาพได้
• การสร้างภาพ (Image Generation): เปลี่ยนข้อความให้กลายเป็นรูปภาพที่สวยงามตามที่คุณต้องการ เหมาะสำหรับนักออกแบบ ครีเอเตอร์ หรือใครก็ตามที่ต้องการสร้างภาพประกอบ
• การประมวลผลเอกสาร: ช่วยสรุปเนื้อหาในเอกสารยาวๆ แปลเอกสาร หรือแม้แต่ช่วยเรียบเรียงข้อความให้มีความเป็นธรรมชาติ
• การเชื่อมต่อกับ Web Search: ค้นหาข้อมูลล่าสุดบนอินเทอร์เน็ตเพื่อนำมาตอบคำถามหรือวิเคราะห์ข้อมูล
• การใช้งานเครื่องมือ (Tool Utilization): สามารถทำงานร่วมกับเครื่องมือภายนอกเพื่อเพิ่มขีดความสามารถในการแก้ปัญหาที่ซับซ้อน
• Artifacts: จัดเก็บและจัดการผลงานที่สร้างขึ้นจาก AI ได้อย่างเป็นระบบ

ทำไม Qwen Studio ถึงน่าสนใจ? ✨

Qwen Studio โดดเด่นด้วยความสามารถในการทำงานที่หลากหลาย ทำให้เป็นเครื่องมือที่ทรงพลังสำหรับผู้ใช้งานหลายกลุ่ม ไม่ว่าจะเป็นนักพัฒนา ครีเอทีฟ นักวิจัย หรือแม้แต่ผู้ใช้งานทั่วไปที่ต้องการเครื่องมือ AI ที่ช่วยอำนวยความสะดวกในชีวิตประจำวัน

• ครบวงจรในแพลตฟอร์มเดียว: ไม่ต้องสลับไปมาระหว่างแอปพลิเคชัน AI หลายตัว Qwen Studio รวมทุกอย่างไว้ให้คุณแล้ว
• ประสิทธิภาพสูง: โมเดล AI ที่พัฒนาโดย Alibaba มีความสามารถในการประมวลผลและสร้างสรรค์ผลงานได้อย่างน่าประทับใจ
• รองรับการใช้งานหลากหลาย: ตั้งแต่การเขียนโค้ด การออกแบบ ไปจนถึงการวิเคราะห์ข้อมูล
• การพัฒนาอย่างต่อเนื่อง: Qwen Studio มีการอัปเดตและพัฒนาโมเดล AI อยู่เสมอ เพื่อให้ทันสมัยและตอบสนองต่อความต้องการของผู้ใช้ได้ดียิ่งขึ้น

Qwen Studio เหมาะกับใคร? 🧑‍💻🎨

• นักพัฒนาซอฟต์แวร์: ใช้ช่วยในการเขียนโค้ด (Code Generation) ตรวจสอบโค้ด หรือสร้าง UI
• นักการตลาดและครีเอทีฟ: ใช้สร้างภาพประกอบ สื่อโซเชียล หรือคอนเทนต์ที่น่าสนใจ
• นักวิจัยและนักวิชาการ: ใช้ช่วยสรุปเอกสาร วิเคราะห์ข้อมูล หรือค้นหาข้อมูลงานวิจัย
• นักเรียนนักศึกษา: ใช้ช่วยในการทำการบ้าน สรุปบทเรียน หรือหาข้อมูลประกอบการเรียน
• ผู้ใช้งานทั่วไป: ที่ต้องการผู้ช่วย AI อัจฉริยะในการตอบคำถาม หรือสร้างสรรค์สิ่งต่างๆ

Qwen Studio เป็นเครื่องมือ AI ที่น่าจับตามองอย่างยิ่ง ด้วยความสามารถที่หลากหลายและประสิทธิภาพที่สูง ทำให้เป็นแพลตฟอร์มที่ช่วยปลดล็อกศักยภาพของ AI ให้เข้าถึงและใช้งานได้ง่ายขึ้นสำหรับทุกคน

#QwenStudio #AI #AlibabaAI #Chatbot #ImageGeneration #VisionLanguage

ขอบคุณ แหล่งข้อมูล
https://qwen.ai/blog?id=qwen-image-3.0

ข้อมูลต้นทางที่ได้รับไม่เพียงพอสำหรับการสร้างบทความ

เนื่องจากข้อมูลต้นทางที่ให้มาไม่มีเนื้อหาหรือหัวข้อที่ชัดเจน จึงไม่สามารถสร้างบทความ SEO ที่มีคุณภาพและตรงตามความต้องการของผู้อ่านได้

หากท่านมีข้อมูลเพิ่มเติม เช่น หัวข้อที่ต้องการเขียน, คำหลักที่เกี่ยวข้อง, หรือรายละเอียดเกี่ยวกับเนื้อหา โปรดระบุมาเพื่อดำเนินการสร้างบทความต่อไป

ขอบคุณ แหล่งข้อมูล
https://openai.com/index/diagnose-rare-childhood-diseases

เปลี่ยน GitHub CI ของคุณให้ทำงานบน Hugging Face Jobs: คู่มือฉบับสมบูรณ์

การจัดการระบบ Continuous Integration (CI) สำหรับโปรเจกต์ Open Source โดยเฉพาะโปรเจกต์ Machine Learning นั้นมีความท้าทายหลายประการ GitHub Actions ซึ่งเป็นเครื่องมือยอดนิยมอาจมีข้อจำกัดในเรื่องความเร็ว การบำรุงรักษา หรือการเข้าถึงฮาร์ดแวร์พิเศษอย่าง GPU ทำให้โปรเจกต์อย่าง Trackio ต้องมองหาโซลูชันที่ดีกว่า

ในบทความนี้ เราจะมาดูกันว่าคุณจะสามารถย้ายระบบ CI จาก GitHub Actions มาทำงานบน Hugging Face Jobs ได้อย่างไร เพื่อให้ได้ทั้งความเสถียร ประสิทธิภาพที่เพิ่มขึ้น และการเข้าถึงฮาร์ดแวร์ที่หลากหลาย โดยเฉพาะอย่างยิ่ง GPU ซึ่งจำเป็นสำหรับการทดสอบ ML บางประเภท

Hugging Face Jobs คืออะไร?

Hugging Face Jobs คือบริการโครงสร้างพื้นฐานแบบ Serverless ที่ให้คุณรันคำสั่งหรือสคริปต์บนฮาร์ดแวร์ที่หลากหลายของ Hugging Face ได้อย่างง่ายดาย หัวใจหลักของ Job ประกอบด้วย:

• Docker image: สามารถเลือกใช้จาก Docker Hub หรือ Hugging Face Space ที่มีอยู่
• Hardware flavor: เลือกประเภทฮาร์ดแวร์ที่ต้องการ เช่น CPU, t4-small หรือ GPU h200
• Optional environment variables and secrets: ตั้งค่าตัวแปรสภาพแวดล้อมหรือข้อมูลลับเพิ่มเติมได้

ด้วยคุณสมบัติเหล่านี้ Hugging Face Jobs จึงเป็นโซลูชันที่เหมาะอย่างยิ่งสำหรับงาน CI เพราะงาน CI โดยทั่วไปมักเป็นการสั่งงานแบบ Command-driven ทำงานในสภาพแวดล้อมที่สะอาด และสามารถเลือกฮาร์ดแวร์ที่เหมาะสมกับงานได้พอดี สำหรับไลบรารี ML การใช้งาน GPU เป็นจุดเด่นที่น่าสนใจมาก เพราะช่วยให้คุณสามารถรันชุดทดสอบบนฮาร์ดแวร์ GPU จริงได้ โดยไม่ต้องดูแลรักษาระบบ Runner ของตัวเองให้พร้อมใช้งานตลอดเวลา

ภาพรวมการทำงานร่วมกัน

หัวใจสำคัญคือการเชื่อมต่อ GitHub Actions เข้ากับ Hugging Face Jobs โดยใช้ huggingface/jobs-actions ซึ่งเป็นส่วนเสริมขนาดเล็กที่ทำหน้าที่แปลง GitHub Actions job ให้กลายเป็น Self-hosted runner แบบชั่วคราวที่ทำงานภายใน Hugging Face Job

กระบวนการทำงานจะเป็นดังนี้:

1. Pull Request Trigger: เมื่อมีการเปิด Pull Request ระบบ GitHub Actions จะเริ่มทำงาน
2. Job Queuing: GitHub จะจัดคิวงานที่ระบุ runs-on label ที่ไม่พร้อมใช้งาน เช่น hf-jobs-cpu-upgrade หรือ hf-jobs-t4-small และส่ง Webhook workflow_job.queued ไปยัง Dispatcher ผ่าน GitHub App
3. Dispatcher Verification & Job Launch: Dispatcher Space จะทำการยืนยัน Webhook ตรวจสอบ Label hf-jobs-* และสร้าง GitHub Runner Registration Token ที่มีอายุสั้น จากนั้นจะเริ่ม Hugging Face Job บนฮาร์ดแวร์ที่ตรงกัน
4. Runner Boot & Registration: Hugging Face Job จะทำการบูท GitHub Actions Runner แบบชั่วคราว และลงทะเบียนเข้ากับ Repository โดยใช้ Token ที่ได้มา
5. Job Execution & Reporting: GitHub จะมอบหมาย Workflow Job ที่ค้างอยู่ให้กับ Runner นี้ Runner จะดำเนินการตาม CI job, รายงานสถานะกลับไปยัง GitHub และปิดการทำงานไป

จากมุมมองของ GitHub นี่คือ Self-hosted runner ทั่วไป แต่จากมุมมองของ Hugging Face มันคือ Job ที่เปิด Container เพื่อรัน Workflow steps จาก GitHub Actions ของ Repository นั้น ๆ

ขั้นตอนการตั้งค่า: เปลี่ยน GitHub CI ให้ทำงานบน Hugging Face Jobs

ขั้นตอนที่ 1: Duplicate Dispatcher Space 🚀

สิ่งแรกที่คุณต้องมีคือ Dispatcher ซึ่งเป็น Space ขนาดเล็กที่ทำหน้าที่รับ Webhook จาก GitHub workflow\_job และเปิด Hugging Face Job เพื่อตอบสนอง

• ไปที่ [huggingface/jobs-actions-dispatcher](ขอบคุณ แหล่งข้อมูล
  https://huggingface.co/spaces/huggingface/jobs-actions-dispatcher) และคลิก Duplicate this Space
• ตั้งชื่อ Space ใหม่ภายใต้ Namespace ของคุณ หรือ Org ที่คุณมีสิทธิ์เขียน
• สำคัญ: เลือกใช้ cpu-upgrade สำหรับ CI จริง เพื่อให้ Dispatcher พร้อมใช้งานเสมอสำหรับการรับ Webhook จาก GitHub หากใช้ cpu-basic อาจเกิดปัญหาหาก Webhook มาถึงขณะที่ Space กำลังตื่นจากการ Sleep
• หลังจาก Space สร้างเสร็จ เปิดเข้าไป คุณจะเห็น URL ของ GitHub App Webhook ที่คุณต้องใช้ในขั้นตอนต่อไป

ขั้นตอนที่ 2: สร้างและติดตั้ง GitHub App 🛠️

ต่อไปคือการสร้างและติดตั้ง GitHub App จาก Dispatcher Space ที่คุณ Duplicate มา App นี้ต้องการสิทธิ์ในการรับฟัง Workflow job ที่ค้างอยู่ และสร้าง Token สำหรับลงทะเบียน Self-hosted runner

• เปิด Dispatcher Space ที่คุณ Duplicate ไว้
• ในหน้า Setup Form ให้กรอก GitHub Repository ที่คุณต้องการให้ CI ทำงานบน HF Jobs
• คลิกปุ่มเพื่อสร้าง GitHub App ตั้งชื่อ App ตามต้องการ
• GitHub จะขอให้คุณอัปโหลด Credentials ของ App ไปยัง Dispatcher Space โดยใช้ hf cli
• ข้อควรจำ: คุณต้องมี Hugging Face Token ที่มีสิทธิ์ในการเปิด Jobs (สำหรับบัญชีส่วนตัวของคุณ หรือ Org ที่ต้องการให้เรียกเก็บค่าบริการ) Token นี้ควรถูกบันทึกเป็น Secret ชื่อ HF_TOKEN ใน Dispatcher Space ของคุณ
• สุดท้าย ให้ติดตั้ง App นี้บน GitHub Repo เดียวกันกับที่คุณกรอกไว้ใน Space

การตั้งค่าโดย Agent: หากคุณต้องการใช้ Agent สามารถวาง $GITHUB_REPO ลงใน Space, คลิกปุ่มสร้าง GitHub App, เลือกชื่อ App และทำตามคำแนะนำบน GitHub จากนั้นติดตั้ง App บน Repo ของคุณ

ขั้นตอนที่ 3: ตั้งค่า Dispatcher สุดท้าย ⚙️

เมื่อถึงจุดนี้ Dispatcher Space ควรได้รับการตั้งค่าอย่างสมบูรณ์แล้ว Flow การตั้งค่า GitHub App จะสร้างคำสั่งสำหรับอัปโหลด Credentials, Webhook Secret และ Hugging Face Token ไปยัง Space

• โดยปกติ HF Jobs จะถูกเปิดภายใต้ Namespace เดียวกับ Dispatcher Space
• หากต้องการให้เรียกเก็บค่าบริการ Jobs ไปยัง User หรือ Org อื่น ให้ตั้งค่า HF_NAMESPACE เป็น Space Variable

ขั้นตอนที่ 4: แก้ไข runs-on label ✍️

การเปลี่ยนแปลง Workflow ที่แท้จริงนั้นเล็กน้อยมาก แทนที่จะใช้:

runs-on: ubuntu-latest

ให้เปลี่ยนไปใช้ Label ที่ Dispatcher จัดการอยู่:

runs-on: hf-jobs-cpu-upgrade

หรือสำหรับ GPU Tests:

runs-on: hf-jobs-t4-small 

# หรือ label GPU อื่นๆ ที่คุณต้องการ

การเปลี่ยนแปลงเพียง 1 บรรทัดนี้ ก็เพียงพอแล้วที่จะทำให้ GitHub Action ของคุณทำงานบน HF Jobs!

การเลือก Docker Image ที่เหมาะสม 🐳

การเลือก Docker Image ที่เหมาะสมมีผลอย่างมากต่อความเร็วและประสิทธิภาพ

• สำหรับ CPU Jobs: หากคุณต้องการ Image ที่เบาและเร็ว ควรเลือก Image ที่มีเฉพาะสิ่งที่จำเป็น หรือใช้ Image ที่มีการติดตั้ง Build Dependencies มาให้แล้ว เช่น Image จาก Microsoft Playwright ซึ่งมีเครื่องมือที่จำเป็นสำหรับ UI Tests ครบครัน
• สำหรับ GPU Jobs: ใช้ Image ที่รองรับ CUDA เช่น nvidia/cuda:11.8.0-base-ubuntu22.04

ผลลัพธ์ที่ได้จากการใช้งานจริง 📊

จากการทดสอบกับ Trackio พบว่า:

• GPU CI: การทดสอบ GPU ใช้เวลาเพียง 45 วินาที และมีค่าใช้จ่ายน้อยมาก (น้อยกว่า 1 เซ็นต์ ที่อัตรา t4-small)
• CPU CI: งาน Linux Test Job เร็วกว่า Baseline บน GitHub-hosted อย่างเห็นได้ชัด แสดงให้เห็นว่า HF Jobs เป็น Backend CI ที่มีประสิทธิภาพ โดยเฉพาะสำหรับโปรเจกต์ ML ที่ต้องการ Custom Images หรือ Accelerators

Logs: การเข้าถึง Logs บน Hugging Face Jobs ทำได้ง่ายผ่าน CLI ซึ่งสะดวกสำหรับการนำไปใช้กับเครื่องมือ Local หรือ AI Agents นอกจากนี้ ในส่วนของ Bridge ยังมีการ Mirror Log ของ GitHub Actions เข้าไปใน HF Job log ด้วย ทำให้มีข้อมูลครบถ้วนสำหรับการ Debug

Volumes: แม้ Trackio จะไม่ได้ใช้ แต่ HF Jobs รองรับการ Mount Volumes ซึ่งมีประโยชน์มากหากต้องการโหลด Datasets หรือ Models จาก Hugging Face อย่างรวดเร็วในระหว่าง CI

หวังว่าคู่มือนี้จะช่วยให้คุณสามารถนำ Hugging Face Jobs ไปใช้กับ GitHub Actions ของคุณได้อย่างมีประสิทธิภาพ!

#HuggingFace #GitHubActions #CI #OpenSource #MachineLearning

ขอบคุณ แหล่งข้อมูล
https://huggingface.co/blog/github-ci-hf-jobs