• YouTube ชี้แจงนโยบายเนื้อหา AI และวิดีโอที่น่ากังวล: อะไรคือ "AI Slop" ที่หาเงินไม่ได้?

    ในยุคที่เทคโนโลยี AI ก้าวหน้าอย่างรวดเร็ว ทำให้การสร้างสรรค์เนื้อหาวิดีโอทำได้ง่ายและรวดเร็วยิ่งขึ้น YouTube ในฐานะแพลตฟอร์มวิดีโออันดับต้น ๆ ของโลก ได้ออกมาประกาศปรับปรุงนโยบายการสร้างรายได้บนแพลตฟอร์มให้ชัดเจนยิ่งขึ้น เพื่อควบคุมและป้องกันเนื้อหาที่อาจก่อให้เกิดผลเสียต่อผู้ใช้งานและระบบนิเวศของ YouTube โดยเฉพาะอย่างยิ่งเนื้อหาที่ถูกสร้างขึ้นโดย AI ในลักษณะที่เรียกว่า "AI Slop" หรือเนื้อหาคุณภาพต่ำที่ผลิตซ้ำ ๆ

    การเปลี่ยนแปลงนี้มีเป้าหมายเพื่อส่งเสริมให้ครีเอเตอร์สร้างสรรค์เนื้อหาที่มีคุณภาพและมีความคิดสร้างสรรค์อย่างแท้จริง แทนที่จะใช้ AI หรือเครื่องมืออื่น ๆ มาผลิตวิดีโอซ้ำ ๆ ที่ขาดคุณค่า

    ทำความเข้าใจ "เนื้อหาที่ไม่ใช่ของจริง" (Inauthentic Content)

    YouTube ได้แบ่งประเภทของ "เนื้อหาที่ไม่ใช่ของจริง" ที่ไม่สามารถสร้างรายได้ออกเป็น 3 ประเภทหลัก ๆ ตามนโยบายที่ปรับปรุงใหม่ ดังนี้:

    1. เนื้อหาทั่วไป ซ้ำซาก หรือใช้เทมเพลต (Generic, Repetitive, or Template-Based Content)

    หมวดหมู่นี้ครอบคลุมถึงวิดีโอที่สร้างขึ้นซ้ำ ๆ โดยมีการเปลี่ยนแปลงน้อยมากในแต่ละวิดีโอ ซึ่งสามารถผลิตได้ง่ายด้วยเทคโนโลยี AI, ภาพที่สร้างด้วยคอมพิวเตอร์ (CGI) หรือการใช้เทมเพลตสำเร็จรูป ตัวอย่างเช่น ช่องที่เต็มไปด้วยวิดีโอที่เหมือนกันหมด หรือวิดีโอสอนการใช้งานที่เพียงแค่ทำซ้ำเนื้อหาที่มีอยู่แล้วบนแพลตฟอร์มโดยไม่มีความแปลกใหม่

    2. เนื้อหาที่น่ารังเกียจหรือทำให้ไม่สบายใจ (Off-Putting or Distressing Content)

    YouTube กำลังออกมาตรการกับเนื้อหาที่ออกแบบมาเพื่อสร้างความรู้สึกไม่สบายใจ บีบคั้นอารมณ์ หรือก่อกวนผู้ชมเพื่อเรียกยอดวิว ตัวอย่างเช่น วิดีโอที่แสดงสัตว์ที่ตกอยู่ในอันตราย แล้วมีคนเข้ามาช่วยเหลือ ซึ่งอาจทำให้ผู้ชมรู้สึกไม่ชอบและไม่อยากกลับมาชมช่องนั้นอีก เนื้อหาประเภทนี้จะถูกถอดออกจากโปรแกรมสร้างรายได้ (YPP) โดยไม่คำนึงว่าถูกสร้างด้วย AI หรือไม่

    3. การใช้ AI Persona ในหัวข้อที่ละเอียดอ่อน (AI Personas Discussing Sensitive Topics)

    นโยบายใหม่นี้ยังมุ่งเป้าไปที่การจำกัดการใช้ "AI Persona" หรือตัวตนเสมือนที่สร้างโดย AI เพื่อนำเสนอข้อมูลในหัวข้อที่ละเอียดอ่อน เช่น การเงิน สุขภาพ กฎหมาย หรือการแพทย์ YouTube ไม่ต้องการส่งเสริมให้ครีเอเตอร์ใช้ AI Persona ในลักษณะนี้ เนื่องจากอาจนำไปสู่การให้ข้อมูลที่ไม่ถูกต้องหรือไม่น่าเชื่อถือ

    ทำไม YouTube ถึงต้องเข้มงวดกับ "AI Slop"?

    เหตุผลสำคัญที่ YouTube ต้องปรับปรุงนโยบายเหล่านี้ คือ:

    • รักษาคุณภาพของแพลตฟอร์ม: การปล่อยให้เนื้อหาคุณภาพต่ำ หรือ "AI Slop" เข้ามามีจำนวนมาก จะส่งผลเสียต่อประสบการณ์ของผู้ใช้งาน และอาจทำให้ผู้ชมหันไปหาแพลตฟอร์มอื่น
    • ผลประโยชน์ทางการเงิน: YouTube Partner Program (YPP) เป็นแหล่งรายได้หลักของครีเอเตอร์ หากแพลตฟอร์มเต็มไปด้วยเนื้อหาที่หาเงินได้ง่ายแต่ไม่มีคุณภาพ จะส่งผลกระทบต่อรายได้โฆษณาของ YouTube เอง
    • การแข่งขัน: YouTube กำลังแข่งขันอย่างหนักกับบริการสตรีมมิ่งอื่น ๆ เพื่อแย่งชิงเม็ดเงินโฆษณา การรักษาคุณภาพเนื้อหาจึงเป็นสิ่งจำเป็น

    AI ไม่ใช่ผู้ร้ายเสมอไป

    YouTube ยอมรับว่า AI เป็นเครื่องมือที่มีประโยชน์อย่างยิ่งในการสร้างสรรค์เนื้อหาคุณภาพสูงและเพิ่มความคิดสร้างสรรค์ให้กับครีเอเตอร์หลายคน AI สามารถช่วยให้ผลิตวิดีโอที่มีคุณภาพได้มากขึ้นและหลากหลายมากขึ้น อย่างไรก็ตาม สิ่งสำคัญคือการใช้ AI อย่างมีความรับผิดชอบและสร้างสรรค์ ไม่ใช่เพื่อผลิตเนื้อหาซ้ำ ๆ ที่ขาดคุณค่า

    ใครบ้างที่จะได้รับผลกระทบ?

    การปรับปรุงนโยบายนี้ส่งผลกระทบต่อสมาชิก YouTube Partner Program (YPP) ทุกคน โดยมีผลบังคับใช้ตั้งแต่วันที่ 16 กรกฎาคม 2569 เป็นต้นไป หากช่องใดมีเนื้อหาที่เข้าข่าย 3 ประเภทข้างต้นมากเกินไป จะไม่สามารถสร้างรายได้ผ่าน YPP ได้

    ข้อคิดสำหรับครีเอเตอร์

    สำหรับครีเอเตอร์ที่ใช้ AI ในการผลิตเนื้อหา ควรพิจารณาถึง:

    • ความคิดสร้างสรรค์: เนื้อหาของคุณมีความแปลกใหม่และแสดงถึงความคิดสร้างสรรค์หรือไม่?
    • คุณภาพ: วิดีโอของคุณมีคุณค่าต่อผู้ชมหรือไม่?
    • ความละเอียดอ่อน: หากนำเสนอข้อมูลในหัวข้อที่ละเอียดอ่อน ควรใช้ข้อมูลที่ถูกต้องและน่าเชื่อถือ โดยหลีกเลี่ยงการใช้ AI Persona หากไม่จำเป็น
    • เจตนา: คุณกำลังสร้างเนื้อหาเพื่อมอบความรู้ ความบันเทิง หรือเพียงเพื่อสร้างรายได้โดยไม่คำนึงถึงคุณภาพ?

    การปรับปรุงนโยบายครั้งนี้ ถือเป็นก้าวสำคัญของ YouTube ในการสร้างสภาพแวดล้อมที่ส่งเสริมการสร้างสรรค์เนื้อหาคุณภาพ และป้องกันการใช้เทคโนโลยีในทางที่อาจส่งผลเสียต่อผู้ใช้งานและระบบนิเวศของแพลตฟอร์ม

    #YouTube #AI #YouTubePartnerProgram #ContentPolicy #AIContent

    ขอบคุณ แหล่งข้อมูล
    https://techcrunch.com/2026/07/20/youtube-clarifies-policies-around-ai-slop-and-upsetting-videos/

    YouTube ชี้แจงนโยบายเนื้อหา AI และวิดีโอที่น่ากังวล: อะไรคือ "AI Slop" ที่หาเงินไม่ได้?ในยุคที่เทคโนโลยี AI ก้าวหน้าอย่างรวดเร็ว ทำให้การสร้างสรรค์เนื้อหาวิดีโอทำได้ง่ายและรวดเร็วยิ่งขึ้น YouTube ในฐานะแพลตฟอร์มวิดีโออันดับต้น ๆ ของโลก ได้ออกมาประกาศปรับปรุงนโยบายการสร้างรายได้บนแพลตฟอร์มให้ชัดเจนยิ่งขึ้น เพื่อควบคุมและป้องกันเนื้อหาที่อาจก่อให้เกิดผลเสียต่อผู้ใช้งานและระบบนิเวศของ YouTube โดยเฉพาะอย่างยิ่งเนื้อหาที่ถูกสร้างขึ้นโดย AI ในลักษณะที่เรียกว่า "AI Slop" หรือเนื้อหาคุณภาพต่ำที่ผลิตซ้ำ ๆการเปลี่ยนแปลงนี้มีเป้าหมายเพื่อส่งเสริมให้ครีเอเตอร์สร้างสรรค์เนื้อหาที่มีคุณภาพและมีความคิดสร้างสรรค์อย่างแท้จริง แทนที่จะใช้ AI หรือเครื่องมืออื่น ๆ มาผลิตวิดีโอซ้ำ ๆ ที่ขาดคุณค่าทำความเข้าใจ "เนื้อหาที่ไม่ใช่ของจริง" (Inauthentic Content)YouTube ได้แบ่งประเภทของ "เนื้อหาที่ไม่ใช่ของจริง" ที่ไม่สามารถสร้างรายได้ออกเป็น 3 ประเภทหลัก ๆ ตามนโยบายที่ปรับปรุงใหม่ ดังนี้:1. เนื้อหาทั่วไป ซ้ำซาก หรือใช้เทมเพลต (Generic, Repetitive, or Template-Based Content)หมวดหมู่นี้ครอบคลุมถึงวิดีโอที่สร้างขึ้นซ้ำ ๆ โดยมีการเปลี่ยนแปลงน้อยมากในแต่ละวิดีโอ ซึ่งสามารถผลิตได้ง่ายด้วยเทคโนโลยี AI, ภาพที่สร้างด้วยคอมพิวเตอร์ (CGI) หรือการใช้เทมเพลตสำเร็จรูป ตัวอย่างเช่น ช่องที่เต็มไปด้วยวิดีโอที่เหมือนกันหมด หรือวิดีโอสอนการใช้งานที่เพียงแค่ทำซ้ำเนื้อหาที่มีอยู่แล้วบนแพลตฟอร์มโดยไม่มีความแปลกใหม่2. เนื้อหาที่น่ารังเกียจหรือทำให้ไม่สบายใจ (Off-Putting or Distressing Content)YouTube กำลังออกมาตรการกับเนื้อหาที่ออกแบบมาเพื่อสร้างความรู้สึกไม่สบายใจ บีบคั้นอารมณ์ หรือก่อกวนผู้ชมเพื่อเรียกยอดวิว ตัวอย่างเช่น วิดีโอที่แสดงสัตว์ที่ตกอยู่ในอันตราย แล้วมีคนเข้ามาช่วยเหลือ ซึ่งอาจทำให้ผู้ชมรู้สึกไม่ชอบและไม่อยากกลับมาชมช่องนั้นอีก เนื้อหาประเภทนี้จะถูกถอดออกจากโปรแกรมสร้างรายได้ (YPP) โดยไม่คำนึงว่าถูกสร้างด้วย AI หรือไม่3. การใช้ AI Persona ในหัวข้อที่ละเอียดอ่อน (AI Personas Discussing Sensitive Topics)นโยบายใหม่นี้ยังมุ่งเป้าไปที่การจำกัดการใช้ "AI Persona" หรือตัวตนเสมือนที่สร้างโดย AI เพื่อนำเสนอข้อมูลในหัวข้อที่ละเอียดอ่อน เช่น การเงิน สุขภาพ กฎหมาย หรือการแพทย์ YouTube ไม่ต้องการส่งเสริมให้ครีเอเตอร์ใช้ AI Persona ในลักษณะนี้ เนื่องจากอาจนำไปสู่การให้ข้อมูลที่ไม่ถูกต้องหรือไม่น่าเชื่อถือทำไม YouTube ถึงต้องเข้มงวดกับ "AI Slop"?เหตุผลสำคัญที่ YouTube ต้องปรับปรุงนโยบายเหล่านี้ คือ:รักษาคุณภาพของแพลตฟอร์ม: การปล่อยให้เนื้อหาคุณภาพต่ำ หรือ "AI Slop" เข้ามามีจำนวนมาก จะส่งผลเสียต่อประสบการณ์ของผู้ใช้งาน และอาจทำให้ผู้ชมหันไปหาแพลตฟอร์มอื่นผลประโยชน์ทางการเงิน: YouTube Partner Program (YPP) เป็นแหล่งรายได้หลักของครีเอเตอร์ หากแพลตฟอร์มเต็มไปด้วยเนื้อหาที่หาเงินได้ง่ายแต่ไม่มีคุณภาพ จะส่งผลกระทบต่อรายได้โฆษณาของ YouTube เองการแข่งขัน: YouTube กำลังแข่งขันอย่างหนักกับบริการสตรีมมิ่งอื่น ๆ เพื่อแย่งชิงเม็ดเงินโฆษณา การรักษาคุณภาพเนื้อหาจึงเป็นสิ่งจำเป็นAI ไม่ใช่ผู้ร้ายเสมอไปYouTube ยอมรับว่า AI เป็นเครื่องมือที่มีประโยชน์อย่างยิ่งในการสร้างสรรค์เนื้อหาคุณภาพสูงและเพิ่มความคิดสร้างสรรค์ให้กับครีเอเตอร์หลายคน AI สามารถช่วยให้ผลิตวิดีโอที่มีคุณภาพได้มากขึ้นและหลากหลายมากขึ้น อย่างไรก็ตาม สิ่งสำคัญคือการใช้ AI อย่างมีความรับผิดชอบและสร้างสรรค์ ไม่ใช่เพื่อผลิตเนื้อหาซ้ำ ๆ ที่ขาดคุณค่าใครบ้างที่จะได้รับผลกระทบ?การปรับปรุงนโยบายนี้ส่งผลกระทบต่อสมาชิก YouTube Partner Program (YPP) ทุกคน โดยมีผลบังคับใช้ตั้งแต่วันที่ 16 กรกฎาคม 2569 เป็นต้นไป หากช่องใดมีเนื้อหาที่เข้าข่าย 3 ประเภทข้างต้นมากเกินไป จะไม่สามารถสร้างรายได้ผ่าน YPP ได้ข้อคิดสำหรับครีเอเตอร์สำหรับครีเอเตอร์ที่ใช้ AI ในการผลิตเนื้อหา ควรพิจารณาถึง:ความคิดสร้างสรรค์: เนื้อหาของคุณมีความแปลกใหม่และแสดงถึงความคิดสร้างสรรค์หรือไม่?คุณภาพ: วิดีโอของคุณมีคุณค่าต่อผู้ชมหรือไม่?ความละเอียดอ่อน: หากนำเสนอข้อมูลในหัวข้อที่ละเอียดอ่อน ควรใช้ข้อมูลที่ถูกต้องและน่าเชื่อถือ โดยหลีกเลี่ยงการใช้ AI Persona หากไม่จำเป็นเจตนา: คุณกำลังสร้างเนื้อหาเพื่อมอบความรู้ ความบันเทิง หรือเพียงเพื่อสร้างรายได้โดยไม่คำนึงถึงคุณภาพ?การปรับปรุงนโยบายครั้งนี้ ถือเป็นก้าวสำคัญของ YouTube ในการสร้างสภาพแวดล้อมที่ส่งเสริมการสร้างสรรค์เนื้อหาคุณภาพ และป้องกันการใช้เทคโนโลยีในทางที่อาจส่งผลเสียต่อผู้ใช้งานและระบบนิเวศของแพลตฟอร์ม#YouTube #AI #YouTubePartnerProgram #ContentPolicy #AIContenthttps://techcrunch.com/2026/07/20/youtube-clarifies-policies-around-ai-slop-and-upsetting-videos/
    Shared content
    TECHCRUNCH.COM
    YouTube clarifies policies around AI slop and upsetting videos | TechCrunch
    YouTube has updated its monetization policies to more clearly define the kinds of AI-generated and low-quality videos that can’t earn ad revenue.
    7 Comments 0 Shares 42 Views 0 Reviews
  • NVIDIA NVLink: เครือข่าย Scale-Up สำหรับ AI Factory ยุคใหม่

    ความต้องการใช้งาน AI กำลังเติบโตอย่างก้าวกระโดด โมเดล AI มีขนาดใหญ่ซับซ้อนขึ้นเรื่อยๆ และแรงกดดันในการนำโครงสร้างพื้นฐาน AI มาใช้งานจริงก็สูงขึ้นกว่าที่เคย การสร้าง "AI Factory" ซึ่งเป็นระบบขนาดใหญ่ระดับ Data Center ที่แปลงข้อมูลและพลังงานให้เป็นสติปัญญาอย่างต่อเนื่อง จึงเป็นหัวใจสำคัญในการตอบสนองความต้องการอันมหาศาลนี้

    แนวทาง AI Factory ได้เปลี่ยนโฉมการออกแบบและการดำเนินงานของ Data Center ไปอย่างสิ้นเชิง ไม่ใช่แค่เพียงประสิทธิภาพการประมวลผลสูงสุด (Peak Accelerator FLOPS) เท่านั้นที่สำคัญอีกต่อไป แต่เวิร์กโหลด AI ในปัจจุบัน รวมถึงโมเดลที่มีพารามิเตอร์หลายล้านล้านตัว, สถาปัตยกรรมแบบ Mixture-of-Experts (MoE), การประมวลผลบริบทที่ยาวนาน (Long-Context Reasoning) และการให้บริการแบบกระจายศูนย์ (Disaggregated Serving) ล้วนต้องการให้ GPU จำนวนมากทำงานร่วมกันเสมือนเป็นหน่วยประมวลผลเดียว การจะบรรลุเป้าหมายนี้ได้ จำเป็นต้องมี การสื่อสารระหว่าง GPU ที่มีแบนด์วิดท์สูงและมีความหน่วงต่ำ (Low Latency), การประมวลผลภายในเครือข่ายที่รวดเร็ว (Fast In-Network Compute) สำหรับการดำเนินการแบบรวม (Collective Operations) และ การจัดตารางทรัพยากรที่รับรู้ถึงซอฟต์แวร์ (Software-Aware Scheduling)

    ด้วยจำนวนส่วนประกอบที่มากมายมหาศาล ความทนทาน (Resiliency) จึงต้องถูกสร้างขึ้นในระดับ Data Center ทั้งหมด การก้าวให้ทันกับการพัฒนาของ AI ต้องการเทคโนโลยีและห่วงโซ่อุปทานที่สามารถเคลื่อนไหวได้ด้วยความเร็วเท่ากับการพัฒนานวัตกรรมในอุตสาหกรรม

    นี่คือเหตุผลว่าทำไม เครือข่ายแบบ Scale-Up จึงกลายเป็นหนึ่งในการตัดสินใจทางสถาปัตยกรรมที่สำคัญที่สุดสำหรับ AI Factory เครือข่าย Scale-Up คือสิ่งที่ทำให้ GPU ทำงานร่วมกันเป็นหน่วยประมวลผลเดียว กำหนดประสิทธิภาพในการส่งต่อ Token ระหว่างผู้เชี่ยวชาญ, ความรวดเร็วในการดำเนินการแบบรวม (Collective Operations) และปริมาณงานที่มีประสิทธิภาพที่โรงงานสามารถส่งมอบได้ เป็นปัจจัยสำคัญในการลดความเสี่ยงของผู้ปฏิบัติงานเมื่อนำแพลตฟอร์มใหม่มาใช้งาน

    NVIDIA NVLink: หัวใจสำคัญของเครือข่าย Scale-Up สำหรับ AI Factory

    NVIDIA NVLink คือเครือข่าย Scale-Up ที่ออกแบบมาโดยเฉพาะสำหรับ AI Factory ถูกสร้างขึ้นเพื่อเร่งความเร็วการอนุมาน (Inference), การฝึก (Training) และเวิร์กโหลดการประมวลผลแบบขนานอื่นๆ ที่ต้องการการสื่อสารระหว่าง GPU ขนาดใหญ่และรวดเร็ว

    NVLink รุ่นที่ 6 (Sixth Generation) พร้อมด้วย NVLink 6 Switch นำเสนอ แบนด์วิดท์ GPU-to-GPU สูงสุด พร้อม ความหน่วงต่ำที่สุด ในรูปแบบ All-to-All Topology สำหรับเครือข่าย Scale-Up นอกจากนี้ยังรองรับการประมวลผลภายในเครือข่าย (In-Network Compute) ผ่าน SHARP เพื่อถ่ายโอนภาระการดำเนินการแบบรวม (Collective Operations) และมีฟีเจอร์ความทนทานระดับ Rack ที่ออกแบบมาเพื่อการทำงานของ AI Factory อย่างต่อเนื่อง

    NVLink พัฒนาขึ้นด้วยแนวทาง Extreme Co-Design ซึ่งเป็นการออกแบบและปรับแต่งฮาร์ดแวร์และซอฟต์แวร์ทั้งสแต็ก ตั้งแต่ชิป ระบบ เครือข่าย ไปจนถึงซอฟต์แวร์ ให้ทำงานร่วมกันอย่างสมบูรณ์ NVLink เป็นส่วนหนึ่งของแผนงานโครงสร้างพื้นฐาน AI ประจำปีของ NVIDIA ด้วยเทคโนโลยีที่สมบูรณ์ มีการใช้งานมายาวนาน และแพร่หลาย ทำให้ NVLink กลายเป็นกระดูกสันหลังของโครงสร้างพื้นฐาน AI ในยุคปัจจุบัน

    กลไกเบื้องหลังที่ทำให้ Scale-Up Networking ขับเคลื่อนเศรษฐศาสตร์ของ AI Factory

    เครือข่ายแบบ Scale-out (เช่น NVIDIA Quantum InfiniBand และ NVIDIA Spectrum-X Ethernet) ทำหน้าที่เชื่อมต่อเซิร์ฟเวอร์ทั่วทั้ง Data Center ในขณะที่เครือข่ายแบบ Scale-up (เช่น NVLink) จะเชื่อมต่อ GPU ภายในโดเมนเดียวให้มีแบนด์วิดท์สูง, ความหน่วงต่ำที่คาดการณ์ได้ และหน่วยความจำแบนด์วิดท์สูง (HBM) ที่ใช้ร่วมกัน ทั้งสองแบบมีความสำคัญ แต่แก้ปัญหาที่แตกต่างกัน

    เครือข่าย Scale-out มีความสำคัญอย่างยิ่งสำหรับเวิร์กโหลดการฝึก AI แบบ Data-Parallel ขนาดใหญ่ (รวมถึงการจำลองทางวิทยาศาสตร์ขนาดใหญ่) ที่อาจครอบคลุม GPU หลายพันถึงหลายแสนตัว แต่สำหรับ AI Training และ Inference ในปัจจุบัน โดเมน Scale-up คือจุดที่รูปแบบการสื่อสารที่ไวต่อความหน่วง (Latency-Sensitive) ส่วนใหญ่เกิดขึ้น

    ลองพิจารณาตัวอย่างการอนุมาน (Inference) ด้วยโมเดล MoE:
    การนำโมเดล MoE ไปใช้งานอย่างมีประสิทธิภาพมักใช้ Expert Parallelism เพื่อกระจายผู้เชี่ยวชาญ (Experts) ไปยัง GPU ต่างๆ และใช้ Batch Size ขนาดใหญ่ เพื่อเพิ่มปริมาณงานสูงสุดของโรงงาน วิธีนี้จะช่วยขนานเวิร์กโหลด แต่ก็สร้างการสื่อสารแบบ All-to-All ที่เข้มข้นระหว่าง GPU Token จะต้องถูกส่งไปยังผู้เชี่ยวชาญที่เลือก, ประมวลผล, รวบรวม, จัดลำดับใหม่ และส่งต่อไปยังขั้นตอนถัดไป

    การสื่อสารระหว่าง GPU ทั้งหมดนี้ต้องเกิดขึ้นพร้อมกัน หากเครือข่ายที่มีแบนด์วิดท์ต่ำหรือมีความหน่วงสูงมาขวางกั้น ประโยชน์ที่ได้จาก Expert Parallelism ก็อาจถูกบดบังด้วยค่าใช้จ่ายในการสื่อสาร ปรากฏการณ์เดียวกันนี้เกิดขึ้นระหว่างการฝึกโมเดล MoE

    ประเด็นสำคัญคือ แบนด์วิดท์ All-to-All และความหน่วง มีความสำคัญอย่างยิ่งต่อประสิทธิภาพของ AI Factory AI Factory ต้องการเครือข่าย Scale-Up ที่ออกแบบมาโดยเฉพาะ ซึ่งทำงานร่วมกับส่วนอื่นๆ ของระบบ เพื่อส่งมอบและรักษาความสามารถเหล่านี้ภายใต้ภาระงานที่หนักหน่วง และครอบคลุมทุกเวิร์กโหลด เครือข่าย Scale-Up ช่วยเพิ่มผลตอบแทนจากการลงทุน (ROI) ด้วยการเพิ่มประสิทธิภาพของ Token ที่ส่งมอบต่อวัตต์, ต่อดอลลาร์ และต่อพื้นที่โรงงาน นำไปสู่การฝึกที่สั้นลง, การใช้งานที่สูงขึ้น และต้นทุนต่อ Token ที่ต่ำลงสำหรับ AI Factory

    NVIDIA ได้แสดงให้เห็นถึงผลกระทบของเครือข่าย Scale-Up ที่มีแบนด์วิดท์สูงและหน่วงต่ำในโมเดล MoE ขนาดใหญ่ สำหรับโมเดลอย่าง DeepSeek-R1 และ Qwen 235B รวมถึง LLM จำลองขนาด 2T พารามิเตอร์ NVLink สามารถส่งมอบ Throughput ในการถอดรหัส (Decode Throughput) ได้สูงถึง 2.3 เท่า เมื่อเทียบกับโซลูชัน Ethernet สำเร็จรูปชั้นนำ

    การประเมินเทคโนโลยี Scale-Up

    เอกสารข้อมูลทางเทคนิค (Spec Sheets) มักเปรียบเทียบเครือข่ายโดยใช้ตัวเลขแบนด์วิดท์ง่ายๆ เช่น อัตราการเชื่อมต่อ (Link Rate), ความจุรวมของสวิตช์ (Aggregate Switch Capacity) หรือแบนด์วิดท์สูงสุดต่ออุปกรณ์ ตัวเลขเหล่านี้มีประโยชน์ แต่ไม่เพียงพอ

    การประเมินความสามารถของ Scale-Up สำหรับเวิร์กโหลด AI ในปัจจุบัน จำเป็นต้องมองในมุมมองของ ระดับโรงงาน (Factory-Level View) ประสิทธิภาพของระบบที่ส่งมอบได้ (Delivered Performance) จะกำหนดจำนวน Token ที่สามารถประมวลผลและส่งมอบได้ต่อหน่วยเวลา, พลังงาน และพื้นที่โรงงาน ซึ่งขึ้นอยู่กับปัจจัยต่างๆ เช่น:

    • แบนด์วิดท์ All-to-All ของเครือข่าย
    • ความหน่วงแบบ End-to-End (จากหน่วยความจำ HBM ของ GPU หนึ่ง ไปยังหน่วยความจำ HBM ของ GPU อื่น ผ่านเครือข่าย)
    • ความสามารถในการประมวลผลภายในเครือข่าย (In-Network Compute) สำหรับการดำเนินการแบบลดทอน (Reductions) และการดำเนินการแบบรวมอื่นๆ
    • ซอฟต์แวร์ที่ผสานรวมอย่างสมบูรณ์ในทุกระดับ ซึ่งสามารถปรับแต่งการกำหนดเส้นทาง (Routing), เปิดเผยการดำเนินการแบบรวม (Expose Collectives), ปรับสมดุลการรับส่งข้อมูลบนลิงก์ (Balance Link Traffic), จัดลำดับการถ่ายโอนข้อมูล (Pipeline Data Transfers) และรองรับไลบรารีและเฟรมเวิร์กที่เวิร์กโหลด AI ในปัจจุบันใช้งาน

    ประสิทธิภาพที่ส่งมอบได้จะมีค่าก็ต่อเมื่อโรงงานสามารถ ทำงานได้อย่างต่อเนื่อง (Operational) ความสามารถในการทำงานเป็นระยะเวลานานโดยไม่มีความล้มเหลว, การตรวจสอบสุขภาพของระบบอย่างต่อเนื่อง และการสนับสนุนการบริการและการบำรุงรักษาในระดับส่วนประกอบ ขณะที่โรงงานส่วนที่เหลือยังคงดำเนินงานอยู่ จะช่วยแปลงประสิทธิภาพที่ส่งมอบได้ให้กลายเป็น ปริมาณงานจริง (Goodput) ซึ่งคือความสามารถของโรงงานในการผลิตตลอดอายุการใช้งานทั้งหมด

    การบรรลุประสิทธิภาพที่ส่งมอบได้และ Goodput ที่เหมาะสมที่สุดสำหรับเวิร์กโหลดที่หลากหลายผ่านเทคโนโลยีที่ซับซ้อน เป็นความท้าทายที่ยากยิ่ง ซึ่งได้รับการแก้ไขผ่านการเรียนรู้มาหลายปีด้วยโครงสร้างพื้นฐาน Scale-Up ที่ใช้งานอย่างแพร่หลายและห่วงโซ่อุปทานที่แข็งแกร่ง การใช้สแต็กเทคโนโลยีที่ยังไม่ผ่านการพิสูจน์ หรือโซลูชันที่ไม่ได้รับการออกแบบมาโดยเฉพาะสำหรับเครือข่าย Scale-Up มีความเสี่ยงที่จะได้ประสิทธิภาพโรงงานที่ต่ำกว่ามาตรฐาน, เหตุการณ์ Downtime ที่ก่อกวน และการจัดหาที่ไม่น่าเชื่อถือ

    โดยรวมแล้ว ตัวชี้วัดเหล่านี้จะขับเคลื่อนผลลัพธ์เดียวที่สำคัญที่สุด: ผลตอบแทนจากการลงทุนที่ยั่งยืนและเชื่อถือได้ตลอดอายุการใช้งานของ AI Factory

    ตัวชี้วัดหลักสำหรับเครือข่าย Scale-Up ใน AI Factories

    NVLink: ประสิทธิภาพ, ความทนทาน, และความเป็นผู้ใหญ่

    NVLink ในรุ่นที่หก (Sixth Generation) นำเสนอประสิทธิภาพที่ส่งมอบได้และความทนทานที่จำเป็นในการเพิ่ม Goodput ของโรงงานให้สูงสุด ด้วยการลงทุนในเทคโนโลยี Scale-Up มากว่าทศวรรษและการใช้งานที่ได้รับการพิสูจน์แล้วในกลุ่ม Hyperscalers, Cloud Service Providers (CSPs) และศูนย์ Supercomputing ชั้นนำของโลก

    ประสิทธิภาพระดับโลก:
    ด้วยแพลตฟอร์ม NVIDIA Vera Rubin NVL72, NVLink รุ่นที่ 6 มอบแบนด์วิดท์ GPU-to-GPU แบบสองทิศทาง 3.6 TB/s ต่อ GPU และแบนด์วิดท์ GPU ระดับ Rack 260 TB/s ในโดเมน 72 GPU ความหน่วง End-to-End สำหรับการถ่ายโอนข้อมูล GPU-to-GPU ต่ำกว่าโซลูชัน Ethernet สำเร็จรูปถึง 3 เท่า และอัตราแพ็กเก็ต สูงกว่าถึง 10 เท่า

    NVLink 6 Switch Tray แต่ละชุดประกอบด้วยชิป NVLink 6 จำนวน 4 ตัว, แบนด์วิดท์รวมของ Tray 28.8 TB/s และพลังประมวลผล FP8 ภายในเครือข่าย 14.4 TFLOPS สำหรับเร่งการดำเนินการแบบลดทอน (Reductions) และการดำเนินการแบบรวมอื่นๆ ใน Rack Vera Rubin NVL72 เพียงหนึ่งเดียว NVLink 6 ให้แบนด์วิดท์รวม 260 TB/s และพลังประมวลผลภายในเครือข่าย 130 TFLOPS

    แผนงานเทคโนโลยี NVLink ยังรองรับขนาดโดเมน Scale-Up สูงสุดถึง 1152 GPU และการเชื่อมต่อผ่าน Co-packaged Optics

    ซอฟต์แวร์เป็นส่วนสำคัญของสแต็กเครือข่าย Scale-Up ประกอบด้วย NVIDIA Dynamo, NVIDIA TensorRT-LLM, NVIDIA Collective Communications Library (NCCL) และอื่นๆ ซึ่งทั้งหมดสร้างอยู่บน NVIDIA CUDA แพลตฟอร์มการประมวลผลแบบขนานชั้นนำของโลกที่เปิดตัวครั้งแรกเมื่อเกือบ 20 ปีที่แล้ว

    ฮาร์ดแวร์และซอฟต์แวร์ได้รับการพัฒนาด้วย Extreme Co-Design ซึ่งนำไปสู่การเพิ่มประสิทธิภาพที่ไม่สามารถทำได้ด้วยส่วนประกอบที่แยกออกจากกัน สำหรับเวิร์กโหลด AI ในปัจจุบัน นี่หมายถึงการปรับปรุงเศรษฐศาสตร์โครงสร้างพื้นฐานโดยตรง

    ตัวอย่างเช่น ในการเปลี่ยนผ่านจาก NVIDIA Hopper ไปยัง NVIDIA Blackwell ซึ่งรวมถึงการเพิ่มแบนด์วิดท์ NVLink เป็นสองเท่า, การขยายขนาดโดเมน Scale-Up ของ NVLink จาก 8 เป็น 72 GPU และการรวม Dynamo สำหรับ Disaggregated Inference, NVIDIA สามารถบรรลุ ประสิทธิภาพการอนุมาน MoE ต่อวัตต์ที่เพิ่มขึ้นถึง 50 เท่า

    แพลตฟอร์ม NVIDIA Vera Rubin ยังขยายขีดความสามารถนี้ด้วยการเพิ่มแบนด์วิดท์ NVLink และพลังประมวลผลภายในเครือข่ายเป็นสองเท่า

    เมื่อสถาปัตยกรรมโมเดลมีการพัฒนา เครือข่ายฮาร์ดแวร์และสแต็กการสื่อสารซอฟต์แวร์ก็จะพัฒนาไปพร้อมกัน แนวทางการพัฒนาแบบ Extreme Co-Design นี้ต้องการการทำงานร่วมกันอย่างใกล้ชิดตลอดทั้งสแต็ก ซึ่งไม่สามารถทำซ้ำได้ด้วยแนวทางการพัฒนาแบบแยก

    ขอบคุณ แหล่งข้อมูล
    https://developer.nvidia.com/blog/nvidia-nvlink-the-scale-up-network-for-ai-factories/

    NVIDIA NVLink: เครือข่าย Scale-Up สำหรับ AI Factory ยุคใหม่ความต้องการใช้งาน AI กำลังเติบโตอย่างก้าวกระโดด โมเดล AI มีขนาดใหญ่ซับซ้อนขึ้นเรื่อยๆ และแรงกดดันในการนำโครงสร้างพื้นฐาน AI มาใช้งานจริงก็สูงขึ้นกว่าที่เคย การสร้าง "AI Factory" ซึ่งเป็นระบบขนาดใหญ่ระดับ Data Center ที่แปลงข้อมูลและพลังงานให้เป็นสติปัญญาอย่างต่อเนื่อง จึงเป็นหัวใจสำคัญในการตอบสนองความต้องการอันมหาศาลนี้แนวทาง AI Factory ได้เปลี่ยนโฉมการออกแบบและการดำเนินงานของ Data Center ไปอย่างสิ้นเชิง ไม่ใช่แค่เพียงประสิทธิภาพการประมวลผลสูงสุด (Peak Accelerator FLOPS) เท่านั้นที่สำคัญอีกต่อไป แต่เวิร์กโหลด AI ในปัจจุบัน รวมถึงโมเดลที่มีพารามิเตอร์หลายล้านล้านตัว, สถาปัตยกรรมแบบ Mixture-of-Experts (MoE), การประมวลผลบริบทที่ยาวนาน (Long-Context Reasoning) และการให้บริการแบบกระจายศูนย์ (Disaggregated Serving) ล้วนต้องการให้ GPU จำนวนมากทำงานร่วมกันเสมือนเป็นหน่วยประมวลผลเดียว การจะบรรลุเป้าหมายนี้ได้ จำเป็นต้องมี การสื่อสารระหว่าง GPU ที่มีแบนด์วิดท์สูงและมีความหน่วงต่ำ (Low Latency), การประมวลผลภายในเครือข่ายที่รวดเร็ว (Fast In-Network Compute) สำหรับการดำเนินการแบบรวม (Collective Operations) และ การจัดตารางทรัพยากรที่รับรู้ถึงซอฟต์แวร์ (Software-Aware Scheduling)ด้วยจำนวนส่วนประกอบที่มากมายมหาศาล ความทนทาน (Resiliency) จึงต้องถูกสร้างขึ้นในระดับ Data Center ทั้งหมด การก้าวให้ทันกับการพัฒนาของ AI ต้องการเทคโนโลยีและห่วงโซ่อุปทานที่สามารถเคลื่อนไหวได้ด้วยความเร็วเท่ากับการพัฒนานวัตกรรมในอุตสาหกรรมนี่คือเหตุผลว่าทำไม เครือข่ายแบบ Scale-Up จึงกลายเป็นหนึ่งในการตัดสินใจทางสถาปัตยกรรมที่สำคัญที่สุดสำหรับ AI Factory เครือข่าย Scale-Up คือสิ่งที่ทำให้ GPU ทำงานร่วมกันเป็นหน่วยประมวลผลเดียว กำหนดประสิทธิภาพในการส่งต่อ Token ระหว่างผู้เชี่ยวชาญ, ความรวดเร็วในการดำเนินการแบบรวม (Collective Operations) และปริมาณงานที่มีประสิทธิภาพที่โรงงานสามารถส่งมอบได้ เป็นปัจจัยสำคัญในการลดความเสี่ยงของผู้ปฏิบัติงานเมื่อนำแพลตฟอร์มใหม่มาใช้งานNVIDIA NVLink: หัวใจสำคัญของเครือข่าย Scale-Up สำหรับ AI FactoryNVIDIA NVLink คือเครือข่าย Scale-Up ที่ออกแบบมาโดยเฉพาะสำหรับ AI Factory ถูกสร้างขึ้นเพื่อเร่งความเร็วการอนุมาน (Inference), การฝึก (Training) และเวิร์กโหลดการประมวลผลแบบขนานอื่นๆ ที่ต้องการการสื่อสารระหว่าง GPU ขนาดใหญ่และรวดเร็วNVLink รุ่นที่ 6 (Sixth Generation) พร้อมด้วย NVLink 6 Switch นำเสนอ แบนด์วิดท์ GPU-to-GPU สูงสุด พร้อม ความหน่วงต่ำที่สุด ในรูปแบบ All-to-All Topology สำหรับเครือข่าย Scale-Up นอกจากนี้ยังรองรับการประมวลผลภายในเครือข่าย (In-Network Compute) ผ่าน SHARP เพื่อถ่ายโอนภาระการดำเนินการแบบรวม (Collective Operations) และมีฟีเจอร์ความทนทานระดับ Rack ที่ออกแบบมาเพื่อการทำงานของ AI Factory อย่างต่อเนื่องNVLink พัฒนาขึ้นด้วยแนวทาง Extreme Co-Design ซึ่งเป็นการออกแบบและปรับแต่งฮาร์ดแวร์และซอฟต์แวร์ทั้งสแต็ก ตั้งแต่ชิป ระบบ เครือข่าย ไปจนถึงซอฟต์แวร์ ให้ทำงานร่วมกันอย่างสมบูรณ์ NVLink เป็นส่วนหนึ่งของแผนงานโครงสร้างพื้นฐาน AI ประจำปีของ NVIDIA ด้วยเทคโนโลยีที่สมบูรณ์ มีการใช้งานมายาวนาน และแพร่หลาย ทำให้ NVLink กลายเป็นกระดูกสันหลังของโครงสร้างพื้นฐาน AI ในยุคปัจจุบันกลไกเบื้องหลังที่ทำให้ Scale-Up Networking ขับเคลื่อนเศรษฐศาสตร์ของ AI Factoryเครือข่ายแบบ Scale-out (เช่น NVIDIA Quantum InfiniBand และ NVIDIA Spectrum-X Ethernet) ทำหน้าที่เชื่อมต่อเซิร์ฟเวอร์ทั่วทั้ง Data Center ในขณะที่เครือข่ายแบบ Scale-up (เช่น NVLink) จะเชื่อมต่อ GPU ภายในโดเมนเดียวให้มีแบนด์วิดท์สูง, ความหน่วงต่ำที่คาดการณ์ได้ และหน่วยความจำแบนด์วิดท์สูง (HBM) ที่ใช้ร่วมกัน ทั้งสองแบบมีความสำคัญ แต่แก้ปัญหาที่แตกต่างกันเครือข่าย Scale-out มีความสำคัญอย่างยิ่งสำหรับเวิร์กโหลดการฝึก AI แบบ Data-Parallel ขนาดใหญ่ (รวมถึงการจำลองทางวิทยาศาสตร์ขนาดใหญ่) ที่อาจครอบคลุม GPU หลายพันถึงหลายแสนตัว แต่สำหรับ AI Training และ Inference ในปัจจุบัน โดเมน Scale-up คือจุดที่รูปแบบการสื่อสารที่ไวต่อความหน่วง (Latency-Sensitive) ส่วนใหญ่เกิดขึ้นลองพิจารณาตัวอย่างการอนุมาน (Inference) ด้วยโมเดล MoE:การนำโมเดล MoE ไปใช้งานอย่างมีประสิทธิภาพมักใช้ Expert Parallelism เพื่อกระจายผู้เชี่ยวชาญ (Experts) ไปยัง GPU ต่างๆ และใช้ Batch Size ขนาดใหญ่ เพื่อเพิ่มปริมาณงานสูงสุดของโรงงาน วิธีนี้จะช่วยขนานเวิร์กโหลด แต่ก็สร้างการสื่อสารแบบ All-to-All ที่เข้มข้นระหว่าง GPU Token จะต้องถูกส่งไปยังผู้เชี่ยวชาญที่เลือก, ประมวลผล, รวบรวม, จัดลำดับใหม่ และส่งต่อไปยังขั้นตอนถัดไปการสื่อสารระหว่าง GPU ทั้งหมดนี้ต้องเกิดขึ้นพร้อมกัน หากเครือข่ายที่มีแบนด์วิดท์ต่ำหรือมีความหน่วงสูงมาขวางกั้น ประโยชน์ที่ได้จาก Expert Parallelism ก็อาจถูกบดบังด้วยค่าใช้จ่ายในการสื่อสาร ปรากฏการณ์เดียวกันนี้เกิดขึ้นระหว่างการฝึกโมเดล MoEประเด็นสำคัญคือ แบนด์วิดท์ All-to-All และความหน่วง มีความสำคัญอย่างยิ่งต่อประสิทธิภาพของ AI Factory AI Factory ต้องการเครือข่าย Scale-Up ที่ออกแบบมาโดยเฉพาะ ซึ่งทำงานร่วมกับส่วนอื่นๆ ของระบบ เพื่อส่งมอบและรักษาความสามารถเหล่านี้ภายใต้ภาระงานที่หนักหน่วง และครอบคลุมทุกเวิร์กโหลด เครือข่าย Scale-Up ช่วยเพิ่มผลตอบแทนจากการลงทุน (ROI) ด้วยการเพิ่มประสิทธิภาพของ Token ที่ส่งมอบต่อวัตต์, ต่อดอลลาร์ และต่อพื้นที่โรงงาน นำไปสู่การฝึกที่สั้นลง, การใช้งานที่สูงขึ้น และต้นทุนต่อ Token ที่ต่ำลงสำหรับ AI FactoryNVIDIA ได้แสดงให้เห็นถึงผลกระทบของเครือข่าย Scale-Up ที่มีแบนด์วิดท์สูงและหน่วงต่ำในโมเดล MoE ขนาดใหญ่ สำหรับโมเดลอย่าง DeepSeek-R1 และ Qwen 235B รวมถึง LLM จำลองขนาด 2T พารามิเตอร์ NVLink สามารถส่งมอบ Throughput ในการถอดรหัส (Decode Throughput) ได้สูงถึง 2.3 เท่า เมื่อเทียบกับโซลูชัน Ethernet สำเร็จรูปชั้นนำการประเมินเทคโนโลยี Scale-Upเอกสารข้อมูลทางเทคนิค (Spec Sheets) มักเปรียบเทียบเครือข่ายโดยใช้ตัวเลขแบนด์วิดท์ง่ายๆ เช่น อัตราการเชื่อมต่อ (Link Rate), ความจุรวมของสวิตช์ (Aggregate Switch Capacity) หรือแบนด์วิดท์สูงสุดต่ออุปกรณ์ ตัวเลขเหล่านี้มีประโยชน์ แต่ไม่เพียงพอการประเมินความสามารถของ Scale-Up สำหรับเวิร์กโหลด AI ในปัจจุบัน จำเป็นต้องมองในมุมมองของ ระดับโรงงาน (Factory-Level View) ประสิทธิภาพของระบบที่ส่งมอบได้ (Delivered Performance) จะกำหนดจำนวน Token ที่สามารถประมวลผลและส่งมอบได้ต่อหน่วยเวลา, พลังงาน และพื้นที่โรงงาน ซึ่งขึ้นอยู่กับปัจจัยต่างๆ เช่น:แบนด์วิดท์ All-to-All ของเครือข่ายความหน่วงแบบ End-to-End (จากหน่วยความจำ HBM ของ GPU หนึ่ง ไปยังหน่วยความจำ HBM ของ GPU อื่น ผ่านเครือข่าย)ความสามารถในการประมวลผลภายในเครือข่าย (In-Network Compute) สำหรับการดำเนินการแบบลดทอน (Reductions) และการดำเนินการแบบรวมอื่นๆซอฟต์แวร์ที่ผสานรวมอย่างสมบูรณ์ในทุกระดับ ซึ่งสามารถปรับแต่งการกำหนดเส้นทาง (Routing), เปิดเผยการดำเนินการแบบรวม (Expose Collectives), ปรับสมดุลการรับส่งข้อมูลบนลิงก์ (Balance Link Traffic), จัดลำดับการถ่ายโอนข้อมูล (Pipeline Data Transfers) และรองรับไลบรารีและเฟรมเวิร์กที่เวิร์กโหลด AI ในปัจจุบันใช้งานประสิทธิภาพที่ส่งมอบได้จะมีค่าก็ต่อเมื่อโรงงานสามารถ ทำงานได้อย่างต่อเนื่อง (Operational) ความสามารถในการทำงานเป็นระยะเวลานานโดยไม่มีความล้มเหลว, การตรวจสอบสุขภาพของระบบอย่างต่อเนื่อง และการสนับสนุนการบริการและการบำรุงรักษาในระดับส่วนประกอบ ขณะที่โรงงานส่วนที่เหลือยังคงดำเนินงานอยู่ จะช่วยแปลงประสิทธิภาพที่ส่งมอบได้ให้กลายเป็น ปริมาณงานจริง (Goodput) ซึ่งคือความสามารถของโรงงานในการผลิตตลอดอายุการใช้งานทั้งหมดการบรรลุประสิทธิภาพที่ส่งมอบได้และ Goodput ที่เหมาะสมที่สุดสำหรับเวิร์กโหลดที่หลากหลายผ่านเทคโนโลยีที่ซับซ้อน เป็นความท้าทายที่ยากยิ่ง ซึ่งได้รับการแก้ไขผ่านการเรียนรู้มาหลายปีด้วยโครงสร้างพื้นฐาน Scale-Up ที่ใช้งานอย่างแพร่หลายและห่วงโซ่อุปทานที่แข็งแกร่ง การใช้สแต็กเทคโนโลยีที่ยังไม่ผ่านการพิสูจน์ หรือโซลูชันที่ไม่ได้รับการออกแบบมาโดยเฉพาะสำหรับเครือข่าย Scale-Up มีความเสี่ยงที่จะได้ประสิทธิภาพโรงงานที่ต่ำกว่ามาตรฐาน, เหตุการณ์ Downtime ที่ก่อกวน และการจัดหาที่ไม่น่าเชื่อถือโดยรวมแล้ว ตัวชี้วัดเหล่านี้จะขับเคลื่อนผลลัพธ์เดียวที่สำคัญที่สุด: ผลตอบแทนจากการลงทุนที่ยั่งยืนและเชื่อถือได้ตลอดอายุการใช้งานของ AI Factoryตัวชี้วัดหลักสำหรับเครือข่าย Scale-Up ใน AI FactoriesNVLink: ประสิทธิภาพ, ความทนทาน, และความเป็นผู้ใหญ่NVLink ในรุ่นที่หก (Sixth Generation) นำเสนอประสิทธิภาพที่ส่งมอบได้และความทนทานที่จำเป็นในการเพิ่ม Goodput ของโรงงานให้สูงสุด ด้วยการลงทุนในเทคโนโลยี Scale-Up มากว่าทศวรรษและการใช้งานที่ได้รับการพิสูจน์แล้วในกลุ่ม Hyperscalers, Cloud Service Providers (CSPs) และศูนย์ Supercomputing ชั้นนำของโลกประสิทธิภาพระดับโลก:ด้วยแพลตฟอร์ม NVIDIA Vera Rubin NVL72, NVLink รุ่นที่ 6 มอบแบนด์วิดท์ GPU-to-GPU แบบสองทิศทาง 3.6 TB/s ต่อ GPU และแบนด์วิดท์ GPU ระดับ Rack 260 TB/s ในโดเมน 72 GPU ความหน่วง End-to-End สำหรับการถ่ายโอนข้อมูล GPU-to-GPU ต่ำกว่าโซลูชัน Ethernet สำเร็จรูปถึง 3 เท่า และอัตราแพ็กเก็ต สูงกว่าถึง 10 เท่าNVLink 6 Switch Tray แต่ละชุดประกอบด้วยชิป NVLink 6 จำนวน 4 ตัว, แบนด์วิดท์รวมของ Tray 28.8 TB/s และพลังประมวลผล FP8 ภายในเครือข่าย 14.4 TFLOPS สำหรับเร่งการดำเนินการแบบลดทอน (Reductions) และการดำเนินการแบบรวมอื่นๆ ใน Rack Vera Rubin NVL72 เพียงหนึ่งเดียว NVLink 6 ให้แบนด์วิดท์รวม 260 TB/s และพลังประมวลผลภายในเครือข่าย 130 TFLOPSแผนงานเทคโนโลยี NVLink ยังรองรับขนาดโดเมน Scale-Up สูงสุดถึง 1152 GPU และการเชื่อมต่อผ่าน Co-packaged Opticsซอฟต์แวร์เป็นส่วนสำคัญของสแต็กเครือข่าย Scale-Up ประกอบด้วย NVIDIA Dynamo, NVIDIA TensorRT-LLM, NVIDIA Collective Communications Library (NCCL) และอื่นๆ ซึ่งทั้งหมดสร้างอยู่บน NVIDIA CUDA แพลตฟอร์มการประมวลผลแบบขนานชั้นนำของโลกที่เปิดตัวครั้งแรกเมื่อเกือบ 20 ปีที่แล้วฮาร์ดแวร์และซอฟต์แวร์ได้รับการพัฒนาด้วย Extreme Co-Design ซึ่งนำไปสู่การเพิ่มประสิทธิภาพที่ไม่สามารถทำได้ด้วยส่วนประกอบที่แยกออกจากกัน สำหรับเวิร์กโหลด AI ในปัจจุบัน นี่หมายถึงการปรับปรุงเศรษฐศาสตร์โครงสร้างพื้นฐานโดยตรงตัวอย่างเช่น ในการเปลี่ยนผ่านจาก NVIDIA Hopper ไปยัง NVIDIA Blackwell ซึ่งรวมถึงการเพิ่มแบนด์วิดท์ NVLink เป็นสองเท่า, การขยายขนาดโดเมน Scale-Up ของ NVLink จาก 8 เป็น 72 GPU และการรวม Dynamo สำหรับ Disaggregated Inference, NVIDIA สามารถบรรลุ ประสิทธิภาพการอนุมาน MoE ต่อวัตต์ที่เพิ่มขึ้นถึง 50 เท่าแพลตฟอร์ม NVIDIA Vera Rubin ยังขยายขีดความสามารถนี้ด้วยการเพิ่มแบนด์วิดท์ NVLink และพลังประมวลผลภายในเครือข่ายเป็นสองเท่าเมื่อสถาปัตยกรรมโมเดลมีการพัฒนา เครือข่ายฮาร์ดแวร์และสแต็กการสื่อสารซอฟต์แวร์ก็จะพัฒนาไปพร้อมกัน แนวทางการพัฒนาแบบ Extreme Co-Design นี้ต้องการการทำงานร่วมกันอย่างใกล้ชิดตลอดทั้งสแต็ก ซึ่งไม่สามารถทำซ้ำได้ด้วยแนวทางการพัฒนาแบบแยกhttps://developer.nvidia.com/blog/nvidia-nvlink-the-scale-up-network-for-ai-factories/
    Shared content
    DEVELOPER.NVIDIA.COM
    NVIDIA NVLink: The Scale-Up Network for AI Factories
    The demand for AI continues to accelerate. Workloads are getting larger, models are becoming more complex, and there is mounting pressure to deploy AI compute infrastructure faster than ever.
    1 Comments 0 Shares 55 Views 0 Reviews
  • กลยุทธ์ AI ของจีน: การเปิดกว้างคือชัยชนะที่สหรัฐฯ กำลังสูญเสีย

    ในยุคที่ปัญญาประดิษฐ์ (AI) กลายเป็นหัวใจสำคัญของการขับเคลื่อนเศรษฐกิจและเทคโนโลยีทั่วโลก การแข่งขันเพื่อความเป็นผู้นำในด้านนี้ยิ่งทวีความเข้มข้นขึ้นเรื่อยๆ สหรัฐอเมริกาซึ่งเคยเป็นผู้นำมายาวนาน กำลังเผชิญกับความท้าทายครั้งใหญ่จากกลยุทธ์ที่แตกต่างออกไปของจีน โดยเฉพาะอย่างยิ่งการเปิดกว้างของโมเดล AI ที่กำลังสร้างความได้เปรียบอย่างมหาศาล

    ทำไมโมเดล AI ถึงเป็นเหมือน "สินค้าที่ไม่มีคูลึก"

    ในมุมมองของผลิตภัณฑ์ AI โดยตัวมันเองนั้น มี "คูลึก" (Moat) หรือความได้เปรียบทางการแข่งขันที่ยั่งยืนน้อยมาก นอกเหนือจากสิ่งที่เรียกว่า "ความภักดีต่อแบรนด์" และ "ต้นทุนการเปลี่ยนผ่านที่ผิวเผิน" ความได้เปรียบที่แท้จริงนั้นอยู่ที่ บริการระดับองค์กรที่อยู่รอบข้างโมเดล AI เช่น ข้อตกลงและสัญญาต่างๆ การเชื่อมต่อกับระบบองค์กรที่มีอยู่ และคุณสมบัติที่ช่วยอำนวยความสะดวกในการใช้งานในบริบทขององค์กร

    หากเราพิจารณาที่ตัวโมเดล AI เอง การสลับสับเปลี่ยนระหว่างโมเดลต่างๆ นั้นทำได้ง่ายมาก ผู้ใช้งานอาจใช้ ChatGPT ในวันนี้ และเปลี่ยนไปใช้ Claude ในวันพรุ่งนี้ โดยแทบไม่มีผลกระทบต่อกระบวนการทำงาน โดยเฉพาะอย่างยิ่งในโลกของวิศวกรรมที่โมเดล AI มักถูกเข้าถึงผ่าน API การเปลี่ยน API เพื่อใช้งาน Prompt เดิมนั้นทำได้ง่ายดาย

    แม้บริษัทต่างๆ จะสามารถทำข้อตกลงเพื่อ "ล็อก" ลูกค้าให้อยู่กับตนเองได้ แต่ในทางปฏิบัติแล้ว แรงจูงใจทางเทคนิคในระยะยาวสำหรับการใช้ผู้ให้บริการรายหนึ่งมากกว่าอีกรายนั้นมีน้อยมาก ผู้ใช้งานมักจะเลือกโมเดลที่ดีที่สุดสำหรับความต้องการของตน และพร้อมที่จะเปลี่ยนโมเดลและผู้ให้บริการหากมีสิ่งที่ดีกว่าเกิดขึ้น

    ปัญหาของกลยุทธ์ "ปิดล็อก" ของสหรัฐฯ

    สหรัฐอเมริกาได้ดำเนินนโยบายที่ส่งผลให้เกิดการ "ปิดล็อก" เทคโนโลยี AI ในหลายมิติ:

    • การควบคุมการส่งออก GPU: รัฐบาลสหรัฐฯ มีการควบคุมการส่งออกชิปประมวลผลกราฟิก (GPU) ซึ่งเป็นหัวใจสำคัญในการฝึกฝนโมเดล AI
    • กฎระเบียบที่เข้มงวด: มีกฎระเบียบที่เข้มงวด (ซึ่งสมเหตุสมผล) ในการป้องกันการแชร์ข้อมูลบางประเภทกับเซิร์ฟเวอร์ของจีน

    ผลลัพธ์คือ แม้บริษัทจีนจะมีพลังประมวลผลเพียงพอสำหรับการฝึกฝนโมเดล แต่พวกเขากลับไม่สามารถให้บริการในระดับโลกแบบรวมศูนย์ได้เหมือนกับที่บริษัทอย่าง OpenAI และ Anthropic ทำได้

    ชัยชนะของ "การเปิดกว้าง"

    ในทางตรงกันข้าม "การเปิดกว้าง" มักจะเป็นผู้ชนะเสมอเมื่อพูดถึงการยอมรับเทคโนโลยีโครงสร้างพื้นฐาน เทคโนโลยีแบบเปิดสามารถนำไปใช้งานได้โดยเสรี (Permissionless) ซึ่งนำไปสู่นวัตกรรมที่มากขึ้น ผู้ใช้งานสามารถโฮสต์โมเดลได้ตามต้องการ ทดลอง ปรับเปลี่ยน และปรับแต่งให้เข้ากับกรณีการใช้งานของตนเองได้ โมเดลที่มี "Open Weights" ไม่ได้หมายถึง Open Source เสมอไป แต่มีความสามารถในการพกพาและใช้งานได้อย่างเสรี

    ด้วยปัจจัยเหล่านี้ การที่จีนเลือกที่จะเผยแพร่โมเดล AI ของตนเองอย่างเปิดเผย จึงเป็นกลยุทธ์ที่ชาญฉลาด:

    1. เปลี่ยนข้อเสียเปรียบด้านการประมวลผลให้เป็นข้อได้เปรียบด้านการกระจาย: การเปิดกว้างช่วยให้โมเดลเข้าถึงได้กว้างขวาง
    2. ทำให้ชั้นโมเดลที่บริษัทอเมริกันทำกำไร กลายเป็นสินค้าโภคภัณฑ์: เมื่อโมเดลพื้นฐานเข้าถึงได้ง่าย การแข่งขันจะย้ายไปสู่บริการเสริม
    3. สร้างระบบนิเวศทั่วโลกที่มีประสิทธิภาพ: ระบบนิเวศที่แข็งแกร่งจะเกิดขึ้นได้จากการร่วมมือ มากกว่าการบริการแบบปิด

    เห็นได้ชัดว่ามีประโยชน์ต่อระบบนิเวศในจีน ตั้งแต่ภาคการผลิตไปจนถึงการวิจัยทางวิทยาศาสตร์ ทุกภาคส่วนสามารถนำโมเดลเหล่านี้ไปใช้ประโยชน์ได้ทันที

    ช่องว่างที่กำลังปิดลง: ความสามารถของ AI จีน

    ปัจจัยที่เคยช่วยบริษัทอเมริกันไว้คือโมเดลระดับแนวหน้าของสหรัฐฯ ที่มีประสิทธิภาพเหนือกว่าโมเดลแบบเปิด แต่ช่องว่างนี้กำลังถูกปิดลงอย่างรวดเร็ว

    บริษัทอย่าง Moonshot และ Alibaba ได้เปิดตัวโมเดลที่อ้างว่าสามารถแข่งขันกับโมเดลที่ดีที่สุดจาก OpenAI และ Anthropic ได้ ในราคาที่ถูกกว่ามาก การเปิดตัวที่รวดเร็วเหล่านี้บ่งชี้ว่าความเป็นผู้นำของอเมริกาในแนวหน้าของ AI กำลังถูกท้าทายอย่างหนัก ในขณะที่เทคโนโลยีนี้กำลังกลายเป็นศูนย์กลางของความมั่นคงของชาติ อำนาจทางเศรษฐกิจ และอิทธิพลทางภูมิรัฐศาสตร์

    แม้ว่าจะไม่มีความสามารถใหม่เหล่านี้ กลยุทธ์การเปิดกว้างของจีนก็เริ่มเห็นผลแล้ว Martin Casado หุ้นส่วนของ a16z ชี้ให้เห็นว่า มีโอกาส 80% ที่สตาร์ทอัพใดๆ จะใช้โมเดลจากจีน และโมเดลจีนกำลังอยู่ในเส้นทางที่จะก้าวขึ้นเป็นผู้นำ

    ข้อสังเกตที่น่าประหลาดใจ: สหรัฐฯ ปิดกั้น เทียบกับ จีนเปิดกว้าง

    เรามักมองว่าจีนเป็นสังคมที่ "ปิดล็อก" ซึ่งก็เป็นจริงในหลายแง่มุม และมีความกังวลเกี่ยวกับมุมมองของรัฐบาลจีนที่อาจสะท้อนอยู่ในโมเดล AI เหล่านั้น (ลองถามโมเดล AI เกี่ยวกับเหตุการณ์ที่จัตุรัสเทียนอันเหมิน) แต่กลับกลายเป็นว่า บริษัทอเมริกันต่างหากที่กำลังควบคุมเทคโนโลยีของตนเองอย่างเข้มงวด แทนที่จะเผยแพร่อย่างเปิดกว้างที่สุดเท่าที่จะทำได้ ซึ่งตรงกันข้ามกับกลยุทธ์ที่รัฐบาลสหรัฐฯ เคยสนับสนุนอินเทอร์เน็ตแบบเปิด

    การดำเนินธุรกิจแบบ "ปิดล็อก" สำหรับเทคโนโลยีที่แทบไม่มี "คูลึก" แต่มีศักยภาพในการสร้างประโยชน์ต่อระบบนิเวศอย่างมหาศาลนั้น เป็นกลยุทธ์ที่เห็นได้ชัดว่ากำลังจะพ่ายแพ้ ในขณะที่การเผยแพร่เทคโนโลยีอย่างเปิดกว้างด้วยแนวทางความร่วมมือคือกลยุทธ์ที่กำลังจะชนะ

    แต่แรงจูงใจในสหรัฐฯ กลับไม่เป็นเช่นนั้น บริษัทต่างๆ กลับถูกบังคับให้ไล่ตามผลกำไรในระดับแรก แทนที่จะเป็นประโยชน์ต่อระบบนิเวศ และรัฐบาลก็พยายามเข้ามาแทรกแซงผ่านมาตรการบังคับ เช่น การควบคุมการส่งออกที่เข้มงวด เราควรพิจารณาว่าอะไรคือสิ่งที่ต้องเปลี่ยนแปลงเพื่อให้แรงจูงใจเหล่านี้สอดคล้องกันมากขึ้น ซึ่งเป็นสิ่งสำคัญอย่างยิ่งเมื่อพิจารณาว่าเศรษฐกิจสหรัฐฯ ส่วนใหญ่ขับเคลื่อนโดยการใช้จ่ายด้าน AI ในปัจจุบัน หากการใช้จ่ายนี้ "ตกเหว" ลงไป (ซึ่งผู้เขียนเชื่อว่าจะเป็นเช่นนั้นอย่างแน่นอน จากพลวัตที่กำลังเกิดขึ้น) ผลลัพธ์อาจรุนแรง

    ผู้เขียนให้ความสำคัญกับการมีเทคโนโลยีที่เปิดกว้างซึ่งสามารถนำไปใช้เพื่อประโยชน์สาธารณะ และสอดคล้องกับค่านิยมของสาธารณชน การพัฒนา AI สาธารณะ บริการแบบสหพันธรัฐ (Federated Services) และการวิจัยแบบเปิด กำลังได้รับความสนใจ แต่ต้องการการสนับสนุน การจะไปถึงจุดนั้นในสหรัฐฯ ต้องการกลยุทธ์และการสนับสนุนที่ละเอียดอ่อนกว่าที่เราเห็นในปัจจุบัน

    #AI #เทคโนโลยี #สหรัฐอเมริกา #จีน

    ขอบคุณ แหล่งข้อมูล
    https://werd.io/american-ai-is-locked-down-and-proprietary-its-losing/

    กลยุทธ์ AI ของจีน: การเปิดกว้างคือชัยชนะที่สหรัฐฯ กำลังสูญเสียในยุคที่ปัญญาประดิษฐ์ (AI) กลายเป็นหัวใจสำคัญของการขับเคลื่อนเศรษฐกิจและเทคโนโลยีทั่วโลก การแข่งขันเพื่อความเป็นผู้นำในด้านนี้ยิ่งทวีความเข้มข้นขึ้นเรื่อยๆ สหรัฐอเมริกาซึ่งเคยเป็นผู้นำมายาวนาน กำลังเผชิญกับความท้าทายครั้งใหญ่จากกลยุทธ์ที่แตกต่างออกไปของจีน โดยเฉพาะอย่างยิ่งการเปิดกว้างของโมเดล AI ที่กำลังสร้างความได้เปรียบอย่างมหาศาลทำไมโมเดล AI ถึงเป็นเหมือน "สินค้าที่ไม่มีคูลึก"ในมุมมองของผลิตภัณฑ์ AI โดยตัวมันเองนั้น มี "คูลึก" (Moat) หรือความได้เปรียบทางการแข่งขันที่ยั่งยืนน้อยมาก นอกเหนือจากสิ่งที่เรียกว่า "ความภักดีต่อแบรนด์" และ "ต้นทุนการเปลี่ยนผ่านที่ผิวเผิน" ความได้เปรียบที่แท้จริงนั้นอยู่ที่ บริการระดับองค์กรที่อยู่รอบข้างโมเดล AI เช่น ข้อตกลงและสัญญาต่างๆ การเชื่อมต่อกับระบบองค์กรที่มีอยู่ และคุณสมบัติที่ช่วยอำนวยความสะดวกในการใช้งานในบริบทขององค์กรหากเราพิจารณาที่ตัวโมเดล AI เอง การสลับสับเปลี่ยนระหว่างโมเดลต่างๆ นั้นทำได้ง่ายมาก ผู้ใช้งานอาจใช้ ChatGPT ในวันนี้ และเปลี่ยนไปใช้ Claude ในวันพรุ่งนี้ โดยแทบไม่มีผลกระทบต่อกระบวนการทำงาน โดยเฉพาะอย่างยิ่งในโลกของวิศวกรรมที่โมเดล AI มักถูกเข้าถึงผ่าน API การเปลี่ยน API เพื่อใช้งาน Prompt เดิมนั้นทำได้ง่ายดายแม้บริษัทต่างๆ จะสามารถทำข้อตกลงเพื่อ "ล็อก" ลูกค้าให้อยู่กับตนเองได้ แต่ในทางปฏิบัติแล้ว แรงจูงใจทางเทคนิคในระยะยาวสำหรับการใช้ผู้ให้บริการรายหนึ่งมากกว่าอีกรายนั้นมีน้อยมาก ผู้ใช้งานมักจะเลือกโมเดลที่ดีที่สุดสำหรับความต้องการของตน และพร้อมที่จะเปลี่ยนโมเดลและผู้ให้บริการหากมีสิ่งที่ดีกว่าเกิดขึ้นปัญหาของกลยุทธ์ "ปิดล็อก" ของสหรัฐฯสหรัฐอเมริกาได้ดำเนินนโยบายที่ส่งผลให้เกิดการ "ปิดล็อก" เทคโนโลยี AI ในหลายมิติ:การควบคุมการส่งออก GPU: รัฐบาลสหรัฐฯ มีการควบคุมการส่งออกชิปประมวลผลกราฟิก (GPU) ซึ่งเป็นหัวใจสำคัญในการฝึกฝนโมเดล AIกฎระเบียบที่เข้มงวด: มีกฎระเบียบที่เข้มงวด (ซึ่งสมเหตุสมผล) ในการป้องกันการแชร์ข้อมูลบางประเภทกับเซิร์ฟเวอร์ของจีนผลลัพธ์คือ แม้บริษัทจีนจะมีพลังประมวลผลเพียงพอสำหรับการฝึกฝนโมเดล แต่พวกเขากลับไม่สามารถให้บริการในระดับโลกแบบรวมศูนย์ได้เหมือนกับที่บริษัทอย่าง OpenAI และ Anthropic ทำได้ชัยชนะของ "การเปิดกว้าง"ในทางตรงกันข้าม "การเปิดกว้าง" มักจะเป็นผู้ชนะเสมอเมื่อพูดถึงการยอมรับเทคโนโลยีโครงสร้างพื้นฐาน เทคโนโลยีแบบเปิดสามารถนำไปใช้งานได้โดยเสรี (Permissionless) ซึ่งนำไปสู่นวัตกรรมที่มากขึ้น ผู้ใช้งานสามารถโฮสต์โมเดลได้ตามต้องการ ทดลอง ปรับเปลี่ยน และปรับแต่งให้เข้ากับกรณีการใช้งานของตนเองได้ โมเดลที่มี "Open Weights" ไม่ได้หมายถึง Open Source เสมอไป แต่มีความสามารถในการพกพาและใช้งานได้อย่างเสรีด้วยปัจจัยเหล่านี้ การที่จีนเลือกที่จะเผยแพร่โมเดล AI ของตนเองอย่างเปิดเผย จึงเป็นกลยุทธ์ที่ชาญฉลาด:เปลี่ยนข้อเสียเปรียบด้านการประมวลผลให้เป็นข้อได้เปรียบด้านการกระจาย: การเปิดกว้างช่วยให้โมเดลเข้าถึงได้กว้างขวางทำให้ชั้นโมเดลที่บริษัทอเมริกันทำกำไร กลายเป็นสินค้าโภคภัณฑ์: เมื่อโมเดลพื้นฐานเข้าถึงได้ง่าย การแข่งขันจะย้ายไปสู่บริการเสริมสร้างระบบนิเวศทั่วโลกที่มีประสิทธิภาพ: ระบบนิเวศที่แข็งแกร่งจะเกิดขึ้นได้จากการร่วมมือ มากกว่าการบริการแบบปิดเห็นได้ชัดว่ามีประโยชน์ต่อระบบนิเวศในจีน ตั้งแต่ภาคการผลิตไปจนถึงการวิจัยทางวิทยาศาสตร์ ทุกภาคส่วนสามารถนำโมเดลเหล่านี้ไปใช้ประโยชน์ได้ทันทีช่องว่างที่กำลังปิดลง: ความสามารถของ AI จีนปัจจัยที่เคยช่วยบริษัทอเมริกันไว้คือโมเดลระดับแนวหน้าของสหรัฐฯ ที่มีประสิทธิภาพเหนือกว่าโมเดลแบบเปิด แต่ช่องว่างนี้กำลังถูกปิดลงอย่างรวดเร็วบริษัทอย่าง Moonshot และ Alibaba ได้เปิดตัวโมเดลที่อ้างว่าสามารถแข่งขันกับโมเดลที่ดีที่สุดจาก OpenAI และ Anthropic ได้ ในราคาที่ถูกกว่ามาก การเปิดตัวที่รวดเร็วเหล่านี้บ่งชี้ว่าความเป็นผู้นำของอเมริกาในแนวหน้าของ AI กำลังถูกท้าทายอย่างหนัก ในขณะที่เทคโนโลยีนี้กำลังกลายเป็นศูนย์กลางของความมั่นคงของชาติ อำนาจทางเศรษฐกิจ และอิทธิพลทางภูมิรัฐศาสตร์แม้ว่าจะไม่มีความสามารถใหม่เหล่านี้ กลยุทธ์การเปิดกว้างของจีนก็เริ่มเห็นผลแล้ว Martin Casado หุ้นส่วนของ a16z ชี้ให้เห็นว่า มีโอกาส 80% ที่สตาร์ทอัพใดๆ จะใช้โมเดลจากจีน และโมเดลจีนกำลังอยู่ในเส้นทางที่จะก้าวขึ้นเป็นผู้นำข้อสังเกตที่น่าประหลาดใจ: สหรัฐฯ ปิดกั้น เทียบกับ จีนเปิดกว้างเรามักมองว่าจีนเป็นสังคมที่ "ปิดล็อก" ซึ่งก็เป็นจริงในหลายแง่มุม และมีความกังวลเกี่ยวกับมุมมองของรัฐบาลจีนที่อาจสะท้อนอยู่ในโมเดล AI เหล่านั้น (ลองถามโมเดล AI เกี่ยวกับเหตุการณ์ที่จัตุรัสเทียนอันเหมิน) แต่กลับกลายเป็นว่า บริษัทอเมริกันต่างหากที่กำลังควบคุมเทคโนโลยีของตนเองอย่างเข้มงวด แทนที่จะเผยแพร่อย่างเปิดกว้างที่สุดเท่าที่จะทำได้ ซึ่งตรงกันข้ามกับกลยุทธ์ที่รัฐบาลสหรัฐฯ เคยสนับสนุนอินเทอร์เน็ตแบบเปิดการดำเนินธุรกิจแบบ "ปิดล็อก" สำหรับเทคโนโลยีที่แทบไม่มี "คูลึก" แต่มีศักยภาพในการสร้างประโยชน์ต่อระบบนิเวศอย่างมหาศาลนั้น เป็นกลยุทธ์ที่เห็นได้ชัดว่ากำลังจะพ่ายแพ้ ในขณะที่การเผยแพร่เทคโนโลยีอย่างเปิดกว้างด้วยแนวทางความร่วมมือคือกลยุทธ์ที่กำลังจะชนะแต่แรงจูงใจในสหรัฐฯ กลับไม่เป็นเช่นนั้น บริษัทต่างๆ กลับถูกบังคับให้ไล่ตามผลกำไรในระดับแรก แทนที่จะเป็นประโยชน์ต่อระบบนิเวศ และรัฐบาลก็พยายามเข้ามาแทรกแซงผ่านมาตรการบังคับ เช่น การควบคุมการส่งออกที่เข้มงวด เราควรพิจารณาว่าอะไรคือสิ่งที่ต้องเปลี่ยนแปลงเพื่อให้แรงจูงใจเหล่านี้สอดคล้องกันมากขึ้น ซึ่งเป็นสิ่งสำคัญอย่างยิ่งเมื่อพิจารณาว่าเศรษฐกิจสหรัฐฯ ส่วนใหญ่ขับเคลื่อนโดยการใช้จ่ายด้าน AI ในปัจจุบัน หากการใช้จ่ายนี้ "ตกเหว" ลงไป (ซึ่งผู้เขียนเชื่อว่าจะเป็นเช่นนั้นอย่างแน่นอน จากพลวัตที่กำลังเกิดขึ้น) ผลลัพธ์อาจรุนแรงผู้เขียนให้ความสำคัญกับการมีเทคโนโลยีที่เปิดกว้างซึ่งสามารถนำไปใช้เพื่อประโยชน์สาธารณะ และสอดคล้องกับค่านิยมของสาธารณชน การพัฒนา AI สาธารณะ บริการแบบสหพันธรัฐ (Federated Services) และการวิจัยแบบเปิด กำลังได้รับความสนใจ แต่ต้องการการสนับสนุน การจะไปถึงจุดนั้นในสหรัฐฯ ต้องการกลยุทธ์และการสนับสนุนที่ละเอียดอ่อนกว่าที่เราเห็นในปัจจุบัน#AI #เทคโนโลยี #สหรัฐอเมริกา #จีนhttps://werd.io/american-ai-is-locked-down-and-proprietary-its-losing/
    Shared content
    WERD.IO
    American AI is locked down and proprietary. It's losing.
    China's open-weights AI strategy is winning: its companies are taking the lead. America's closed-first, locked-down strategy is doomed to failure - and it could take the US economy down with it.
    3 Comments 0 Shares 64 Views 0 Reviews
  • ความปลอดภัยของ AI: การสร้างแบบจำลองที่สอดคล้องกับเป้าหมายระยะยาว

    ในยุคที่ปัญญาประดิษฐ์ (AI) พัฒนาไปอย่างก้าวกระโดด การสร้างระบบ AI ที่ไม่เพียงแต่ทรงพลัง แต่ยังปลอดภัยและสอดคล้องกับเป้าหมายของมนุษย์ในระยะยาว ถือเป็นความท้าทายสำคัญที่ OpenAI กำลังให้ความสนใจอย่างยิ่ง

    ทำไมการสร้าง AI ที่สอดคล้องกับเป้าหมายระยะยาวจึงสำคัญ?

    เมื่อ AI มีความสามารถสูงขึ้นเรื่อยๆ เราต้องการให้แน่ใจว่าพฤติกรรมของ AI จะยังคงเป็นไปในทิศทางที่เราต้องการ แม้ในสถานการณ์ที่ซับซ้อนหรือเมื่อ AI ต้องเผชิญกับเป้าหมายที่ยังมาไม่ถึงในอนาคตอันไกลโพ้น ปัญหานี้เรียกว่า "การจัดแนว (Alignment)" ซึ่งหมายถึงการทำให้เป้าหมายของ AI สอดคล้องกับเป้าหมายและความต้องการของมนุษย์

    ความท้าทายของ "เป้าหมายระยะยาว"

    การสร้าง AI ที่มีเป้าหมายระยะยาวนั้นแตกต่างจากการสร้าง AI สำหรับงานเฉพาะหน้า เนื่องจากเป้าหมายระยะยาวมักมีความไม่แน่นอนสูงและอาจเปลี่ยนแปลงได้ตามกาลเวลา AI ที่ถูกฝึกมาให้บรรลุเป้าหมายระยะยาว อาจมีพฤติกรรมที่ไม่คาดคิดในระหว่างทาง หรืออาจตีความเป้าหมายผิดเพี้ยนไปจากความตั้งใจเดิมได้

    แนวทางการวิจัยของ OpenAI

    OpenAI กำลังสำรวจแนวทางต่างๆ เพื่อแก้ไขปัญหานี้ ซึ่งรวมถึง:

    • การเรียนรู้จากข้อมูลที่มนุษย์สร้างขึ้น: พัฒนาวิธีการที่ AI สามารถเรียนรู้จากตัวอย่างการตัดสินใจหรือการกระทำของมนุษย์ เพื่อให้เข้าใจถึงค่านิยมและความต้องการที่ซับซ้อน
    • การสร้างแบบจำลองที่เข้าใจเป้าหมาย: สร้าง AI ที่สามารถทำความเข้าใจและคาดการณ์เป้าหมายระยะยาวได้ดียิ่งขึ้น โดยไม่จำเป็นต้องมีคำสั่งที่ชัดเจนตลอดเวลา
    • การทดสอบและประเมินผล: พัฒนาวิธีการทดสอบ AI ในสถานการณ์จำลองที่หลากหลาย เพื่อประเมินความปลอดภัยและความสอดคล้องของเป้าหมายในระยะยาว

    AI เพื่ออนาคตที่ยั่งยืน

    เป้าหมายสูงสุดคือการสร้าง AI ที่เป็นประโยชน์ต่อมนุษยชาติในระยะยาว ซึ่งหมายถึง AI ที่สามารถช่วยแก้ปัญหาที่ซับซ้อนของโลก เช่น การเปลี่ยนแปลงสภาพภูมิอากาศ โรคภัยไข้เจ็บ หรือความยากจน โดยที่ AI เหล่านั้นยังคงทำงานภายใต้กรอบความปลอดภัยและเป้าหมายที่เรากำหนด

    ความปลอดภัยและการจัดแนวของ AI เป็นการลงทุนเพื่ออนาคต การวิจัยอย่างต่อเนื่องของ OpenAI ในด้านนี้จึงเป็นสิ่งสำคัญอย่างยิ่งในการสร้างความมั่นใจว่าเทคโนโลยี AI จะนำมาซึ่งประโยชน์สูงสุดต่อสังคมโดยรวม

    #AI #ความปลอดภัยAI #OpenAI #เทคโนโลยี

    ขอบคุณ แหล่งข้อมูล
    https://openai.com/index/safety-alignment-long-horizon-models

    ความปลอดภัยของ AI: การสร้างแบบจำลองที่สอดคล้องกับเป้าหมายระยะยาวในยุคที่ปัญญาประดิษฐ์ (AI) พัฒนาไปอย่างก้าวกระโดด การสร้างระบบ AI ที่ไม่เพียงแต่ทรงพลัง แต่ยังปลอดภัยและสอดคล้องกับเป้าหมายของมนุษย์ในระยะยาว ถือเป็นความท้าทายสำคัญที่ OpenAI กำลังให้ความสนใจอย่างยิ่งทำไมการสร้าง AI ที่สอดคล้องกับเป้าหมายระยะยาวจึงสำคัญ?เมื่อ AI มีความสามารถสูงขึ้นเรื่อยๆ เราต้องการให้แน่ใจว่าพฤติกรรมของ AI จะยังคงเป็นไปในทิศทางที่เราต้องการ แม้ในสถานการณ์ที่ซับซ้อนหรือเมื่อ AI ต้องเผชิญกับเป้าหมายที่ยังมาไม่ถึงในอนาคตอันไกลโพ้น ปัญหานี้เรียกว่า "การจัดแนว (Alignment)" ซึ่งหมายถึงการทำให้เป้าหมายของ AI สอดคล้องกับเป้าหมายและความต้องการของมนุษย์ความท้าทายของ "เป้าหมายระยะยาว"การสร้าง AI ที่มีเป้าหมายระยะยาวนั้นแตกต่างจากการสร้าง AI สำหรับงานเฉพาะหน้า เนื่องจากเป้าหมายระยะยาวมักมีความไม่แน่นอนสูงและอาจเปลี่ยนแปลงได้ตามกาลเวลา AI ที่ถูกฝึกมาให้บรรลุเป้าหมายระยะยาว อาจมีพฤติกรรมที่ไม่คาดคิดในระหว่างทาง หรืออาจตีความเป้าหมายผิดเพี้ยนไปจากความตั้งใจเดิมได้แนวทางการวิจัยของ OpenAIOpenAI กำลังสำรวจแนวทางต่างๆ เพื่อแก้ไขปัญหานี้ ซึ่งรวมถึง:การเรียนรู้จากข้อมูลที่มนุษย์สร้างขึ้น: พัฒนาวิธีการที่ AI สามารถเรียนรู้จากตัวอย่างการตัดสินใจหรือการกระทำของมนุษย์ เพื่อให้เข้าใจถึงค่านิยมและความต้องการที่ซับซ้อนการสร้างแบบจำลองที่เข้าใจเป้าหมาย: สร้าง AI ที่สามารถทำความเข้าใจและคาดการณ์เป้าหมายระยะยาวได้ดียิ่งขึ้น โดยไม่จำเป็นต้องมีคำสั่งที่ชัดเจนตลอดเวลาการทดสอบและประเมินผล: พัฒนาวิธีการทดสอบ AI ในสถานการณ์จำลองที่หลากหลาย เพื่อประเมินความปลอดภัยและความสอดคล้องของเป้าหมายในระยะยาวAI เพื่ออนาคตที่ยั่งยืนเป้าหมายสูงสุดคือการสร้าง AI ที่เป็นประโยชน์ต่อมนุษยชาติในระยะยาว ซึ่งหมายถึง AI ที่สามารถช่วยแก้ปัญหาที่ซับซ้อนของโลก เช่น การเปลี่ยนแปลงสภาพภูมิอากาศ โรคภัยไข้เจ็บ หรือความยากจน โดยที่ AI เหล่านั้นยังคงทำงานภายใต้กรอบความปลอดภัยและเป้าหมายที่เรากำหนดความปลอดภัยและการจัดแนวของ AI เป็นการลงทุนเพื่ออนาคต การวิจัยอย่างต่อเนื่องของ OpenAI ในด้านนี้จึงเป็นสิ่งสำคัญอย่างยิ่งในการสร้างความมั่นใจว่าเทคโนโลยี AI จะนำมาซึ่งประโยชน์สูงสุดต่อสังคมโดยรวม#AI #ความปลอดภัยAI #OpenAI #เทคโนโลยีhttps://openai.com/index/safety-alignment-long-horizon-models
    0 Comments 0 Shares 77 Views 0 Reviews
  • Cosmos 3 Edge: พลัง AI สู่โลกแห่งหุ่นยนต์และการมองเห็นบนอุปกรณ์ Edge

    ในยุคที่เครื่องจักรเริ่มเข้ามามีบทบาทสำคัญในหลากหลายอุตสาหกรรม ไม่ว่าจะเป็นโรงงานอุตสาหกรรม คลังสินค้า หรือแม้กระทั่งในโรงพยาบาล การที่เครื่องจักรจะสามารถเข้าใจและโต้ตอบกับสภาพแวดล้อมรอบตัวได้อย่างมีประสิทธิภาพนั้น จำเป็นต้องอาศัยโมเดล AI ที่ทรงพลัง แต่ในขณะเดียวกันก็ต้องสามารถทำงานได้ดีบนระบบที่มีข้อจำกัดด้านหน่วยความจำ

    วันนี้ NVIDIA ได้เปิดตัว Cosmos 3 Edge บน Hugging Face ซึ่งเป็นโมเดล Open World ขนาด 4 พันล้านพารามิเตอร์ ที่ออกแบบมาเพื่อช่วยให้หุ่นยนต์และเอเจนต์ Vision AI สามารถเข้าใจสภาพแวดล้อมรอบตัว ตัดสินใจแบบเรียลไทม์ และสร้างการกระทำของหุ่นยนต์ได้โดยตรงบนอุปกรณ์ Edge

    Cosmos 3 Edge คืออะไร?

    Cosmos 3 Edge คือโมเดล AI ขนาดกะทัดรัดที่ทำงานได้อย่างมีประสิทธิภาพบนอุปกรณ์ Edge โดยมีคุณสมบัติเด่นคือ:

    • ประสิทธิภาพสูงบนอุปกรณ์ Edge: สามารถทำงานได้ดีบนคอมพิวเตอร์ Edge ของ NVIDIA รวมถึง NVIDIA RTX PRO GPUs, NVIDIA DGX, NVIDIA GeForce RTX™ GPUs และ NVIDIA Jetson (รวมถึงโมดูล Jetson T2000 และ T3000 ที่เพิ่งเปิดตัว)
    • Vision Language Model (VLM) ขนาดเล็ก: ออกแบบมาให้เป็น VLM ขนาดเล็กที่ให้ Throughput และความแม่นยำที่ดีที่สุดในระดับเดียวกัน พร้อมการประมวลผลแบบเรียลไทม์
    • World Action Model (WAM): ทำงานที่ความละเอียดระดับการควบคุมหุ่นยนต์ (640×360 observations) สามารถประมวลผลแบบเรียลไทม์ และสร้างการกระทำได้ถึง 32 แอคชั่นต่อการ Inference หนึ่งครั้งบน NVIDIA Jetson Thor ด้วยความเร็ว 15 Hz
    • ผู้นำด้าน Vision Analytics และ Robot Policy Learning: เมื่อเทียบกับโมเดลขนาดใกล้

    ขอบคุณ แหล่งข้อมูล
    https://huggingface.co/blog/nvidia/cosmos3edge

    Cosmos 3 Edge: พลัง AI สู่โลกแห่งหุ่นยนต์และการมองเห็นบนอุปกรณ์ Edgeในยุคที่เครื่องจักรเริ่มเข้ามามีบทบาทสำคัญในหลากหลายอุตสาหกรรม ไม่ว่าจะเป็นโรงงานอุตสาหกรรม คลังสินค้า หรือแม้กระทั่งในโรงพยาบาล การที่เครื่องจักรจะสามารถเข้าใจและโต้ตอบกับสภาพแวดล้อมรอบตัวได้อย่างมีประสิทธิภาพนั้น จำเป็นต้องอาศัยโมเดล AI ที่ทรงพลัง แต่ในขณะเดียวกันก็ต้องสามารถทำงานได้ดีบนระบบที่มีข้อจำกัดด้านหน่วยความจำวันนี้ NVIDIA ได้เปิดตัว Cosmos 3 Edge บน Hugging Face ซึ่งเป็นโมเดล Open World ขนาด 4 พันล้านพารามิเตอร์ ที่ออกแบบมาเพื่อช่วยให้หุ่นยนต์และเอเจนต์ Vision AI สามารถเข้าใจสภาพแวดล้อมรอบตัว ตัดสินใจแบบเรียลไทม์ และสร้างการกระทำของหุ่นยนต์ได้โดยตรงบนอุปกรณ์ EdgeCosmos 3 Edge คืออะไร?Cosmos 3 Edge คือโมเดล AI ขนาดกะทัดรัดที่ทำงานได้อย่างมีประสิทธิภาพบนอุปกรณ์ Edge โดยมีคุณสมบัติเด่นคือ:ประสิทธิภาพสูงบนอุปกรณ์ Edge: สามารถทำงานได้ดีบนคอมพิวเตอร์ Edge ของ NVIDIA รวมถึง NVIDIA RTX PRO GPUs, NVIDIA DGX, NVIDIA GeForce RTX™ GPUs และ NVIDIA Jetson (รวมถึงโมดูล Jetson T2000 และ T3000 ที่เพิ่งเปิดตัว)Vision Language Model (VLM) ขนาดเล็ก: ออกแบบมาให้เป็น VLM ขนาดเล็กที่ให้ Throughput และความแม่นยำที่ดีที่สุดในระดับเดียวกัน พร้อมการประมวลผลแบบเรียลไทม์World Action Model (WAM): ทำงานที่ความละเอียดระดับการควบคุมหุ่นยนต์ (640×360 observations) สามารถประมวลผลแบบเรียลไทม์ และสร้างการกระทำได้ถึง 32 แอคชั่นต่อการ Inference หนึ่งครั้งบน NVIDIA Jetson Thor ด้วยความเร็ว 15 Hzผู้นำด้าน Vision Analytics และ Robot Policy Learning: เมื่อเทียบกับโมเดลขนาดใกล้https://huggingface.co/blog/nvidia/cosmos3edge
    Shared content
    HUGGINGFACE.CO
    Introducing Cosmos 3 Edge
    A Blog post by NVIDIA on Hugging Face
    4 Comments 0 Shares 75 Views 0 Reviews
  • คดีความ Apple vs. OpenAI: จะกระทบแผนฮาร์ดแวร์และ IPO ของ OpenAI หรือไม่?

    สถานการณ์ล่าสุดในวงการเทคโนโลยีกับการฟ้องร้องระหว่าง Apple และ OpenAI กำลังเป็นที่จับตามอง โดยเฉพาะผลกระทบที่อาจเกิดขึ้นกับแผนการพัฒนาฮาร์ดแวร์และแผนการเข้าตลาดหลักทรัพย์ (IPO) ของ OpenAI

    การฟ้องร้องเรื่องการละเมิดความลับทางการค้า

    Apple ได้ยื่นฟ้อง OpenAI ในข้อหาละเมิดความลับทางการค้า โดยกล่าวหาว่า OpenAI มีพฤติกรรมที่มุ่งเป้าให้พนักงานปัจจุบันและอดีตของ Apple แบ่งปันข้อมูลที่เป็นความลับ ซึ่ง OpenAI ได้ออกมาปฏิเสธว่าไม่พบหลักฐานใดๆ ที่สนับสนุนข้อกล่าวหานี้

    ผลกระทบต่อแผนฮาร์ดแวร์ของ OpenAI

    การฟ้องร้องครั้งนี้อาจส่งผลกระทบต่อแผนการพัฒนาฮาร์ดแวร์ที่ OpenAI กำลังดำเนินการอยู่ โดยเฉพาะอย่างยิ่งกับผลิตภัณฑ์แรกที่คาดว่าจะเป็นลำโพงอัจฉริยะแบบพกพา (mobile smart speaker) ซึ่งได้มีการพูดคุยถึงความร่วมมือกับ Jony Ive และทีมงาน

    • ความล่าช้าที่อาจเกิดขึ้น: แม้ว่าศาลจะยังไม่ได้มีคำสั่งใดๆ แต่กระบวนการทางกฎหมายย่อมนำไปสู่ความล่าช้าในการดำเนินงานของ OpenAI ซึ่งอาจเป็นส่วนหนึ่งของกลยุทธ์ที่ Apple ต้องการ
    • การประเมินมูลค่า IPO: หาก OpenAI มีแผนจะเข้าตลาดหลักทรัพย์ในเร็วๆ นี้ การฟ้องร้องนี้อาจส่งผลกระทบต่อการประเมินมูลค่าบริษัท เนื่องจากนักลงทุนอาจมองว่ามีความเสี่ยงที่เกี่ยวข้องกับธุรกิจฮาร์ดแวร์ที่ยังไม่ชัดเจน

    การบริหารจัดการคดีความของ OpenAI

    เป็นที่น่าสนใจว่า OpenAI จะเลือกประนีประนอมกับ Apple อย่างรวดเร็ว หรือจะเลือกดำเนินคดีต่อไปเหมือนกรณีพิพาทกับ Elon Musk ที่แม้จะเผชิญกับค่าใช้จ่ายและความอับอาย แต่ก็สามารถยืนหยัดในชั้นศาลได้

    ความกังวลด้านความเป็นส่วนตัวและสังคม

    การพัฒนาอุปกรณ์ที่อาจมีการ "รับฟัง" ตลอดเวลา ก่อให้เกิดคำถามและข้อกังวลเกี่ยวกับความเป็นส่วนตัวและบรรทัดฐานทางสังคมที่จะต้องมีการปรับเปลี่ยน หากอุปกรณ์เหล่านี้แพร่หลาย การละเมิดความเป็นส่วนตัวของผู้อื่นโดยไม่ได้รับความยินยอมเป็นสิ่งที่สังคมควรวิพากษ์วิจารณ์

    ประเด็นสำคัญที่ต้องพิจารณา

    1. จำนวนพนักงานที่ย้ายไป OpenAI: Apple ระบุว่ามีพนักงานกว่า 400 คนที่ย้ายไปทำงานที่ OpenAI ซึ่งถือเป็นจำนวนที่มากและอาจส่งผลต่อการสูญเสียบุคลากรที่มีความสามารถ (talent drain)
    2. ผลกระทบต่อภาพลักษณ์: การฟ้องร้องครั้งนี้อาจส่งผลกระทบต่อภาพลักษณ์และแบรนด์ของ OpenAI โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงการเข้าตลาดหลักทรัพย์ที่กำลังจะมาถึง
    3. การเจรจาต่อรอง: OpenAI อาจต้องพิจารณาอย่างรอบคอบว่าจะเลือกเจรจาประนีประนอมเพื่อลดความเสี่ยงและผลกระทบ หรือจะต่อสู้คดีเพื่อพิสูจน์ความบริสุทธิ์

    การฟ้องร้องระหว่าง Apple และ OpenAI นี้เป็นกรณีที่ซับซ้อนและมีผลกระทบในหลายมิติ ทั้งในด้านธุรกิจ เทคโนโลยี และสังคม การติดตามความคืบหน้าของคดีนี้จะช่วยให้เห็นภาพอนาคตของ OpenAI และวงการ AI ได้ชัดเจนยิ่งขึ้น

    #Apple #OpenAI #AI #เทคโนโลยี

    ขอบคุณ แหล่งข้อมูล
    https://techcrunch.com/2026/07/19/can-an-apple-lawsuit-derail-openais-hardware-plans/

    คดีความ Apple vs. OpenAI: จะกระทบแผนฮาร์ดแวร์และ IPO ของ OpenAI หรือไม่?สถานการณ์ล่าสุดในวงการเทคโนโลยีกับการฟ้องร้องระหว่าง Apple และ OpenAI กำลังเป็นที่จับตามอง โดยเฉพาะผลกระทบที่อาจเกิดขึ้นกับแผนการพัฒนาฮาร์ดแวร์และแผนการเข้าตลาดหลักทรัพย์ (IPO) ของ OpenAIการฟ้องร้องเรื่องการละเมิดความลับทางการค้าApple ได้ยื่นฟ้อง OpenAI ในข้อหาละเมิดความลับทางการค้า โดยกล่าวหาว่า OpenAI มีพฤติกรรมที่มุ่งเป้าให้พนักงานปัจจุบันและอดีตของ Apple แบ่งปันข้อมูลที่เป็นความลับ ซึ่ง OpenAI ได้ออกมาปฏิเสธว่าไม่พบหลักฐานใดๆ ที่สนับสนุนข้อกล่าวหานี้ผลกระทบต่อแผนฮาร์ดแวร์ของ OpenAIการฟ้องร้องครั้งนี้อาจส่งผลกระทบต่อแผนการพัฒนาฮาร์ดแวร์ที่ OpenAI กำลังดำเนินการอยู่ โดยเฉพาะอย่างยิ่งกับผลิตภัณฑ์แรกที่คาดว่าจะเป็นลำโพงอัจฉริยะแบบพกพา (mobile smart speaker) ซึ่งได้มีการพูดคุยถึงความร่วมมือกับ Jony Ive และทีมงานความล่าช้าที่อาจเกิดขึ้น: แม้ว่าศาลจะยังไม่ได้มีคำสั่งใดๆ แต่กระบวนการทางกฎหมายย่อมนำไปสู่ความล่าช้าในการดำเนินงานของ OpenAI ซึ่งอาจเป็นส่วนหนึ่งของกลยุทธ์ที่ Apple ต้องการการประเมินมูลค่า IPO: หาก OpenAI มีแผนจะเข้าตลาดหลักทรัพย์ในเร็วๆ นี้ การฟ้องร้องนี้อาจส่งผลกระทบต่อการประเมินมูลค่าบริษัท เนื่องจากนักลงทุนอาจมองว่ามีความเสี่ยงที่เกี่ยวข้องกับธุรกิจฮาร์ดแวร์ที่ยังไม่ชัดเจนการบริหารจัดการคดีความของ OpenAIเป็นที่น่าสนใจว่า OpenAI จะเลือกประนีประนอมกับ Apple อย่างรวดเร็ว หรือจะเลือกดำเนินคดีต่อไปเหมือนกรณีพิพาทกับ Elon Musk ที่แม้จะเผชิญกับค่าใช้จ่ายและความอับอาย แต่ก็สามารถยืนหยัดในชั้นศาลได้ความกังวลด้านความเป็นส่วนตัวและสังคมการพัฒนาอุปกรณ์ที่อาจมีการ "รับฟัง" ตลอดเวลา ก่อให้เกิดคำถามและข้อกังวลเกี่ยวกับความเป็นส่วนตัวและบรรทัดฐานทางสังคมที่จะต้องมีการปรับเปลี่ยน หากอุปกรณ์เหล่านี้แพร่หลาย การละเมิดความเป็นส่วนตัวของผู้อื่นโดยไม่ได้รับความยินยอมเป็นสิ่งที่สังคมควรวิพากษ์วิจารณ์ประเด็นสำคัญที่ต้องพิจารณาจำนวนพนักงานที่ย้ายไป OpenAI: Apple ระบุว่ามีพนักงานกว่า 400 คนที่ย้ายไปทำงานที่ OpenAI ซึ่งถือเป็นจำนวนที่มากและอาจส่งผลต่อการสูญเสียบุคลากรที่มีความสามารถ (talent drain)ผลกระทบต่อภาพลักษณ์: การฟ้องร้องครั้งนี้อาจส่งผลกระทบต่อภาพลักษณ์และแบรนด์ของ OpenAI โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงการเข้าตลาดหลักทรัพย์ที่กำลังจะมาถึงการเจรจาต่อรอง: OpenAI อาจต้องพิจารณาอย่างรอบคอบว่าจะเลือกเจรจาประนีประนอมเพื่อลดความเสี่ยงและผลกระทบ หรือจะต่อสู้คดีเพื่อพิสูจน์ความบริสุทธิ์การฟ้องร้องระหว่าง Apple และ OpenAI นี้เป็นกรณีที่ซับซ้อนและมีผลกระทบในหลายมิติ ทั้งในด้านธุรกิจ เทคโนโลยี และสังคม การติดตามความคืบหน้าของคดีนี้จะช่วยให้เห็นภาพอนาคตของ OpenAI และวงการ AI ได้ชัดเจนยิ่งขึ้น#Apple #OpenAI #AI #เทคโนโลยีhttps://techcrunch.com/2026/07/19/can-an-apple-lawsuit-derail-openais-hardware-plans/
    Shared content
    TECHCRUNCH.COM
    Can an Apple lawsuit derail OpenAI’s hardware plans? | TechCrunch
    On the latest episode of Equity, we debate whether Apple's lawsuit will cast over OpenAi's much-discussed plans to get into hardware and go public.
    6 Comments 0 Shares 209 Views 0 Reviews
  • เร่งสปีด BEV Pooling บน NVIDIA GPU: กุญแจสำคัญสู่ AI ทางกายภาพ

    เทคโนโลยี AI กำลังก้าวไปอีกขั้น โดยเฉพาะอย่างยิ่งในโลกของยานยนต์ไร้คนขับ (AVs), หุ่นยนต์, และระบบ AI เชิงพื้นที่ แนวคิดที่เรียกว่า Bird's-Eye-View (BEV) Perception กำลังได้รับความนิยมมากขึ้นเรื่อยๆ แนวคิดนี้คือการฉายภาพจากกล้องหลายตัวมาวางซ้อนกันบนแผนที่มุมมองจากด้านบน เพื่อให้ระบบ AI มองเห็นภาพรวมของสภาพแวดล้อมได้อย่างสอดคล้องกัน ทำให้การวิเคราะห์สิ่งต่างๆ เช่น เลนถนน, ยานพาหนะ, คนเดินเท้า, และพื้นที่ว่าง ทำได้ง่ายขึ้น

    หัวใจสำคัญของกระบวนการนี้คือ BEV Pooling ซึ่งทำหน้าที่รวบรวมข้อมูลภาพจากกล้อง, ถ่วงน้ำหนักด้วยข้อมูลความลึก, แล้วนำไปรวมกันเป็นตาราง BEV การทำงานนี้ช่วยแปลงมุมมองที่แตกต่างกันของกล้องแต่ละตัว ให้กลายเป็นภาพรวมเดียวที่สอดคล้องกันในเชิงพื้นที่ ทำให้โมดูลอื่นๆ สามารถประมวลผลได้ง่ายขึ้น และที่สำคัญคือ ช่วยให้ระบบสามารถทำงานได้แบบ เรียลไทม์

    อย่างไรก็ตาม ในทางปฏิบัติ BEV Pooling อาจกลายเป็นคอขวดที่ทำให้ระบบช้าลงได้ เนื่องจากต้องจัดการกับการเข้าถึงหน่วยความจำที่ไม่สม่ำเสมอ, การอ่านค่าดัชนีซ้ำๆ, การรวมข้อมูลแบบกระจาย (scatter-reduce), และพฤติกรรมเฉพาะของแคชบน GPU

    บทความนี้จะพาไปเจาะลึกถึง BEVPoolV3 ซึ่งเป็นกรณีศึกษาในการปรับปรุงประสิทธิภาพของ BEV Pooling และโอเปอเรเตอร์อื่น ๆ ที่มีการเรียกใช้ข้อมูลแบบ gather หรือ scatter บน NVIDIA GPU โดยจะแนะนำขั้นตอนที่นำไปปรับใช้ได้จริงกับปริมาณงานของคุณ: การจำแนกประเภทของหน่วยความจำที่ใช้งาน, การลดปริมาณการส่งข้อมูลแบบ scatter ที่ซ้ำซ้อน, การจับคู่การทำงานของเคอร์เนลให้เข้ากับสถาปัตยกรรม GPU เป้าหมาย, และการตรวจสอบจุดที่เป็นคอขวดด้วย NVIDIA Nsight Compute ผลการทดสอบประสิทธิภาพจะแสดงให้เห็นว่าทำไมขั้นตอนเหล่านี้ถึงสำคัญ เพราะ BEV Pooling แบบเดียวกัน อาจต้องการกลยุทธ์การปรับปรุงที่แตกต่างกัน ขึ้นอยู่กับว่าชุดข้อมูลที่ใช้งานนั้นอยู่ในหน่วยความจำหลัก (DRAM) หรืออยู่ในแคช L2 ของ GPU

    BEVPoolV3: นวัตกรรมลดความหน่วงของ BEV Pooling บน NVIDIA RTX GPU

    ก่อนหน้านี้ BEVPoolV2 (หรือ V2) ได้วางรากฐานที่สำคัญด้วยการปรับปรุง BEV Pooling ให้เหมาะกับการใช้งานจริงสำหรับโมเดลสไตล์ BEVDet และ CUDA-BEVFusion ได้พัฒนา bevpoolhalfpack10_kernel (หรือ V2+DO) ซึ่งใช้การวนซ้ำแบบ depth-outer เพื่อลดการโหลดดัชนีของไทล์ภายนอกที่ซ้ำซ้อนใน V2

    BEVPoolV3 ต่อยอดการปรับปรุงนี้ด้วยการเปลี่ยนแปลงสำคัญ 4 ประการ:

    • ลดการโหลดข้อมูลความลึกที่ซ้ำซ้อน: ทำให้การเข้าถึงข้อมูลมีประสิทธิภาพมากขึ้น
    • แผนผัง scatter แบบ 5-array INT32: ช่วยให้การจัดเก็บและเรียกใช้ข้อมูลมีระเบียบและรวดเร็ว
    • ดัชนีที่คำนวณไว้ล่วงหน้า: ขจัดปัญหาการหารเลขจำนวนเต็มขณะทำงาน (runtime integer division)
    • การเขียนผลลัพธ์แบบ interval-owned: ป้องกันการทำงานซ้ำซ้อนในการเขียนข้อมูล

    การเปลี่ยนแปลงเหล่านี้ส่งผลให้ลดความหน่วง (latency) ลงได้อย่างมากในหลากหลายสภาวะการใช้งานของหน่วยความจำ GPU

    การจำแนกประเภทหน่วยความจำ: ก้าวแรกสู่การปรับปรุงประสิทธิภาพ

    ขั้นตอนแรกที่สำคัญคือการประเมินว่าชุดข้อมูลที่ BEV Pooling ใช้งานนั้น สามารถเก็บอยู่ในแคช L2 ของ GPU ได้ทั้งหมดหรือไม่ ในกรณีศึกษาทั่วไป พบว่าข้อมูลหลักมีขนาดประมาณ 49 MB ซึ่งมากกว่าขนาดแคช L2 ของ NVIDIA RTX A6000 (6 MB) แต่เล็กกว่าขนาดแคช L2 ของ NVIDIA RTX PRO 6000 Blackwell Max-Q (128 MB)

    การตัดสินใจว่าข้อมูล "พอดี" หรือ "ไม่พอดี" ใน L2 นี้ จะเป็นตัวกำหนดเป้าหมายของการปรับปรุง:

    • สำหรับ GPU ที่ L2 มีขนาดเล็ก (เช่น RTX A6000): เส้นทางการทำงานจะเน้นการลดปริมาณข้อมูลที่ต้องอ่าน/เขียน และการจัดเก็บผลลัพธ์แบบแคช-สตรีมมิ่ง เพื่อไม่ให้ข้อมูลดัชนีที่จำเป็นถูกลบออกจาก L2
    • สำหรับ GPU ที่ L2 มีขนาดใหญ่ (เช่น RTX PRO 6000 Blackwell Max-Q): เมื่อชุดข้อมูลสามารถเก็บใน L2 ได้ เส้นทางการทำงานจะเปลี่ยนไปเน้นประสิทธิภาพของคำสั่ง, การใช้งานทรัพยากร GPU ให้เต็มที่ (occupancy), ดัชนีที่คำนวณไว้ล่วงหน้า, การโหลดข้อมูลแบบเวกเตอร์, และการใช้ประโยชน์จาก FP8

    การลดปริมาณการส่งข้อมูลแบบ Scatter ที่ซ้ำซ้อน

    กระบวนการ BEV scatter-reduce โดยทั่วไปสามารถสรุปได้ดังนี้:

    • BEVPoolV2: วนลูปผ่านไทล์ของแชนเนลนอกลูป scatter สำหรับ C=80 และไทล์ 8 แชนเนล, ดัชนี scatter เดียวกันจะถูกโหลดถึง 10 ครั้ง ทำให้เกิดปริมาณข้อมูลดัชนีประมาณ 25.1 MB ทั้งที่จริงแล้วต้องการเพียง 2.51 MB หากโหลดเพียงครั้งเดียว
    • การใช้ Depth-Outer Loop Order: แก้ปัญหานี้ได้เกือบทั้งหมด โดยการวนลูปผ่านแต่ละช่วง (interval) ของ BEV ก่อน แล้วจึงรวบรวมแชนเนลทั้งหมดสำหรับช่วงนั้นในครั้งเดียว
    • BEVPoolV3: ขยายแนวคิดการปรับปรุงนี้ โดยเพิ่มการเปลี่ยนแปลงในการใช้งานอีก 4 ประการ เพื่อเพิ่มความเข้ากันได้และประสิทธิภาพในหลากหลายสภาวะหน่วยความจำ GPU:
    • ลดการโหลดข้อมูลความลึกที่ซ้ำซ้อนภายในแต่ละช่วง
    • ใช้แผนผัง scatter แบบ 5-array INT32 (ประกอบด้วย ranksdepth, ranksfeat, ranksbev, intervalstarts, และ interval_lengths)
    • ใช้ดัชนีที่ระบุชัดเจนซึ่งคำนวณไว้ล่วงหน้า ขจัดปัญหาการหารเลขจำนวนเต็มขณะทำงาน
    • ใช้การเขียนผลลัพธ์แบบ interval-owned ซึ่งหลีกเลี่ยงการใช้ atomic operations เมื่อเทียบกับเส้นทางสไตล์ V2

    แผนผัง scatter แบบ 5-array มีความสำคัญอย่างยิ่งบน GPU ที่มี L2 ขนาดใหญ่ การรวม (packing) ranksdepth, ranksfeat, ranks_bev เป็น 3-array int ทำให้ได้ข้อมูลขนาด 12 ไบต์ ซึ่งอาจไม่สะดวกสำหรับการทำธุรกรรมหน่วยความจำที่จัดแนว (aligned memory transactions) และไม่เข้ากันกับการโหลด LDG.128 ขนาด 16 ไบต์ การใช้ array INT32 แยกกัน ช่วยให้เธรดที่อยู่ติดกันสามารถรวมการโหลดที่จัดแนวได้ และหลีกเลี่ยงการเชื่อมโยงฟิลด์ข้อมูล ทำให้สตรีมคำสั่งสะอาดขึ้น

    การใช้ Interval-Owned Scatter-Reduce

    ในการใช้งานจริง BEVPoolV3 ใช้เคอร์เนลเฉพาะทางหลายตัว แต่แนวคิดหลักของการใช้งานนั้น เข้าใจได้ง่ายผ่านโครงสร้างโค้ดอย่างง่าย: แผนผัง scatter จะถูกเตรียมไว้ล่วงหน้า แต่ละช่วง (BEV interval) จะถูกกำหนดเจ้าของ (owner) เจ้าของจะวนสำรวจจุดต่างๆ ในช่วงนั้น รวบรวมแชนเนลข้อมูลที่เกี่ยวข้อง แล้วจึงเขียนผลลัพธ์เพียงครั้งเดียว

    โครงสร้างนี้ช่วยลดภาระในการถอดรหัสภายในลูปที่เกิดขึ้นเมื่อแผนผัง scatter ถูกรวมเป็นเรคคอร์ดเดียว แทนที่จะต้องสร้างดัชนีขณะทำงาน (runtime) เคอร์เนลจะอ่าน array ที่ระบุชัดเจน เช่น ranksdepth, ranksfeat, ranksbev, intervalstarts, และ interval_lengths

    โครงสร้างโค้ดนี้แสดงให้เห็นถึงรูปแบบทั่วไปของ BEVPoolV3: แผนผัง scatter มีความชัดเจน, การถอดรหัสดัชนีขณะทำงานถูกยกเลิก, ข้อมูลความลึกถูกโหลดในลูปของเจ้าของช่วง, และแต่ละเซลล์ผลลัพธ์จะถูกเขียนเพียงครั้งเดียวหลังจากการสะสมข้อมูลภายใน (local accumulation)

    เคอร์เนลที่ใช้งานจริงจะปรับแต่งโครงสร้างนี้ให้เข้ากับสภาวะหน่วยความจำของ GPU เป้าหมาย:

    • บน GPU L2 ขนาดเล็ก (เช่น RTX A6000): การใช้งานจะเน้นการลดปริมาณข้อมูล, การสะสมแบบ half2 ใน FP16, และการเขียนผลลัพธ์แบบแคช-สตรีมมิ่ง เพื่อให้เทนเซอร์ผลลัพธ์ไม่ไปแย่งพื้นที่ข้อมูลดัชนีที่มีค่าใน L2
    • บน GPU L2 ขนาดใหญ่ (เช่น RTX PRO 6000 Blackwell Max-Q): การใช้งานจะเริ่มต้นด้วยการจับคู่สภาพแวดล้อมการทำงานที่มี occupancy สูง, จากนั้นลดภาระคำสั่งด้วยดัชนีที่คำนวณไว้ล่วงหน้า, การโหลดดัชนีแบบเวกเตอร์, และลูปภายในที่ปรับให้เหมาะสมกับ FP8 เมื่อชุดข้อมูลอยู่ใน L2

    หลักการสำคัญของอัลกอริทึมยังคงเหมือนเดิม: เป็นเจ้าของช่วง, หลีกเลี่ยงการถอดรหัสดัชนีขณะทำงาน, สะสมข้อมูลภายใน, และเขียนเพียงครั้งเดียว ส่วนการปรับปรุงเฉพาะสำหรับสถาปัตยกรรมฮาร์ดแวร์จะเปลี่ยนวิธีการนำหลักการนั้นไปใช้, แต่ไม่ได้เปลี่ยนสิ่งที่ BEV-pooling operator คำนวณ

    ผลลัพธ์ความหน่วงที่วัดได้บน RTX PRO 6000 Blackwell Max-Q แสดงให้เห็นว่าเส้นทางสำหรับ L2 ขนาดใหญ่ทำงานอย่างไรเมื่อเทียบกับจำนวนจุดและแชนเนลที่แตกต่างกัน รูปแบบการปรับปรุงเดียวกันนี้ยังคงใช้ได้กับเส้นทางที่ผูกกับ DRAM บน RTX A6000 โดยวัดจากอัตราเร่งเมื่อเทียบกับ V2 FP16 บน RTX A6000 เส้นทาง FP16 ที่ปรับให้เข้ากับ DRAM ของ V3 สามารถเร่งความเร็วได้ถึง 11-22 เท่าเมื่อเทียบกับ V2 ในการตั้งค่าต่างๆ ที่ทดสอบ บน RTX PRO 6000 Blackwell Max-Q, V3 FP8 สามารถเร่งความเร็วได้ถึง 11-42 เท่าเมื่อเทียบกับ V2 โดยอัตราเร่งที่มากที่สุดจะปรากฏเมื่อมีจำนวนจุดและแชนเนลที่กว้างขึ้น

    การใช้งานและตรวจสอบ TensorRT Plugin

    BEVPoolV3 ถูกนำเสนอในรูปแบบของ TensorRT IPluginV3 operator โดย plugin นี้จะรับแผนผัง scatter แบบ 5-array พร้อมกับข้อมูลความลึกและฟีเจอร์ แล้วจึงเลือกเคอร์เนลที่เหมาะสมสำหรับคลาส GPU และประเภทข้อมูล (dtype) ที่ใช้งาน เส้นทางการทดสอบประสิทธิภาพใช้การสร้างแบบ ONNX-to-TensorRT และการเล่นซ้ำด้วย CUDA Graph ผ่าน trtexec

    สำหรับการตรวจสอบความถูกต้อง ควรเปรียบเทียบกับผลลัพธ์อ้างอิงแบบ FP64 หรือเส้นทาง V2 ที่เชื่อถือได้ บน RTX A6000, เคอร์เนลที่ปรับให้เข้ากับ DRAM ของ V3 ผ่านการตรวจสอบผลลัพธ์ทั้งหมดในการตั้งค่า 6 แบบ ด้วยค่า atol=1e-2 โดยมีข้อผิดพลาดสูงสุดที่สังเกตได้คือ 0.0065 บน RTX PRO 6000 Blackwell Max-Q, V2 และ V3 ให้ผลลัพธ์เหมือนกันในการตั้งค่าที่ทดสอบ ซึ่งแสดงว่าการปรับปรุงแผนผัง scatter และการตั้งค่าการทำงาน (launch configuration) นั้น ไม่ได้เปลี่ยนแปลงพฤติกรรมเชิงตัวเลขของเส้นทางอ้างอิง

    การจับคู่อัลกอริทึมกับฮาร์ดแวร์

    การเปลี่ยนแปลงอัลกอริทึมทั้ง 4 ประการของ BEVPoolV3 นั้นสามารถนำไปใช้ได้หลากหลาย แต่เคอร์เนลที่ใช้งานจริงจะต้องสอดคล้องกับจุดที่เป็นคอขวดของ GPU การตัดสินใจที่สำคัญคือ ชุดข้อมูลของ BEV-pooling สามารถเก็บอยู่ใน L2 ได้หรือไม่

    บน RTX A6000, ชุดข้อมูลทั่วไปมีขนาดใหญ่เกิน L2 ดังนั้นเคอร์เนลจะต้อง ... (เนื้อหาถูกตัดตอน)


    หมายเหตุ: ข้อมูลต้นทางอาจมีการตัดตอนในส่วนท้ายของเนื้อหา ทำให้ไม่สามารถให้ข้อมูลที่สมบูรณ์ได้ อย่างไรก็ตาม ข้อมูลที่นำเสนอข้างต้นได้สรุปประเด็นสำคัญเกี่ยวกับ BEVPoolV3 และแนวทางการปรับปรุงประสิทธิภาพบน NVIDIA GPU ตามข้อมูลที่มีอยู่

    #BEVPooling #NVIDIA #GPU #AI #AutonomousVehicles #Robotics

    ขอบคุณ แหล่งข้อมูล
    https://developer.nvidia.com/blog/accelerating-bev-pooling-on-nvidia-gpus-for-physical-ai-applications/

    เร่งสปีด BEV Pooling บน NVIDIA GPU: กุญแจสำคัญสู่ AI ทางกายภาพเทคโนโลยี AI กำลังก้าวไปอีกขั้น โดยเฉพาะอย่างยิ่งในโลกของยานยนต์ไร้คนขับ (AVs), หุ่นยนต์, และระบบ AI เชิงพื้นที่ แนวคิดที่เรียกว่า Bird's-Eye-View (BEV) Perception กำลังได้รับความนิยมมากขึ้นเรื่อยๆ แนวคิดนี้คือการฉายภาพจากกล้องหลายตัวมาวางซ้อนกันบนแผนที่มุมมองจากด้านบน เพื่อให้ระบบ AI มองเห็นภาพรวมของสภาพแวดล้อมได้อย่างสอดคล้องกัน ทำให้การวิเคราะห์สิ่งต่างๆ เช่น เลนถนน, ยานพาหนะ, คนเดินเท้า, และพื้นที่ว่าง ทำได้ง่ายขึ้นหัวใจสำคัญของกระบวนการนี้คือ BEV Pooling ซึ่งทำหน้าที่รวบรวมข้อมูลภาพจากกล้อง, ถ่วงน้ำหนักด้วยข้อมูลความลึก, แล้วนำไปรวมกันเป็นตาราง BEV การทำงานนี้ช่วยแปลงมุมมองที่แตกต่างกันของกล้องแต่ละตัว ให้กลายเป็นภาพรวมเดียวที่สอดคล้องกันในเชิงพื้นที่ ทำให้โมดูลอื่นๆ สามารถประมวลผลได้ง่ายขึ้น และที่สำคัญคือ ช่วยให้ระบบสามารถทำงานได้แบบ เรียลไทม์อย่างไรก็ตาม ในทางปฏิบัติ BEV Pooling อาจกลายเป็นคอขวดที่ทำให้ระบบช้าลงได้ เนื่องจากต้องจัดการกับการเข้าถึงหน่วยความจำที่ไม่สม่ำเสมอ, การอ่านค่าดัชนีซ้ำๆ, การรวมข้อมูลแบบกระจาย (scatter-reduce), และพฤติกรรมเฉพาะของแคชบน GPUบทความนี้จะพาไปเจาะลึกถึง BEVPoolV3 ซึ่งเป็นกรณีศึกษาในการปรับปรุงประสิทธิภาพของ BEV Pooling และโอเปอเรเตอร์อื่น ๆ ที่มีการเรียกใช้ข้อมูลแบบ gather หรือ scatter บน NVIDIA GPU โดยจะแนะนำขั้นตอนที่นำไปปรับใช้ได้จริงกับปริมาณงานของคุณ: การจำแนกประเภทของหน่วยความจำที่ใช้งาน, การลดปริมาณการส่งข้อมูลแบบ scatter ที่ซ้ำซ้อน, การจับคู่การทำงานของเคอร์เนลให้เข้ากับสถาปัตยกรรม GPU เป้าหมาย, และการตรวจสอบจุดที่เป็นคอขวดด้วย NVIDIA Nsight Compute ผลการทดสอบประสิทธิภาพจะแสดงให้เห็นว่าทำไมขั้นตอนเหล่านี้ถึงสำคัญ เพราะ BEV Pooling แบบเดียวกัน อาจต้องการกลยุทธ์การปรับปรุงที่แตกต่างกัน ขึ้นอยู่กับว่าชุดข้อมูลที่ใช้งานนั้นอยู่ในหน่วยความจำหลัก (DRAM) หรืออยู่ในแคช L2 ของ GPUBEVPoolV3: นวัตกรรมลดความหน่วงของ BEV Pooling บน NVIDIA RTX GPUก่อนหน้านี้ BEVPoolV2 (หรือ V2) ได้วางรากฐานที่สำคัญด้วยการปรับปรุง BEV Pooling ให้เหมาะกับการใช้งานจริงสำหรับโมเดลสไตล์ BEVDet และ CUDA-BEVFusion ได้พัฒนา bevpoolhalfpack10_kernel (หรือ V2+DO) ซึ่งใช้การวนซ้ำแบบ depth-outer เพื่อลดการโหลดดัชนีของไทล์ภายนอกที่ซ้ำซ้อนใน V2BEVPoolV3 ต่อยอดการปรับปรุงนี้ด้วยการเปลี่ยนแปลงสำคัญ 4 ประการ:ลดการโหลดข้อมูลความลึกที่ซ้ำซ้อน: ทำให้การเข้าถึงข้อมูลมีประสิทธิภาพมากขึ้นแผนผัง scatter แบบ 5-array INT32: ช่วยให้การจัดเก็บและเรียกใช้ข้อมูลมีระเบียบและรวดเร็วดัชนีที่คำนวณไว้ล่วงหน้า: ขจัดปัญหาการหารเลขจำนวนเต็มขณะทำงาน (runtime integer division)การเขียนผลลัพธ์แบบ interval-owned: ป้องกันการทำงานซ้ำซ้อนในการเขียนข้อมูลการเปลี่ยนแปลงเหล่านี้ส่งผลให้ลดความหน่วง (latency) ลงได้อย่างมากในหลากหลายสภาวะการใช้งานของหน่วยความจำ GPUการจำแนกประเภทหน่วยความจำ: ก้าวแรกสู่การปรับปรุงประสิทธิภาพขั้นตอนแรกที่สำคัญคือการประเมินว่าชุดข้อมูลที่ BEV Pooling ใช้งานนั้น สามารถเก็บอยู่ในแคช L2 ของ GPU ได้ทั้งหมดหรือไม่ ในกรณีศึกษาทั่วไป พบว่าข้อมูลหลักมีขนาดประมาณ 49 MB ซึ่งมากกว่าขนาดแคช L2 ของ NVIDIA RTX A6000 (6 MB) แต่เล็กกว่าขนาดแคช L2 ของ NVIDIA RTX PRO 6000 Blackwell Max-Q (128 MB)การตัดสินใจว่าข้อมูล "พอดี" หรือ "ไม่พอดี" ใน L2 นี้ จะเป็นตัวกำหนดเป้าหมายของการปรับปรุง:สำหรับ GPU ที่ L2 มีขนาดเล็ก (เช่น RTX A6000): เส้นทางการทำงานจะเน้นการลดปริมาณข้อมูลที่ต้องอ่าน/เขียน และการจัดเก็บผลลัพธ์แบบแคช-สตรีมมิ่ง เพื่อไม่ให้ข้อมูลดัชนีที่จำเป็นถูกลบออกจาก L2สำหรับ GPU ที่ L2 มีขนาดใหญ่ (เช่น RTX PRO 6000 Blackwell Max-Q): เมื่อชุดข้อมูลสามารถเก็บใน L2 ได้ เส้นทางการทำงานจะเปลี่ยนไปเน้นประสิทธิภาพของคำสั่ง, การใช้งานทรัพยากร GPU ให้เต็มที่ (occupancy), ดัชนีที่คำนวณไว้ล่วงหน้า, การโหลดข้อมูลแบบเวกเตอร์, และการใช้ประโยชน์จาก FP8การลดปริมาณการส่งข้อมูลแบบ Scatter ที่ซ้ำซ้อนกระบวนการ BEV scatter-reduce โดยทั่วไปสามารถสรุปได้ดังนี้:BEVPoolV2: วนลูปผ่านไทล์ของแชนเนลนอกลูป scatter สำหรับ C=80 และไทล์ 8 แชนเนล, ดัชนี scatter เดียวกันจะถูกโหลดถึง 10 ครั้ง ทำให้เกิดปริมาณข้อมูลดัชนีประมาณ 25.1 MB ทั้งที่จริงแล้วต้องการเพียง 2.51 MB หากโหลดเพียงครั้งเดียวการใช้ Depth-Outer Loop Order: แก้ปัญหานี้ได้เกือบทั้งหมด โดยการวนลูปผ่านแต่ละช่วง (interval) ของ BEV ก่อน แล้วจึงรวบรวมแชนเนลทั้งหมดสำหรับช่วงนั้นในครั้งเดียวBEVPoolV3: ขยายแนวคิดการปรับปรุงนี้ โดยเพิ่มการเปลี่ยนแปลงในการใช้งานอีก 4 ประการ เพื่อเพิ่มความเข้ากันได้และประสิทธิภาพในหลากหลายสภาวะหน่วยความจำ GPU:ลดการโหลดข้อมูลความลึกที่ซ้ำซ้อนภายในแต่ละช่วงใช้แผนผัง scatter แบบ 5-array INT32 (ประกอบด้วย ranksdepth, ranksfeat, ranksbev, intervalstarts, และ interval_lengths)ใช้ดัชนีที่ระบุชัดเจนซึ่งคำนวณไว้ล่วงหน้า ขจัดปัญหาการหารเลขจำนวนเต็มขณะทำงานใช้การเขียนผลลัพธ์แบบ interval-owned ซึ่งหลีกเลี่ยงการใช้ atomic operations เมื่อเทียบกับเส้นทางสไตล์ V2แผนผัง scatter แบบ 5-array มีความสำคัญอย่างยิ่งบน GPU ที่มี L2 ขนาดใหญ่ การรวม (packing) ranksdepth, ranksfeat, ranks_bev เป็น 3-array int ทำให้ได้ข้อมูลขนาด 12 ไบต์ ซึ่งอาจไม่สะดวกสำหรับการทำธุรกรรมหน่วยความจำที่จัดแนว (aligned memory transactions) และไม่เข้ากันกับการโหลด LDG.128 ขนาด 16 ไบต์ การใช้ array INT32 แยกกัน ช่วยให้เธรดที่อยู่ติดกันสามารถรวมการโหลดที่จัดแนวได้ และหลีกเลี่ยงการเชื่อมโยงฟิลด์ข้อมูล ทำให้สตรีมคำสั่งสะอาดขึ้นการใช้ Interval-Owned Scatter-Reduceในการใช้งานจริง BEVPoolV3 ใช้เคอร์เนลเฉพาะทางหลายตัว แต่แนวคิดหลักของการใช้งานนั้น เข้าใจได้ง่ายผ่านโครงสร้างโค้ดอย่างง่าย: แผนผัง scatter จะถูกเตรียมไว้ล่วงหน้า แต่ละช่วง (BEV interval) จะถูกกำหนดเจ้าของ (owner) เจ้าของจะวนสำรวจจุดต่างๆ ในช่วงนั้น รวบรวมแชนเนลข้อมูลที่เกี่ยวข้อง แล้วจึงเขียนผลลัพธ์เพียงครั้งเดียวโครงสร้างนี้ช่วยลดภาระในการถอดรหัสภายในลูปที่เกิดขึ้นเมื่อแผนผัง scatter ถูกรวมเป็นเรคคอร์ดเดียว แทนที่จะต้องสร้างดัชนีขณะทำงาน (runtime) เคอร์เนลจะอ่าน array ที่ระบุชัดเจน เช่น ranksdepth, ranksfeat, ranksbev, intervalstarts, และ interval_lengthsโครงสร้างโค้ดนี้แสดงให้เห็นถึงรูปแบบทั่วไปของ BEVPoolV3: แผนผัง scatter มีความชัดเจน, การถอดรหัสดัชนีขณะทำงานถูกยกเลิก, ข้อมูลความลึกถูกโหลดในลูปของเจ้าของช่วง, และแต่ละเซลล์ผลลัพธ์จะถูกเขียนเพียงครั้งเดียวหลังจากการสะสมข้อมูลภายใน (local accumulation)เคอร์เนลที่ใช้งานจริงจะปรับแต่งโครงสร้างนี้ให้เข้ากับสภาวะหน่วยความจำของ GPU เป้าหมาย:บน GPU L2 ขนาดเล็ก (เช่น RTX A6000): การใช้งานจะเน้นการลดปริมาณข้อมูล, การสะสมแบบ half2 ใน FP16, และการเขียนผลลัพธ์แบบแคช-สตรีมมิ่ง เพื่อให้เทนเซอร์ผลลัพธ์ไม่ไปแย่งพื้นที่ข้อมูลดัชนีที่มีค่าใน L2บน GPU L2 ขนาดใหญ่ (เช่น RTX PRO 6000 Blackwell Max-Q): การใช้งานจะเริ่มต้นด้วยการจับคู่สภาพแวดล้อมการทำงานที่มี occupancy สูง, จากนั้นลดภาระคำสั่งด้วยดัชนีที่คำนวณไว้ล่วงหน้า, การโหลดดัชนีแบบเวกเตอร์, และลูปภายในที่ปรับให้เหมาะสมกับ FP8 เมื่อชุดข้อมูลอยู่ใน L2หลักการสำคัญของอัลกอริทึมยังคงเหมือนเดิม: เป็นเจ้าของช่วง, หลีกเลี่ยงการถอดรหัสดัชนีขณะทำงาน, สะสมข้อมูลภายใน, และเขียนเพียงครั้งเดียว ส่วนการปรับปรุงเฉพาะสำหรับสถาปัตยกรรมฮาร์ดแวร์จะเปลี่ยนวิธีการนำหลักการนั้นไปใช้, แต่ไม่ได้เปลี่ยนสิ่งที่ BEV-pooling operator คำนวณผลลัพธ์ความหน่วงที่วัดได้บน RTX PRO 6000 Blackwell Max-Q แสดงให้เห็นว่าเส้นทางสำหรับ L2 ขนาดใหญ่ทำงานอย่างไรเมื่อเทียบกับจำนวนจุดและแชนเนลที่แตกต่างกัน รูปแบบการปรับปรุงเดียวกันนี้ยังคงใช้ได้กับเส้นทางที่ผูกกับ DRAM บน RTX A6000 โดยวัดจากอัตราเร่งเมื่อเทียบกับ V2 FP16 บน RTX A6000 เส้นทาง FP16 ที่ปรับให้เข้ากับ DRAM ของ V3 สามารถเร่งความเร็วได้ถึง 11-22 เท่าเมื่อเทียบกับ V2 ในการตั้งค่าต่างๆ ที่ทดสอบ บน RTX PRO 6000 Blackwell Max-Q, V3 FP8 สามารถเร่งความเร็วได้ถึง 11-42 เท่าเมื่อเทียบกับ V2 โดยอัตราเร่งที่มากที่สุดจะปรากฏเมื่อมีจำนวนจุดและแชนเนลที่กว้างขึ้นการใช้งานและตรวจสอบ TensorRT PluginBEVPoolV3 ถูกนำเสนอในรูปแบบของ TensorRT IPluginV3 operator โดย plugin นี้จะรับแผนผัง scatter แบบ 5-array พร้อมกับข้อมูลความลึกและฟีเจอร์ แล้วจึงเลือกเคอร์เนลที่เหมาะสมสำหรับคลาส GPU และประเภทข้อมูล (dtype) ที่ใช้งาน เส้นทางการทดสอบประสิทธิภาพใช้การสร้างแบบ ONNX-to-TensorRT และการเล่นซ้ำด้วย CUDA Graph ผ่าน trtexecสำหรับการตรวจสอบความถูกต้อง ควรเปรียบเทียบกับผลลัพธ์อ้างอิงแบบ FP64 หรือเส้นทาง V2 ที่เชื่อถือได้ บน RTX A6000, เคอร์เนลที่ปรับให้เข้ากับ DRAM ของ V3 ผ่านการตรวจสอบผลลัพธ์ทั้งหมดในการตั้งค่า 6 แบบ ด้วยค่า atol=1e-2 โดยมีข้อผิดพลาดสูงสุดที่สังเกตได้คือ 0.0065 บน RTX PRO 6000 Blackwell Max-Q, V2 และ V3 ให้ผลลัพธ์เหมือนกันในการตั้งค่าที่ทดสอบ ซึ่งแสดงว่าการปรับปรุงแผนผัง scatter และการตั้งค่าการทำงาน (launch configuration) นั้น ไม่ได้เปลี่ยนแปลงพฤติกรรมเชิงตัวเลขของเส้นทางอ้างอิงการจับคู่อัลกอริทึมกับฮาร์ดแวร์การเปลี่ยนแปลงอัลกอริทึมทั้ง 4 ประการของ BEVPoolV3 นั้นสามารถนำไปใช้ได้หลากหลาย แต่เคอร์เนลที่ใช้งานจริงจะต้องสอดคล้องกับจุดที่เป็นคอขวดของ GPU การตัดสินใจที่สำคัญคือ ชุดข้อมูลของ BEV-pooling สามารถเก็บอยู่ใน L2 ได้หรือไม่บน RTX A6000, ชุดข้อมูลทั่วไปมีขนาดใหญ่เกิน L2 ดังนั้นเคอร์เนลจะต้อง ... (เนื้อหาถูกตัดตอน)หมายเหตุ: ข้อมูลต้นทางอาจมีการตัดตอนในส่วนท้ายของเนื้อหา ทำให้ไม่สามารถให้ข้อมูลที่สมบูรณ์ได้ อย่างไรก็ตาม ข้อมูลที่นำเสนอข้างต้นได้สรุปประเด็นสำคัญเกี่ยวกับ BEVPoolV3 และแนวทางการปรับปรุงประสิทธิภาพบน NVIDIA GPU ตามข้อมูลที่มีอยู่#BEVPooling #NVIDIA #GPU #AI #AutonomousVehicles #Roboticshttps://developer.nvidia.com/blog/accelerating-bev-pooling-on-nvidia-gpus-for-physical-ai-applications/
    Shared content
    DEVELOPER.NVIDIA.COM
    Accelerating BEV Pooling on NVIDIA GPUs for Physical AI Applications
    An increasingly common design pattern for autonomous vehicles (AVs), robotics, and spatial AI systems is bird’s-eye-view (BEV) perception. BEV models project multicamera image features into a shared…
    5 Comments 0 Shares 221 Views 0 Reviews
  • พบช่องโหว่ RCE ใน WordPress ด้วย AI: การค้นพบที่อาจเปลี่ยนภูมิทัศน์ความปลอดภัย

    ในโลกของการรักษาความปลอดภัยไซเบอร์ การค้นพบช่องโหว่ใหม่ ๆ เป็นเรื่องสำคัญยิ่ง โดยเฉพาะช่องโหว่ที่สามารถนำไปสู่การควบคุมระบบโดยสมบูรณ์ (Remote Code Execution - RCE) ซึ่งเป็นที่ต้องการของเหล่า "Exploit Brokers" ที่พร้อมจะจ่ายเงินจำนวนมหาศาลเพื่อแลกกับข้อมูลเหล่านี้ ล่าสุดมีรายงานการค้นพบช่องโหว่ RCE ใน WordPress ที่น่าสนใจอย่างยิ่ง โดยใช้เทคโนโลยี AI อย่าง GPT5.6 Sol Ultra มาช่วยในการค้นหา

    การค้นพบช่องโหว่ RCE ใน WordPress ด้วย AI

    รายงานฉบับนี้เปิดเผยโดย Adam Kues จาก Searchlight Cyber ซึ่งเขาได้ทดลองใช้โมเดลภาษาขนาดใหญ่ (LLM) อย่าง GPT5.6 Sol Ultra พร้อมกับการปรับแต่ง Prompt และใช้ Agent หลายตัวในการวิเคราะห์โค้ดของ WordPress ผลลัพธ์ที่ได้คือการค้นพบช่องโหว่ Pre-authentication SQL Injection ที่สามารถนำไปสู่การยกระดับสิทธิ์ไปเป็น RCE ได้สำเร็จ

    เบื้องหลังการค้นพบ: การใช้ AI เพื่อวิจัยความปลอดภัย

    Adam Kues ได้แรงบันดาลใจจากการที่ OpenAI เผยแพร่ Prompt ที่ใช้ในการแก้ปัญหาทางคณิตศาสตร์ที่ซับซ้อน เขาจึงนำ Prompt ดังกล่าวมาปรับใช้กับการวิจัยด้านความปลอดภัย โดยชี้เป้าไปที่ WordPress และกำหนดให้ AI ทำงานต่อเนื่องนานหลายชั่วโมง พร้อมกำหนดเงื่อนไขที่ชัดเจน เช่น ต้องเป็นการโจมตีแบบ Pre-authentication (ไม่ต้องล็อกอิน) และต้องนำไปสู่ RCE ในการติดตั้ง WordPress ทั่วไปที่มีฐานข้อมูล MySQL

    กลไกของช่องโหว่: Batch API และ SQL Injection

    ช่องโหว่นี้อาศัยจุดอ่อนใน Batch API ของ WordPress ซึ่งถูกเพิ่มเข้ามาในเวอร์ชัน 5.6 กลไกปกติของ API คือการตรวจสอบ (Validation) และประมวลผล (Execution) คำขอทีละรายการ แต่ Batch API กลับมีการรวมขั้นตอนเหล่านี้ไว้ในลูปสองชุด ซึ่งทำให้เกิดความไม่สอดคล้องกัน (Desynchronization) ระหว่างการตรวจสอบและการประมวลผล

    เมื่อเกิดความไม่สอดคล้องกันนี้ขึ้น ทำให้ผู้โจมตีสามารถหลบเลี่ยงการตรวจสอบพารามิเตอร์บางอย่างได้ โดยเฉพาะอย่างยิ่งในส่วนของการกรอง Author ID ใน API endpoint สำหรับการจัดการโพสต์ (GET /wp/v2/posts) ซึ่งปกติแล้วจะมีการตรวจสอบว่าค่าที่ป้อนเข้ามาต้องเป็น Array ของ Integer เท่านั้น แต่ด้วยช่องโหว่ Batch API นี้ ผู้โจมตีสามารถป้อนค่าที่เป็น Scalar String เข้าไป ทำให้เกิด SQL Injection ที่สามารถอ่านข้อมูลจากฐานข้อมูลได้

    การยกระดับจาก SQL Injection สู่ RCE

    การค้นพบ SQL Injection เป็นเรื่องใหญ่แล้ว แต่การที่ AI สามารถนำไปสู่ RCE ได้นั้นน่าทึ่งยิ่งกว่า โดย AI ได้ใช้ประโยชน์จาก:

    1. การควบคุมข้อมูลใน Cache: WordPress มีการเก็บข้อมูลโพสต์บางส่วนไว้ในหน่วยความจำ (In-memory cache) เพื่อเพิ่มประสิทธิภาพ หากผู้โจมตีสามารถใช้ SQL Injection เพื่อสร้าง "โพสต์ปลอม" ที่มีข้อมูลที่ต้องการได้ ข้อมูลเหล่านี้จะถูกนำไปเก็บใน Cache และผู้โจมตีสามารถควบคุมเนื้อหาของโพสต์ปลอมได้อย่างสมบูรณ์
    2. ช่องโหว่ Embeds: WordPress รองรับการฝังเนื้อหาจากเว็บไซต์ภายนอก (Embeds) โดยจะมีการแคชข้อมูลเหล่านี้ไว้ทั้งในหน่วยความจำและในฐานข้อมูล (เป็น Post ประเภท oembed_cache) หากผู้โจมตีสามารถหลอกให้ WordPress ฝังโพสต์ปลอมที่สร้างขึ้นมาได้ ก็จะสามารถควบคุมเนื้อหาที่ถูกฝังได้

    เมื่อรวมสองกลไกนี้เข้าด้วยกัน ผู้โจมตีที่ใช้ช่องโหว่ SQL Injection สามารถสร้างโพสต์ปลอมที่มีเนื้อหาที่ควบคุมได้ และทำให้ WordPress ทำการฝังเนื้อหานั้น ซึ่งหากเนื้อหาที่ฝังถูกออกแบบมาอย่างเหมาะสม ก็สามารถนำไปสู่การรันโค้ดบนเซิร์ฟเวอร์ได้

    ต้นทุนและความคุ้มค่า

    สิ่งที่น่าประหลาดใจอีกประการคือ ต้นทุนในการค้นพบช่องโหว่นี้ ค่อนข้างต่ำ โดย Adam Kues ระบุว่าค่าใช้จ่ายในการใช้ GPT5.6 Sol Ultra สำหรับการค้นหานี้อยู่ที่ประมาณ 25 ดอลลาร์สหรัฐ เท่านั้น ซึ่งเมื่อเทียบกับราคาที่ Exploit Brokers พร้อมจะจ่าย (สูงถึง 500,000 ดอลลาร์สหรัฐ) แสดงให้เห็นถึงศักยภาพและความคุ้มค่าของการใช้ AI ในการวิจัยด้านความปลอดภัย

    ความสำคัญต่อผู้ใช้งาน WordPress

    ช่องโหว่นี้ส่งผลกระทบต่อ WordPress ซึ่งเป็นระบบจัดการเนื้อหาที่ได้รับความนิยมสูงสุดในโลก (มีมากกว่า 500 ล้านอินสแตนซ์ทั่วโลก) การที่ช่องโหว่นี้เป็นแบบ Pre-authentication หมายความว่าผู้โจมตีไม่จำเป็นต้องมีบัญชีผู้ใช้ในระบบก็สามารถโจมตีได้

    ทาง Searchlight Cyber ได้ระงับการเผยแพร่ข้อมูลช่องโหว่นี้ในช่วงสุดสัปดาห์เพื่อให้ผู้ดูแลระบบมีเวลาอัปเดต WordPress อย่างไรก็ตาม มีรายงานว่านักวิจัยคนอื่น ๆ ก็สามารถตรวจสอบและยืนยันช่องโหว่นี้ได้เช่นกัน

    สิ่งที่ผู้ใช้ WordPress ควรทำ

    • อัปเดต WordPress ทันที: นี่คือสิ่งสำคัญที่สุดที่ต้องทำเพื่อปิดช่องโหว่นี้ ตรวจสอบให้แน่ใจว่า WordPress, ธีม, และปลั๊กอินทั้งหมดของคุณเป็นเวอร์ชันล่าสุด
    • ใช้เครื่องมือตรวจสอบ: Searchlight Cyber ได้พัฒนาเครื่องมือ wp2shell.com เพื่อช่วยให้ผู้ใช้ตรวจสอบว่าอินสแตนซ์ WordPress ของตนเองมีความเสี่ยงต่อช่องโหว่นี้หรือไม่
    • ติดตามข่าวสารด้านความปลอดภัย: การอัปเดตและการรับทราบข้อมูลเกี่ยวกับช่องโหว่ใหม่ ๆ เป็นสิ่งจำเป็นสำหรับผู้ดูแลระบบ

    การค้นพบครั้งนี้เป็นเครื่องพิสูจน์ถึงพลังของ AI ในการช่วยเหลือนักวิจัยด้านความปลอดภัย และเน้นย้ำถึงความสำคัญของการปรับปรุงระบบรักษาความปลอดภัยอย่างต่อเนื่องในโลกดิจิทัลที่เปลี่ยนแปลงไปอย่างรวดเร็ว

    #WordPress #RCE #SQLInjection #AI #Cybersecurity #Vulnerability

    ขอบคุณ แหล่งข้อมูล
    https://slcyber.io/research-center/exploit-brokers-pay-500000-for-a-wordpress-rce-i-found-one-with-gpt5-6/

    พบช่องโหว่ RCE ใน WordPress ด้วย AI: การค้นพบที่อาจเปลี่ยนภูมิทัศน์ความปลอดภัยในโลกของการรักษาความปลอดภัยไซเบอร์ การค้นพบช่องโหว่ใหม่ ๆ เป็นเรื่องสำคัญยิ่ง โดยเฉพาะช่องโหว่ที่สามารถนำไปสู่การควบคุมระบบโดยสมบูรณ์ (Remote Code Execution - RCE) ซึ่งเป็นที่ต้องการของเหล่า "Exploit Brokers" ที่พร้อมจะจ่ายเงินจำนวนมหาศาลเพื่อแลกกับข้อมูลเหล่านี้ ล่าสุดมีรายงานการค้นพบช่องโหว่ RCE ใน WordPress ที่น่าสนใจอย่างยิ่ง โดยใช้เทคโนโลยี AI อย่าง GPT5.6 Sol Ultra มาช่วยในการค้นหาการค้นพบช่องโหว่ RCE ใน WordPress ด้วย AIรายงานฉบับนี้เปิดเผยโดย Adam Kues จาก Searchlight Cyber ซึ่งเขาได้ทดลองใช้โมเดลภาษาขนาดใหญ่ (LLM) อย่าง GPT5.6 Sol Ultra พร้อมกับการปรับแต่ง Prompt และใช้ Agent หลายตัวในการวิเคราะห์โค้ดของ WordPress ผลลัพธ์ที่ได้คือการค้นพบช่องโหว่ Pre-authentication SQL Injection ที่สามารถนำไปสู่การยกระดับสิทธิ์ไปเป็น RCE ได้สำเร็จเบื้องหลังการค้นพบ: การใช้ AI เพื่อวิจัยความปลอดภัยAdam Kues ได้แรงบันดาลใจจากการที่ OpenAI เผยแพร่ Prompt ที่ใช้ในการแก้ปัญหาทางคณิตศาสตร์ที่ซับซ้อน เขาจึงนำ Prompt ดังกล่าวมาปรับใช้กับการวิจัยด้านความปลอดภัย โดยชี้เป้าไปที่ WordPress และกำหนดให้ AI ทำงานต่อเนื่องนานหลายชั่วโมง พร้อมกำหนดเงื่อนไขที่ชัดเจน เช่น ต้องเป็นการโจมตีแบบ Pre-authentication (ไม่ต้องล็อกอิน) และต้องนำไปสู่ RCE ในการติดตั้ง WordPress ทั่วไปที่มีฐานข้อมูล MySQLกลไกของช่องโหว่: Batch API และ SQL Injectionช่องโหว่นี้อาศัยจุดอ่อนใน Batch API ของ WordPress ซึ่งถูกเพิ่มเข้ามาในเวอร์ชัน 5.6 กลไกปกติของ API คือการตรวจสอบ (Validation) และประมวลผล (Execution) คำขอทีละรายการ แต่ Batch API กลับมีการรวมขั้นตอนเหล่านี้ไว้ในลูปสองชุด ซึ่งทำให้เกิดความไม่สอดคล้องกัน (Desynchronization) ระหว่างการตรวจสอบและการประมวลผลเมื่อเกิดความไม่สอดคล้องกันนี้ขึ้น ทำให้ผู้โจมตีสามารถหลบเลี่ยงการตรวจสอบพารามิเตอร์บางอย่างได้ โดยเฉพาะอย่างยิ่งในส่วนของการกรอง Author ID ใน API endpoint สำหรับการจัดการโพสต์ (GET /wp/v2/posts) ซึ่งปกติแล้วจะมีการตรวจสอบว่าค่าที่ป้อนเข้ามาต้องเป็น Array ของ Integer เท่านั้น แต่ด้วยช่องโหว่ Batch API นี้ ผู้โจมตีสามารถป้อนค่าที่เป็น Scalar String เข้าไป ทำให้เกิด SQL Injection ที่สามารถอ่านข้อมูลจากฐานข้อมูลได้การยกระดับจาก SQL Injection สู่ RCEการค้นพบ SQL Injection เป็นเรื่องใหญ่แล้ว แต่การที่ AI สามารถนำไปสู่ RCE ได้นั้นน่าทึ่งยิ่งกว่า โดย AI ได้ใช้ประโยชน์จาก:การควบคุมข้อมูลใน Cache: WordPress มีการเก็บข้อมูลโพสต์บางส่วนไว้ในหน่วยความจำ (In-memory cache) เพื่อเพิ่มประสิทธิภาพ หากผู้โจมตีสามารถใช้ SQL Injection เพื่อสร้าง "โพสต์ปลอม" ที่มีข้อมูลที่ต้องการได้ ข้อมูลเหล่านี้จะถูกนำไปเก็บใน Cache และผู้โจมตีสามารถควบคุมเนื้อหาของโพสต์ปลอมได้อย่างสมบูรณ์ช่องโหว่ Embeds: WordPress รองรับการฝังเนื้อหาจากเว็บไซต์ภายนอก (Embeds) โดยจะมีการแคชข้อมูลเหล่านี้ไว้ทั้งในหน่วยความจำและในฐานข้อมูล (เป็น Post ประเภท oembed_cache) หากผู้โจมตีสามารถหลอกให้ WordPress ฝังโพสต์ปลอมที่สร้างขึ้นมาได้ ก็จะสามารถควบคุมเนื้อหาที่ถูกฝังได้เมื่อรวมสองกลไกนี้เข้าด้วยกัน ผู้โจมตีที่ใช้ช่องโหว่ SQL Injection สามารถสร้างโพสต์ปลอมที่มีเนื้อหาที่ควบคุมได้ และทำให้ WordPress ทำการฝังเนื้อหานั้น ซึ่งหากเนื้อหาที่ฝังถูกออกแบบมาอย่างเหมาะสม ก็สามารถนำไปสู่การรันโค้ดบนเซิร์ฟเวอร์ได้ต้นทุนและความคุ้มค่าสิ่งที่น่าประหลาดใจอีกประการคือ ต้นทุนในการค้นพบช่องโหว่นี้ ค่อนข้างต่ำ โดย Adam Kues ระบุว่าค่าใช้จ่ายในการใช้ GPT5.6 Sol Ultra สำหรับการค้นหานี้อยู่ที่ประมาณ 25 ดอลลาร์สหรัฐ เท่านั้น ซึ่งเมื่อเทียบกับราคาที่ Exploit Brokers พร้อมจะจ่าย (สูงถึง 500,000 ดอลลาร์สหรัฐ) แสดงให้เห็นถึงศักยภาพและความคุ้มค่าของการใช้ AI ในการวิจัยด้านความปลอดภัยความสำคัญต่อผู้ใช้งาน WordPressช่องโหว่นี้ส่งผลกระทบต่อ WordPress ซึ่งเป็นระบบจัดการเนื้อหาที่ได้รับความนิยมสูงสุดในโลก (มีมากกว่า 500 ล้านอินสแตนซ์ทั่วโลก) การที่ช่องโหว่นี้เป็นแบบ Pre-authentication หมายความว่าผู้โจมตีไม่จำเป็นต้องมีบัญชีผู้ใช้ในระบบก็สามารถโจมตีได้ทาง Searchlight Cyber ได้ระงับการเผยแพร่ข้อมูลช่องโหว่นี้ในช่วงสุดสัปดาห์เพื่อให้ผู้ดูแลระบบมีเวลาอัปเดต WordPress อย่างไรก็ตาม มีรายงานว่านักวิจัยคนอื่น ๆ ก็สามารถตรวจสอบและยืนยันช่องโหว่นี้ได้เช่นกันสิ่งที่ผู้ใช้ WordPress ควรทำอัปเดต WordPress ทันที: นี่คือสิ่งสำคัญที่สุดที่ต้องทำเพื่อปิดช่องโหว่นี้ ตรวจสอบให้แน่ใจว่า WordPress, ธีม, และปลั๊กอินทั้งหมดของคุณเป็นเวอร์ชันล่าสุดใช้เครื่องมือตรวจสอบ: Searchlight Cyber ได้พัฒนาเครื่องมือ wp2shell.com เพื่อช่วยให้ผู้ใช้ตรวจสอบว่าอินสแตนซ์ WordPress ของตนเองมีความเสี่ยงต่อช่องโหว่นี้หรือไม่ติดตามข่าวสารด้านความปลอดภัย: การอัปเดตและการรับทราบข้อมูลเกี่ยวกับช่องโหว่ใหม่ ๆ เป็นสิ่งจำเป็นสำหรับผู้ดูแลระบบการค้นพบครั้งนี้เป็นเครื่องพิสูจน์ถึงพลังของ AI ในการช่วยเหลือนักวิจัยด้านความปลอดภัย และเน้นย้ำถึงความสำคัญของการปรับปรุงระบบรักษาความปลอดภัยอย่างต่อเนื่องในโลกดิจิทัลที่เปลี่ยนแปลงไปอย่างรวดเร็ว#WordPress #RCE #SQLInjection #AI #Cybersecurity #Vulnerabilityhttps://slcyber.io/research-center/exploit-brokers-pay-500000-for-a-wordpress-rce-i-found-one-with-gpt5-6/
    Shared content
    SLCYBER.IO
    Exploit brokers pay $500,000 for a WordPress RCE. I found one with GPT5.6 Sol Ultra and $25
    Stay current: Get research alerts for newly disclosed vulnerabilities and exposures If you're running WordPress and want to check if your instance is vulnerable, you can use our tool we've hosted here: https://wp2shell.com/. We held off on publishing this issue to give defenders a chance to upgrade their WordPress instances over the weekend, but during
    6 Comments 0 Shares 231 Views 0 Reviews
  • ChatGPT Enterprise: ควบคุมค่าใช้จ่ายได้อย่างมีประสิทธิภาพเพื่อธุรกิจของคุณ

    ในยุคดิจิทัลที่เทคโนโลยี AI กำลังเข้ามามีบทบาทสำคัญในการขับเคลื่อนธุรกิจ การนำเครื่องมืออย่าง ChatGPT มาใช้งานในองค์กรยิ่งมีความจำเป็นมากขึ้น อย่างไรก็ตาม การใช้งานเทคโนโลยีใหม่ๆ อาจมาพร้อมกับความกังวลเรื่องค่าใช้จ่ายที่ควบคุมได้ยาก โดยเฉพาะอย่างยิ่งเมื่อเป็นการใช้งานในระดับองค์กรขนาดใหญ่ ChatGPT Enterprise จึงมาพร้อมกับฟีเจอร์ที่ออกแบบมาเพื่อตอบโจทย์นี้โดยเฉพาะ นั่นคือ การควบคุมค่าใช้จ่าย (Spend Controls)

    ทำไมการควบคุมค่าใช้จ่ายจึงสำคัญสำหรับ ChatGPT Enterprise?

    การใช้งาน ChatGPT ในระดับองค์กร มักจะเกี่ยวข้องกับการประมวลผลข้อมูลจำนวนมาก การสร้างเนื้อหาที่ซับซ้อน หรือการนำไปใช้ในหลากหลายแผนก ซึ่งทั้งหมดนี้อาจส่งผลให้ค่าใช้จ่ายเพิ่มสูงขึ้นอย่างรวดเร็วหากไม่มีการบริหารจัดการที่ดี การมีระบบควบคุมค่าใช้จ่ายที่ชัดเจนจะช่วยให้องค์กรสามารถ:

    • วางแผนงบประมาณได้อย่างแม่นยำ: ทราบถึงค่าใช้จ่ายที่เกิดขึ้นจริงและสามารถคาดการณ์ค่าใช้จ่ายในอนาคตได้
    • ป้องกันค่าใช้จ่ายที่บานปลาย: กำหนดเพดานการใช้จ่ายเพื่อไม่ให้เกินงบประมาณที่ตั้งไว้
    • บริหารทรัพยากรได้อย่างมีประสิทธิภาพ: จัดสรรงบประมาณไปยังส่วนงานที่จำเป็นและสร้างผลตอบแทนสูงสุด
    • เพิ่มความโปร่งใส: ทำให้ทุกคนในองค์กรเข้าใจถึงการใช้จ่ายที่เกี่ยวข้องกับ AI

    ฟีเจอร์ Spend Controls ใน ChatGPT Enterprise

    ChatGPT Enterprise ได้รับการออกแบบมาเพื่อตอบสนองความต้องการของผู้ใช้งานระดับองค์กร โดยเฉพาะด้านการบริหารจัดการค่าใช้จ่าย ฟีเจอร์ Spend Controls ช่วยให้ผู้ดูแลระบบสามารถกำหนดและตรวจสอบการใช้งานได้ดังนี้:

    1. การกำหนดขีดจำกัดการใช้งาน (Usage Limits)

    ผู้ดูแลระบบสามารถตั้งค่าขีดจำกัดการใช้งาน ChatGPT ได้ตามความเหมาะสมของแต่ละแผนก ทีม หรือแม้กระทั่งผู้ใช้งานแต่ละคน ซึ่งอาจจะตั้งเป็นจำนวนโทเคน (tokens) ต่อเดือน หรือต่อรอบการใช้งาน เพื่อป้องกันการใช้งานที่เกินความจำเป็น

    2. การติดตามและรายงานผล (Monitoring and Reporting)

    ระบบจะมีการเก็บข้อมูลการใช้งานอย่างละเอียด พร้อมทั้งสร้างรายงานที่เข้าใจง่าย ช่วยให้ผู้บริหารและผู้ดูแลระบบสามารถตรวจสอบได้ว่ามีการใช้งานส่วนใดมากที่สุด มีค่าใช้จ่ายเกิดขึ้นที่แผนกใด และสามารถนำข้อมูลนี้ไปวิเคราะห์เพื่อปรับปรุงการใช้งานให้มีประสิทธิภาพยิ่งขึ้น

    3. การแจ้งเตือนเมื่อใกล้ถึงขีดจำกัด (Alerts and Notifications)

    เมื่อการใช้งานใกล้จะถึงขีดจำกัดที่ตั้งไว้ ระบบจะมีการแจ้งเตือนไปยังผู้ดูแลระบบ เพื่อให้สามารถดำเนินการปรับเปลี่ยนการตั้งค่า หรือสื่อสารกับผู้ใช้งานที่เกี่ยวข้องได้ทันท่วงที

    4. การจัดการสิทธิ์การเข้าถึง (Access Management)

    นอกจากการควบคุมค่าใช้จ่ายแล้ว ChatGPT Enterprise ยังให้ความสำคัญกับการจัดการสิทธิ์การเข้าถึงข้อมูลและความสามารถในการใช้งาน ทำให้มั่นใจได้ว่าผู้ใช้งานแต่ละคนจะสามารถเข้าถึงฟังก์ชันที่จำเป็นต่อการทำงานเท่านั้น

    ใครคือกลุ่มเป้าหมายหลักของ ChatGPT Enterprise?

    ChatGPT Enterprise เหมาะสำหรับองค์กรทุกขนาดที่ต้องการนำ AI มาใช้เพื่อเพิ่มประสิทธิภาพการทำงาน ลดต้นทุน และสร้างนวัตกรรม โดยเฉพาะอย่างยิ่ง:

    • ทีมพัฒนา: ใช้ในการเขียนโค้ด, แก้ไขข้อผิดพลาด, และสร้างเอกสารทางเทคนิค
    • ทีมการตลาด: ใช้ในการสร้างสรรค์คอนเทนต์, สคริปต์วิดีโอ, และวิเคราะห์ข้อมูลลูกค้า
    • ทีมสนับสนุนลูกค้า: ใช้ในการตอบคำถามที่พบบ่อย, สร้างฐานข้อมูลความรู้, และปรับปรุงการบริการ
    • ทีมวิจัยและพัฒนา: ใช้ในการประมวลผลข้อมูล, สร้างแบบจำลอง, และค้นหาแนวคิดใหม่ๆ

    ข้อได้เปรียบในการเลือกใช้ ChatGPT Enterprise

    การเลือกใช้ ChatGPT Enterprise ไม่เพียงแต่จะช่วยให้องค์กรของคุณสามารถเข้าถึงศักยภาพสูงสุดของ AI แต่ยังมาพร้อมกับความมั่นใจในเรื่องการบริหารจัดการค่าใช้จ่ายที่โปร่งใสและมีประสิทธิภาพ การควบคุมค่าใช้จ่ายที่แข็งแกร่งนี้ จะช่วยให้การลงทุนในเทคโนโลยี AI ขององค์กรคุ้มค่าและสามารถสร้างผลลัพธ์ทางธุรกิจที่ยั่งยืน

    #ChatGPTEnterprise #AI #การบริหารค่าใช้จ่าย #เทคโนโลยี

    ขอบคุณ แหล่งข้อมูล
    https://openai.com/index/chatgpt-enterprise-spend-controls

    ChatGPT Enterprise: ควบคุมค่าใช้จ่ายได้อย่างมีประสิทธิภาพเพื่อธุรกิจของคุณในยุคดิจิทัลที่เทคโนโลยี AI กำลังเข้ามามีบทบาทสำคัญในการขับเคลื่อนธุรกิจ การนำเครื่องมืออย่าง ChatGPT มาใช้งานในองค์กรยิ่งมีความจำเป็นมากขึ้น อย่างไรก็ตาม การใช้งานเทคโนโลยีใหม่ๆ อาจมาพร้อมกับความกังวลเรื่องค่าใช้จ่ายที่ควบคุมได้ยาก โดยเฉพาะอย่างยิ่งเมื่อเป็นการใช้งานในระดับองค์กรขนาดใหญ่ ChatGPT Enterprise จึงมาพร้อมกับฟีเจอร์ที่ออกแบบมาเพื่อตอบโจทย์นี้โดยเฉพาะ นั่นคือ การควบคุมค่าใช้จ่าย (Spend Controls)ทำไมการควบคุมค่าใช้จ่ายจึงสำคัญสำหรับ ChatGPT Enterprise?การใช้งาน ChatGPT ในระดับองค์กร มักจะเกี่ยวข้องกับการประมวลผลข้อมูลจำนวนมาก การสร้างเนื้อหาที่ซับซ้อน หรือการนำไปใช้ในหลากหลายแผนก ซึ่งทั้งหมดนี้อาจส่งผลให้ค่าใช้จ่ายเพิ่มสูงขึ้นอย่างรวดเร็วหากไม่มีการบริหารจัดการที่ดี การมีระบบควบคุมค่าใช้จ่ายที่ชัดเจนจะช่วยให้องค์กรสามารถ:วางแผนงบประมาณได้อย่างแม่นยำ: ทราบถึงค่าใช้จ่ายที่เกิดขึ้นจริงและสามารถคาดการณ์ค่าใช้จ่ายในอนาคตได้ป้องกันค่าใช้จ่ายที่บานปลาย: กำหนดเพดานการใช้จ่ายเพื่อไม่ให้เกินงบประมาณที่ตั้งไว้บริหารทรัพยากรได้อย่างมีประสิทธิภาพ: จัดสรรงบประมาณไปยังส่วนงานที่จำเป็นและสร้างผลตอบแทนสูงสุดเพิ่มความโปร่งใส: ทำให้ทุกคนในองค์กรเข้าใจถึงการใช้จ่ายที่เกี่ยวข้องกับ AIฟีเจอร์ Spend Controls ใน ChatGPT EnterpriseChatGPT Enterprise ได้รับการออกแบบมาเพื่อตอบสนองความต้องการของผู้ใช้งานระดับองค์กร โดยเฉพาะด้านการบริหารจัดการค่าใช้จ่าย ฟีเจอร์ Spend Controls ช่วยให้ผู้ดูแลระบบสามารถกำหนดและตรวจสอบการใช้งานได้ดังนี้:1. การกำหนดขีดจำกัดการใช้งาน (Usage Limits)ผู้ดูแลระบบสามารถตั้งค่าขีดจำกัดการใช้งาน ChatGPT ได้ตามความเหมาะสมของแต่ละแผนก ทีม หรือแม้กระทั่งผู้ใช้งานแต่ละคน ซึ่งอาจจะตั้งเป็นจำนวนโทเคน (tokens) ต่อเดือน หรือต่อรอบการใช้งาน เพื่อป้องกันการใช้งานที่เกินความจำเป็น2. การติดตามและรายงานผล (Monitoring and Reporting)ระบบจะมีการเก็บข้อมูลการใช้งานอย่างละเอียด พร้อมทั้งสร้างรายงานที่เข้าใจง่าย ช่วยให้ผู้บริหารและผู้ดูแลระบบสามารถตรวจสอบได้ว่ามีการใช้งานส่วนใดมากที่สุด มีค่าใช้จ่ายเกิดขึ้นที่แผนกใด และสามารถนำข้อมูลนี้ไปวิเคราะห์เพื่อปรับปรุงการใช้งานให้มีประสิทธิภาพยิ่งขึ้น3. การแจ้งเตือนเมื่อใกล้ถึงขีดจำกัด (Alerts and Notifications)เมื่อการใช้งานใกล้จะถึงขีดจำกัดที่ตั้งไว้ ระบบจะมีการแจ้งเตือนไปยังผู้ดูแลระบบ เพื่อให้สามารถดำเนินการปรับเปลี่ยนการตั้งค่า หรือสื่อสารกับผู้ใช้งานที่เกี่ยวข้องได้ทันท่วงที4. การจัดการสิทธิ์การเข้าถึง (Access Management)นอกจากการควบคุมค่าใช้จ่ายแล้ว ChatGPT Enterprise ยังให้ความสำคัญกับการจัดการสิทธิ์การเข้าถึงข้อมูลและความสามารถในการใช้งาน ทำให้มั่นใจได้ว่าผู้ใช้งานแต่ละคนจะสามารถเข้าถึงฟังก์ชันที่จำเป็นต่อการทำงานเท่านั้นใครคือกลุ่มเป้าหมายหลักของ ChatGPT Enterprise?ChatGPT Enterprise เหมาะสำหรับองค์กรทุกขนาดที่ต้องการนำ AI มาใช้เพื่อเพิ่มประสิทธิภาพการทำงาน ลดต้นทุน และสร้างนวัตกรรม โดยเฉพาะอย่างยิ่ง:ทีมพัฒนา: ใช้ในการเขียนโค้ด, แก้ไขข้อผิดพลาด, และสร้างเอกสารทางเทคนิคทีมการตลาด: ใช้ในการสร้างสรรค์คอนเทนต์, สคริปต์วิดีโอ, และวิเคราะห์ข้อมูลลูกค้าทีมสนับสนุนลูกค้า: ใช้ในการตอบคำถามที่พบบ่อย, สร้างฐานข้อมูลความรู้, และปรับปรุงการบริการทีมวิจัยและพัฒนา: ใช้ในการประมวลผลข้อมูล, สร้างแบบจำลอง, และค้นหาแนวคิดใหม่ๆข้อได้เปรียบในการเลือกใช้ ChatGPT Enterpriseการเลือกใช้ ChatGPT Enterprise ไม่เพียงแต่จะช่วยให้องค์กรของคุณสามารถเข้าถึงศักยภาพสูงสุดของ AI แต่ยังมาพร้อมกับความมั่นใจในเรื่องการบริหารจัดการค่าใช้จ่ายที่โปร่งใสและมีประสิทธิภาพ การควบคุมค่าใช้จ่ายที่แข็งแกร่งนี้ จะช่วยให้การลงทุนในเทคโนโลยี AI ขององค์กรคุ้มค่าและสามารถสร้างผลลัพธ์ทางธุรกิจที่ยั่งยืน#ChatGPTEnterprise #AI #การบริหารค่าใช้จ่าย #เทคโนโลยีhttps://openai.com/index/chatgpt-enterprise-spend-controls
    0 Comments 0 Shares 258 Views 0 Reviews
  • เจาะลึก PyTorch Profiling: จาก nn.Linear สู่ Fused MLP ที่เร็วขึ้น

    การทำความเข้าใจเบื้องหลังการทำงานของ PyTorch เป็นกุญแจสำคัญในการเพิ่มประสิทธิภาพโมเดล AI ให้ถึงขีดสุด ในซีรีส์ "Profiling in PyTorch" นี้ เราจะค่อยๆ สร้างทักษะการอ่าน PyTorch profiler traces เพื่อนำไปสู่การปรับปรุงประสิทธิภาพ ในตอนที่ 1 เราได้เรียนรู้วิธีอ่าน profiler traces เบื้องต้น และในตอนนี้ เราจะก้าวไปอีกขั้นด้วยการเปลี่ยนจากการใช้ torch.add(torch.matmul(x, w), b) มาเป็น nn.Linear ซึ่งเป็นส่วนประกอบพื้นฐานที่ทุกโมเดล Deep Learning ต้องใช้

    จาก matmul-add สู่ nn.Linear: การทำงานเบื้องหลัง

    nn.Linear คือ wrapper ที่ครอบการทำงานของการคูณเมทริกซ์และการบวกที่เราได้เห็นในตอนที่ 1 โดยมีน้ำหนัก (weight) และไบแอส (bias) เป็นพารามิเตอร์ของตัวเอง และมีเมธอด forward ที่ผู้ใช้ PyTorch คุ้นเคย การดำเนินการนี้สามารถเขียนได้ในรูป:

    y = x @ w + b

    เมื่อ x คืออินพุต, w คือน้ำหนัก และ b คือไบแอส

    เมื่อเราใช้ profiler กับ nn.Linear เราจะเห็นการทำงานที่ซับซ้อนกว่าที่คิดเล็กน้อย

    การทำงานของ Transpose (aten::t)

    เมื่อเจาะลึก profiler trace เราจะสังเกตเห็น aten::t (transpose) ก่อน aten::addmm (การคูณและบวก) สิ่งนี้บ่งบอกว่า nn.Linear ทำการ transpose น้ำหนัก (w) ก่อนนำไปคูณกับอินพุต (x)

    สิ่งสำคัญที่ควรทราบ: aten::t ไม่ได้ทำการคัดลอกหรือจัดเรียงข้อมูลใหม่จริง ๆ แต่เป็นการแก้ไขเมทาดาทา (shape และ stride) ของเทนเซอร์บน CPU เพื่อให้มองเห็นเมทริกซ์ที่ถูก transpose แล้ว โดย ไม่ได้เรียกใช้ GPU kernel คุณสามารถตรวจสอบได้จากการดูเลน GPU ใน trace หรือเวลาที่ใช้บน CUDA สำหรับ aten::t

    ทำไมไม่มี Kernel แยกสำหรับ mul และ add?

    คุณจะสังเกตเห็นว่าไม่มี aten::add แยกออกมาใน dispatch chain ของ nn.Linear ทั้งนี้เป็นเพราะการบวกไบแอสได้ถูก รวมเข้ากับการคูณเมทริกซ์ (GEMM) แล้ว ผ่านสิ่งที่เรียกว่า epilogue

    Epilogue คือการคำนวณเล็กๆ น้อยๆ ที่ GEMM kernel ทำก่อนที่จะเขียนผลลัพธ์กลับไปยัง HBM (High Bandwidth Memory) การบวกไบแอส การใช้ activation function หรือการ scale เป็นตัวอย่างของ epilogue การทำเช่นนี้ช่วยหลีกเลี่ยงการโหลดหรือเขียนข้อมูลไปยัง HBM ซ้ำสองครั้ง ซึ่งการรับส่งข้อมูลผ่านหน่วยความจำเป็นส่วนที่ทำให้การทำงานช้าลง

    nn.Linear จะเรียกใช้ torch.nn.functional.linear ซึ่งจะเรียก aten::linear ต่อไป aten::linear จะตรวจสอบอินพุต หากพบว่ามีการส่ง bias เข้ามา จะเลือกใช้ aten::addmm(bias, x, weight) แทนการทำ matmul และ add แยกกัน

    addmm สามารถคำนวณได้ดังนี้: y = x @ w + b

    Kernel ของ cuBLAS GEMM ที่ทำงานบน GPU มีฟังก์ชันสำหรับ bias-add ในตัว และนั่นคือ kernel ที่ aten::addmm เลือกใช้ การบวก (add) จึงไม่ปรากฏเป็น kernel แยก เพราะเป็นส่วนหนึ่งของการเขียนผลลัพธ์ของ matmul kernel ซึ่งก็คือ epilogue นั่นเอง

    torch.compile ช่วยอะไรกับ Linear Layer เดียวได้หรือไม่?

    แม้ว่า nn.Linear จะใช้งาน kernel ที่มีประสิทธิภาพอยู่แล้ว การลองคอมไพล์ forward call ด้วย torch.compile และดู profiler trace จะพบว่า:

    • GPU Kernel เดียวกัน: ยังคงใช้ cuBLAS GEMM kernel เดิม
    • CPU Op เดียวกัน: ยังคงเป็น aten::addmm
    • มีแถวเพิ่มเติมบน CPU: ที่เกี่ยวข้องกับการทำงานของ compile

    นี่เป็นจุดที่สำคัญที่ควรทำความเข้าใจ: หลายครั้งที่เรารู้สึกว่าโมเดลทำงานช้า สิ่งแรกที่เรามักจะนึกถึงคือ torch.compile แต่สำหรับ GEMM เพียงหนึ่งครั้งที่มี bias, compile แทบจะไม่มีอะไรให้ทำ การที่ compile จะแสดงประสิทธิภาพได้ ต้องมี การดำเนินการมากกว่าหนึ่งอย่าง เพื่อให้เกิดการ fuse (หลอมรวม) ได้

    การซ้อน Linear Layer สามชั้น: สร้าง Multilayer Perceptron (MLP)

    เมื่อเรานำ nn.Linear มาซ้อนกันสามชั้นพร้อม activation function ตรงกลาง เราจะได้โครงสร้าง Multilayer Perceptron (MLP) ซึ่งเป็นส่วนประกอบสำคัญของโมเดล Deep Learning จำนวนมาก

    สิ่งที่คาดหวังก่อนเปิด Trace

    เมื่อพิจารณา MLP ที่มีการใช้งาน GeGLU activation เราคาดว่า:

    • จะมีการเรียก aten::linear สามครั้ง (สำหรับ nn.Linear แต่ละชั้น)
    • จะมีการเรียก kernel สำหรับ activation (GeLU) และการคูณ (mul) สองครั้ง

    การตั้งสมมติฐานก่อนดู trace เป็นนิสัยที่มีประโยชน์อย่างยิ่งในการทำ profiling เพราะเราจะใช้ trace เพื่อยืนยันหรือหักล้างสมมติฐานของเรา

    ผลลัพธ์จาก Profiler

    จาก profiler trace เราจะเห็นว่า:

    • ต่อ 1 forward pass ของ MLP, GPU จะรัน 5 kernels
    • สำหรับ nn.Linear จะมีการเรียก cudaOccupancyMaxActiveBlocksPerMultiprocessor ก่อนการ launch kernel (เป็นการคำนวณขนาด grid ของ cuBLAS)
    • สำหรับ pointwise ops (GeLU, mul) จะเป็นการ launch kernel โดยตรง

    Ops ที่ไม่มีการ launch kernel: aten::t, aten::transpose, aten::reshape, aten::view, aten::asstrided และ aten::unsafe_view จะไม่ launch kernel ใดๆ เลย โดยจะแสดงเวลา CUDA เป็น 0.000us ในตาราง เพราะทำเพียงแค่การแก้ไขเมทาดาทาของเทนเซอร์ (shape และ stride) บน CPU เท่านั้น แม้ในตารางจะเห็นชื่อ op จำนวนมากต่อหนึ่ง linear layer แต่มีเพียง mm เท่านั้นที่ไปทำงานบน GPU จริงๆ

    ทำไม GEMM Kernel ถึงมีสองแบบ?

    MLP จะทำการ flatten ข้อมูลจาก [batch, seq, dim] เป็น [batch seq, dim] ก่อนทำการ matmul ตัวอย่างเช่น หาก batch = 64 และ seq = 128 จะได้ 8192 (64 128)

    แม้ว่า GEMM ทั้งสามตัวจะมีการคำนวณ FLOPs เท่ากัน (ประมาณ 38.7 GFLOP แต่ละอัน) แต่ downproj จะเร็วกว่าประมาณ 10% สาเหตุมาจาก shape ที่แตกต่างกัน (N=768 เทียบกับ 3072) ทำให้ cuBLAS เลือกใช้ tiling ที่แตกต่างกัน (128×256 กับ pipeline stages64x3 ที่ลึกกว่า) ซึ่งให้ผลลัพธ์ที่ดีกว่าสำหรับการ reuse ข้อมูลใน shape นั้นๆ

    นี่คือเหตุผลที่ตาราง profiler แสดง GEMM สองแถว: แถว 128x128 สำหรับ gate+up และแถว 128x256 สำหรับ down

    torch.compile ทำอะไรได้บ้าง?

    เมื่อเราคอมไพล์ forward method และดู trace:

    ในโหมด eager, nn.Linear แต่ละตัวจะถูกขยายเป็น chain ของ dispatcher ops (aten::linearaten::taten::transposeaten::matmulaten::reshapeaten::mm) ซึ่งเป็น high-level wrappers ที่ ATen ใช้ก่อนจะถึง GEMM จริง

    torch.compile ขจัด chain นี้ออกไป เมื่อกราฟที่คอมไพล์ทำงาน จะไม่มี linear, matmul, transpose หรือ reshape อีกต่อไป โดย ops เหล่านี้จะถูกรวมเข้ากับการเรียก mm โดยตรง

    เราจะเห็นการเรียก aten::mm ภายนอกเพียงสามครั้ง และหลักฐานที่พิสูจน์ว่าเป็น GEMM เดียวกันคือ ชื่อ kernel ที่เหมือนกันทุกประการ กับโหมด eager (...128x128...stages32x5tn สำหรับ gate และ up, และ ...128x256...stages64x3tn สำหรับ down)

    Fused Triton Kernel: หัวใจของการเพิ่มประสิทธิภาพ

    torch.compile สามารถ fuse การดำเนินการหลายอย่างเข้าด้วยกัน สร้างเป็น kernel ที่มีประสิทธิภาพสูงขึ้น ซึ่งมักจะใช้ Triton kernel โดยเฉพาะอย่างยิ่งเมื่อมีการรวมการดำเนินการที่ซับซ้อนเข้าด้วยกัน เช่น การบวก bias, การใช้ activation function หรือการ transpose เข้าไปใน GEMM kernel ตัวเดียว

    การเข้าใจการทำงานเบื้องหลังของ PyTorch ผ่าน profiler จะช่วยให้นักพัฒนาสามารถระบุคอขวด (bottleneck) และปรับปรุงประสิทธิภาพของโมเดลได้อย่างตรงจุด โดยเฉพาะอย่างยิ่งการใช้ประโยชน์จาก torch.compile เพื่อสร้าง fused kernel ที่มีประสิทธิภาพสูงสุด

    #PyTorch #Profiling #DeepLearning #MLP #AI

    ขอบคุณ แหล่งข้อมูล
    https://huggingface.co/blog/torch-mlp-fusion

    เจาะลึก PyTorch Profiling: จาก nn.Linear สู่ Fused MLP ที่เร็วขึ้นการทำความเข้าใจเบื้องหลังการทำงานของ PyTorch เป็นกุญแจสำคัญในการเพิ่มประสิทธิภาพโมเดล AI ให้ถึงขีดสุด ในซีรีส์ "Profiling in PyTorch" นี้ เราจะค่อยๆ สร้างทักษะการอ่าน PyTorch profiler traces เพื่อนำไปสู่การปรับปรุงประสิทธิภาพ ในตอนที่ 1 เราได้เรียนรู้วิธีอ่าน profiler traces เบื้องต้น และในตอนนี้ เราจะก้าวไปอีกขั้นด้วยการเปลี่ยนจากการใช้ torch.add(torch.matmul(x, w), b) มาเป็น nn.Linear ซึ่งเป็นส่วนประกอบพื้นฐานที่ทุกโมเดล Deep Learning ต้องใช้จาก matmul-add สู่ nn.Linear: การทำงานเบื้องหลังnn.Linear คือ wrapper ที่ครอบการทำงานของการคูณเมทริกซ์และการบวกที่เราได้เห็นในตอนที่ 1 โดยมีน้ำหนัก (weight) และไบแอส (bias) เป็นพารามิเตอร์ของตัวเอง และมีเมธอด forward ที่ผู้ใช้ PyTorch คุ้นเคย การดำเนินการนี้สามารถเขียนได้ในรูป:y = x @ w + bเมื่อ x คืออินพุต, w คือน้ำหนัก และ b คือไบแอสเมื่อเราใช้ profiler กับ nn.Linear เราจะเห็นการทำงานที่ซับซ้อนกว่าที่คิดเล็กน้อยการทำงานของ Transpose (aten::t)เมื่อเจาะลึก profiler trace เราจะสังเกตเห็น aten::t (transpose) ก่อน aten::addmm (การคูณและบวก) สิ่งนี้บ่งบอกว่า nn.Linear ทำการ transpose น้ำหนัก (w) ก่อนนำไปคูณกับอินพุต (x)สิ่งสำคัญที่ควรทราบ: aten::t ไม่ได้ทำการคัดลอกหรือจัดเรียงข้อมูลใหม่จริง ๆ แต่เป็นการแก้ไขเมทาดาทา (shape และ stride) ของเทนเซอร์บน CPU เพื่อให้มองเห็นเมทริกซ์ที่ถูก transpose แล้ว โดย ไม่ได้เรียกใช้ GPU kernel คุณสามารถตรวจสอบได้จากการดูเลน GPU ใน trace หรือเวลาที่ใช้บน CUDA สำหรับ aten::tทำไมไม่มี Kernel แยกสำหรับ mul และ add?คุณจะสังเกตเห็นว่าไม่มี aten::add แยกออกมาใน dispatch chain ของ nn.Linear ทั้งนี้เป็นเพราะการบวกไบแอสได้ถูก รวมเข้ากับการคูณเมทริกซ์ (GEMM) แล้ว ผ่านสิ่งที่เรียกว่า epilogueEpilogue คือการคำนวณเล็กๆ น้อยๆ ที่ GEMM kernel ทำก่อนที่จะเขียนผลลัพธ์กลับไปยัง HBM (High Bandwidth Memory) การบวกไบแอส การใช้ activation function หรือการ scale เป็นตัวอย่างของ epilogue การทำเช่นนี้ช่วยหลีกเลี่ยงการโหลดหรือเขียนข้อมูลไปยัง HBM ซ้ำสองครั้ง ซึ่งการรับส่งข้อมูลผ่านหน่วยความจำเป็นส่วนที่ทำให้การทำงานช้าลงnn.Linear จะเรียกใช้ torch.nn.functional.linear ซึ่งจะเรียก aten::linear ต่อไป aten::linear จะตรวจสอบอินพุต หากพบว่ามีการส่ง bias เข้ามา จะเลือกใช้ aten::addmm(bias, x, weight) แทนการทำ matmul และ add แยกกันaddmm สามารถคำนวณได้ดังนี้: y = x @ w + bKernel ของ cuBLAS GEMM ที่ทำงานบน GPU มีฟังก์ชันสำหรับ bias-add ในตัว และนั่นคือ kernel ที่ aten::addmm เลือกใช้ การบวก (add) จึงไม่ปรากฏเป็น kernel แยก เพราะเป็นส่วนหนึ่งของการเขียนผลลัพธ์ของ matmul kernel ซึ่งก็คือ epilogue นั่นเองtorch.compile ช่วยอะไรกับ Linear Layer เดียวได้หรือไม่?แม้ว่า nn.Linear จะใช้งาน kernel ที่มีประสิทธิภาพอยู่แล้ว การลองคอมไพล์ forward call ด้วย torch.compile และดู profiler trace จะพบว่า:GPU Kernel เดียวกัน: ยังคงใช้ cuBLAS GEMM kernel เดิมCPU Op เดียวกัน: ยังคงเป็น aten::addmmมีแถวเพิ่มเติมบน CPU: ที่เกี่ยวข้องกับการทำงานของ compileนี่เป็นจุดที่สำคัญที่ควรทำความเข้าใจ: หลายครั้งที่เรารู้สึกว่าโมเดลทำงานช้า สิ่งแรกที่เรามักจะนึกถึงคือ torch.compile แต่สำหรับ GEMM เพียงหนึ่งครั้งที่มี bias, compile แทบจะไม่มีอะไรให้ทำ การที่ compile จะแสดงประสิทธิภาพได้ ต้องมี การดำเนินการมากกว่าหนึ่งอย่าง เพื่อให้เกิดการ fuse (หลอมรวม) ได้การซ้อน Linear Layer สามชั้น: สร้าง Multilayer Perceptron (MLP)เมื่อเรานำ nn.Linear มาซ้อนกันสามชั้นพร้อม activation function ตรงกลาง เราจะได้โครงสร้าง Multilayer Perceptron (MLP) ซึ่งเป็นส่วนประกอบสำคัญของโมเดล Deep Learning จำนวนมากสิ่งที่คาดหวังก่อนเปิด Traceเมื่อพิจารณา MLP ที่มีการใช้งาน GeGLU activation เราคาดว่า:จะมีการเรียก aten::linear สามครั้ง (สำหรับ nn.Linear แต่ละชั้น)จะมีการเรียก kernel สำหรับ activation (GeLU) และการคูณ (mul) สองครั้งการตั้งสมมติฐานก่อนดู trace เป็นนิสัยที่มีประโยชน์อย่างยิ่งในการทำ profiling เพราะเราจะใช้ trace เพื่อยืนยันหรือหักล้างสมมติฐานของเราผลลัพธ์จาก Profilerจาก profiler trace เราจะเห็นว่า:ต่อ 1 forward pass ของ MLP, GPU จะรัน 5 kernelsสำหรับ nn.Linear จะมีการเรียก cudaOccupancyMaxActiveBlocksPerMultiprocessor ก่อนการ launch kernel (เป็นการคำนวณขนาด grid ของ cuBLAS)สำหรับ pointwise ops (GeLU, mul) จะเป็นการ launch kernel โดยตรงOps ที่ไม่มีการ launch kernel: aten::t, aten::transpose, aten::reshape, aten::view, aten::asstrided และ aten::unsafe_view จะไม่ launch kernel ใดๆ เลย โดยจะแสดงเวลา CUDA เป็น 0.000us ในตาราง เพราะทำเพียงแค่การแก้ไขเมทาดาทาของเทนเซอร์ (shape และ stride) บน CPU เท่านั้น แม้ในตารางจะเห็นชื่อ op จำนวนมากต่อหนึ่ง linear layer แต่มีเพียง mm เท่านั้นที่ไปทำงานบน GPU จริงๆทำไม GEMM Kernel ถึงมีสองแบบ?MLP จะทำการ flatten ข้อมูลจาก [batch, seq, dim] เป็น [batch seq, dim] ก่อนทำการ matmul ตัวอย่างเช่น หาก batch = 64 และ seq = 128 จะได้ 8192 (64 128)แม้ว่า GEMM ทั้งสามตัวจะมีการคำนวณ FLOPs เท่ากัน (ประมาณ 38.7 GFLOP แต่ละอัน) แต่ downproj จะเร็วกว่าประมาณ 10% สาเหตุมาจาก shape ที่แตกต่างกัน (N=768 เทียบกับ 3072) ทำให้ cuBLAS เลือกใช้ tiling ที่แตกต่างกัน (128×256 กับ pipeline stages64x3 ที่ลึกกว่า) ซึ่งให้ผลลัพธ์ที่ดีกว่าสำหรับการ reuse ข้อมูลใน shape นั้นๆนี่คือเหตุผลที่ตาราง profiler แสดง GEMM สองแถว: แถว 128x128 สำหรับ gate+up และแถว 128x256 สำหรับ downtorch.compile ทำอะไรได้บ้าง?เมื่อเราคอมไพล์ forward method และดู trace:ในโหมด eager, nn.Linear แต่ละตัวจะถูกขยายเป็น chain ของ dispatcher ops (aten::linear → aten::t → aten::transpose → aten::matmul → aten::reshape → aten::mm) ซึ่งเป็น high-level wrappers ที่ ATen ใช้ก่อนจะถึง GEMM จริงtorch.compile ขจัด chain นี้ออกไป เมื่อกราฟที่คอมไพล์ทำงาน จะไม่มี linear, matmul, transpose หรือ reshape อีกต่อไป โดย ops เหล่านี้จะถูกรวมเข้ากับการเรียก mm โดยตรงเราจะเห็นการเรียก aten::mm ภายนอกเพียงสามครั้ง และหลักฐานที่พิสูจน์ว่าเป็น GEMM เดียวกันคือ ชื่อ kernel ที่เหมือนกันทุกประการ กับโหมด eager (...128x128...stages32x5tn สำหรับ gate และ up, และ ...128x256...stages64x3tn สำหรับ down)Fused Triton Kernel: หัวใจของการเพิ่มประสิทธิภาพtorch.compile สามารถ fuse การดำเนินการหลายอย่างเข้าด้วยกัน สร้างเป็น kernel ที่มีประสิทธิภาพสูงขึ้น ซึ่งมักจะใช้ Triton kernel โดยเฉพาะอย่างยิ่งเมื่อมีการรวมการดำเนินการที่ซับซ้อนเข้าด้วยกัน เช่น การบวก bias, การใช้ activation function หรือการ transpose เข้าไปใน GEMM kernel ตัวเดียวการเข้าใจการทำงานเบื้องหลังของ PyTorch ผ่าน profiler จะช่วยให้นักพัฒนาสามารถระบุคอขวด (bottleneck) และปรับปรุงประสิทธิภาพของโมเดลได้อย่างตรงจุด โดยเฉพาะอย่างยิ่งการใช้ประโยชน์จาก torch.compile เพื่อสร้าง fused kernel ที่มีประสิทธิภาพสูงสุด#PyTorch #Profiling #DeepLearning #MLP #AIhttps://huggingface.co/blog/torch-mlp-fusion
    Shared content
    HUGGINGFACE.CO
    Profiling in PyTorch (Part 2): From nn.Linear to a Fused MLP
    We’re on a journey to advance and democratize artificial intelligence through open source and open science.
    3 Comments 0 Shares 275 Views 0 Reviews
  • เยนเซ่น หวง เยือนญี่ปุ่น: สัญญาณอะไรที่ต้องจับตามองในยุค AI แห่งโลกกายภาพ?

    การเดินทางเยือนญี่ปุ่นของ เยนเซ่น หวง (Jensen Huang) ซีอีโอของ Nvidia เมื่อวันที่ 15-16 กรกฎาคม 2026 ถือเป็นการตอกย้ำความสำคัญของภูมิภาคนี้ในอุตสาหกรรมเทคโนโลยี โดยเฉพาะอย่างยิ่งในยุคที่ปัญญาประดิษฐ์ (AI) กำลังผสานรวมเข้ากับโลกแห่งความเป็นจริง (Physical AI) การเยือนครั้งนี้ไม่ใช่เพียงการพบปะกับพันธมิตรเดิม แต่เป็นการปูทางสู่ความร่วมมือครั้งใหญ่ที่ครอบคลุมตั้งแต่โรงงาน AI แห่งชาติ ไปจนถึงบริษัทหุ่นยนต์ชั้นนำ และซัพพลายเออร์ชิปที่ขับเคลื่อนอนาคตของ Nvidia

    Nvidia และญี่ปุ่น: ความร่วมมือที่จำเป็นต่อยุคใหม่

    ย้อนกลับไปเมื่อ 30 ปีก่อน การลงทุนเพียง 5 ล้านดอลลาร์สหรัฐฯ จาก Sega เคยช่วยให้ Nvidia ที่เกือบจะล้มละลายอยู่รอดมาได้ วันนี้ Nvidia และยักษ์ใหญ่ทางอุตสาหกรรมของญี่ปุ่นกลับมามีความสำคัญต่อกันอีกครั้ง แต่คราวนี้เพื่อสร้าง "ยุคแห่ง Physical AI" ซึ่งมีโครงการสำคัญ 3 โครงการเป็นหัวหอก:

    1. Noetra: โครงการ AI อธิปไตยของญี่ปุ่น 🇯🇵

    ญี่ปุ่นต้องการสร้าง AI ของตนเองเพื่อขับเคลื่อนโรงงานและหุ่นยนต์ โดยไม่พึ่งพาเทคโนโลยีจากสหรัฐอเมริกาหรือจีน รัฐบาลจึงได้รวบรวมบริษัทในประเทศกว่า 44 แห่ง โดยมี SoftBank, Sony, NEC และ Honda เป็นแกนนำ เพื่อพัฒนา AI สำหรับหุ่นยนต์ ยานยนต์ และโรงงาน การลงทุนของโตเกียวอยู่ที่ 1 ล้านล้านเยน (ประมาณ 6.2 พันล้านดอลลาร์สหรัฐฯ) ในระยะเวลา 5 ปี เพื่อเดิมพันกับ "Physical AI" และโมเดลพื้นฐาน (Foundation Models) ที่ออกแบบมาเพื่อควบคุมเครื่องจักร

    Nvidia จะเป็นผู้จัดหาฮาร์ดแวร์หลัก โดยกำลังสร้าง "โรงงาน AI Vera Rubin" ซึ่งเป็นดาต้าเซ็นเตอร์ขนาดใหญ่ที่อัดแน่นด้วยชิปรุ่นใหม่ล่าสุด คาดว่าจะเปิดใช้งานในปี 2028 ประกอบด้วย Vera CPUs 13,750 ตัว และ Rubin GPUs 27,500 ตัว ให้กำลังประมวลผล 140 เมกะวัตต์ Noetra จะเป็นผู้ดูแลโครงการนี้ โดยมีแผนแบ่งเป็น 3 ระยะ:

    • ปีงบประมาณ 2026: เริ่มต้นด้วยโมเดลการให้เหตุผล (Reasoning Model) ที่เน้นภาษาญี่ปุ่น
    • ปี 2028: พัฒนาเป็นเวอร์ชัน Omni-modal ที่รองรับทั้งข้อความ รูปภาพ วิดีโอ และเสียง
    • ปี 2030: สร้าง "Real-world Native AI" ที่ออกแบบมาเพื่อควบคุมหุ่นยนต์ และจะทยอยเปิดให้ผู้พัฒนานอก Noetra เข้าถึง

    2. Robotics Coalition: เหล่าบริษัทยักษ์ใหญ่ญี่ปุ่นรวมพลัง 🤖

    Nvidia กำลังมุ่งเป้าไปที่ภาคการผลิตของญี่ปุ่น และผู้เล่นชั้นนำด้านหุ่นยนต์และการผลิตหลายรายก็พร้อมเข้าร่วม Fanuc, Yaskawa, Kawasaki Heavy, Fujitsu, Hitachi, NEC, Sony, SoftBank, Kubota และกลุ่มหุ่นยนต์ AIRoA ได้ประกาศแผนที่จะพัฒนาต่อยอดจาก Cosmos Models ซึ่งเป็นโมเดลโอเพนซอร์สที่ Nvidia เปิดตัวไปเมื่อเดือนพฤษภาคม

    ในการเยือนโตเกียว Nvidia ได้เปิดตัว Cosmos 3 Edge ซึ่งเป็นเวอร์ชันที่ทำงานบนชิป Jetson Thor ภายในเครื่องจักรโดยตรง บางบริษัทกำลังทดสอบระบบควบคุมร่วมกัน ในขณะที่ Honda R&D และ Omron กำลังพัฒนาเครื่องมือเหล่านี้ "พรมแดนต่อไปของ AI อยู่ในโลกกายภาพ และนี่คือโอกาสครั้งหนึ่งในชั่วชีวิตของญี่ปุ่น" หวงกล่าว "ญี่ปุ่นเป็นผู้ริเริ่มการผลิตที่ทันสมัย ตอนนี้จึงมีโอกาสที่จะคิดค้นมันขึ้นมาใหม่สำหรับยุคอุตสาหกรรมอัจฉริยะ"

    3. Toyota: รถยนต์และ Physical AI 🚗

    Toyota ใช้ชิปของ Nvidia ในรถยนต์รุ่นใหม่ๆ เกือบทั้งหมด โดยได้ยืนยันการใช้แพลตฟอร์ม Nvidia Drive สำหรับรถยนต์รุ่นถัดไปตั้งแต่ต้นปี 2025 การทำงานที่ใหม่นี้ได้ขยายขอบเขตการใช้งาน Nvidia ไปสู่ภาคการผลิต โดยใช้การจำลอง (Simulation) ในการออกแบบสายการผลิต ไปจนถึงซอฟต์แวร์ที่ควบคุมรถยนต์ และระบบอ่านข้อมูลการจราจรบนท้องถนน รถยนต์ของ Toyota จะใช้ระบบช่วยเหลือผู้ขับขี่ขั้นสูง (Advanced Driver Assistance Systems) ที่ยังคงต้องการผู้ขับขี่ ซึ่งเป็นแนวทางที่อนุรักษ์นิยมกว่า Waymo และ Tesla ที่กำลังพัฒนาระบบที่พึ่งพามนุษย์น้อยลง

    สัญญาณแห่งอนาคต: AI ควบคู่การผลิตและอธิปไตยทางเทคโนโลยี

    การเยือนของหวงได้วาง Physical AI ไว้เป็นศูนย์กลางของกลยุทธ์ภาคอุตสาหกรรมของญี่ปุ่น และโตเกียวก็พร้อมทุ่มงบประมาณเพื่อสนับสนุน ด้วยจำนวนประชากรวัยทำงานที่ลดลง ญี่ปุ่นตั้งเป้าที่จะมีหุ่นยนต์ที่ติดตั้ง AI จำนวน 10 ล้านตัว ครอบคลุม 18 ภาคส่วนภายในปี 2040 โดยได้รับการสนับสนุนการลงทุนด้าน Physical AI ทั้งภาครัฐและเอกชนกว่า 6.5 หมื่นล้านดอลลาร์สหรัฐฯ

    แผนระยะยาวที่ใหญ่กว่านั้นคือ "กลยุทธ์หุ่นยนต์ AI ของญี่ปุ่น" (Japan’s AI Robotics Strategy) ซึ่งเปิดตัวในเดือนมีนาคม มีเป้าหมายที่จะครองส่วนแบ่งตลาดหุ่นยนต์ AI ทั่วโลกมากกว่า 30% ภายในปี 2040 ซึ่งโตเกียวประเมินมูลค่าตลาดไว้ที่ประมาณ 20 ล้านล้านเยน หรือราว 1.33 แสนล้านดอลลาร์สหรัฐฯ กระทรวงเศรษฐกิจ การค้า และอุตสาหกรรม (METI) กำลังให้ทุนสนับสนุนโมเดลพื้นฐานภายในประเทศเพื่อควบคุมเครื่องจักร และโรงงานของ Noetra ที่ขับเคลื่อนด้วย Nvidia จะเป็นจุดที่โมเดลขนาดใหญ่ที่มีพารามิเตอร์หลายล้านล้านตัวจะได้รับการฝึกฝน

    ภายใต้ภาพการลงทุนภาคอุตสาหกรรมนี้ ยังมีประเด็นด้าน "อธิปไตย" แฝงอยู่ เมื่อสหรัฐฯ และจีนกำลังก้าวหน้าในด้าน AI ขนาดใหญ่ โตเกียวต้องการข้อมูลของตนเอง การประมวลผลของตนเอง และพึ่งพิงโครงสร้างพื้นฐานที่ตนเองควบคุมน้อยลง หวงได้ปรากฏตัวเมื่อวันที่ 16 กรกฎาคม ร่วมกับรัฐมนตรีการค้า เรียวเซอิ อาคาซาวะ ในงานเปิดตัว Physical AI ของรัฐบาล โดยมีนายกรัฐมนตรี ซานาเอะ ทาคาอิชิ เข้าร่วมผ่านวิดีโอ การบริหารของทาคาอิชิได้ทำให้ AI และเซมิคอนดักเตอร์เป็นหัวใจสำคัญของแผนการเติบโตที่มุ่งเป้าการลงทุนภาครัฐและเอกชนรวม 370 ล้านล้านเยน (2.3 ล้านล้านดอลลาร์สหรัฐฯ) ภายในปี 2040 โรงงานของ Noetra ซึ่ง Nvidia ขนานนามว่าเป็น "โครงสร้างพื้นฐาน AI แห่งชาติแห่งแรกของโลก" ถือเป็นการเดิมพันที่ชัดเจนที่สุดในขณะนี้ อย่างน้อยที่สุด ความมุ่งมั่นของญี่ปุ่นในการเป็นอิสระก็ยังคงต้องพึ่งพาชิปจากอเมริกา

    บทสรุป

    การเยือนญี่ปุ่นของเยนเซ่น หวง ไม่ใช่เพียงการปิดดีลทางธุรกิจ แต่เป็นการส่งสารที่ชัดเจนว่า Nvidia มองเห็นศักยภาพอันมหาศาลในการผสาน AI เข้ากับภาคอุตสาหกรรมและเทคโนโลยีของญี่ปุ่น ความร่วมมือครั้งนี้ไม่เพียงแต่จะขับเคลื่อนการเติบโตของ Nvidia เท่านั้น แต่ยังเป็นการเปิดศักราชใหม่ให้กับอุตสาหกรรมของญี่ปุ่น ที่พร้อมจะนำเทคโนโลยี AI มาใช้เพื่อเพิ่มประสิทธิภาพ สร้างนวัตกรรม และรักษาความสามารถในการแข่งขันในเวทีโลก

    #Nvidia #AI #Japan #PhysicalAI #Robotics #Semiconductors

    ขอบคุณ แหล่งข้อมูล
    https://techcrunch.com/2026/07/19/what-to-watch-for-after-jensen-huangs-japan-visit/

    เยนเซ่น หวง เยือนญี่ปุ่น: สัญญาณอะไรที่ต้องจับตามองในยุค AI แห่งโลกกายภาพ?การเดินทางเยือนญี่ปุ่นของ เยนเซ่น หวง (Jensen Huang) ซีอีโอของ Nvidia เมื่อวันที่ 15-16 กรกฎาคม 2026 ถือเป็นการตอกย้ำความสำคัญของภูมิภาคนี้ในอุตสาหกรรมเทคโนโลยี โดยเฉพาะอย่างยิ่งในยุคที่ปัญญาประดิษฐ์ (AI) กำลังผสานรวมเข้ากับโลกแห่งความเป็นจริง (Physical AI) การเยือนครั้งนี้ไม่ใช่เพียงการพบปะกับพันธมิตรเดิม แต่เป็นการปูทางสู่ความร่วมมือครั้งใหญ่ที่ครอบคลุมตั้งแต่โรงงาน AI แห่งชาติ ไปจนถึงบริษัทหุ่นยนต์ชั้นนำ และซัพพลายเออร์ชิปที่ขับเคลื่อนอนาคตของ NvidiaNvidia และญี่ปุ่น: ความร่วมมือที่จำเป็นต่อยุคใหม่ย้อนกลับไปเมื่อ 30 ปีก่อน การลงทุนเพียง 5 ล้านดอลลาร์สหรัฐฯ จาก Sega เคยช่วยให้ Nvidia ที่เกือบจะล้มละลายอยู่รอดมาได้ วันนี้ Nvidia และยักษ์ใหญ่ทางอุตสาหกรรมของญี่ปุ่นกลับมามีความสำคัญต่อกันอีกครั้ง แต่คราวนี้เพื่อสร้าง "ยุคแห่ง Physical AI" ซึ่งมีโครงการสำคัญ 3 โครงการเป็นหัวหอก:1. Noetra: โครงการ AI อธิปไตยของญี่ปุ่น 🇯🇵ญี่ปุ่นต้องการสร้าง AI ของตนเองเพื่อขับเคลื่อนโรงงานและหุ่นยนต์ โดยไม่พึ่งพาเทคโนโลยีจากสหรัฐอเมริกาหรือจีน รัฐบาลจึงได้รวบรวมบริษัทในประเทศกว่า 44 แห่ง โดยมี SoftBank, Sony, NEC และ Honda เป็นแกนนำ เพื่อพัฒนา AI สำหรับหุ่นยนต์ ยานยนต์ และโรงงาน การลงทุนของโตเกียวอยู่ที่ 1 ล้านล้านเยน (ประมาณ 6.2 พันล้านดอลลาร์สหรัฐฯ) ในระยะเวลา 5 ปี เพื่อเดิมพันกับ "Physical AI" และโมเดลพื้นฐาน (Foundation Models) ที่ออกแบบมาเพื่อควบคุมเครื่องจักรNvidia จะเป็นผู้จัดหาฮาร์ดแวร์หลัก โดยกำลังสร้าง "โรงงาน AI Vera Rubin" ซึ่งเป็นดาต้าเซ็นเตอร์ขนาดใหญ่ที่อัดแน่นด้วยชิปรุ่นใหม่ล่าสุด คาดว่าจะเปิดใช้งานในปี 2028 ประกอบด้วย Vera CPUs 13,750 ตัว และ Rubin GPUs 27,500 ตัว ให้กำลังประมวลผล 140 เมกะวัตต์ Noetra จะเป็นผู้ดูแลโครงการนี้ โดยมีแผนแบ่งเป็น 3 ระยะ:ปีงบประมาณ 2026: เริ่มต้นด้วยโมเดลการให้เหตุผล (Reasoning Model) ที่เน้นภาษาญี่ปุ่นปี 2028: พัฒนาเป็นเวอร์ชัน Omni-modal ที่รองรับทั้งข้อความ รูปภาพ วิดีโอ และเสียงปี 2030: สร้าง "Real-world Native AI" ที่ออกแบบมาเพื่อควบคุมหุ่นยนต์ และจะทยอยเปิดให้ผู้พัฒนานอก Noetra เข้าถึง2. Robotics Coalition: เหล่าบริษัทยักษ์ใหญ่ญี่ปุ่นรวมพลัง 🤖Nvidia กำลังมุ่งเป้าไปที่ภาคการผลิตของญี่ปุ่น และผู้เล่นชั้นนำด้านหุ่นยนต์และการผลิตหลายรายก็พร้อมเข้าร่วม Fanuc, Yaskawa, Kawasaki Heavy, Fujitsu, Hitachi, NEC, Sony, SoftBank, Kubota และกลุ่มหุ่นยนต์ AIRoA ได้ประกาศแผนที่จะพัฒนาต่อยอดจาก Cosmos Models ซึ่งเป็นโมเดลโอเพนซอร์สที่ Nvidia เปิดตัวไปเมื่อเดือนพฤษภาคมในการเยือนโตเกียว Nvidia ได้เปิดตัว Cosmos 3 Edge ซึ่งเป็นเวอร์ชันที่ทำงานบนชิป Jetson Thor ภายในเครื่องจักรโดยตรง บางบริษัทกำลังทดสอบระบบควบคุมร่วมกัน ในขณะที่ Honda R&D และ Omron กำลังพัฒนาเครื่องมือเหล่านี้ "พรมแดนต่อไปของ AI อยู่ในโลกกายภาพ และนี่คือโอกาสครั้งหนึ่งในชั่วชีวิตของญี่ปุ่น" หวงกล่าว "ญี่ปุ่นเป็นผู้ริเริ่มการผลิตที่ทันสมัย ตอนนี้จึงมีโอกาสที่จะคิดค้นมันขึ้นมาใหม่สำหรับยุคอุตสาหกรรมอัจฉริยะ"3. Toyota: รถยนต์และ Physical AI 🚗Toyota ใช้ชิปของ Nvidia ในรถยนต์รุ่นใหม่ๆ เกือบทั้งหมด โดยได้ยืนยันการใช้แพลตฟอร์ม Nvidia Drive สำหรับรถยนต์รุ่นถัดไปตั้งแต่ต้นปี 2025 การทำงานที่ใหม่นี้ได้ขยายขอบเขตการใช้งาน Nvidia ไปสู่ภาคการผลิต โดยใช้การจำลอง (Simulation) ในการออกแบบสายการผลิต ไปจนถึงซอฟต์แวร์ที่ควบคุมรถยนต์ และระบบอ่านข้อมูลการจราจรบนท้องถนน รถยนต์ของ Toyota จะใช้ระบบช่วยเหลือผู้ขับขี่ขั้นสูง (Advanced Driver Assistance Systems) ที่ยังคงต้องการผู้ขับขี่ ซึ่งเป็นแนวทางที่อนุรักษ์นิยมกว่า Waymo และ Tesla ที่กำลังพัฒนาระบบที่พึ่งพามนุษย์น้อยลงสัญญาณแห่งอนาคต: AI ควบคู่การผลิตและอธิปไตยทางเทคโนโลยีการเยือนของหวงได้วาง Physical AI ไว้เป็นศูนย์กลางของกลยุทธ์ภาคอุตสาหกรรมของญี่ปุ่น และโตเกียวก็พร้อมทุ่มงบประมาณเพื่อสนับสนุน ด้วยจำนวนประชากรวัยทำงานที่ลดลง ญี่ปุ่นตั้งเป้าที่จะมีหุ่นยนต์ที่ติดตั้ง AI จำนวน 10 ล้านตัว ครอบคลุม 18 ภาคส่วนภายในปี 2040 โดยได้รับการสนับสนุนการลงทุนด้าน Physical AI ทั้งภาครัฐและเอกชนกว่า 6.5 หมื่นล้านดอลลาร์สหรัฐฯแผนระยะยาวที่ใหญ่กว่านั้นคือ "กลยุทธ์หุ่นยนต์ AI ของญี่ปุ่น" (Japan’s AI Robotics Strategy) ซึ่งเปิดตัวในเดือนมีนาคม มีเป้าหมายที่จะครองส่วนแบ่งตลาดหุ่นยนต์ AI ทั่วโลกมากกว่า 30% ภายในปี 2040 ซึ่งโตเกียวประเมินมูลค่าตลาดไว้ที่ประมาณ 20 ล้านล้านเยน หรือราว 1.33 แสนล้านดอลลาร์สหรัฐฯ กระทรวงเศรษฐกิจ การค้า และอุตสาหกรรม (METI) กำลังให้ทุนสนับสนุนโมเดลพื้นฐานภายในประเทศเพื่อควบคุมเครื่องจักร และโรงงานของ Noetra ที่ขับเคลื่อนด้วย Nvidia จะเป็นจุดที่โมเดลขนาดใหญ่ที่มีพารามิเตอร์หลายล้านล้านตัวจะได้รับการฝึกฝนภายใต้ภาพการลงทุนภาคอุตสาหกรรมนี้ ยังมีประเด็นด้าน "อธิปไตย" แฝงอยู่ เมื่อสหรัฐฯ และจีนกำลังก้าวหน้าในด้าน AI ขนาดใหญ่ โตเกียวต้องการข้อมูลของตนเอง การประมวลผลของตนเอง และพึ่งพิงโครงสร้างพื้นฐานที่ตนเองควบคุมน้อยลง หวงได้ปรากฏตัวเมื่อวันที่ 16 กรกฎาคม ร่วมกับรัฐมนตรีการค้า เรียวเซอิ อาคาซาวะ ในงานเปิดตัว Physical AI ของรัฐบาล โดยมีนายกรัฐมนตรี ซานาเอะ ทาคาอิชิ เข้าร่วมผ่านวิดีโอ การบริหารของทาคาอิชิได้ทำให้ AI และเซมิคอนดักเตอร์เป็นหัวใจสำคัญของแผนการเติบโตที่มุ่งเป้าการลงทุนภาครัฐและเอกชนรวม 370 ล้านล้านเยน (2.3 ล้านล้านดอลลาร์สหรัฐฯ) ภายในปี 2040 โรงงานของ Noetra ซึ่ง Nvidia ขนานนามว่าเป็น "โครงสร้างพื้นฐาน AI แห่งชาติแห่งแรกของโลก" ถือเป็นการเดิมพันที่ชัดเจนที่สุดในขณะนี้ อย่างน้อยที่สุด ความมุ่งมั่นของญี่ปุ่นในการเป็นอิสระก็ยังคงต้องพึ่งพาชิปจากอเมริกาบทสรุปการเยือนญี่ปุ่นของเยนเซ่น หวง ไม่ใช่เพียงการปิดดีลทางธุรกิจ แต่เป็นการส่งสารที่ชัดเจนว่า Nvidia มองเห็นศักยภาพอันมหาศาลในการผสาน AI เข้ากับภาคอุตสาหกรรมและเทคโนโลยีของญี่ปุ่น ความร่วมมือครั้งนี้ไม่เพียงแต่จะขับเคลื่อนการเติบโตของ Nvidia เท่านั้น แต่ยังเป็นการเปิดศักราชใหม่ให้กับอุตสาหกรรมของญี่ปุ่น ที่พร้อมจะนำเทคโนโลยี AI มาใช้เพื่อเพิ่มประสิทธิภาพ สร้างนวัตกรรม และรักษาความสามารถในการแข่งขันในเวทีโลก#Nvidia #AI #Japan #PhysicalAI #Robotics #Semiconductorshttps://techcrunch.com/2026/07/19/what-to-watch-for-after-jensen-huangs-japan-visit/
    Shared content
    TECHCRUNCH.COM
    What to watch for after Jensen Huang's Japan visit | TechCrunch
    Jensen Huang left Tokyo with deals spanning Japan's entire tech ecosystem.
    6 Comments 0 Shares 359 Views 0 Reviews
  • PUBG Ally: สหาย AI สุดอัจฉริยะที่ขับเคลื่อนด้วย NVIDIA ACE ใน PUBG: BATTLEGROUNDS

    วงการเกมกำลังก้าวเข้าสู่ยุคใหม่ของการมีปฏิสัมพันธ์กับตัวละครในเกม เมื่อ KRAFTON ได้เปิดตัว "PUBG Ally" เพื่อนร่วมทีม AI ที่ไม่ใช่แค่บอทธรรมดา แต่เป็น "Co-Playable Character" (CPC) ที่สามารถเข้าใจผู้เล่น สื่อสารโต้ตอบ และปรับตัวเข้ากับสถานการณ์การเล่นแบบเรียลไทม์ได้อย่างน่าทึ่ง เบื้องหลังความล้ำสมัยนี้คือพลังของ NVIDIA ACE ที่ช่วยให้ Ally เข้าใจภาษาของผู้เล่น วิเคราะห์ข้อมูลในเกม และตอบสนองได้อย่างรวดเร็วราวกับเพื่อนร่วมทีมจริง

    PUBG Ally คืออะไร? ทำไมถึงแตกต่างจาก NPC ทั่วไป?

    PUBG Ally ถูกสร้างขึ้นมาเพื่อเกม PUBG: BATTLEGROUNDS โดยเฉพาะ โดยมีเป้าหมายเพื่อมอบประสบการณ์การเล่นที่สมจริงยิ่งขึ้น แทนที่จะเป็นตัวละครที่ถูกตั้งโปรแกรมไว้ล่วงหน้า Ally สามารถ:

    • เข้าใจเจตนาของผู้เล่นผ่านเสียง: ใช้ระบบรู้จำเสียงพูดอัตโนมัติ (ASR) เพื่อถอดความคำพูดของผู้เล่น
    • วิเคราะห์สถานการณ์การเล่น: ประมวลผลข้อมูลแบบเรียลไทม์จากสภาพแวดล้อมในเกม
    • ตอบสนองแบบไดนามิก: สร้างบทสนทนาและดำเนินการในเกมที่สอดคล้องกับสถานการณ์
    • ทำงานร่วมกับผู้เล่น: สนับสนุนการตัดสินใจทางยุทธวิธี การแลกเปลี่ยนไอเท็ม หรือการช่วยเหลือเพื่อนร่วมทีม
    • ปรับเปลี่ยนพฤติกรรม: เรียนรู้และปรับตัวตามสถานการณ์การต่อสู้หรือการเก็บไอเท็ม
    • จดจำและเรียนรู้: จดจำข้อมูลเกี่ยวกับผู้เล่นและเหตุการณ์จากแมตช์ก่อนหน้า เพื่อสร้างประสบการณ์ที่เป็นส่วนตัว

    ความแตกต่างที่สำคัญคือ Ally ไม่ใช่แค่ NPC (Non-Playable Character) ที่ทำตามสคริปต์ แต่เป็น CPC (Co-Playable Character) ที่สามารถทำงานร่วมกับผู้เล่นได้อย่างมีความหมาย ทำให้รู้สึกเหมือนมีเพื่อนร่วมทีมจริง ๆ มากกว่าบอททั่วไป

    เบื้องหลังเทคโนโลยี: NVIDIA ACE และสถาปัตยกรรมของ PUBG Ally

    หัวใจสำคัญของ PUBG Ally คือ NVIDIA ACE ซึ่งเป็นชุดเครื่องมือและโมเดล AI ที่มีประสิทธิภาพสูง ประกอบด้วย:

    1. Automatic Speech Recognition (ASR): แปลงเสียงพูดของผู้เล่นให้เป็นข้อความ
    2. Small Language Model (SLM): โมเดลภาษาขนาดเล็ก (2 พันล้านพารามิเตอร์) ทำหน้าที่ประมวลผลคำสั่งของผู้เล่น วิเคราะห์สถานการณ์ และตัดสินใจ
    3. Text-to-Speech (TTS): สร้างเสียงตอบกลับของ Ally ให้มีความเป็นธรรมชาติ

    สถาปัตยกรรมของ PUBG Ally ถูกออกแบบมาให้ทำงานร่วมกันอย่างมีประสิทธิภาพ โดยแยกการประมวลผลออกเป็นสองส่วนหลัก:

    • System 1 (Behavior Tree): จัดการกับการกระทำที่รวดเร็วและตอบสนองแบบฉับพลัน เช่น การเคลื่อนที่ การยิง หรือการตอบสนองต่อการต่อสู้ทันที ทำงานด้วยความเร็วสูงเท่ากับ Game Tick Rate เพื่อให้แน่ใจว่าการกระทำเหล่านี้จะไม่ต้องรอการประมวลผลจากโมเดลภาษา
    • System 2 (Language Model): จัดการกับการตัดสินใจที่ซับซ้อนกว่า เช่น การตีความเจตนาของผู้เล่น การประสานงาน และการสร้างบทสนทนา

    การทำงานแบบขนานนี้ทำให้ Ally สามารถตอบสนองได้อย่างรวดเร็วในสถานการณ์คับขัน ขณะเดียวกันก็ยังคงความสามารถในการสื่อสารด้วยภาษาที่เป็นธรรมชาติและเข้าใจบริบทของเกม

    ทำไมต้องใช้ Small Language Model (SLM) แทน LLM ขนาดใหญ่?

    การเลือกใช้ SLM (Mistral-NeMo-Minitron-2B) ที่ทำงานบนอุปกรณ์ (On-Device) แทนที่จะเป็น Large Language Model (LLM) ที่ทำงานบนคลาวด์ มีเหตุผลสำคัญคือ ความเร็วในการตอบสนอง

    • ลด Latency: การประมวลผลบนอุปกรณ์ช่วยขจัดปัญหา Network Latency ที่เกิดขึ้นเมื่อต้องส่งข้อมูลไป-กลับระหว่างอุปกรณ์ของผู้เล่นกับเซิร์ฟเวอร์คลาวด์ ทำให้ Ally สามารถตอบสนองได้ทันทีในการสื่อสารแบบเรียลไทม์
    • ประสบการณ์ผู้เล่นที่ดีขึ้น: ผู้เล่นให้ความสำคัญกับความรวดเร็วในการตอบสนองของ AI ซึ่งทำให้ Ally รู้สึกพร้อมใช้งานอยู่เสมอในทุกช่วงเวลาของเกม
    • ข้อจำกัดด้านทรัพยากร: PUBG เป็นเกมที่ใช้ทรัพยากร GPU สูง การรันโมเดล AI บนอุปกรณ์จึงต้องมีขนาดกะทัดรัด SLM ขนาด 2 พันล้านพารามิเตอร์ที่ผ่านการ Quantize แล้ว สามารถทำงานได้บน GPU ที่มี VRAM เพียง 8GB ซึ่งเข้าถึงผู้เล่นได้กว้างขวางขึ้น

    เทคนิคการลด Latency เพื่อการสื่อสารแบบเรียลไทม์

    การทำให้การสื่อสารจากเสียงผู้เล่นไปสู่เสียงตอบกลับของ Ally รวดเร็วพอสำหรับเกมแนว Battle Royale เป็นความท้าทายที่สำคัญ KRAFTON ใช้เทคนิคหลายอย่าง:

    • การออกแบบ Prompt: การรักษาคำสั่งและบริบทของเกมให้คงที่มากที่สุดในแต่ละ Turn และอัปเดตเฉพาะข้อมูลที่เกี่ยวข้องแบบเรียลไทม์ ช่วยลดการคำนวณซ้ำซ้อน
    • การแยก System 1 และ System 2: การแบ่งงานระหว่าง Behavior Tree (System 1) ที่จัดการการกระทำฉับไว กับ Language Model (System 2) ที่จัดการการตีความและสร้างบทสนทนา ทำให้การกระทำระดับ Reflex ไม่ต้องรอการประมวลผลจากโมเดลภาษา
    • การกำหนดขอบเขต: การตัดสินใจอย่างรอบคอบว่าการกระทำใดควรจัดการทันทีโดย System 1 และการกระทำใดควรส่งผ่านไปยัง System 2 เป็นสิ่งสำคัญอย่างยิ่งในการทำให้ Ally รู้สึกตอบสนองได้ดีในสถานการณ์การต่อสู้

    การปรับแต่งให้เข้าใจบริบทของเกม (Domain Adaptation)

    เพื่อให้ PUBG Ally เข้าใจศัพท์เฉพาะของ PUBG, แผนที่, ไอเท็ม และอาวุธได้อย่างถูกต้อง KRAFTON ใช้แนวทางสองขั้นตอน:

    1. การจำกัดขอบเขต: แทนที่จะให้โมเดลต้องรับมือกับทุกสถานการณ์ใน PUBG ทีมงานได้จำกัดขอบเขตให้แคบลง โดยเน้นที่แผนที่ Sanhok, โหมด AI Duo และชุดไอเท็มที่กำหนดไว้ เพื่อให้การพัฒนาทำได้ง่ายขึ้น
    2. การสร้างโมเดลต้นแบบ (Teacher Model): ใช้โมเดลขนาดใหญ่กว่าในการเรียนรู้ข้อมูลเฉพาะของเกม เช่น ตำแหน่งสำคัญบนแผนที่, ความรู้เกี่ยวกับไอเท็มและอาวุธ, และความสามารถของ Ally โมเดลต้นแบบนี้จะสร้างการตอบสนองที่อิงตามข้อมูลจริง และสอนโมเดลบนอุปกรณ์ (Student Model) ให้เข้าใจและใช้งานข้อมูลเหล่านั้นได้เอง

    การรักษาความถูกต้องของข้อมูลในเกม (Grounded in Live Game State)

    Ally จะดึงข้อมูลที่จำเป็นจาก Engine ผ่าน "เครื่องมือสังเกตการณ์" (Observation Tools) เช่น สถานะปัจจุบันของผู้เล่น, ข้อมูลเพื่อนร่วมทีม, ไอเท็มที่อยู่ใกล้เคียง, หรือสถานการณ์การต่อสู้ ข้อมูลเหล่านี้จะถูกแปลงเป็นข้อความธรรมดา และระบบ Prompt จะกำหนดให้ผลลัพธ์จากเครื่องมือเหล่านี้เป็น "ความจริง" เพียงหนึ่งเดียวสำหรับแมตช์ปัจจุบัน ทำให้การอ้างอิงข้อมูลของ Ally มีความแม่นยำและอิงตามสถานการณ์จริงเสมอ

    การรองรับหลายภาษา: อังกฤษ, เกาหลี, และจีน

    การรองรับหลายภาษาเพิ่มความซับซ้อน เนื่องจากผู้เล่นมักใช้คำสั่งสั้นๆ, คำสแลง, ตัวย่อ, ชื่อไอเท็ม, หรือการเรียกชื่อสถานที่บนแผนที่ การแก้ไขปัญหานี้ทำได้โดย:

    • สร้างข้อมูลเฉพาะภาษา: ค้นคว้าวิธีการสื่อสารจริงของผู้เล่น PUBG ในแต่ละชุมชนภาษา (อังกฤษ, เกาหลี, จีน)
    • ผู้เชี่ยวชาญด้านภาษา: ทำงานร่วมกับผู้เชี่ยวชาญเพื่อตรวจสอบคุณภาพ ความเป็นธรรมชาติ และความเหมาะสมกับการเล่นเกมในแต่ละภาษา

    ความทรงจำของ AI: เพิ่มประสบการณ์ส่วนตัว

    PUBG Ally มีระบบความทรงจำที่ทำงานในสองระดับ:

    • ความทรงจำระยะยาว (Long-term Memory): จดจำข้อมูลข้ามแมตช์ เช่น ชื่อผู้เล่น, อาวุธที่ชอบ, จุดที่ลงบ่อย, หรือรายละเอียดส่วนตัวที่ผู้เล่นแบ่งปัน รวมถึงบันทึกผลการแข่งขันและเหตุการณ์สำคัญจากแมตช์ก่อนหน้า
    • ความทรงจำระยะสั้น (Short-term Memory): จดจำบริบทภายในแมตช์ปัจจุบัน เช่น บทสนทนาล่าสุดของผู้เล่น และเหตุการณ์ที่เพิ่งเกิดขึ้น

    สิ่งนี้ทำให้ Ally สามารถสร้างปฏิสัมพันธ์ที่เป็นส่วนตัวและน่าจดจำ ผู้เล่นบางคนถึงกับบอกว่า Ally เริ่มหาอาวุธที่พวกเขาเคยขอในแมตช์ก่อนหน้าให้โดยอัตโนมัติ หรือเรียกชื่อผู้เล่นได้อย่างถูกต้องในแมตช์ถัดไป

    PUBG Ally ถือเป็นก้าวสำคัญของการนำ AI มาใช้ในเกม ที่ไม่เพียงแต่เพิ่มมิติใหม่ให้กับการเล่น แต่ยังมอบประสบการณ์ที่ใกล้เคียงกับการมีเพื่อนร่วมทีมจริงมากยิ่งขึ้น ซึ่ง KRAFTON และ NVIDIA ACE ได้พิสูจน์ให้เห็นถึงศักยภาพอันไร้ขีดจำกัดของเทคโนโลยีนี้ในวงการเกม

    ขอบคุณ แหล่งข้อมูล
    https://developer.nvidia.com/blog/how-krafton-built-pubg-ally-a-co-playable-character-powered-by-nvidia-ace/

    PUBG Ally: สหาย AI สุดอัจฉริยะที่ขับเคลื่อนด้วย NVIDIA ACE ใน PUBG: BATTLEGROUNDSวงการเกมกำลังก้าวเข้าสู่ยุคใหม่ของการมีปฏิสัมพันธ์กับตัวละครในเกม เมื่อ KRAFTON ได้เปิดตัว "PUBG Ally" เพื่อนร่วมทีม AI ที่ไม่ใช่แค่บอทธรรมดา แต่เป็น "Co-Playable Character" (CPC) ที่สามารถเข้าใจผู้เล่น สื่อสารโต้ตอบ และปรับตัวเข้ากับสถานการณ์การเล่นแบบเรียลไทม์ได้อย่างน่าทึ่ง เบื้องหลังความล้ำสมัยนี้คือพลังของ NVIDIA ACE ที่ช่วยให้ Ally เข้าใจภาษาของผู้เล่น วิเคราะห์ข้อมูลในเกม และตอบสนองได้อย่างรวดเร็วราวกับเพื่อนร่วมทีมจริงPUBG Ally คืออะไร? ทำไมถึงแตกต่างจาก NPC ทั่วไป?PUBG Ally ถูกสร้างขึ้นมาเพื่อเกม PUBG: BATTLEGROUNDS โดยเฉพาะ โดยมีเป้าหมายเพื่อมอบประสบการณ์การเล่นที่สมจริงยิ่งขึ้น แทนที่จะเป็นตัวละครที่ถูกตั้งโปรแกรมไว้ล่วงหน้า Ally สามารถ:เข้าใจเจตนาของผู้เล่นผ่านเสียง: ใช้ระบบรู้จำเสียงพูดอัตโนมัติ (ASR) เพื่อถอดความคำพูดของผู้เล่นวิเคราะห์สถานการณ์การเล่น: ประมวลผลข้อมูลแบบเรียลไทม์จากสภาพแวดล้อมในเกมตอบสนองแบบไดนามิก: สร้างบทสนทนาและดำเนินการในเกมที่สอดคล้องกับสถานการณ์ทำงานร่วมกับผู้เล่น: สนับสนุนการตัดสินใจทางยุทธวิธี การแลกเปลี่ยนไอเท็ม หรือการช่วยเหลือเพื่อนร่วมทีมปรับเปลี่ยนพฤติกรรม: เรียนรู้และปรับตัวตามสถานการณ์การต่อสู้หรือการเก็บไอเท็มจดจำและเรียนรู้: จดจำข้อมูลเกี่ยวกับผู้เล่นและเหตุการณ์จากแมตช์ก่อนหน้า เพื่อสร้างประสบการณ์ที่เป็นส่วนตัวความแตกต่างที่สำคัญคือ Ally ไม่ใช่แค่ NPC (Non-Playable Character) ที่ทำตามสคริปต์ แต่เป็น CPC (Co-Playable Character) ที่สามารถทำงานร่วมกับผู้เล่นได้อย่างมีความหมาย ทำให้รู้สึกเหมือนมีเพื่อนร่วมทีมจริง ๆ มากกว่าบอททั่วไปเบื้องหลังเทคโนโลยี: NVIDIA ACE และสถาปัตยกรรมของ PUBG Allyหัวใจสำคัญของ PUBG Ally คือ NVIDIA ACE ซึ่งเป็นชุดเครื่องมือและโมเดล AI ที่มีประสิทธิภาพสูง ประกอบด้วย:Automatic Speech Recognition (ASR): แปลงเสียงพูดของผู้เล่นให้เป็นข้อความSmall Language Model (SLM): โมเดลภาษาขนาดเล็ก (2 พันล้านพารามิเตอร์) ทำหน้าที่ประมวลผลคำสั่งของผู้เล่น วิเคราะห์สถานการณ์ และตัดสินใจText-to-Speech (TTS): สร้างเสียงตอบกลับของ Ally ให้มีความเป็นธรรมชาติสถาปัตยกรรมของ PUBG Ally ถูกออกแบบมาให้ทำงานร่วมกันอย่างมีประสิทธิภาพ โดยแยกการประมวลผลออกเป็นสองส่วนหลัก:System 1 (Behavior Tree): จัดการกับการกระทำที่รวดเร็วและตอบสนองแบบฉับพลัน เช่น การเคลื่อนที่ การยิง หรือการตอบสนองต่อการต่อสู้ทันที ทำงานด้วยความเร็วสูงเท่ากับ Game Tick Rate เพื่อให้แน่ใจว่าการกระทำเหล่านี้จะไม่ต้องรอการประมวลผลจากโมเดลภาษาSystem 2 (Language Model): จัดการกับการตัดสินใจที่ซับซ้อนกว่า เช่น การตีความเจตนาของผู้เล่น การประสานงาน และการสร้างบทสนทนาการทำงานแบบขนานนี้ทำให้ Ally สามารถตอบสนองได้อย่างรวดเร็วในสถานการณ์คับขัน ขณะเดียวกันก็ยังคงความสามารถในการสื่อสารด้วยภาษาที่เป็นธรรมชาติและเข้าใจบริบทของเกมทำไมต้องใช้ Small Language Model (SLM) แทน LLM ขนาดใหญ่?การเลือกใช้ SLM (Mistral-NeMo-Minitron-2B) ที่ทำงานบนอุปกรณ์ (On-Device) แทนที่จะเป็น Large Language Model (LLM) ที่ทำงานบนคลาวด์ มีเหตุผลสำคัญคือ ความเร็วในการตอบสนองลด Latency: การประมวลผลบนอุปกรณ์ช่วยขจัดปัญหา Network Latency ที่เกิดขึ้นเมื่อต้องส่งข้อมูลไป-กลับระหว่างอุปกรณ์ของผู้เล่นกับเซิร์ฟเวอร์คลาวด์ ทำให้ Ally สามารถตอบสนองได้ทันทีในการสื่อสารแบบเรียลไทม์ประสบการณ์ผู้เล่นที่ดีขึ้น: ผู้เล่นให้ความสำคัญกับความรวดเร็วในการตอบสนองของ AI ซึ่งทำให้ Ally รู้สึกพร้อมใช้งานอยู่เสมอในทุกช่วงเวลาของเกมข้อจำกัดด้านทรัพยากร: PUBG เป็นเกมที่ใช้ทรัพยากร GPU สูง การรันโมเดล AI บนอุปกรณ์จึงต้องมีขนาดกะทัดรัด SLM ขนาด 2 พันล้านพารามิเตอร์ที่ผ่านการ Quantize แล้ว สามารถทำงานได้บน GPU ที่มี VRAM เพียง 8GB ซึ่งเข้าถึงผู้เล่นได้กว้างขวางขึ้นเทคนิคการลด Latency เพื่อการสื่อสารแบบเรียลไทม์การทำให้การสื่อสารจากเสียงผู้เล่นไปสู่เสียงตอบกลับของ Ally รวดเร็วพอสำหรับเกมแนว Battle Royale เป็นความท้าทายที่สำคัญ KRAFTON ใช้เทคนิคหลายอย่าง:การออกแบบ Prompt: การรักษาคำสั่งและบริบทของเกมให้คงที่มากที่สุดในแต่ละ Turn และอัปเดตเฉพาะข้อมูลที่เกี่ยวข้องแบบเรียลไทม์ ช่วยลดการคำนวณซ้ำซ้อนการแยก System 1 และ System 2: การแบ่งงานระหว่าง Behavior Tree (System 1) ที่จัดการการกระทำฉับไว กับ Language Model (System 2) ที่จัดการการตีความและสร้างบทสนทนา ทำให้การกระทำระดับ Reflex ไม่ต้องรอการประมวลผลจากโมเดลภาษาการกำหนดขอบเขต: การตัดสินใจอย่างรอบคอบว่าการกระทำใดควรจัดการทันทีโดย System 1 และการกระทำใดควรส่งผ่านไปยัง System 2 เป็นสิ่งสำคัญอย่างยิ่งในการทำให้ Ally รู้สึกตอบสนองได้ดีในสถานการณ์การต่อสู้การปรับแต่งให้เข้าใจบริบทของเกม (Domain Adaptation)เพื่อให้ PUBG Ally เข้าใจศัพท์เฉพาะของ PUBG, แผนที่, ไอเท็ม และอาวุธได้อย่างถูกต้อง KRAFTON ใช้แนวทางสองขั้นตอน:การจำกัดขอบเขต: แทนที่จะให้โมเดลต้องรับมือกับทุกสถานการณ์ใน PUBG ทีมงานได้จำกัดขอบเขตให้แคบลง โดยเน้นที่แผนที่ Sanhok, โหมด AI Duo และชุดไอเท็มที่กำหนดไว้ เพื่อให้การพัฒนาทำได้ง่ายขึ้นการสร้างโมเดลต้นแบบ (Teacher Model): ใช้โมเดลขนาดใหญ่กว่าในการเรียนรู้ข้อมูลเฉพาะของเกม เช่น ตำแหน่งสำคัญบนแผนที่, ความรู้เกี่ยวกับไอเท็มและอาวุธ, และความสามารถของ Ally โมเดลต้นแบบนี้จะสร้างการตอบสนองที่อิงตามข้อมูลจริง และสอนโมเดลบนอุปกรณ์ (Student Model) ให้เข้าใจและใช้งานข้อมูลเหล่านั้นได้เองการรักษาความถูกต้องของข้อมูลในเกม (Grounded in Live Game State)Ally จะดึงข้อมูลที่จำเป็นจาก Engine ผ่าน "เครื่องมือสังเกตการณ์" (Observation Tools) เช่น สถานะปัจจุบันของผู้เล่น, ข้อมูลเพื่อนร่วมทีม, ไอเท็มที่อยู่ใกล้เคียง, หรือสถานการณ์การต่อสู้ ข้อมูลเหล่านี้จะถูกแปลงเป็นข้อความธรรมดา และระบบ Prompt จะกำหนดให้ผลลัพธ์จากเครื่องมือเหล่านี้เป็น "ความจริง" เพียงหนึ่งเดียวสำหรับแมตช์ปัจจุบัน ทำให้การอ้างอิงข้อมูลของ Ally มีความแม่นยำและอิงตามสถานการณ์จริงเสมอการรองรับหลายภาษา: อังกฤษ, เกาหลี, และจีนการรองรับหลายภาษาเพิ่มความซับซ้อน เนื่องจากผู้เล่นมักใช้คำสั่งสั้นๆ, คำสแลง, ตัวย่อ, ชื่อไอเท็ม, หรือการเรียกชื่อสถานที่บนแผนที่ การแก้ไขปัญหานี้ทำได้โดย:สร้างข้อมูลเฉพาะภาษา: ค้นคว้าวิธีการสื่อสารจริงของผู้เล่น PUBG ในแต่ละชุมชนภาษา (อังกฤษ, เกาหลี, จีน)ผู้เชี่ยวชาญด้านภาษา: ทำงานร่วมกับผู้เชี่ยวชาญเพื่อตรวจสอบคุณภาพ ความเป็นธรรมชาติ และความเหมาะสมกับการเล่นเกมในแต่ละภาษาความทรงจำของ AI: เพิ่มประสบการณ์ส่วนตัวPUBG Ally มีระบบความทรงจำที่ทำงานในสองระดับ:ความทรงจำระยะยาว (Long-term Memory): จดจำข้อมูลข้ามแมตช์ เช่น ชื่อผู้เล่น, อาวุธที่ชอบ, จุดที่ลงบ่อย, หรือรายละเอียดส่วนตัวที่ผู้เล่นแบ่งปัน รวมถึงบันทึกผลการแข่งขันและเหตุการณ์สำคัญจากแมตช์ก่อนหน้าความทรงจำระยะสั้น (Short-term Memory): จดจำบริบทภายในแมตช์ปัจจุบัน เช่น บทสนทนาล่าสุดของผู้เล่น และเหตุการณ์ที่เพิ่งเกิดขึ้นสิ่งนี้ทำให้ Ally สามารถสร้างปฏิสัมพันธ์ที่เป็นส่วนตัวและน่าจดจำ ผู้เล่นบางคนถึงกับบอกว่า Ally เริ่มหาอาวุธที่พวกเขาเคยขอในแมตช์ก่อนหน้าให้โดยอัตโนมัติ หรือเรียกชื่อผู้เล่นได้อย่างถูกต้องในแมตช์ถัดไปPUBG Ally ถือเป็นก้าวสำคัญของการนำ AI มาใช้ในเกม ที่ไม่เพียงแต่เพิ่มมิติใหม่ให้กับการเล่น แต่ยังมอบประสบการณ์ที่ใกล้เคียงกับการมีเพื่อนร่วมทีมจริงมากยิ่งขึ้น ซึ่ง KRAFTON และ NVIDIA ACE ได้พิสูจน์ให้เห็นถึงศักยภาพอันไร้ขีดจำกัดของเทคโนโลยีนี้ในวงการเกมhttps://developer.nvidia.com/blog/how-krafton-built-pubg-ally-a-co-playable-character-powered-by-nvidia-ace/
    Shared content
    DEVELOPER.NVIDIA.COM
    Q&A: How KRAFTON Built PUBG Ally, a Co-Playable Character Powered by NVIDIA ACE
    AI companions in games have long been constrained by fixed dialogue. PUBG Ally is a different kind of system. Built by KRAFTON for PUBG: BATTLEGROUNDS, this AI teammate is powered by NVIDIA ACE and…
    3 Comments 0 Shares 362 Views 0 Reviews
More Stories