Dataland: แกลเลอรี่แห่งอนาคตที่ AI และธรรมชาติหลอมรวมเป็นหนึ่งเดียว

ในยุคที่เทคโนโลยีปัญญาประดิษฐ์ (AI) ก้าวหน้าอย่างรวดเร็ว ศิลปะก็เช่นกันที่ได้สัมผัสกับการเปลี่ยนแปลงครั้งใหญ่ "Dataland" แกลเลอรี่แห่งใหม่ในลอสแอนเจลิส ก่อตั้งโดย Refik Anadol ศิลปินชื่อดังด้านเทคโนโลยี และ Efsun Erkılıç สตูดิโอพาร์ทเนอร์ ได้เปิดประตูสู่โลกของ "AI Art" ที่แตกต่างและน่าทึ่งกว่าที่เคย

Dataland: พิพิธภัณฑ์ศิลปะ AI แห่งแรกของโลก

Dataland ไม่ใช่แค่แกลเลอรี่ แต่ถูกนิยามว่าเป็น "พิพิธภัณฑ์ศิลปะ AI แห่งแรกของโลก" ที่มุ่งสำรวจความสัมพันธ์ระหว่างมนุษย์กับเครื่องจักร การแสดงผลงานชิ้นเอก "Machine Dreams: Rainforest" เป็นการผสมผสานระหว่างสถาปัตยกรรม immersive, การตอบสนองต่อข้อมูลชีวภาพของผู้เข้าชม และธรรมชาติอันอุดมสมบูรณ์

เบื้องหลัง Machine Dreams: Rainforest

Anadol และทีมงานได้ใช้เวลาถึงสามปีในการฝึกฝนโมเดล AI ของตนเอง โดยใช้ข้อมูลดิบกว่า 5 เพตะไบต์ ที่รวบรวมจากการเดินทางไปยังป่าอะเมซอนและป่าฝนเขตร้อนอื่นๆ การสร้างสรรค์ครั้งนี้แตกต่างจาก AI ทั่วไป เพราะ Dataland ให้ความสำคัญกับจริยธรรมและความรับผิดชอบต่อสิ่งแวดล้อม โดยได้รับความยินยอมและร่วมมือจากนักวิจัย และยังได้รับความสนับสนุนจาก Google DeepMind ในการใช้ทรัพยากรพลังงานต่ำเพื่อการประมวลผลที่ยั่งยืน

ประสบการณ์เหนือจินตนาการ: เมื่อศิลปะสัมผัสได้ถึงคุณ

สิ่งที่ทำให้ Dataland พิเศษยิ่งขึ้นคือการนำเสนอประสบการณ์ที่เหนือกว่าการมองเห็น ผู้เข้าชมจะได้รับอุปกรณ์สวมใส่ เช่น สมาร์ทวอทช์ และปลอกคอรูปตัว U ซึ่งจะเก็บข้อมูลชีวภาพ (Biometric Data) เช่น การเคลื่อนไหว อัตราการเต้นของหัวใจ อุณหภูมิผิว เพื่อนำมาปรับเปลี่ยนภาพและเสียงในงานศิลปะแบบเรียลไทม์

สัมผัสกลิ่นอายธรรมชาติในเมืองใหญ่

ในขณะที่เดินเข้าไปในแกลเลอรี่ คุณอาจจะได้กลิ่นของต้นไม้ ดินชื้น หรือสายฝนที่โปรยปราย ราวกับหลุดเข้าไปอยู่ในป่าจริงๆ ภาพที่ปรากฏบนผนังและพื้นก็ไม่ใช่แค่ภาพธรรมดา แต่เป็นการผสมผสานระหว่างภาพธรรมชาติกับลวดลายของชิปคอมพิวเตอร์ที่เคลื่อนไหวเปลี่ยนแปลงไปตามการเคลื่อนไหวของผู้เข้าชม

การมีส่วนร่วมที่ลึกซึ้ง

Anadol ตั้งคำถามสำคัญว่า "เรามองงานศิลปะและรู้สึกบางสิ่งบางอย่างมาเกือบ 5,000 ปีแล้ว ที่ Dataland ในฐานะห้องทดลองแห่งจินตนาการ คำถามแรกของเราคือ: งานศิลปะสามารถรู้สึกถึงเรากลับได้หรือไม่?" อุปกรณ์สวมใส่เหล่านี้ทำให้ผู้เข้าชมสามารถ "ฝากลายนิ้ว" ลงบนงานศิลปะได้ชั่วขณะ ทำให้เกิดการเชื่อมโยงที่ลึกซึ้งยิ่งขึ้น

Dataland กับการนิยาม "AI Art" ใหม่

ในขณะที่ "AI Art" ทั่วไปมักถูกมองว่าเป็นเพียงการใช้ Prompt ในการสร้างภาพ หรือคลิปสั้นๆ Anadol ต้องการพิสูจน์ว่า AI มีศักยภาพที่ยิ่งใหญ่กว่านั้น Dataland คือพื้นที่ที่จะสำรวจและทำความเข้าใจว่า AI สามารถเป็นเครื่องมือที่ปลดล็อกรูปแบบใหม่ของการมีส่วนร่วมทางศิลปะได้อย่างไร

Infinity Room และ Latent Gallery

• Infinity Room: เชิญชวนให้ผู้เข้าชมได้ติดตามการโบยบินของนกฮัมมิ่งเบิร์ดในป่าเรืองแสง เสมือนหลุดเข้าไปในโลกแฟนตาซี
• Latent Gallery: เปิดโอกาสให้สำรวจเบื้องหลังการทำงานของ Large Nature Model คุณสามารถเลื่อนดูข้อมูลฝึกฝน (Training Data) ที่ใช้ในการสร้างงานศิลปะ เช่น ภาพถ่ายกบจำนวนมหาศาลที่นำมาใช้ในการสร้างโมเดล

Sanctuary: การรวมพลังแห่งอารมณ์

ในห้อง Sanctuary ข้อมูลชีวภาพของทุกคนที่เข้ามาในห้องจะถูกนำมารวมกันเพื่อสร้างภาพ 3 มิติที่หมุนวนและเปลี่ยนแปลงไปตลอดเวลา เป็นตัวแทนของ "พลังงานร่วม" ของกลุ่มผู้ชม ณ ขณะนั้น ซึ่งจะไม่สามารถบันทึกหรือสร้างขึ้นมาใหม่ได้อีก Anadol กล่าวว่า "ศิลปะสามารถรับรู้อารมณ์เหล่านี้ได้" และเขาได้เห็นผู้คนหลั่งน้ำตาด้วยความปิติ ยินดี หรือตื่นเต้น ซึ่งเป็นสิ่งที่ยืนยันว่างานศิลปะกำลังสื่อสารกับพวกเขาได้อย่างแท้จริง

AI เป็นเพียงเครื่องมือ แต่หัวใจคือความเป็นมนุษย์

Anadol ย้ำว่าเป้าหมายสูงสุดของ Dataland และงานศิลปะของเขา คือการ "เป็นมนุษย์" ไม่ใช่ AI AI เป็นเพียงเครื่องมืออันทรงพลังที่จะช่วยให้เราค้นพบตัวเองในรูปแบบใหม่ๆ ความหมายและบริบทของงานศิลปะยังคงอยู่ที่ความเป็นมนุษย์เสมอ

Dataland จึงเป็นมากกว่าแกลเลอรี่ แต่เป็นพื้นที่ที่เชื้อเชิญให้เราสำรวจความเป็นไปได้อันไร้ขีดจำกัดของศิลปะในยุคดิจิทัล ที่ซึ่งเทคโนโลยีและธรรมชาติสามารถหลอมรวมกันสร้างประสบการณ์ที่ตราตรึงใจและกระตุ้นให้เราตั้งคำถามถึงความหมายของศิลปะและตัวตนของเราเอง

#AIArt #Dataland #ExperientialGallery #FutureOfArt #TechAndNature

ขอบคุณ แหล่งข้อมูล
https://www.wired.com/story/a-new-experiential-gallery-just-might-change-your-mind-about-ai-art/

Slackbot โฉมใหม่: ผู้ช่วย AI สุดอัจฉริยะ ที่จะเปลี่ยนการทำงานของคุณ 🚀

ในยุคที่ AI เข้ามามีบทบาทสำคัญในทุกภาคส่วน การทำงานก็เช่นกัน Salesforce ได้เปิดตัว Slackbot เวอร์ชันใหม่ ที่ไม่ใช่แค่ผู้ช่วยแจ้งเตือนธรรมดาอีกต่อไป แต่ได้ก้าวข้ามขีดจำกัด กลายเป็น "เอเจนต์ AI" (AI Agent) เต็มรูปแบบ ที่พร้อมจะค้นหาข้อมูลในองค์กร ร่างเอกสาร และดำเนินการต่างๆ แทนพนักงานได้อย่างมีประสิทธิภาพ

จาก "สามล้อ" สู่ "ปอร์เช่": การยกเครื่อง Slackbot ครั้งใหญ่ 🚗💨

Parker Harris ผู้ร่วมก่อตั้ง Salesforce และประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Slack ได้เปรียบเทียบ Slackbot ตัวเก่าว่าเป็นเหมือน "สามล้อ" ที่ทำได้เพียงงานพื้นฐาน เช่น เตือนให้เพิ่มเพื่อนร่วมงานในเอกสาร หรือแนะนำการจัดเก็บช่องแชทต่างๆ แต่ Slackbot เวอร์ชันใหม่นี้เปรียบเสมือน "ปอร์เช่" ที่ถูกสร้างขึ้นใหม่ทั้งหมด โดยมีสถาปัตยกรรมที่แตกต่างออกไปอย่างสิ้นเชิง

หัวใจสำคัญของ Slackbot ใหม่นี้คือการใช้ Large Language Model (LLM) และความสามารถในการค้นหาที่ซับซ้อน สามารถเข้าถึงข้อมูลสำคัญต่างๆ ได้อย่างครอบคลุม ไม่ว่าจะเป็น:

• บันทึกข้อมูลจาก Salesforce
• ไฟล์จาก Google Drive
• ข้อมูลปฏิทิน
• ประวัติการสนทนาใน Slack ที่ยาวนานหลายปี

ทำให้ Slackbot ใหม่นี้สามารถเข้าใจบริบทและดำเนินการที่ซับซ้อนได้ดีกว่าเดิมอย่างมาก

พลังขับเคลื่อนด้วย Claude และอนาคตของ AI Models 🧠

Slackbot เวอร์ชันใหม่นี้ขับเคลื่อนด้วย Claude ซึ่งเป็น LLM จาก Anthropic การเลือกใช้ Claude ในช่วงแรกเป็นผลมาจากข้อกำหนดด้านการปฏิบัติตามกฎระเบียบ (Compliance) โดยเฉพาะการที่ Slack ให้บริการแก่หน่วยงานรัฐบาลสหรัฐฯ ซึ่งต้องการการรับรองระดับ FedRAMP Moderate

อย่างไรก็ตาม Salesforce ไม่ได้จำกัดตัวเองอยู่เพียงแค่ Claude เท่านั้น พวกเขามีแผนที่จะรองรับ AI Models อื่นๆ เพิ่มเติมในปีนี้ โดยเฉพาะ Gemini จาก Google ที่มีความสามารถและประสิทธิภาพที่น่าประทับใจ รวมถึง OpenAI ก็ยังคงเป็นหนึ่งในตัวเลือกที่เป็นไปได้

ความปลอดภัยของข้อมูล: หัวใจสำคัญที่ Salesforce ยึดมั่น 🔒

ในประเด็นที่ละเอียดอ่อนเกี่ยวกับการใช้ข้อมูลในการเทรน AI, Salesforce ยืนยันอย่างชัดเจนว่า พวกเขาไม่เคยนำข้อมูลของลูกค้าไปใช้ในการฝึกฝนโมเดล AI เนื่องจากโมเดล AI ไม่มีระบบรักษาความปลอดภัยที่สามารถแยกแยะข้อมูลส่วนตัวได้ หากนำข้อมูลการสนทนาที่เป็นความลับไปเทรน ก็ยากที่จะควบคุมได้ว่าใครจะสามารถเข้าถึงข้อมูลนั้นได้บ้าง

การทดลองภายในองค์กร: พนักงาน 80,000 คน กับผลลัพธ์ที่น่าทึ่ง 📈

Salesforce ได้ทำการทดสอบ Slackbot ใหม่ภายในองค์กรกับพนักงานกว่า 80,000 คน และผลลัพธ์ที่ได้นั้นน่าประทับใจอย่างยิ่ง:

• การยอมรับที่รวดเร็วที่สุดในประวัติศาสตร์ Salesforce: พนักงานกว่า 2 ใน 3 ได้ทดลองใช้ Slackbot ใหม่ และ 80% ของผู้ใช้ยังคงใช้งานอย่างสม่ำเสมอ
• ความพึงพอใจสูงถึง 96%: เป็นอัตราความพึงพอใจสูงสุดสำหรับฟีเจอร์ AI ใดๆ ที่ Slack เคยเปิดตัว
• ประหยัดเวลาการทำงาน: พนักงานรายงานว่าสามารถประหยัดเวลาได้ตั้งแต่ 2 ถึง 20 ชั่วโมงต่อสัปดาห์
• การแพร่กระจายแบบออร์แกนิก: การใช้งานส่วนใหญ่เกิดขึ้นจากการบอกต่อกันเองในหมู่พนักงานมากกว่าการบังคับจากผู้บริหาร

เปลี่ยนข้อมูลกระจัดกระจาย ให้เป็นข้อมูลเชิงลึกพร้อมใช้งาน 📊

Slackbot ใหม่สามารถสังเคราะห์ข้อมูลจากหลายแหล่งเข้าด้วยกันได้อย่างน่าทึ่ง ตัวอย่างเช่น การวิเคราะห์ความคิดเห็นของลูกค้าจากโปรแกรมนำร่อง, การอัปโหลดภาพแดชบอร์ดการใช้งาน และการเชื่อมโยงข้อมูลเชิงคุณภาพและเชิงปริมาณเข้าด้วยกัน

นอกจากนี้ Slackbot ยังสามารถ สอบถามข้อมูลจาก Salesforce เพื่อค้นหาบัญชีลูกค้าที่มีดีลที่เปิดอยู่ ซึ่งอาจเป็นกลุ่มเป้าหมายที่เหมาะสมสำหรับการทดลองใช้ผลิตภัณฑ์ใหม่ จากนั้นจึงสังเคราะห์ข้อมูลทั้งหมดออกมาเป็น Canvas (รูปแบบเอกสารร่วมของ Slack) และค้นหาช่วงเวลาว่างในปฏิทินของผู้มีส่วนได้ส่วนเสียเพื่อกำหนดการประชุมทบทวน

ประสบการณ์จริงจากลูกค้า: Beast Industries (บริษัทของ MrBeast) 🎬

Beast Industries บริษัทแม่ของ MrBeast หนึ่งในลูกค้าที่ได้ทดลองใช้ Slackbot ระบุว่า การติดตั้งและเปิดใช้งานฟังก์ชัน Slack AI นั้นง่ายดายมาก ทีมรักษาความปลอดภัยของพวกเขาสามารถอนุมัติได้อย่างรวดเร็ว เนื่องจาก Slackbot เข้าถึงได้เฉพาะข้อมูลที่ผู้ใช้แต่ละคนมีสิทธิ์เข้าถึงเท่านั้น

พนักงานของ Beast Industries รายงานว่าสามารถประหยัดเวลาได้อย่างน้อย 90 นาทีต่อวัน หรือถึงขั้นมองว่า Slackbot เปรียบเสมือน "ผู้ช่วยที่คอยใส่ใจแม้ในเวลาที่เราไม่ได้ใส่ใจ"

การแข่งขันเพื่อครองความเป็นหนึ่งในวงการ Enterprise AI 🥊

การเปิดตัว Slackbot ใหม่นี้ ทำให้ Salesforce เข้าสู่การแข่งขันโดยตรงกับ Microsoft Copilot ที่ผสานรวมใน Teams และ Microsoft 365 รวมถึง Google Gemini ที่ผสานรวมใน Workspace

สิ่งที่ทำให้ Slackbot แตกต่างและมีจุดเด่นคือ:

• ความสะดวกและเข้าถึงง่าย: อยู่ใน Slack โดยตรง ทำให้ผู้ใช้เข้าถึงได้สะดวกโดยไม่ต้องสลับแอปพลิเคชัน
• เข้าใจบริบทการทำงาน: Slackbot เข้าใจการทำงานของผู้ใช้โดยไม่ต้องตั้งค่าหรือฝึกฝนเพิ่มเติม
• ประสบการณ์ที่ราบรื่น: Slackbot ทำงานโดยอิงตามบริบทและข้อมูลที่มีอยู่ใน Slack อยู่แล้ว ทำให้ยิ่งใช้งาน ยิ่งเข้าใจและทำงานได้ดีขึ้น

วิสัยทัศน์สู่ "Super Agent" ผู้ควบคุม AI ทั้งองค์กร 🌌

Salesforce วางตำแหน่งให้ Slackbot เป็น "Super Agent" ซึ่งเป็นศูนย์กลางที่สามารถทำงานร่วมกับ AI Agents อื่นๆ ทั่วทั้งองค์กรได้ในอนาคต

วิสัยทัศน์นี้รวมถึงการสนับสนุน Third-party Agents ที่กำลังเปิดตัวใน Slack เช่น Claude Code for Slack จาก Anthropic รวมถึง Agent จาก OpenAI, Google, Vercel และอื่นๆ อีกมากมาย

ข้อควรพิจารณาด้านค่าใช้จ่าย 💰

Slackbot ใหม่นี้ ไม่มีค่าใช้จ่ายเพิ่มเติม สำหรับลูกค้าที่ใช้แผน Business+ และ Enterprise+ อย่างไรก็ตาม ลูกค้าบางรายอาจต้องพิจารณาค่าใช้จ่ายที่เกี่ยวข้องกับกลยุทธ์ข้อมูลที่กว้างขึ้นของ Salesforce เช่น ค่าธรรมเนียมการเข้าถึง API ที่อาจส่งผลต่อราคาของแอปพลิเคชัน Third-party ที่ทำงานร่วมกับข้อมูล Salesforce

Slackbot โฉมใหม่นี้ถือเป็นการก้าวสำคัญของ Salesforce ในการนำ AI มายกระดับการทำงานในองค์กร ให้มีประสิทธิภาพ สะดวกสบาย และชาญฉลาดมากยิ่งขึ้น

#Slackbot #Salesforce #AI #EnterpriseAI #Slack

ขอบคุณ แหล่งข้อมูล
https://venturebeat.com/technology/salesforce-rolls-out-new-slackbot-ai-agent-as-it-battles-microsoft-and

ฟิดจิ ซิโม สตรีหมายเลข 2 ของ OpenAI ประกาศลงจากตำแหน่งเต็มเวลา 🏥

ข่าวใหญ่ในวงการเทคโนโลยี! ฟิดจิ ซิโม (Fidji Simo) ผู้บริหารระดับสูงและถือเป็นกำลังสำคัญของ OpenAI ได้ประกาศลงจากตำแหน่งเต็มเวลา โดยให้เหตุผลว่าการลาป่วยของเธอใช้เวลานานกว่าที่คาดการณ์ไว้ ส่งผลให้เธอต้องปรับบทบาทไปเป็นที่ปรึกษาแบบพาร์ทไทม์แทน การเปลี่ยนแปลงนี้เกิดขึ้นในช่วงเวลาที่ OpenAI กำลังเตรียมตัวสำหรับการเสนอขายหุ้นแก่ประชาชนทั่วไปเป็นครั้งแรก (IPO) และเร่งพัฒนาผลิตภัณฑ์เพื่อแข่งขันในตลาดองค์กร

เส้นทางสู่ OpenAI และบทบาทสำคัญ 🚀

ฟิดจิ ซิโม เข้าร่วมคณะกรรมการบริหารของ OpenAI ในปี 2024 และเข้ามารับตำแหน่ง CEO of Applications ในเดือนพฤษภาคม 2025 ซึ่งเป็นตำแหน่งที่เพิ่งตั้งขึ้นใหม่ เพื่อดูแลภาพรวมด้านธุรกิจและผลิตภัณฑ์ทั้งหมด โดยรายงานตรงต่อ แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI

ภายใต้การนำของเธอ มีการปรับโครงสร้างการรายงานใหม่ โดย COO, CFO และ CPO ต่างรายงานตรงต่อเธอ ในขณะที่อัลต์แมนได้ถอยกลับไปโฟกัสกับงานวิจัย การประมวลผล และความปลอดภัยของ AI มากขึ้น

การป่วยและบทบาทที่ปรึกษา 🤝

ซิโมได้เปิดเผยปัญหาสุขภาพของเธอในเดือนเมษายน โดยระบุว่าเธอต้องลาป่วยเนื่องจากอาการของโรคทางระบบประสาทและภูมิคุ้มกันกำเริบ ในช่วงเวลาเดียวกันนั้นเอง มีการประกาศปรับบทบาทของ COO และการจากไปของ CMO เพื่อไปรักษาโรคมะเร็ง ซึ่งต่อมา CPO ก็ได้ออกจากบริษัทไปอีกคน

ก่อนหน้าที่จะมาร่วมงานกับ OpenAI ซิโมเคยดำรงตำแหน่ง CEO ของ Instacart ตั้งแต่ปี 2021 และนำพาบริษัทเข้าสู่การ IPO ในปี 2023 นอกจากนี้ เธอยังเคยทำงานที่ Meta มานานกว่าทศวรรษ รวมถึงการบริหารแอปพลิเคชัน Facebook

ผลกระทบต่อ OpenAI และอนาคต 📈

การตัดสินใจของซิโมที่จะถอยห่างจากบทบาทเต็มเวลา ทำให้แซม อัลต์แมน ต้องเผชิญกับความท้าทายในการสรรหาผู้บริหารระดับสูงคนใหม่ โดยเฉพาะอย่างยิ่งในช่วงเวลาที่ OpenAI กำลังพิจารณาเรื่อง IPO ซึ่งซิโมเองก็ถูกมองว่าเป็นตัวเต็งที่จะได้รับความรับผิดชอบมากขึ้นหลังจากการเข้าตลาดหุ้น

ซิโมมีบทบาทสำคัญในการผลักดันธุรกิจสำหรับผู้บริโภคของ OpenAI อย่างไรก็ตาม การเติบโตของ ChatGPT เริ่มชะลอตัวในช่วงปลายปีที่แล้ว และพลาดเป้าหมายรายได้ภายใน ส่งผลให้บริษัทต้องหันมาให้ความสำคัญกับเครื่องมือสำหรับการเขียนโค้ดมากขึ้น ซึ่งเป็นส่วนที่ OpenAI ยังคงตามหลังคู่แข่งอย่าง Anthropic อยู่

ข่าวสารในวันเดียวกัน: การเปิดตัวโมเดล AI ใหม่ 🤖

การประกาศของซิโมเกิดขึ้นในวันเดียวกับที่ OpenAI ได้เปิดตัวโมเดล AI ตระกูล GPT-5.6 ใหม่ ได้แก่ Sol, Terra และ Luna รวมถึงเครื่องมือใหม่ชื่อ ChatGPT Work ซึ่งออกแบบมาเพื่อจัดการงานสำนักงานที่ต้องทำหลายขั้นตอน เช่น การร่างเอกสาร สเปรดชีต และงานนำเสนอ โดยทั้งสองผลิตภัณฑ์นี้ถูกนำเสนอเพื่อแข่งขันโดยตรงกับ Anthropic

โครงสร้างผู้บริหารและแผนการถือหุ้น 👥

ภายใต้มูลค่าบริษัทที่สูงถึง 8.52 แสนล้านดอลลาร์สหรัฐฯ โครงสร้างผู้บริหารของ OpenAI ดูเหมือนจะค่อนข้างเบาบาง นอกเหนือจากอัลต์แมน, ไลท์แคป, ฟรายเออร์ และเกร็ก บร็อกแมน (Greg Brockman) ซึ่งเป็นผู้ร่วมก่อตั้งและประธานบริษัทที่ดูแลกลยุทธ์ผลิตภัณฑ์ในช่วงที่ซิโมไม่อยู่ ยังมี เดนิส เดรสเซอร์ (Denise Dresser) ที่เข้าร่วมเป็นประธานเจ้าหน้าที่ฝ่ายรายได้ (Chief Revenue Officer) ในเดือนธันวาคม

การที่เดรสเซอร์อาจได้รับบทบาทที่ขยายขอบเขตออกไปนั้นไม่ใช่เรื่องน่าแปลกใจ เนื่องจากเธอเคยดำรงตำแหน่ง CEO ของ Slack เป็นเวลา 2 ปี และเคยทำงานกับ Salesforce ซึ่งเป็นบริษัทแม่ของ Slack มายาวนานถึง 14 ปี

การเปลี่ยนแปลงนี้ยังเกิดขึ้นท่ามกลางการปรับเปลี่ยนนโยบายเกี่ยวกับหุ้นของพนักงานใน OpenAI จากที่เคยมีการกำหนดระยะเวลารอ (vesting cliff) 12 เดือนสำหรับพนักงานใหม่ ได้มีการปรับลดเหลือ 6 เดือน และล่าสุดได้ยกเลิกไปเลย โดยให้หุ้นเริ่มทยอยให้สิทธิ์ได้ตั้งแต่วันแรกของการทำงาน

นโยบายดังกล่าวถูกอธิบายภายในว่าเป็นไปเพื่อสนับสนุนให้พนักงาน "กล้าเสี่ยง" โดยไม่ต้องกังวลว่าจะเสียสิทธิ์ในหุ้นหากถูกเลิกจ้างก่อนกำหนด สะท้อนให้เห็นถึงการแข่งขันที่ดุเดือดในการดึงดูดและรักษาบุคลากรด้าน AI ซึ่ง OpenAI คาดว่าจะใช้จ่ายถึง 6 พันล้านดอลลาร์สหรัฐฯ สำหรับค่าตอบแทนในรูปแบบหุ้นในปี 2025 เพียงปีเดียว

#OpenAI #FidjiSimo #SamAltman #AI

ขอบคุณ แหล่งข้อมูล
https://techcrunch.com/2026/07/09/fidji-simo-steps-down-from-openais-no-2-role/

คู่มือปฏิบัติ: การสื่อสารที่เริ่มต้นโดย GPU เพื่อการจำลองพลวัตโมเลกุลในระดับสเกล

การจำลองพลวัตโมเลกุล (Molecular Dynamics - MD) ถือเป็นหนึ่งในภาระงานที่ต้องการทรัพยากรในการประมวลผลสูงที่สุดในวิทยาศาสตร์เชิงคำนวณ ด้วยการจำลองเหล่านี้ นักวิจัยสามารถสังเกตพฤติกรรมของอะตอมได้อย่างละเอียด ตั้งแต่การพับตัวของโปรตีนไปจนถึงการค้นคว้าหายาและวัสดุใหม่ๆ

อย่างไรก็ตาม การจำลองเหล่านี้ต้องแลกมาด้วยต้นทุนที่สูง โดยทั่วไปแล้ว การจำลองจะครอบคลุมอะตอมหลายแสนถึงหลายสิบล้านอะตอม และต้องก้าวไปข้างหน้าทีละเฟมโตวินาที ผ่านการคำนวณหลายพันล้านขั้น เนื่องจากขนาดของปัญหาที่มักจะคงที่ การขนาน (parallelization) จึงต้องกระจายงานไปยังทรัพยากรที่มีอยู่ทั้งหมดพร้อมกัน ซึ่งเป็นสภาวะที่เรียกว่า "การขยายสเกลแบบแข็ง" (strong scaling)

GROMACS เป็นหนึ่งในแพ็กเกจ MD ที่ใช้กันอย่างแพร่หลายที่สุดในโลก ฮาร์ดแวร์สมัยใหม่และการประมวลผลแบบขนานบน CPU-GPU ได้ผลักดันประสิทธิภาพไปสู่ระดับต่ำกว่ามิลลิวินาที โดยสามารถประมวลผลได้ 100–200 ไมโครวินาทีต่อขั้นเวลาในหลายๆ GPU การบรรลุ strong scaling ในระดับนี้ต้องการความหน่วงแฝง (latency) ของเคอร์เนลที่ต่ำมาก แต่การสื่อสารจาก GPU ไปยัง GPU ยังคงเป็นคอขวดพื้นฐานเมื่อการจำลองขยายสเกลไปยัง GPU จำนวนมากขึ้น

ข้อจำกัดของการสื่อสารแบบดั้งเดิมใน GROMACS

แอปพลิเคชัน HPC ขนาดใหญ่ส่วนใหญ่ รวมถึง GROMACS ใช้ Message Passing Interface (MPI) สำหรับการสื่อสารระหว่างกระบวนการ (inter-process communication) อย่างไรก็ตาม MPI ถูกออกแบบมาสำหรับการประมวลผลที่เน้น CPU เป็นหลัก

เมื่อ GROMACS ทำงานบน GPU กระบวนการสื่อสารจะบังคับให้ GPU ต้องหยุดทำงานในขณะที่ CPU จัดการการถ่ายโอนข้อมูลก่อนที่จะส่งสัญญาณให้ GPU ทำงานต่อ ในส่วนของ GROMACS ที่เรียกว่า "halo exchange" ซึ่งเป็นการแบ่งปันข้อมูลอะตอมบริเวณขอบระหว่างโดเมน GPU ที่อยู่ติดกัน กระบวนการนี้จะเกิดขึ้นซ้ำในทั้งสามมิติเชิงพื้นที่ (3D decompositions) ซึ่งใช้เวลา CPU มากกว่า 50% ของเวลาทั้งหมดในการทำงานในอัตราสูงสุด และจำกัดความสามารถในการขยายสเกล

การเร่งความเร็ว GROMACS ด้วยการเข้าถึงหน่วยความจำระยะไกลที่เริ่มต้นโดยอุปกรณ์ (Device-initiated Remote Memory Access)

กุญแจสำคัญในการเร่งความเร็ว GROMACS คือการขจัดขั้นตอนการส่งมอบงานระหว่าง CPU และ GPU ด้วยการสื่อสารแบบ Native ของ GPU NVIDIA NVSHMEM เป็นไลบรารีสำหรับการใช้งาน remote memory access โดยอิงตามโมเดล partitioned global address space ของ OpenSHMEM NVSHMEM ช่วยให้เคอร์เนล GPU สามารถเริ่มต้นการถ่ายโอนข้อมูลได้โดยตรง ลดการพึ่งพา CPU ในเส้นทางวิกฤต และช่วยให้การทับซ้อนของการสื่อสารและการคำนวณมีประสิทธิภาพมากขึ้น

GROMACS halo exchange ใช้กลไกการส่งต่อข้อมูลเป็นระยะ (staged forwarding mechanism) โดยข้อมูลจะถูกส่งผ่านอันดับ (ranks) ที่อยู่ระหว่างกลางในแต่ละมิติเชิงพื้นที่ ผ่านขั้นตอนการสื่อสารหนึ่งขั้นหรือมากกว่า หรือที่เรียกว่า "pulses" แต่ละ pulse จะเริ่มต้นด้วยเคอร์เนล "pack" ที่รวบรวมอะตอมขอบไปยังบัฟเฟอร์ส่งข้อมูลที่ต่อเนื่องกัน สิ่งนี้สร้างการพึ่งพา (dependency) ระหว่างขั้นตอนการสื่อสาร (Z → Y → X) ซึ่งการใช้งานแบบดั้งเดิมจะจัดการผ่านการทำให้ขั้นตอนต่างๆ เป็นลำดับ (coarse phase-level serialization) การปรับปรุงใหม่นี้จะแทนที่การกั้นแบบหยาบ (coarse barriers) ด้วยสัญญาณต่อ pulse แบบละเอียด (fine-grained per-pulse signals) ที่แสดงผลโดยตรงในเคอร์เนลที่หลอมรวม (fused kernel)

การปรับปรุงประสิทธิภาพการถ่ายโอนข้อมูลระหว่าง GPU ที่เชื่อมต่อด้วย NVLink

ในการออกแบบที่กล่าวมา ข้อมูลจะถูกส่งผ่าน NVSHMEM transport เสมอ (nvshmemxfloatputsignalnbi_block) ซึ่งใช้ได้กับทุกการเชื่อมต่อ แต่เมื่อ GPU ปลายทางเชื่อมต่อด้วย NVLink GPU สามารถเข้าถึงหน่วยความจำของกันและกันได้โดยตรง แทนที่จะแพ็คข้อมูลลงในบัฟเฟอร์ภายในเครื่องและเรียกใช้คำสั่ง put ให้แพ็คข้อมูลลงในอาร์เรย์พิกัดของ GPU ปลายทางโดยตรง และขจัดรอบการเดินทางของหน่วยความจำส่วนกลางที่แยกออกไป

nvshmem_ptr(remotePtr, peerRank) จะคืนค่าพอยน์เตอร์อุปกรณ์ที่ไม่เป็น null เมื่อ GPU ปลายทางสามารถเข้าถึงได้ผ่าน NVLink และคืนค่า null หากไม่สามารถเข้าถึงได้ การตรวจสอบนี้จะทำเพียงครั้งเดียวในเคอร์เนลและแยกการทำงานตามเงื่อนไข

ในเส้นทาง NVLink การวนลูปการแพ็คจะเขียนข้อมูลลงในตำแหน่งที่แน่นอนในอาร์เรย์พิกัดของ GPU ปลายทาง เมื่อบล็อก 0 ยืนยันว่า CTA ทั้งหมดแพ็คข้อมูลเสร็จสิ้นแล้วโดยใช้ device-scoped barrier จะส่งสัญญาณไปยัง GPU ปลายทางด้วย system-scope release store (st.release.sys) ซึ่งรับประกันว่าการเขียนโดยตรงก่อนหน้านี้ทั้งหมดจะมองเห็นได้โดย GPU ปลายทางก่อนที่จะอ่านสัญญาณ ไม่จำเป็นต้องมีคำสั่ง put ข้อมูลเพิ่มเติม เนื่องจากข้อมูลอยู่ในตำแหน่งที่ถูกต้องแล้ว

เมื่อ nvshmemptr คืนค่า null พฤติกรรมจะเหมือนกับการออกแบบแรก ข้อมูลจะถูกแพ็คลงในบัฟเฟอร์พักข้อมูลภายในเครื่อง (local staging buffer) และส่งต่อไปยัง nvshmemxfloatputsignalnbiblock ซึ่ง NVSHMEM transport จะส่งผ่านเครือข่าย RDMA เช่น InfiniBand, Slingshot หรืออื่นๆ

การปรับปรุงนี้เน้นให้เห็นถึงความไม่สมมาตรที่สำคัญระหว่างสองเส้นทาง เส้นทาง NVLink ต้องการ CUDA core จำนวนมาก (SMs) ที่ออกคำสั่ง store พร้อมกันเพื่อใช้ประโยชน์จากแบนด์วิดท์ NVLink ให้เต็มที่ ในขณะที่เส้นทาง InfiniBand ต้องการเพียงเธรดเดียว (CTA) เพื่อเริ่มต้นการถ่ายโอนข้อมูลจำนวนมากโดยใช้ NVSHMEM transport คอขวดที่เหลือคือค่าใช้จ่ายในการเปิดใช้งานเคอร์เนลต่อ pulse และลำดับการทำงานที่ตายตัวระหว่าง pulses แม้ว่าข้อมูลบางส่วนจะไม่มีการพึ่งพาระหว่าง pulses ก็ตาม

การเปิดใช้งานการประมวลผลแบบขนานระหว่าง Pulses ผ่าน Kernel Fusion

แนวคิดหลักคือข้อมูลทั้งหมดใน pulse ไม่ได้ขึ้นอยู่กับ pulse ก่อนหน้าเสมอไป อะตอมส่วนใหญ่ใน pulse สามารถถูกแพ็คและส่งออกได้ทันที มีเพียงอะตอมที่ "ส่งต่อ" (forwarded atoms) ที่ได้รับข้อมูลจาก pulse ก่อนหน้าเท่านั้นที่ต้องรอ สิ่งนี้ทำได้โดยการแบ่งแผนที่ดัชนี (index map) ของแต่ละ pulse ที่ dependencyAtomOffset:

• อะตอมอิสระ (Independent atoms) (atomIndex < dependencyAtomOffset): ปลอดภัยที่จะแพ็คและส่งทันทีที่ pulse เริ่มทำงาน
• อะตอมที่ต้องพึ่งพา (Dependent atoms) (atomIndex ≥ dependencyAtomOffset): ต้องรอสัญญาณ pulse ก่อนหน้าที่มีความเกี่ยวข้อง

ด้วยการแบ่งส่วนนี้ เคอร์เนลเดียวสามารถประมวลผลทุก pulse พร้อมกันได้ งานที่ต้องพึ่งพาจะรอเพียงสัญญาณต่อ pulse ที่ต้องการเท่านั้น ไม่ใช่รอทั้งเฟส

การทดสอบประสิทธิภาพ

การทดสอบบนซูเปอร์คอมพิวเตอร์ NVIDIA Eos และคลัสเตอร์ NVIDIA GB200 NVL72 แสดงให้เห็นถึงประสิทธิภาพการขยายสเกลแบบแข็ง (strong scaling) ที่ดีขึ้นถึง 2 เท่าเมื่อเทียบกับ GPU-aware MPI โดยเฉพาะอย่างยิ่งสำหรับระบบที่จำกัดด้วยความหน่วงแฝง (latency-bound systems) แนวทางนี้สามารถนำไปปรับใช้กับแอปพลิเคชัน HPC ใดๆ ที่มีรูปแบบ halo exchange ได้ แม้ว่าการกำหนดมาตรฐานของ primitive การสื่อสารแบบ Native ของ GPU ยังคงเป็นความท้าทายที่เปิดกว้าง

สรุป

การนำ GPU-initiated communication และ NVSHMEM มาใช้สามารถขจัดคอขวดที่เกิดจากการสื่อสารที่ควบคุมโดย CPU ใน GROMACS ได้อย่างมีประสิทธิภาพ ช่วยเพิ่มประสิทธิภาพการจำลองพลวัตโมเลกุลในระดับสเกล และเปิดโอกาสให้นักวิจัยสามารถสำรวจพฤติกรรมของอะตอมได้อย่างลึกซึ้งยิ่งขึ้น

#GPU #NVSHMEM #MolecularDynamics #HPC #GROMACS

ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/a-practical-guide-to-gpu-initiated-communication-for-molecular-dynamics-at-scale/

EU Parliament ไฟเขียว "Chat Control 1.0" สุ่มตรวจแชทประชาชน – สิทธิส่วนบุคคลสูญเสีย?

ในวันที่ 9 กรกฎาคม 2567 ที่ผ่านมา สภายุโรปได้อนุมัติมาตรการ "Chat Control 1.0" ซึ่งอนุญาตให้มีการสุ่มตรวจสื่อสารส่วนตัวของประชาชนโดยไม่มีข้อบ่งชี้ถึงความผิดได้อีกครั้ง แม้ว่าก่อนหน้านี้สภาฯ จะเคยปฏิเสธมาตรการนี้ถึงสองครั้งในเดือนมีนาคม แต่การลงมติในครั้งนี้กลับมีเสียงส่วนใหญ่ของผู้แทนที่ลงคะแนนไม่เห็นด้วย (314 ต่อ 276 เสียง งดออกเสียง 17 เสียง) แต่ก็ไม่สามารถบรรลุเสียงข้างมากสัมบูรณ์ที่ต้องการ 361 เสียงได้ ส่งผลให้การสุ่มตรวจดังกล่าวจะถูกบังคับใช้ต่อไปจนถึงปี 2571

การยกเว้นที่อาจไม่ช่วยอะไร และการจำกัดขอบเขตที่ล้มเหลว

แม้จะมีการออกข้อยกเว้นเชิงสัญลักษณ์สำหรับระบบสื่อสารแบบเข้ารหัส แต่ในทางปฏิบัติแล้ว ผู้ให้บริการยังคงไม่สามารถสแกนข้อมูลส่วนนี้ได้ นอกจากนี้ แม้ว่าผู้แทนส่วนใหญ่จะต้องการจำกัดการสแกนเฉพาะผู้ต้องสงสัยที่ถูกระบุโดยศาล (322 ต่อ 255 เสียง) แต่ร่างแก้ไขนี้ก็ไม่สามารถผ่านความเห็นชอบด้วยเสียงข้างมากสัมบูรณ์ได้เช่นกัน

ความกังวลจากผู้เชี่ยวชาญด้านสิทธิพลเมือง

ดร. แพทริค เบรเยอร์ นักกิจกรรมด้านสิทธิพลเมืองและอดีตสมาชิกสภายุโรป (MEP) ได้ออกมาเตือนถึงผลกระทบที่อาจเกิดขึ้น โดยระบุว่า การที่ Chat Control เดินหน้าไปได้ทั้งที่ขัดต่อเจตจำนงของผู้แทนส่วนใหญ่ เป็นเรื่องที่น่าผิดหวังและทำลายระบอบประชาธิปไตย ลูกหลานของเราคือผู้ที่สูญเสียที่แท้จริงในกระบวนการที่ไม่เป็นประชาธิปไตยนี้ การคุ้มครองเด็กอย่างแท้จริงและถาวรตกอยู่ในความเสี่ยงอย่างร้ายแรง

การต่อสู้เพื่อ "Chat Control 2.0" ยังไม่จบ

แม้จะเผชิญกับความพ่ายแพ้ทางกฎหมายในครั้งนี้ ดร. เบรเยอร์ ยังคงยืนยันที่จะต่อสู้ต่อไปในการเจรจาที่จะมีขึ้น การลงมติในวันนี้ถือเป็นความพ่ายแพ้ชั่วคราว แต่การต่อสู้ทางการเมืองเพื่อ "Chat Control 2.0" ที่ถาวรกำลังจะเริ่มต้นขึ้น การต่อต้านที่แข็งแกร่งในสภาฯ ครั้งนี้ แสดงให้เห็นว่า การสร้างเสียงข้างมากเพื่อการสุ่มตรวจโดยไม่มีข้อสงสัยอย่างถาวรในอนาคตนั้นเป็นไปได้ยาก

เหตุใด Chat Control จึงเป็นแนวทางที่ผิด?

การพยายามปกป้องเด็กด้วยการสุ่มตรวจสื่อสารโดยไม่มีข้อสงสัย เปรียบเสมือนการพยายามเช็ดพื้นอย่างบ้าคลั่งในขณะที่ก๊อกน้ำยังเปิดอยู่ การควบคุมแชทแบบครอบคลุมนั้นเป็นสิ่งที่ยอมรับไม่ได้ เช่นเดียวกับการเปิดจดหมายของทุกคนโดยไม่เลือกหน้า เป็นเวลาห้าปีแล้วที่ระบบที่ล้มเหลวนี้ถูกใช้เป็นข้ออ้างเพื่อยืดเวลาการดำเนินการจริง ขณะเดียวกันก็ทำให้เจ้าหน้าที่ตำรวจต้องรับมือกับสัญญาณเตือนที่ผิดพลาดจำนวนมาก เราต้องการการคุ้มครองเด็กมากขึ้น ไม่ใช่ลดน้อยลง แต่เราต้องการการคุ้มครองที่มีประสิทธิภาพ ไม่ใช่เพียงภาพลวงตาของความปลอดภัย

อะไรคือสิ่งที่เปลี่ยนแปลง และอะไรที่ยังคงเดิม?

สิ่งที่กลับมา: บริษัทเทคโนโลยีสัญชาติอเมริกาสามารถกลับมาสแกนข้อความส่วนตัวได้อีกครั้งโดยไม่มีหมายศาลหรือข้อสงสัยเบื้องต้น ซึ่งส่งผลกระทบต่อข้อความส่วนตัวบนแพลตฟอร์มอย่าง Instagram, Discord, Snapchat, Skype และ Xbox รวมถึงอีเมลผ่าน Gmail และ iCloud ของ Google

สิ่งที่ยังคงเดิม: โพสต์บนโซเชียลมีเดียสาธารณะและไฟล์ที่จัดเก็บในคลาวด์สามารถถูกสแกนได้อยู่แล้วโดยไม่ต้องมีกฎหมายนี้ นอกจากนี้ ข้อความส่วนตัวยังสามารถถูกรายงานโดยผู้ใช้ หรือถูกหน่วยงานเฝ้าระวังผ่านการดักฟังตามคำสั่งศาลได้เสมอ

สิ่งที่ยังคงไม่ถูกสแกน: แชทที่เข้ารหัสแบบ End-to-end เช่นบน WhatsApp ยังคงได้รับการยกเว้นจากการสแกนเหล่านี้เสมอ นอกจากนี้ ผู้ให้บริการข้อความและอีเมลในยุโรปไม่เคยนำมาตรการ Chat Control มาใช้

เบื้องหลัง: ทางตันในการหาข้อตกลงถาวร

ขณะเดียวกัน การเจรจาเพื่อออกกฎระเบียบถาวรเพื่อปกป้องเด็กจากความรุนแรงทางเพศออนไลน์ (หรือ "CSAM Regulation" หรือ "Chat Control 2.0") ยังคงดำเนินต่อไป ในการเจรจาเหล่านี้ สภายุโรปกำลังผลักดันให้เกิดการเปลี่ยนแปลงกระบวนทัศน์ในการรักษาความปลอดภัยออนไลน์ของเด็ก โดยเรียกร้องให้:

• มีการสั่งการตรวจจับแบบกำหนดเป้าหมายที่ชัดเจนต่อผู้ต้องสงสัยในคดีอาญา แทนที่จะเป็นการสุ่มตรวจแบบครอบคลุมตามดุลยพินิจของอุตสาหกรรมเทคโนโลยี
• จัดตั้งศูนย์คุ้มครองเด็กแห่งสหภาพยุโรป (EU Child Protection Centre) เพื่อรับผิดชอบในการลบเนื้อหาที่เข้าข่ายการละเมิดออกจากอินเทอร์เน็ตสาธารณะอย่างเป็นระบบ
• กำหนดมาตรฐานความปลอดภัยที่เข้มงวดสำหรับแอปส่งข้อความ ("Security by Design") เพื่อป้องกันการล่อลวงทางไซเบอร์

กฎหมายถาวรนี้หยุดชะงักเนื่องจากรัฐสมาชิกสหภาพยุโรปยืนกรานที่จะรักษาวิธีการแบบเดิม คือการสุ่มตรวจสื่อสารส่วนตัวโดยสมัครใจ ผู้ที่วิพากษ์วิจารณ์เตือนว่า การต่ออายุข้อบังคับชั่วคราวซ้ำๆ จะทำให้แรงกดดันทางการเมืองที่จำเป็นในการบรรลุข้อตกลงถาวรที่สามารถนำไปปฏิบัติได้หมดไป ท้ายที่สุด การยึดติดกับสถานะเดิมคุกคามที่จะขัดขวางความก้าวหน้าที่แท้จริงในการคุ้มครองเด็ก

เสียงจากผู้รอดชีวิต: "เราต้องการความเป็นส่วนตัวเพื่อนำคนร้ายมาลงโทษ"

ผู้รอดชีวิตจากความรุนแรงทางเพศเน้นย้ำอย่างชัดเจนว่า Chat Control ที่ไม่ได้กำหนดเป้าหมายไม่ได้ช่วยเหยื่อ

อเล็กซานเดอร์ แฮนฟ์ ผู้รอดชีวิตจากการล่วงละเมิดทางเพศเด็กและผู้สนับสนุนความเป็นส่วนตัว ชี้แจงว่า "ในฐานะผู้รอดชีวิต ผมพึ่งพาการสื่อสารที่เป็นความลับเพื่อบอกเล่าเรื่องราวของผมและหาความยุติธรรมให้กับเด็กชาย 28 คน ซึ่งรวมถึงตัวผมเองด้วย ซึ่งส่งผลให้ผู้กระทำผิดหลายคนถูกตัดสินลงโทษ พวกเราผู้รอดชีวิตต้องการความเป็นส่วนตัว เพราะหากไม่มีสิ่งนี้ เราก็จะสูญเสียเสียงของเราไป Chat Control ไม่ได้ถูกสร้างขึ้นเพื่อปกป้องเด็ก มันเกี่ยวกับการที่บริษัท Big Tech อย่าง Meta หรือ Google ต้องการเข้าถึงข้อมูลของเราเพื่อแสวงหาผลกำไร และรัฐที่พยายามขยายการสอดแนมมวลชน คณะกรรมาธิการยุโรปได้ใช้เวลาห้าปีและเงินหลายล้านยูโรไปกับอัลกอริทึมที่ไม่สามารถปกป้องเด็กและไม่เคยมีเจตนาจะทำเช่นนั้น เงินจำนวนนี้ควรถอนไปใช้ในการบังคับใช้กฎหมายจริง การวิจัยเชิงสาเหตุ และการสนับสนุนผู้รอดชีวิต ซึ่งหลายล้านคนไม่เคยได้รับการสนับสนุนเลย"

มาร์เซล ชไนเดอร์* (นามสมมติ) ผู้รอดชีวิตที่กำลังฟ้องร้อง Meta ในศาลเกี่ยวกับ Chat Control โดยสมัครใจ กล่าวเสริมว่า "ใครก็ตามที่เสียใจกับการสิ้นสุดของ Chat Control แสดงว่ายังไม่เข้าใจว่าอะไรคือสิ่งที่ช่วยผู้รอดชีวิตจากความรุนแรงทางเพศได้อย่างแท้จริง การสอดแนมหมู่โดยบริษัทอย่าง Meta ไม่ได้ป้องกันการล่วงละเมิด การคุ้มครองที่แท้จริงหมายถึง: การลบเนื้อหาที่แหล่งที่มา การทำงานเชิงรุกของตำรวจใน Darknet และแอปที่ออกแบบมาให้ปลอดภัยสำหรับเด็กตั้งแต่เริ่มต้น"

โดโรธี ฮาห์เน สมาชิกผู้ก่อตั้งและรองประธานของกลุ่มผู้รอดชีวิต MOGiS e.V. (A Voice for Survivors) เน้นย้ำถึงอันตรายที่การสอดแนมหมู่มีต่อตัวเหยื่อเองว่า "ในฐานะผู้รอดชีวิต เราเห็น 'พื้นที่ปลอดภัย' ของเรา พื้นที่คุ้มครองและช่องทางการสื่อสารของเราตกอยู่ในอันตรายหรือถูกทำลายโดยสิ่งนี้ สำหรับผู้รอดชีวิต ความต้องการนี้เป็นสิ่งจำเป็นต่อการดำรงอยู่"

#ChatControl #ความเป็นส่วนตัว #สิทธิมนุษยชน #EU

ขอบคุณ แหล่งข้อมูล
https://www.patrick-breyer.de/en/eu-parliament-greenlights-chat-control-1-0-breyer-our-children-lose-out/

Deutsche Telekom และ OpenAI ร่วมมือกันเพื่อยกระดับประสบการณ์ลูกค้าด้วย AI

Deutsche Telekom บริษัทโทรคมนาคมชั้นนำของยุโรป ได้ประกาศความร่วมมือครั้งสำคัญกับ OpenAI ผู้บุกเบิกด้านปัญญาประดิษฐ์ เพื่อนำเทคโนโลยี AI มาปรับปรุงและยกระดับบริการลูกค้าให้ดียิ่งขึ้น ความร่วมมือนี้มีเป้าหมายเพื่อสร้างประสบการณ์ที่ราบรื่น มีประสิทธิภาพ และเป็นส่วนตัวมากขึ้นให้กับลูกค้าของ Deutsche Telekom

การผสาน AI เข้ากับการบริการลูกค้า

Deutsche Telekom เล็งเห็นถึงศักยภาพอันมหาศาลของ AI ในการเปลี่ยนแปลงวิธีการโต้ตอบกับลูกค้า โดยเฉพาะอย่างยิ่งการใช้โมเดลภาษาขนาดใหญ่ (Large Language Models - LLMs) ของ OpenAI เพื่อ:

• ตอบคำถามลูกค้าได้อย่างรวดเร็วและแม่นยำ: AI Chatbot ที่ขับเคลื่อนด้วยเทคโนโลยีของ OpenAI จะสามารถเข้าใจคำถามที่ซับซ้อนของลูกค้า และให้คำตอบที่ถูกต้องและตรงประเด็นได้ในทันที ลดเวลารอคอยและเพิ่มความพึงพอใจ
• ให้คำแนะนำที่ปรับให้เหมาะกับแต่ละบุคคล: AI สามารถวิเคราะห์ข้อมูลและความต้องการของลูกค้า เพื่อนำเสนอผลิตภัณฑ์ บริการ หรือโซลูชันที่ตรงกับความต้องการเฉพาะบุคคลได้อย่างมีประสิทธิภาพ
• สนับสนุนเจ้าหน้าที่บริการลูกค้า: AI จะช่วยลดภาระงานที่ต้องทำซ้ำๆ ของเจ้าหน้าที่ เช่น การค้นหาข้อมูล หรือการตอบคำถามทั่วไป ทำให้เจ้าหน้าที่สามารถมุ่งเน้นไปที่การแก้ไขปัญหาที่ซับซ้อนและสร้างความสัมพันธ์ที่ดีกับลูกค้าได้มากขึ้น
• ปรับปรุงกระบวนการภายใน: การวิเคราะห์ข้อมูลจากการโต้ตอบกับลูกค้าด้วย AI สามารถช่วยให้ Deutsche Telekom เข้าใจปัญหาและความต้องการของลูกค้าได้ลึกซึ้งยิ่งขึ้น นำไปสู่การปรับปรุงผลิตภัณฑ์และบริการให้ดียิ่งขึ้นในอนาคต

ประโยชน์ที่จะได้รับจากความร่วมมือ

ความร่วมมือระหว่าง Deutsche Telekom และ OpenAI คาดว่าจะส่งผลดีต่อทั้งลูกค้าและบริษัท:

สำหรับลูกค้า:

• ประสบการณ์ที่ดียิ่งขึ้น: การได้รับความช่วยเหลือที่รวดเร็ว แม่นยำ และเป็นส่วนตัว
• ความสะดวกสบาย: สามารถรับบริการได้ตลอด 24 ชั่วโมง ทุกวัน
• โซลูชันที่ตรงใจ: ได้รับข้อเสนอที่สอดคล้องกับความต้องการจริง

สำหรับ Deutsche Telekom:

• ประสิทธิภาพการดำเนินงานที่เพิ่มขึ้น: ลดต้นทุนการดำเนินงานและเพิ่มประสิทธิภาพของทีมบริการลูกค้า
• ความเข้าใจลูกค้าเชิงลึก: ได้ข้อมูลเชิงลึกเพื่อการพัฒนาผลิตภัณฑ์และบริการ
• การแข่งขันที่สูงขึ้น: สร้างความได้เปรียบในการแข่งขันด้วยการนำเสนอบริการที่ล้ำสมัย

ก้าวต่อไปของ Deutsche Telekom

Deutsche Telekom มุ่งมั่นที่จะนำเทคโนโลยี AI มาใช้ในหลากหลายมิติ เพื่อยกระดับคุณภาพชีวิตของลูกค้า และเสริมสร้างความแข็งแกร่งในตลาดโทรคมนาคม ความร่วมมือกับ OpenAI ครั้งนี้ ถือเป็นก้าวสำคัญที่จะพาองค์กรไปสู่ยุคใหม่ของการให้บริการด้วยนวัตกรรมปัญญาประดิษฐ์

#DeutscheTelekom #OpenAI #AI #บริการลูกค้า #นวัตกรรม

ขอบคุณ แหล่งข้อมูล
https://openai.com/index/deutsche-telekom

เจาะลึก PyTorch Profiler: วิเคราะห์ประสิทธิภาพ Attention Mechanism 🔍

การทำความเข้าใจและปรับปรุงประสิทธิภาพของโค้ด PyTorch เป็นสิ่งสำคัญอย่างยิ่ง โดยเฉพาะอย่างยิ่งเมื่อต้องจัดการกับโมเดลที่ซับซ้อนและมีขนาดใหญ่ ในซีรีส์ "Profiling in PyTorch" เราได้สำรวจวิธีการอ่าน trace และใช้ข้อมูลนั้นเพื่อปรับปรุงโค้ด ในบทความที่สามนี้ เราจะเจาะลึกหัวใจสำคัญของสถาปัตยกรรม Transformer นั่นคือ Attention Mechanism

ความสำคัญของ Attention Mechanism ในโมเดลยุคใหม่

Attention Mechanism ได้รับการยอมรับอย่างกว้างขวางว่าเป็นองค์ประกอบสำคัญที่ทำให้โมเดลอย่าง Transformers ประสบความสำเร็จอย่างสูงในงานด้าน Natural Language Processing (NLP) และ Computer Vision แม้ว่าจะมีชื่อเสียงในเรื่องความซับซ้อนเชิงเวลาแบบยกกำลังสอง (quadratic-time complexity) แต่ก็มีเทคนิคและกลยุทธ์มากมายที่ถูกพัฒนาขึ้นเพื่อทำให้มันทำงานได้อย่างรวดเร็วและมีประสิทธิภาพ

เป้าหมายของเราในบทความนี้ไม่ใช่การอธิบายทุกเทคนิคอย่างละเอียด แต่เป็นการแสดงให้เห็นว่า แต่ละเทคนิคส่งผลต่อประสิทธิภาพอย่างไรเมื่อมองผ่าน PyTorch Profiler

โครงสร้างพื้นฐานของ Attention

Attention ทำงานโดยอาศัยองค์ประกอบหลัก 3 อย่าง คือ Queries (q), Keys (k), และ Values (v) การทำงานสามารถสรุปเป็นขั้นตอนสั้นๆ ได้ดังนี้:

1. สร้าง Attention Scores: คำนวณ matmul(q, k.T)
2. ปรับ Scale Scores: นำคะแนนที่ได้มาคูณด้วยค่า scale scores * scale
3. ใช้ Causal Mask: นำ mask มาใช้กับคะแนน scores.masked_fill(mask, "-inf") (ในกรณีที่ต้องการบังคับลำดับการประมวลผล)
4. Normalize Scores ด้วย Softmax: เพื่อให้ได้ Attention Weights softmax(scores)
5. Reweight Values: นำ Attention Weights ไปคูณกับ Values matmul(attn, v)

จะเห็นได้ว่า Attention คือการรวมกันของ Primitive Operations หลายอย่าง ซึ่งบางอย่างเราคุ้นเคยกันดีแล้ว (เช่น matmul) และบางอย่างก็สามารถระบุได้ง่าย

วิเคราะห์ Naive Attention ด้วย PyTorch Profiler

ลองมาเขียน Attention แบบง่ายๆ (Naive Attention) ใน PyTorch แล้วนำไป profiling กัน

สิ่งที่คาดหวังว่าจะเห็นใน Profiler Trace:

• Kernel matmul สำหรับ q . k.T
• Kernel mul สำหรับการ scale
• Operation สำหรับการทำ masking
• Kernel matmul สำหรับ atten . v

เมื่อเปิดดู trace ของ attnfwd (การเรียกใช้ฟังก์ชัน forward ที่เรากำหนดเอง) เราจะพบว่ามี Operation ตามที่คาดการณ์ไว้จริง ๆ ทั้ง matmul, maskedfill (สำหรับการ masking) และ softmax

การแกะรอย GPU Lane: ทำความเข้าใจ Kernel ที่ถูกเรียกใช้

เมื่อเราขยายส่วน GPU lane ของ profiler trace เราจะเห็น Kernel ที่ถูกเรียกใช้จริง ๆ สำหรับแต่ละขั้นตอน:

• matmul (query and key)
• softmax (สร้าง attention weights)
• matmul (attention weights and values)

แต่ที่น่าสนใจคือ เราพบ Kernel ที่ชื่อว่า memcpy ซึ่งไม่ใช่ส่วนหนึ่งของขั้นตอนคำนวณหลักที่คาดหวังไว้

In-place Operations: พลิกเกมประหยัดทรัพยากร 💾

Kernel memcpy นี้มักเกิดขึ้นเมื่อ PyTorch ทำงานแบบ Out-of-place คือสร้างสำเนาของ tensor ขึ้นมาใหม่ก่อนทำการคำนวณ ในกรณีนี้ masked_fill เป็นส่วนที่ทำให้เกิด memcpy

ลองเปลี่ยนมาใช้ In-place operation โดยเปลี่ยนจาก maskedfill เป็น maskedfill (สังเกตขีดล่าง ที่บ่งบอกว่าเป็น in-place operation)

![Comparison of traces with and without in-place operation](ขอบคุณ แหล่งข้อมูล
https://huggingface.co/blog/assets/torch-attention-profile/inplacevsoutofplace.png)
(ภาพประกอบ: เปรียบเทียบ trace ของการทำ masking แบบ out-of-place และ in-place)

เมื่อตรวจสอบ trace อีกครั้ง จะพบว่า:

• CPU Lane: จำนวน CPU ops ที่เกี่ยวข้องกับการ masking ลดลงอย่างเห็นได้ชัด
• GPU Lane: Kernel memcpy หายไป!

การเปลี่ยนแปลงเพียงเล็กน้อยนี้ ช่วยลดการทำงานที่ไม่จำเป็นลงได้อย่างมาก ซึ่งหากนำไปใช้ในโมเดลขนาดใหญ่ที่มี Attention ซ้ำหลายชั้น ประหยัดทั้งเวลาและหน่วยความจำได้อย่างมหาศาล

ข้อควรจำ: การใช้ in-place operations จะปลอดภัยเมื่อไม่มีการคำนวณ gradient (เช่น ในโหมด torch.no_grad()) เพราะการเขียนทับข้อมูลเดิมอาจส่งผลต่อการคำนวณ backward pass

Scaled Dot Product Attention (SDPA): การรวมพลังของ PyTorch 🚀

PyTorch ได้รวมเอาเทคนิคต่างๆ ในการคำนวณ Attention ไว้ในฟังก์ชันเดียวคือ torch.nn.functional.scaleddotproduct_attention (SDPA) ฟังก์ชันนี้มีความสามารถในการเลือก backend ที่เหมาะสมที่สุดโดยอัตโนมัติเพื่อให้ได้ประสิทธิภาพสูงสุด

SDPA มีหลาย backend ที่แตกต่างกัน เช่น:

• Math backend: เป็น reference implementation ที่ตรงไปตรงมา แต่ช้าที่สุด
• FlashAttention-2: Implementation จาก Tri Dao ที่มีประสิทธิภาพสูง
• Efficient backend (xformers): Implementation ที่พัฒนาต่อยอดจาก Meta xformers

เมื่อ SDPA ทำงานช้ากว่าที่คาด? 🤔

สิ่งที่น่าประหลาดใจคือ เมื่อเราลองใช้ SDPA แบบง่ายๆ (โดยตั้งค่า is_causal=True) พบว่ามัน ช้ากว่า Naive Attention ที่เราเขียนขึ้นเองถึง 3.7 เท่า!

เมื่อเจาะลึก trace จะพบว่า Math backend ของ SDPA เรียกใช้ Kernel จำนวนมากถึง 20 Kernel ต่อ forward pass! สาเหตุหลักมาจาก:

1. การ Upcast เป็น FP32: Math backend มักจะแปลง tensor เป็น FP32 ก่อนคำนวณ ทำให้ช้าลงและใช้หน่วยความจำมากขึ้นเมื่อเทียบกับการใช้ bfloat16 (bf16) ใน Naive Attention ที่ใช้ Tensor Cores ได้เต็มที่
2. การสร้าง Mask ใหม่ทุกครั้ง: การใช้ is_causal=True ทำให้ SDPA สร้าง Mask ขึ้นมาใหม่ทุกครั้งที่เรียกใช้ แทนที่จะใช้ Mask ที่คำนวณไว้แล้วเหมือนใน Naive Attention
3. การใช้ safesoftmax: เพื่อป้องกัน NaN ในกรณีที่ row ถูก mask ทั้งหมด SDPA เลือกใช้ safesoftmax ซึ่งมี overhead มากกว่า aten::softmax ธรรมดา

สรุป: Math backend ของ SDPA ถูกออกแบบมาเพื่อความถูกต้องและครอบคลุมทุกกรณี (dtype-safe, NaN-safe) ทำให้เป็น baseline ที่ดี แต่ไม่ใช่ backend ที่เร็วที่สุด

ก้าวสู่ประสิทธิภาพสูงสุด: FlashAttention และ Efficient Backend ✨

เมื่อเปรียบเทียบกับ Math backend ที่มี 20 Kernels:

• Efficient Backend: เรียกใช้เพียง 1 Kernel เท่านั้น! คือ fmhacutlassFbf16aligned64x64rfsm80 ชื่อ Kernel นี้บ่งบอกถึง:
• fmha (fused multi-head attention): รวมทุก primitive ops เป็นหนึ่งเดียว
• cutlassF: สร้างบน CUTLASS template ของ NVIDIA
• bf16_aligned: ทำงานในโหมด bfloat16
• 64x64: ขนาด tile
• rf (register file): เก็บข้อมูลใน register ที่เร็วที่สุด
• sm80: คอมไพล์สำหรับสถาปัตยกรรม Ampere (A100)

• FlashAttention-2 Backend: ก็เป็นอีกทางเลือกที่ยอดเยี่ยม โดยเป็น implementation ที่มีประสิทธิภาพสูงจาก Tri Dao

หัวใจสำคัญของ FlashAttention: คือการจัดการกับปัญหาคอขวดของ HBM (High Bandwidth Memory) ซึ่งเกิดจากการอ่าน-เขียนข้อมูลปริมาณมหาศาลระหว่างการคำนวณ Attention แทนที่จะคำนวณ Matrix เต็มๆ แล้วค่อยๆ ประมวลผล FlashAttention จะประมวลผลข้อมูลเป็นส่วนๆ (tiles) และใช้เทคนิค "online softmax" เพื่อลดการเข้าถึง HBM ทำให้เร็วขึ้นอย่างมาก

สรุป: การเลือกใช้ Attention ให้เหมาะสม

การทำความเข้าใจว่า Attention Mechanism ทำงานอย่างไร และแต่ละส่วนมีผลต่อประสิทธิภาพอย่างไรผ่าน PyTorch Profiler เป็นสิ่งสำคัญอย่างยิ่ง

• Naive Attention: ช่วยให้เห็นภาพรวมของ Primitive Operations และผลของการใช้ In-place operations
• SDPA (Math Backend): เป็น Baseline ที่ปลอดภัยและถูกต้อง แต่ไม่เร็วที่สุด
• Efficient Backend (xformers) และ FlashAttention-2: คือตัวเลือกที่ให้ประสิทธิภาพสูงสุด โดยอาศัยเทคนิคการ Fused Kernel และการจัดการหน่วยความจำอย่างชาญฉลาด

การเลือกใช้ PyTorch Profiler จะช่วยให้นักพัฒนาสามารถวิเคราะห์หาจุดคอขวดและปรับปรุงประสิทธิภาพของโมเดลได้อย่างตรงจุด ทำให้สามารถสร้างสรรค์ AI ที่ทรงพลังและทำงานได้รวดเร็วยิ่งขึ้น

#PyTorch #Profiling #Attention #Transformer #AI #MachineLearning

ขอบคุณ แหล่งข้อมูล
https://huggingface.co/blog/torch-attention-profile

ฟิดจิ ซิโม ซีอีโอฝ่ายพัฒนา AGI ของ OpenAI ประกาศลาออก หลังต้องพักรักษาตัว

ข่าวการเปลี่ยนแปลงครั้งสำคัญในวงการเทคโนโลยีปัญญาประดิษฐ์ (AI) เมื่อ ฟิดจิ ซิโม (Fidji Simo) ซีอีโอฝ่ายพัฒนา AGI (Artificial General Intelligence) ของ OpenAI ได้ประกาศลาออกจากตำแหน่งอย่างเป็นทางการ โดยมีผลทันที

สาเหตุการลาออก: การเจ็บป่วยและการพักรักษาตัว

ซิโมได้เปิดเผยผ่านโพสต์บนแพลตฟอร์ม X ว่า เมื่อสามเดือนที่ผ่านมา เธอจำเป็นต้องพักรักษาตัวจากอาการป่วยเรื้อรังที่เผชิญมานาน 7 ปี ซึ่งอาการกำเริบอย่างรุนแรง ทำให้เธอตระหนักว่ากระบวนการฟื้นฟูจะยาวนานและซับซ้อนกว่าที่คาดการณ์ไว้ จึงต้องทุ่มเทเวลาทั้งหมดให้กับการรักษาตัว

เส้นทางสู่ OpenAI และบทบาทสำคัญ

ฟิดจิ ซิโม เข้าร่วมเป็นคณะกรรมการบริหารของ OpenAI ในเดือนมีนาคม ปี 2024 ต่อมา แซม อัลท์แมน (Sam Altman) ซีอีโอของ OpenAI ได้ทาบทามให้เธอเข้ามาดูแลด้านผลิตภัณฑ์และธุรกิจ เพื่อให้เขาได้มุ่งเน้นไปที่การวิจัยและการสร้างศูนย์ข้อมูลของบริษัท

ก่อนหน้านี้ ซิโมมีประวัติการทำงานที่โดดเด่นในฐานะซีอีโอของ Instacart และเคยดำรงตำแหน่งหัวหน้าแอปพลิเคชัน Facebook ที่ Meta (Facebook เดิม)

สุขภาพที่ต้องมาก่อน: การตัดสินใจที่ยากลำบาก

ซิโมเคยเปิดเผยกับพนักงาน OpenAI ในเดือนเมษายนที่ผ่านมาถึงการตัดสินใจลาออกชั่วคราวเพื่อรักษาตัวว่า เธอได้เลื่อนการตรวจทางการแพทย์และการบำบัดใหม่ๆ ออกไปเสมอ เพื่อให้สามารถทุ่มเทให้กับงานได้อย่างเต็มที่ และไม่พลาดแม้แต่วันเดียว แต่เธอตระหนักว่าได้ผลักดันตัวเองมากเกินไป และจำเป็นต้องลองใช้วิธีการรักษาใหม่ๆ เพื่อให้อาการคงที่

การปรับโครงสร้างองค์กรที่ OpenAI

ข่าวการลาออกของซิโมเกิดขึ้นท่ามกลางการปรับเปลี่ยนผู้บริหารระดับสูงหลายตำแหน่งใน OpenAI โดยก่อนหน้านี้ แบรด ไลท์แคป (Brad Lightcap) อดีตประธานเจ้าหน้าที่ฝ่ายปฏิบัติการ (COO) ได้ย้ายไปดูแลโครงการพิเศษต่างๆ ส่วน เกร็ก บร็อคแมน (Greg Brockman) ประธานและผู้ร่วมก่อตั้ง ได้เข้ามารับผิดชอบกลยุทธ์ผลิตภัณฑ์ของ OpenAI

ในช่วงที่ซิโมถอยจากการทำงานที่ OpenAI บริษัทได้ปรับโครงสร้างทีมผลิตภัณฑ์ให้เข้มข้นขึ้น โดยแต่งตั้ง ทิโบต์ ซอตเทีย (Thibault Sottiaux) ให้เป็นหัวหน้าผลิตภัณฑ์หลักของบริษัท ซึ่งรวมถึง ChatGPT ด้วย

ทิศทางของ OpenAI: ก้าวสู่ IPO และการรวมผลิตภัณฑ์

OpenAI กำลังมุ่งเน้นไปที่ผลิตภัณฑ์หลักไม่กี่อย่าง เพื่อเตรียมพร้อมสำหรับการเสนอขายหุ้นต่อประชาชนทั่วไปเป็นครั้งแรก (IPO) ซึ่งคาดว่าจะเกิดขึ้นในปี 2027 โดยมีเป้าหมายการประเมินมูลค่าที่ 1 ล้านล้านดอลลาร์สหรัฐ

ภายใต้นโยบายการรวมศูนย์ผลิตภัณฑ์นี้ OpenAI ได้รวมทีมที่ทำงานเกี่ยวกับ ChatGPT, เบราว์เซอร์ AI และเอเจนต์เขียนโค้ด AI เข้าด้วยกัน เพื่อสร้าง "ซูเปอร์แอป" (superapp) นอกจากนี้ บริษัทยังได้ยุติการลงทุนในโครงการที่อาจมีความเสี่ยงสูง เช่น Sora

การอัปเดตผลิตภัณฑ์ล่าสุด: ChatGPT Agent

เมื่อเร็วๆ นี้ OpenAI ได้เปิดตัวการอัปเดตผลิตภัณฑ์ครั้งใหญ่ที่สุดสำหรับ ChatGPT นับตั้งแต่เปิดตัว โดยได้เปิดตัวเอเจนต์ AI ใน ChatGPT ที่สามารถดำเนินการแทนผู้ใช้ได้ เช่น การย้ายไฟล์ในเครื่อง หรือการเขียนโค้ด พร้อมทั้งปรับปรุงดีไซน์ของแอปพลิเคชันบนเดสก์ท็อป ด้วยการอัปเดตนี้ OpenAI หวังที่จะมอบฟีเจอร์บางอย่างที่เคยจำกัดเฉพาะ Codex ให้กับผู้ใช้ ChatGPT ได้ เช่น ความสามารถในการสร้างโครงการซอฟต์แวร์ที่ปรับแต่งเองได้ด้วย AI

#OpenAI #AGI #FidjiSimo #ArtificialIntelligence

ขอบคุณ แหล่งข้อมูล
https://www.wired.com/story/fidji-simo-ceo-agi-deployment-openai/

Listen Labs: ระดมทุน 69 ล้านดอลลาร์ สู่การปฏิวัติการวิจัยตลาดด้วย AI 🚀

ในโลกธุรกิจที่การแข่งขันสูงและรวดเร็ว การทำความเข้าใจลูกค้าคือหัวใจสำคัญ แต่ทำอย่างไรเมื่อวิธีการแบบเดิม ๆ ไม่ทันต่อการเปลี่ยนแปลง? Listen Labs สตาร์ทอัพด้าน AI ได้แสดงให้เห็นถึงนวัตกรรมสุดล้ำในการวิจัยตลาด ด้วยการระดมทุน Series B ได้ถึง 69 ล้านดอลลาร์ นำโดย Ribbit Capital พร้อมด้วย Evantic และนักลงทุนเดิมอย่าง Sequoia Capital, Conviction, และ Pear VC ซึ่งทำให้มูลค่าบริษัทพุ่งสูงถึง 500 ล้านดอลลาร์

วิกฤตการณ์ที่นำไปสู่นวัตกรรม 💡

Alfred Wahlforss ซีอีโอของ Listen Labs เผชิญกับความท้าทายในการสรรหาบุคลากรด้านวิศวกรรมกว่า 100 ตำแหน่ง ท่ามกลางการแข่งขันที่ดุเดือดกับข้อเสนอที่น่าสนใจจากบริษัทยักษ์ใหญ่ เขาจึงตัดสินใจทุ่มงบประมาณ 5,000 ดอลลาร์ (ประมาณ 1 ใน 5 ของงบการตลาด) เพื่อสร้างป้ายโฆษณาที่ดูเหมือนข้อความสุ่มในซานฟรานซิสโก ข้อความนั้นแท้จริงแล้วคือ "AI tokens" เมื่อถอดรหัสแล้ว กลับกลายเป็นโจทย์การแข่งขันเขียนโปรแกรมเพื่อสร้างอัลกอริทึมทำหน้าที่เป็น "บอดี้การ์ดดิจิทัล" ที่คลับ Berghain อันโด่งดังในเบอร์ลิน

ความท้าทายที่แปลกใหม่นี้ได้ดึงดูดผู้คนจำนวนมากให้เข้ามาลองแก้ปัญหาภายในเวลาเพียงไม่กี่วัน และผู้ชนะได้รับโอกาสในการร่วมงานกับ Listen Labs พร้อมทริปบินฟรีไปเบอร์ลิน!

Listen Labs: แก้ปัญหาการวิจัยตลาดแบบเดิม ๆ ด้วย AI 🔍

Listen Labs กำลังเข้ามาแก้ปัญหาใหญ่ของอุตสาหกรรมวิจัยตลาดมูลค่า 140 พันล้านดอลลาร์ ซึ่งปัจจุบันมีข้อจำกัดดังนี้:

• การสำรวจเชิงปริมาณ (Quantitative Surveys): ให้ความแม่นยำทางสถิติ แต่ขาดรายละเอียดเชิงลึก และผู้ตอบอาจไม่ซื่อสัตย์
• การสัมภาษณ์เชิงคุณภาพ (Qualitative Interviews): ให้ข้อมูลเชิงลึก แต่ไม่สามารถขยายขนาดให้ครอบคลุมได้ และใช้เวลานาน

แพลตฟอร์มของ Listen Labs ใช้ AI ในการ:

1. สรรหาผู้เข้าร่วม: คัดกรองผู้เข้าร่วมจากเครือข่ายทั่วโลกกว่า 30 ล้านคน
2. ดำเนินการสัมภาษณ์: AI ทำหน้าที่เป็นผู้สัมภาษณ์หลัก ตั้งคำถามเชิงลึก และถามคำถามต่อเนื่อง
3. วิเคราะห์และสรุปผล: นำเสนอข้อมูลเชิงลึกที่นำไปใช้ได้จริงในรูปแบบรายงานที่พร้อมนำเสนอ

สิ่งที่ทำให้ Listen Labs แตกต่างคือการใช้ การสนทนาผ่านวิดีโอแบบปลายเปิด (open-ended video conversations) แทนการตอบแบบเลือกตอบ ซึ่งช่วยให้ได้คำตอบที่ตรงไปตรงมาและน่าเชื่อถือมากขึ้น

การต่อสู้กับการฉ้อโกงในอุตสาหกรรมวิจัยตลาด 🛡️

Listen Labs ตระหนักถึงปัญหาการฉ้อโกงที่แพร่หลายในอุตสาหกรรมวิจัยตลาด จึงได้พัฒนาระบบ "Quality Guard" ที่ทำหน้าที่:

• ตรวจสอบโปรไฟล์ LinkedIn เทียบกับวิดีโอการตอบคำถามเพื่อยืนยันตัวตน
• ตรวจสอบความสอดคล้องของคำตอบ
• ระบุรูปแบบที่น่าสงสัย

ด้วยระบบนี้ ทำให้ผู้เข้าร่วมมีแนวโน้มที่จะพูดคุยมากขึ้นและให้ข้อมูลที่ซื่อสัตย์ โดยเฉพาะในหัวข้อที่ละเอียดอ่อน เช่น การเมืองหรือสุขภาพจิต

ตัวอย่างความสำเร็จจากบริษัทชั้นนำ 📊

• Microsoft: ได้รับข้อมูลเชิงลึกจากลูกค้าทั่วโลกสำหรับการเฉลิมฉลองครบรอบ 50 ปี ภายในเวลาเพียง 1 วัน จากที่เคยใช้เวลา 4-6 สัปดาห์
• Simple Modern: ทดสอบแนวคิดผลิตภัณฑ์ใหม่ ได้รับผลตอบรับจาก 120 คนทั่วประเทศภายในเวลาเพียง 3.5 ชั่วโมง
• Chubbies: เพิ่มจำนวนผู้เข้าร่วมวิจัยกลุ่มเด็กขึ้น 24 เท่า โดยเอาชนะข้อจำกัดด้านตารางเวลาด้วยการสัมภาษณ์ผ่าน AI และค้นพบปัญหาด้านคุณภาพสินค้าที่อาจมองข้ามไป

อนาคตของการพัฒนาผลิตภัณฑ์ด้วย AI 🤖

Listen Labs กำลังก้าวย่างไปสู่การสร้าง "ลูกค้าสังเคราะห์" (synthetic customers) ที่สามารถจำลองพฤติกรรมและความคิดเห็นของผู้บริโภคได้จากข้อมูลการสัมภาษณ์จำนวนมาก นอกจากนี้ยังวางแผนที่จะพัฒนาให้ AI สามารถ ดำเนินการตามการค้นพบจากการวิจัยได้โดยอัตโนมัติ เช่น การปรับปรุงโค้ด หรือการเสนอส่วนลดเพื่อรักษาลูกค้า

แม้จะมีข้อกังวลด้านจริยธรรมเกี่ยวกับการตัดสินใจอัตโนมัติ แต่ Listen Labs ยืนยันว่าจะมีการกำหนด "Guardrails" ที่เข้มงวดเพื่อให้บริษัทเป็นผู้ควบคุมและตัดสินใจขั้นสุดท้ายเสมอ

Listen Labs กำลังขับเคลื่อนการเปลี่ยนแปลงครั้งใหญ่ในอุตสาหกรรมวิจัยตลาด ด้วยพลังของ AI ที่ช่วยให้การทำความเข้าใจลูกค้าเป็นไปอย่างรวดเร็ว แม่นยำ และมีประสิทธิภาพมากขึ้น ซึ่งจะนำไปสู่การพัฒนาผลิตภัณฑ์และบริการที่ดีที่สุดสำหรับผู้บริโภคต่อไป

#ListenLabs #AI #วิจัยตลาด #สตาร์ทอัพ #เทคโนโลยี

ขอบคุณ แหล่งข้อมูล
https://venturebeat.com/technology/listen-labs-raises-usd69m-after-viral-billboard-hiring-stunt-to-scale-ai

GPT 5.6: โมเดล AI ตัวเลือกหลักสำหรับ Microsoft Copilot 365 ท่ามกลางข่าวลือความสัมพันธ์สั่นคลอน

ในโลกของเทคโนโลยีที่หมุนไปอย่างรวดเร็ว ข่าวคราวความร่วมมือระหว่างบริษัทเทคโนโลยียักษ์ใหญ่ย่อมเป็นที่จับตามองเสมอ โดยเฉพาะอย่างยิ่งเมื่อมีข่าวลือเกี่ยวกับความสัมพันธ์ที่อาจกำลังสั่นคลอน ล่าสุด OpenAI ได้ออกมาประกาศอย่างเป็นทางการเกี่ยวกับบทบาทของ GPT 5.6 ที่จะยังคงเป็น "โมเดลตัวเลือกหลัก" (preferred model) สำหรับ Microsoft Copilot 365 ซึ่งเป็นการส่งสัญญาณที่ชัดเจนว่าการทำงานร่วมกันระหว่างสองบริษัทยังคงดำเนินต่อไป

ความร่วมมือที่ยังคงดำเนินต่อไป: GPT 5.6 กับ Microsoft Copilot 365

ก่อนหน้านี้ มีรายงานจาก Bloomberg ที่ระบุว่า Microsoft กำลังพิจารณาใช้โมเดล AI ที่พัฒนาขึ้นเองภายในองค์กร (in-house models) ที่ชื่อว่า MAI มาแทนที่ซอฟต์แวร์บางส่วนของ OpenAI เพื่อลดต้นทุน โดยมีแอปพลิเคชันอย่าง Word และ Excel ที่มีการนำโมเดล MAI มาใช้งานมากขึ้น ข่าวนี้ได้ก่อให้เกิดคำถามและความสงสัยเกี่ยวกับสถานะความสัมพันธ์ระหว่าง Microsoft และ OpenAI ที่เคยดูเหมือนจะแยกจากกันไม่ได้

เพื่อคลี่คลายข้อสงสัยและข่าวลือดังกล่าว OpenAI ได้ประกาศอย่างเป็นทางการในงานเปิดตัว GPT 5.6 เมื่อวันพฤหัสบดีที่ผ่านมาว่า GPT 5.6 จะเป็น "โมเดลตัวเลือกหลัก" ที่จะขับเคลื่อน Microsoft 365 Copilot

GPT 5.6 จะสนับสนุนแอปพลิเคชันสำคัญของ Microsoft อย่างไร?

OpenAI ได้ระบุในบล็อกโพสต์ว่า GPT 5.6 จะพร้อมสนับสนุนผู้ใช้งาน Microsoft ในกลุ่มแอปพลิเคชันเพื่อการทำงานและความคิดสร้างสรรค์ (productivity apps) ที่หลากหลาย ซึ่งรวมถึง Word, Excel, PowerPoint และ Cowork

"ความร่วมมือของเรากับ Microsoft เป็นไปเพื่อนำประโยชน์ของ AI ขั้นสูงมาสู่ผู้คนและองค์กรให้มากขึ้นเสมอมา และเราตื่นเต้นที่จะได้สานต่อความมุ่งมั่นร่วมกันนี้" OpenAI กล่าวในบล็อกโพสต์

ความหมายที่แท้จริงของ "โมเดลตัวเลือกหลัก"

แม้ว่าคำว่า "โมเดลตัวเลือกหลัก" (preferred model) อาจยังไม่ชัดเจนในรายละเอียดทั้งหมด นอกเหนือไปจากการที่ซอฟต์แวร์ของ OpenAI จะยังคงเป็นหัวใจหลักในการขับเคลื่อนแอปพลิเคชันต่างๆ ของ Microsoft แต่การประกาศนี้ก็เป็นการยืนยันว่าการทำงานร่วมกันยังคงแข็งแกร่ง

สิ่งสำคัญคือ รายงานก่อนหน้านี้ไม่ได้ระบุว่าซอฟต์แวร์ของ ChatGPT จะหยุดสนับสนุนแอปพลิเคชันของ Microsoft แต่อย่างใด เพียงแต่กล่าวถึงการที่ Microsoft พึ่งพาโมเดลของตนเองมากขึ้นเพื่อลดต้นทุนเท่านั้น ดังนั้น การประกาศ "โมเดลตัวเลือกหลัก" ใหม่นี้ จึงไม่ปรากฏว่าขัดแย้งกับรายงานก่อนหน้านี้

การประกาศนี้เป็นการตอกย้ำถึงความสำคัญของโมเดล AI จาก OpenAI ในการเสริมศักยภาพให้กับเครื่องมือทำงานของ Microsoft และแสดงให้เห็นถึงความตั้งใจที่จะพัฒนานวัตกรรม AI ไปพร้อมๆ กันต่อไป

ขอบคุณ แหล่งข้อมูล
https://techcrunch.com/2026/07/09/openai-says-gpt-5-6-is-the-preferred-model-for-microsoft-copilot-amid-breakup-chatter/

สร้างข้อมูลสังเคราะห์สำหรับงานวิจัย AI ด้านการเงิน ด้วย NVIDIA NeMo

การปรับแต่งโมเดลภาษาขนาดใหญ่ (LLMs) สำหรับงานประมวลผลภาษาธรรมชาติ (NLP) ด้านการเงินมักประสบปัญหาข้อจำกัดเรื่องข้อมูลที่มีอยู่อย่างจำกัดและไม่สมดุล ข้อมูลข่าวสารทางการเงินในโลกแห่งความเป็นจริงมักจะเน้นไปที่รายงานผลประกอบการและการเคลื่อนไหวของหุ้นเป็นส่วนใหญ่ ในขณะที่เหตุการณ์ที่เกิดขึ้นได้ยากกว่า เช่น การเปลี่ยนแปลงอันดับความน่าเชื่อถือ, การอนุมัติผลิตภัณฑ์, หรือประเด็นด้านแรงงาน กลับเป็นข้อมูลที่หาได้ยากและรวบรวมได้ในปริมาณน้อย

การสร้างข้อมูลสังเคราะห์ (Synthetic Data Generation) จึงเป็นอีกหนึ่งแนวทางสำคัญที่เข้ามาช่วยเติมเต็มช่องว่างเหล่านี้ สำหรับการวิจัยด้านการซื้อขาย (trading research), การสร้างแบบจำลองความเสี่ยง (risk modeling), และการเฝ้าระวัง (surveillance) แต่การจะให้ได้ข้อมูลที่มีความหลากหลายนั้น จำเป็นต้องอาศัยกระบวนการที่มากกว่าการสร้างข้อมูลเพียงครั้งเดียว

บทความนี้จะแนะนำขั้นตอนการสร้างชุดข้อมูลข่าวพาดหัวทางการเงินสังเคราะห์ที่มีความหลากหลายกว่า 500,000 หัวข้อ ครอบคลุม 13 หมวดหมู่ โดยใช้ NVIDIA NeMo Data Designer สำหรับการสร้างพาดหัวตามน้ำหนักของแต่ละหมวดหมู่, NVIDIA NeMo Curator สำหรับการกำจัดข้อมูลที่ซ้ำซ้อนกันในเชิงความหมาย (semantic deduplication) ในระดับที่ปรับขนาดได้, และโมเดล NVIDIA Nemotron สำหรับการสังเคราะห์พาดหัวด้วยปริมาณงานที่สูง พร้อมทั้งกลยุทธ์การเลือกตัวอย่างแบบ "farthest-from-centroid" เพื่อนำทางการสร้างข้อมูลให้มีความแปลกใหม่ในแต่ละรอบ

ปัญหาของข้อมูลจริง และความจำเป็นในการสร้างข้อมูลสังเคราะห์

ในโลกของการเงิน ข้อมูลจริงมักมีปัญหาเรื่องความสมดุลของข้อมูล เช่น ข่าวเกี่ยวกับผลประกอบการและราคาหุ้นมักจะเยอะเป็นพิเศษ ทำให้ข้อมูลเกี่ยวกับเหตุการณ์สำคัญอื่นๆ ที่เกิดขึ้นได้ยากกว่า เช่น การปรับอันดับเครดิต การอนุมัติสินค้า หรือประเด็นด้านแรงงาน กลับมีไม่เพียงพอต่อการนำไปใช้ในการฝึกฝนโมเดล AI ที่ต้องการความแม่นยำและครอบคลุม

การทดลองสร้างข้อมูลแบบง่ายๆ โดยสร้างข่าวพาดหัว 50,000 หัวข้อ พบว่า 65% ถูกตัดออกไปเพราะมีความซ้ำซ้อนกันสูง นี่แสดงให้เห็นว่าการเพิ่มปริมาณการสร้างข้อมูลเพียงอย่างเดียว ไม่ได้ช่วยเพิ่มความหลากหลายของข้อมูลได้ตามสัดส่วน

กระบวนการสร้างข้อมูลสังเคราะห์แบบวนซ้ำ (Iterative Pipeline)

เพื่อแก้ปัญหานี้ กระบวนการที่ใช้คือการสร้างข้อมูลแบบวนซ้ำ (iterative pipeline) ซึ่งประกอบด้วยขั้นตอนหลักๆ ดังนี้:

1. สร้างข้อมูล (Generate): สร้างชุดข้อมูลพาดหัวข่าวทางการเงินตามน้ำหนักของแต่ละหมวดหมู่
2. กรองคุณภาพ (Quality Filtering): ตรวจสอบและกรองข้อมูลที่ผิดรูปแบบออกไป
3. กำจัดข้อมูลซ้ำซ้อนเชิงความหมาย (Semantic Deduplication): เปรียบเทียบข้อมูลใหม่กับข้อมูลทั้งหมดที่มีอยู่แล้ว เพื่อกำจัดข้อมูลที่ซ้ำซ้อนในเชิงความหมาย
4. เลือกตัวอย่างที่หลากหลาย (Select Diverse Few-Shot Examples): เลือกตัวอย่างข้อมูลที่โดดเด่นและแตกต่างจากข้อมูลเดิม เพื่อนำไปใช้ในการสร้างข้อมูลรอบถัดไป
5. ปรับปรุงการกระจายหมวดหมู่ (Dynamic Distribution Correction): ปรับน้ำหนักของแต่ละหมวดหมู่ให้สมดุล เพื่อให้การสร้างข้อมูลรอบถัดไปมีความหลากหลายตามเป้าหมาย

กระบวนการนี้จะทำซ้ำไปเรื่อยๆ จนกว่าจะได้ปริมาณข้อมูลตามที่ต้องการ ซึ่งในตัวอย่างนี้ สามารถสร้างข่าวพาดหัวที่ไม่ซ้ำกันได้กว่า 502,536 หัวข้อ ครอบคลุม 13 หมวดหมู่ โดยใช้เวลาประมาณ 6 วันบนโหนด NVIDIA B200 เพียงโหนดเดียว

สถาปัตยกรรมหลักและส่วนประกอบ

1. การสร้างพาดหัวด้วย NVIDIA NeMo Data Designer 🛠️

• โมเดลที่ใช้: Nemotron 3 Nano (30B parameters) ทำงานผ่าน vLLM ด้วย tensor parallelism 4-way สามารถรองรับคำขอพร้อมกันได้ 448 รายการ
• NeMo Data Designer: ทำหน้าที่ควบคุมการสร้างข้อมูล โดยกำหนดน้ำหนักของแต่ละหมวดหมู่ (12 หัวข้อหลัก + "อื่นๆ") และใช้ LLM สร้างพาดหัวข่าวตามหมวดหมู่ที่สุ่มได้ พร้อมทั้งใช้ตัวอย่างข้อมูล (few-shot examples) ที่ได้จากรอบก่อนหน้า
• การตั้งค่าการสร้าง: ใช้การสุ่มแบบ high-diversity (temperature=0.95) และอาศัยการกรองและการกำจัดข้อมูลซ้ำซ้อนในภายหลังเพื่อจัดการกับข้อมูลที่ผิดพลาดหรือไม่สมบูรณ์
• โครงสร้าง Prompt: ประกอบด้วยระบบตั้งค่าบทบาท (role-setting system prompt), ตัวอย่างข้อมูลที่จัดกลุ่มตามหมวดหมู่ (few-shot examples), และคำสั่งสำหรับหมวดหมู่ที่สุ่มได้

2. การกรองคุณภาพ (Quality Filtering) 🔍

ขั้นตอนนี้เป็นการกรองเบื้องต้นอย่างง่าย โดยใช้กฎเกณฑ์เพื่อคัดกรองข้อมูลที่มีรูปแบบผิดพลาด เช่น ข้อความที่ขาดหาย, ไม่สมบูรณ์, หรือผิดเพี้ยน ซึ่งในทางปฏิบัติ ขั้นตอนนี้จะกำจัดข้อมูลออกไปน้อยกว่า 1% โดยการควบคุมคุณภาพส่วนใหญ่จะมาจากขั้นตอนถัดไป

3. การกำจัดข้อมูลซ้ำซ้อนด้วย NVIDIA NeMo Curator 🧹

นี่คือกลไกหลักในการควบคุมคุณภาพ:

• การฝังข้อมูล (Embedding): ใช้โมเดล all-MiniLM-L6-v2 ในการแปลงข้อความให้เป็นเวกเตอร์
• การจัดกลุ่ม (Clustering): ใช้ K-means ในการจัดกลุ่มเวกเตอร์คำที่คล้ายกัน (กำหนด 500 clusters)
• การเปรียบเทียบความคล้ายคลึง (Similarity Comparison): เปรียบเทียบเวกเตอร์ภายในกลุ่ม โดยใช้ค่า cosine similarity หากค่าสูงกว่า 90% จะถือว่าเป็นข้อมูลซ้ำซ้อนและถูกกำจัดออกไป
• การกำจัดซ้ำซ้อนทั่วทั้งคลังข้อมูล (Global Deduplication): ข้อมูลใหม่จะถูกเปรียบเทียบกับข้อมูลทั้งหมดที่สะสมไว้ ไม่ใช่แค่ภายในชุดข้อมูลที่สร้างขึ้นใหม่ เพื่อป้องกันการซ้ำซ้อนข้ามชุดข้อมูล

การใช้จำนวนคลัสเตอร์ที่มากขึ้น (500 clusters) ช่วยให้การกำจัดข้อมูลซ้ำซ้อนทั่วทั้งคลังข้อมูลสามารถทำได้ในระดับที่จัดการได้ เมื่อจำนวนข้อมูลสะสมมากขึ้น

4. การเลือกตัวอย่างที่หลากหลายสำหรับรอบถัดไป 💡

หลังจากกำจัดข้อมูลซ้ำซ้อนแล้ว จะมีการเลือกตัวอย่างข้อมูล (few-shot examples) สำหรับการสร้างข้อมูลในรอบถัดไป โดยมีเป้าหมายเพื่อนำโมเดลให้สร้างข้อมูลที่แตกต่างจากที่เคยสร้างไปแล้ว

• การเลือกแบบ Farthest-from-Centroid: จัดอันดับข้อมูลตามระยะห่างจากจุดศูนย์กลางของคลัสเตอร์ (centroid) และเลือกข้อมูลที่อยู่ห่างที่สุด ซึ่งเป็นข้อมูลที่ผิดแปลกไปจากเพื่อนบ้านในเชิงความหมาย และมีประโยชน์ในการกระตุ้นให้เกิดผลลัพธ์ใหม่ๆ
• การกรองเชิงความหมายข้ามรอบ (Cross-iteration Semantic Filtering): ข้อมูลที่ถูกเลือกมาจะต้องไม่ซ้ำซ้อนกับตัวอย่างข้อมูลที่เคยใช้ไปแล้วในรอบก่อนหน้า (cosine similarity ไม่เกิน 80%) เพื่อป้องกันการส่งสัญญาณที่ซ้ำซ้อนกันใน prompt

5. การปรับปรุงการกระจายหมวดหมู่แบบไดนามิก (Dynamic Distribution Correction) ⚖️

แม้จะมีการกำหนดน้ำหนักหมวดหมู่ตั้งแต่ต้น แต่โมเดลอาจมีแนวโน้มที่จะสร้างข้อมูลในหมวดหมู่ที่ "ง่าย" กว่า เช่น "อื่นๆ" หรือ "ราคาหุ้น" บ่อยกว่าหมวดหมู่อื่นๆ ดังนั้น จึงต้องมีการปรับปรุงการกระจายหมวดหมู่หลังแต่ละรอบ:

• เปรียบเทียบสัดส่วน: เปรียบเทียบสัดส่วนหมวดหมู่เป้าหมายกับสัดส่วนที่สร้างได้จริง
• เพิ่มหมวดหมู่ที่ขาด: เพิ่มน้ำหนักให้กับหมวดหมู่ที่มีสัดส่วนน้อยกว่าเป้าหมาย
• จำกัดค่าสุดขั้ว: ควบคุมไม่ให้สัดส่วนของหมวดหมู่ใดหมวดหมู่หนึ่งสูงหรือต่ำเกินไป
• ปรับให้เป็นมาตรฐาน: ปรับน้ำหนักทั้งหมดให้รวมกันเป็น 1 เพื่อใช้ในการสร้างข้อมูลรอบถัดไป

กระบวนการนี้ช่วยให้หมวดหมู่ที่เกิดขึ้นได้ยาก เช่น "อันดับเครดิต" หรือ "การอนุมัติผลิตภัณฑ์" มีสัดส่วนใกล้เคียงกับเป้าหมาย 1% แม้ว่าหมวดหมู่ "อื่นๆ" จะยังคงมีสัดส่วนสูงกว่าก็ตาม

สรุปผลลัพธ์และประโยชน์ 🚀

กระบวนการสร้างข้อมูลสังเคราะห์แบบวนซ้ำนี้ สามารถสร้างชุดข้อมูลข่าวพาดหัวทางการเงินที่มีความหลากหลายและครอบคลุมเหตุการณ์ที่เกิดขึ้นได้ยาก ซึ่งเป็นประโยชน์อย่างยิ่งสำหรับ:

• การกลั่นกรองโมเดล (Model Distillation): ชุดข้อมูลที่สร้างขึ้นสามารถนำไปใช้ในการฝึกฝนโมเดลขนาดเล็ก (student models) ให้มีประสิทธิภาพใกล้เคียงกับโมเดลขนาดใหญ่ (teacher models) โดยสามารถทำคะแนน F1 ได้สูงถึง 95% ของโมเดลครู แม้จะมีขนาดเล็กกว่ามาก
• การเพิ่มประสิทธิภาพการฝึกฝน: การมีข้อมูลที่หลากหลายและสมดุล ช่วยให้โมเดลนักเรียนได้เรียนรู้จากเหตุการณ์ทางการเงินที่เกิดขึ้นได้ยากและกรณีขอบ (edge cases) ซึ่งยากต่อการรวบรวมจากแหล่งข้อมูลจริง
• การวิจัยและการพัฒนา: เป็นเครื่องมือสำคัญสำหรับนักวิจัยในการทดสอบและพัฒนาโมเดล AI ด้านการเงินให้มีความแม่นยำและครอบคลุมมากยิ่งขึ้น

หลักการสำคัญ 4 ประการที่ได้จากกระบวนการนี้ คือ การสร้างข้อมูลแบบวนซ้ำ, การกำจัดข้อมูลซ้ำซ้อนทั่วทั้งคลังข้อมูล, การเลือกตัวอย่างที่หลากหลาย, และการปรับปรุงการกระจายหมวดหมู่อย่างไดนามิก ซึ่งเป็นแนวทางที่มีประสิทธิภาพในการสร้างชุดข้อมูลสังเคราะห์ขนาดใหญ่ที่มีคุณภาพสูงสำหรับงานวิจัย AI ด้านการเงิน

#AI #NVIDIA #NeMo #SyntheticData #FinancialAI

ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/synthetic-data-generation-for-financial-ai-research-with-nvidia-nemo/

Colibrì: รันโมเดลภาษา GLM-5.2 (744B MoE) ด้วย RAM เพียง 25GB บนคอมพิวเตอร์ทั่วไป

เคยฝันว่าอยากจะรันโมเดลภาษาขนาดใหญ่ที่มีพารามิเตอร์นับพันล้านบนคอมพิวเตอร์ส่วนตัวของคุณเองไหม? ปกติแล้วโมเดลเหล่านี้ต้องการทรัพยากรคอมพิวเตอร์มหาศาล ทั้ง RAM และ GPU ที่มีราคาแพง แต่โครงการ Colibrì กำลังทำให้ความฝันนั้นเป็นจริง ด้วยการพัฒนาเอนจิ้นที่เขียนด้วยภาษา C เพียว ๆ โดยไม่มีการพึ่งพาไลบรารีภายนอก (zero dependencies) ทำให้สามารถรันโมเดล GLM-5.2 ขนาด 744 พันล้านพารามิเตอร์ (744B MoE) ได้บนเครื่องที่มี RAM เพียง 25GB เท่านั้น!

Colibrì ทำงานอย่างไร?

หัวใจสำคัญของ Colibrì คือการจัดการทรัพยากรอย่างชาญฉลาด โดยเฉพาะการสตรีมส่วนประกอบของโมเดลจากดิสก์แบบ On-demand แทนที่จะโหลดทั้งหมดเข้าสู่ RAM

• MoE (Mixture-of-Experts): โมเดล GLM-5.2 เป็นแบบ Mixture-of-Experts ที่มีพารามิเตอร์รวม 744 พันล้านตัว แต่เมื่อประมวลผลแต่ละโทเค็น จะมีการเรียกใช้งานผู้เชี่ยวชาญ (experts) เพียงบางส่วนเท่านั้น คิดเป็นประมาณ 40 พันล้านพารามิเตอร์ และมีเพียง 11GB เท่านั้นที่เปลี่ยนแปลงไปตามโทเค็น
• การแบ่งส่วนทรัพยากร:
• ส่วนที่คงอยู่ใน RAM: ส่วนที่เป็นแกนหลัก (dense part) เช่น attention, shared experts, embeddings ซึ่งมีขนาดประมาณ 17 พันล้านพารามิเตอร์ จะถูกโหลดเข้า RAM ในรูปแบบ int4 (ใช้พื้นที่ประมาณ 9.9 GB)
• ส่วนที่สตรีมจากดิสก์: ผู้เชี่ยวชาญ 21,504 ตัว (จาก 75 ชั้น MoE × 256 experts) ซึ่งแต่ละตัวมีขนาดประมาณ 19MB (ในรูปแบบ int4) จะถูกเก็บไว้บนดิสก์ (ประมาณ 370 GB) และจะถูกดึงมาใช้งานเมื่อจำเป็น โดยมีระบบแคช (LRU cache) และตัวเลือกในการตรึงผู้เชี่ยวชาญที่ใช้บ่อย (hot-store) รวมถึงใช้ประโยชน์จาก OS page cache เป็น L2 cache อีกด้วย

จุดเด่นของ Colibrì

เอนจิ้น Colibrì ถูกออกแบบมาให้มีขนาดเล็กแต่ทรงพลัง ด้วยโค้ดเพียงไฟล์เดียว (~1,300 บรรทัด) ใน c/glm.c ทำให้:

• ไม่มี Python หรือ GPU Runtime: ทำงานได้บน CPU เท่านั้น ไม่ต้องพึ่งพา Python หรือ GPU ที่มีราคาแพง
• ความแม่นยำสูง: รองรับการทำงานแบบ forward pass ของ GLM-5.2 (glm\moe\dsa) ที่มีความแม่นยำเทียบเท่ากับโมเดลต้นฉบับ
• MLA Attention: ใช้เทคนิค MLA attention ที่มีการบีบอัด KV-cache ให้เล็กลงอย่างมาก (576 floats/token เทียบกับ 32,768)
• DeepSeek-V3 Router: ใช้ router แบบ sigmoid ที่มีประสิทธิภาพ
• Native MTP Speculative Decoding: รองรับการคาดเดาโทเค็นหลายตัวพร้อมกัน (Multi-Token Prediction) เพื่อเพิ่มความเร็วในการสร้างข้อความ
• True Sampling: การสุ่มสร้างข้อความที่สมจริง ด้วยการตั้งค่า temperature และ nucleus sampling ที่ปรับให้เหมาะสมกับโมเดล int4
• Integer-Dot Kernels: ใช้การคำนวณแบบ integer kernels (Q8\_0-style int8 activations, AVX2 maddubs) เพื่อเพิ่มความเร็วในการประมวลผล
• Async Expert Readahead: ขณะที่กำลังประมวลผลชุดผู้เชี่ยวชาญชุดหนึ่ง เอนจิ้นจะเริ่มอ่านชุดถัดไปล่วงหน้า
• Quantization Kernels: รองรับการควอนไทซ์เป็น int8, packed int4, packed int2 เพื่อลดขนาดโมเดลและเพิ่มประสิทธิภาพ
• Byte-level BPE Tokenizer: ใช้ tokenizer แบบ BPE ที่ทำงานด้วย byte-level และเขียนด้วยภาษา C

ตัวเลขประสิทธิภาพและการใช้งาน

Colibrì ถูกพัฒนาและทดสอบบนเครื่องที่มีข้อจำกัด เพื่อให้สามารถรันบนฮาร์ดแวร์ทั่วไปได้จริง:

• ฮาร์ดแวร์ทดสอบ: WSL2, 12 Cores, 25 GB RAM, NVMe SSD
• ความเร็ว: ไม่ใช่ความเร็วสูง แต่สามารถรันโมเดลระดับ Frontier-class 744B บนเครื่องที่ราคาถูกกว่าพัดลมของ H100 ได้ การใช้แคชที่อุ่นแล้ว (warm cache) และการตรึงผู้เชี่ยวชาญที่ใช้บ่อย (pinned hot experts) จะช่วยลด Latency ได้อย่างมาก
• การเริ่มต้น: การเริ่มต้นครั้งแรก (cold start) อาจใช้เวลาเนื่องจากการอ่านข้อมูลจากดิสก์ แต่การอ่านจาก SSD จะไม่ทำให้เกิดการสึกหรอ
• ข้อควรระวัง: การใช้งานหนักอาจทำให้เกิด Swap หาก RAM ไม่เพียงพอ และความร้อนสะสมบนไดรฟ์ SSD ที่ราคาถูก ควรตรวจสอบอุณหภูมิและความสมบูรณ์ของไดรฟ์

การใช้งาน:

1. ดาวน์โหลดโมเดล: สามารถดาวน์โหลดโมเดล GLM-5.2 ที่แปลงเป็น int4 สำหรับ Colibrì ได้จาก Hugging Face: [ขอบคุณ แหล่งข้อมูล
   https://huggingface.co/jlnsrk/GLM-5.2-colibri-int4](https://huggingface.co/jlnsrk/GLM-5.2-colibri-int4)
2. ตั้งค่า: ดาวน์โหลด Repository ของ Colibrì และตั้งค่าตัวแปร COLI_MODEL ให้ชี้ไปยังไดเรกทอรีของโมเดลที่ดาวน์โหลดมา
3. รัน: สามารถปรับแต่งพารามิเตอร์ต่างๆ ผ่าน Environment Variables หรือ Command-line Flags เช่น --temp (temperature), --topp (nucleus sampling), DRAFT (MTP draft depth)

การสนับสนุนโครงการ

Colibrì เป็นโครงการที่พัฒนาโดยบุคคลคนเดียว หากคุณเห็นว่าโครงการนี้มีประโยชน์และอยากสนับสนุนการพัฒนาให้ดียิ่งขึ้น (เช่น การทดสอบบนฮาร์ดแวร์ที่ดีขึ้น เพื่อให้ได้ข้อมูลการสเกลของ NVMe, การทดสอบแคชที่ใหญ่ขึ้น, หรือการตรวจสอบคุณภาพของ int2/int3) คุณสามารถ:

⭐ Star Repository: และแชร์โครงการนี้
🐛 เปิด Issue: พร้อมตัวเลข Benchmark จากฮาร์ดแวร์ของคุณ
💬 ติดต่อ: ผ่าน GitHub Issues หากต้องการสนับสนุนการพัฒนา หรือบริจาคฮาร์ดแวร์

Colibrì เปรียบเสมือนนกฮัมมิ่งเบิร์ดที่สามารถขับเคลื่อนยักษ์ใหญ่ 744 พันล้านพารามิเตอร์ ให้ทำงานได้ด้วยทรัพยากรที่จำกัด ทำให้ AI ขนาดใหญ่เข้าถึงได้ง่ายขึ้นสำหรับทุกคน

#Colibri #LLM #CProgramming #AI #OpenSource

ขอบคุณ แหล่งข้อมูล
https://github.com/JustVugg/colibri