โมเดล AI แบบ Open-weight ไล่ตาม Frontier แต่ช่องว่างด้านความปลอดภัยยังคงอยู่ ⚠️

โมเดล AI แบบ Open-weight ไล่ตาม Frontier แต่ช่องว่างด้านความปลอดภัยยังคงอยู่ ⚠️ในขณะที่นักกำหนดนโยบายกำลังถกเถียงกันถึงวิธีการกำกับดูแลระบบ AI ที่ทรงพลังมากขึ้นเรื่อยๆ เช่น GPT-5.6 Sol ของ OpenAI และ Mythos ของ Anthropic โมเดล AI แบบเปิด (open-weight) จากประเทศจีนก็กำลังไล่ตามผู้นำในอุตสาหกรรมอย่างรวดเร็วGLM-5.2 โมเดล AI แบบเปิดจาก Z.ai ของจีน มีความสามารถด้านไซเบอร์และความปลอดภัยทางชีวภาพตามหลัง GPT-5.5 ของ OpenAI และ Claude Opus 4.7 ของ Anthropic เพียงไม่กี่เดือนเท่านั้น ตามรายงานฉบับใหม่จาก SaferAI องค์กรไม่แสวงหาผลกำไรด้านความปลอดภัย AI แต่ช่องว่างระหว่างความสามารถระดับแนวหน้า (frontier capabilities) กับแนวปฏิบัติด้านความปลอดภัยกลับกำลังขยายกว้างขึ้นGLM-5.2: ความสามารถสูง แต่ความปลอดภัยน้อย 📉จากการประเมินของ SaferAI ซึ่งดำเนินการผ่าน API สาธารณะของ Z.ai พบว่า GLM-5.2 ไม่ปฏิเสธงานด้านไซเบอร์ที่อันตรายหรือชีววิทยาที่ใช้ได้สองทาง (dual-use biology tasks) เลย เมื่อเทียบกับ Claude Opus 4.7 ที่ "ปฏิเสธอย่างสม่ำเสมอจน SaferAI ไม่สามารถทำ CyberGym ให้สำเร็จได้เลย" (CyberGym เป็นเกณฑ์มาตรฐานที่ประเมินความสามารถด้านความปลอดภัยทางไซเบอร์)นี่เป็นเครื่องเตือนใจที่ชัดเจนถึงสิ่งที่นักวิจารณ์บางคนได้เตือนมานานหลายปี: โมเดล AI แบบเปิดอาจทำให้ผู้โจมตีที่มีศักยภาพเข้าถึง AI ที่มีความสามารถสูงได้ โดยไม่มีวิธีควบคุมการใช้งานเทคโนโลยีนั้นๆ เมื่อพวกเขาดาวน์โหลด weights ไปแล้ว เมื่อโมเดลแบบเปิดกำลังไล่ตามความสามารถของระบบ AI ชั้นนำของโลกอย่างรวดเร็ว การถกเถียงจึงเปลี่ยนจากการแข่งขันไปสู่การจัดการความเสี่ยงของสังคมเมื่อโมเดลเหล่านี้ถูกปล่อยออกมา"ขอบเขตของความสามารถไม่ใช่ขอบเขตของความเสี่ยง และเราต้องคำนึงถึงสถานะของการบรรเทาผลกระทบ (mitigations) เพื่อประเมินความเสี่ยงอย่างถูกต้อง" Henry Papadatos ผู้อำนวยการบริหารของ SaferAI กล่าวความท้าทายของโมเดลแบบเปิด 🛡️❌แม้ว่า Z.ai จะสามารถใช้มาตรการด้านความปลอดภัยกับ API ที่ให้บริการได้ แต่มาตรการเหล่านั้นจะไม่สามารถบังคับใช้ได้เมื่อมีคนรัน weights บนฮาร์ดแวร์ของตนเอง ซึ่งพวกเขาสามารถลบหรือแก้ไขมาตรการป้องกันใดๆ ปรับแต่งโมเดล หรือเปลี่ยนแปลง system prompts ได้ผู้พัฒนาโมเดลระดับแนวหน้าอย่าง OpenAI และ Anthropic มักจะพึ่งพามาตรการป้องกัน เช่น ตัวจำแนก (classifiers), การฝึกการปฏิเสธ (refusal training) และการควบคุมระดับ API เพื่อจำกัดความช่วยเหลือด้านไซเบอร์และชีววิทยาที่เป็นอันตรายมาตรการเหล่านี้ยังห่างไกลจากความสมบูรณ์แบบ: การหลบเลี่ยงระบบ (jailbreaks) มักจะหลีกเลี่ยงการป้องกันบนโมเดลที่ใช้งานอยู่ได้ Far.ai พบ jailbreaks สากลหลายร้อยรายการในโมเดลระดับแนวหน้า เช่น Grok 4.5 ของ xAI และ Gemini 3.1 Pro ของ Google DeepMindแต่มาตรการป้องกันในโมเดลแบบปิดนั้นใช้ไม่ได้ผลเลยกับโมเดลแบบเปิด ซึ่งออกแบบมาเพื่อทำงานบนโครงสร้างพื้นฐานใดๆ ก็ตาม โดยมีหรือไม่มีมาตรการป้องกันก็ตามแนวทางการแก้ไขปัญหาด้านความปลอดภัย 🛠️💡Papadatos ชี้ว่า "เป้าหมายควรชัดเจนว่าความสามารถที่ดี — ความสามารถที่ปลอดภัย — ควรเข้าถึงได้โดยทุกคน และจากนั้นเราจะพยายามลบสิ่งที่ไม่ดีออกไป แม้จะเป็นในรูปแบบโอเพนซอร์สก็ตาม"เทคนิคหนึ่งที่ Papadatos กล่าวถึงคือ "การกรองข้อมูลก่อนการฝึก (pre-training data filtering)" ซึ่งบริษัท AI จะลบข้อมูลความปลอดภัยทางไซเบอร์ที่เป็นอันตรายออกจากชุดข้อมูลการฝึก จากนั้นจึงฝึกโมเดลด้วยชุดข้อมูลที่คัดกรองแล้วการวิจัยบางชิ้นชี้ว่าวิธีนี้สามารถลดความรู้ที่เป็นอันตรายทางชีววิทยาได้โดยไม่ส่งผลกระทบต่อประสิทธิภาพโดยรวมของโมเดล อย่างไรก็ตาม สำหรับความปลอดภัยทางไซเบอร์ การกรองข้อมูลนั้นไม่สามารถนำไปใช้ได้จริงมากนักมันยากที่จะฝึกโมเดลทั่วไปที่เก่งในการเขียนโค้ด แต่ก็ไม่เก่งในการเป็นแฮกเกอร์ด้วย เนื่องจากโค้ดดิ้งกลายเป็นแหล่งสร้างรายได้ที่ใหญ่ที่สุดของ AI นักพัฒนาจึงเผชิญกับแรงกดดันที่จะต้องปรับปรุงความสามารถเหล่านี้ต่อไป แม้ว่าจะค้นหาวิธีจำกัดการใช้งานในทางที่ผิดก็ตามการกำกับดูแล AI ในจีน 🇨🇳ผู้นำจีนตระหนักถึงความเสี่ยงของ AI ขั้นสูงมากขึ้นเรื่อยๆ ที่การประชุม World AI Conference เมื่อเดือนที่แล้ว ประธานาธิบดีสี จิ้นผิง ของจีน เน้นย้ำถึงความสำคัญของโมเดลแบบเปิด ในขณะเดียวกันก็เน้นย้ำถึงความจำเป็นในการรับรองว่า AI ยังคงเป็นเครื่องมือภายใต้การควบคุมของมนุษย์อย่างเข้มงวดGraham Webster ผู้ศึกษาด้านนโยบาย AI ของจีนที่ Stanford Cyber Policy Center กล่าวว่า จีนมีกฎระเบียบที่แข็งแกร่งเกี่ยวกับการกำกับดูแล AI แต่กฎเหล่านั้นมักมุ่งเน้นไปที่เนื้อหาที่ละเอียดอ่อนทางการเมือง ข้อมูลที่บิดเบือน และเสถียรภาพทางสังคม มากกว่าความเสี่ยง AI ที่ก่อให้เกิดหายนะ เช่น ความสามารถด้านไซเบอร์เชิงรุกและการใช้ชีววิทยาในทางที่ผิดWebster กล่าวเสริมว่า "ระบบของจีนมีความมั่นใจว่าพวกเขาควบคุมการใช้เทคโนโลยีเหล่านี้ภายในประเทศจีน" "การออนไลน์ในจีนเป็นการกระทำที่ระบุชื่อจริง และบริษัทต่างๆ สามารถรับผิดชอบได้ ผู้ใช้ก็สามารถรับผิดชอบได้"ประโยชน์ของโมเดลแบบเปิด (ถ้าใช้ถูกวิธี) 🤝ผู้สนับสนุน AI แบบเปิดให้เหตุผลว่า การเปิดเผย weights มีความสำคัญต่อความปลอดภัยทางไซเบอร์ เพราะช่วยให้บริษัทต่างๆ สามารถป้องกันตนเองจากการโจมตีได้ (Hugging Face ใช้ GLM-5.2 ในการป้องกันตนเองจากการโจมตีของ OpenAI) และช่วยให้เตรียมพร้อมรับมือกับภัยคุกคามในอนาคตได้ดีขึ้น หากพวกเขารู้ว่าอะไรกำลังจะมาถึง"ระบบเดียวกันที่ช่วยหยุดการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI ตอนนี้สามารถช่วยป้องกันการโจมตีทางไซเบอร์หลายล้านครั้งต่อวัน ในขณะเดียวกันก็ช่วยให้เราสามารถระบุและแก้ไขช่องโหว่ก่อนที่ผู้โจมตีจะใช้ประโยชน์จากมันได้" Clem Delangue ซีอีโอของ Hugging Face กล่าวPapadatos กล่าวว่า ประโยชน์ดังกล่าว "มักถูกกล่าวเกินจริง" และไม่ได้หมายความว่า "เราควรเปิดเผยความสามารถที่เป็นอันตรายแบบโอเพนซอร์ส""ประเด็นหลักในความคิดของผมคือ เราไม่ควรยอมรับว่าความสามารถที่เป็นอันตรายสามารถเข้าถึงได้ง่ายโดยทุกคนทุกที่" เขากล่าว โดยเน้นย้ำว่าเขาเชื่อว่าอุตสาหกรรมควรพยายามทำให้ "ความสามารถที่ดี" เข้าถึงได้ง่ายเท่านั้น โดยค่าเริ่มต้น ผู้โจมตีจะนำเครื่องมือใหม่ๆ มาใช้เร็วกว่าผู้ป้องกัน เช่น กลุ่มแรนซัมแวร์สามารถเปลี่ยนวิธีการได้ในหนึ่งสัปดาห์ แต่โรงพยาบาลไม่สามารถทำได้#AI #OpenWeightAI #AIความปลอดภัย #Zai #GLMhttps://techcrunch.com/2026/08/04/open-weight-ai-models-are-catching-up-to-the-frontier-the-safety-gap-remains/