ความเปราะบางของ AI: การ "แหกคุก" โมเดลล้ำสมัยไม่ใช่เรื่องยากอย่างที่คิด ⚠️

ความเปราะบางของ AI: การ "แหกคุก" โมเดลล้ำสมัยไม่ใช่เรื่องยากอย่างที่คิด ⚠️ในยุคที่ปัญญาประดิษฐ์ (AI) พัฒนาไปอย่างก้าวกระโดด เทคโนโลยีเหล่านี้ได้กลายเป็นส่วนสำคัญในชีวิตประจำวันของเราไปแล้ว แต่ภายใต้ความสามารถอันน่าทึ่งนั้น กลับมีความเปราะบางซ่อนอยู่ การทดสอบล่าสุดเผยให้เห็นว่า การ "แหกคุก" (Jailbreak) โมเดล AI ล้ำสมัยบางรุ่นนั้นไม่ใช่เรื่องยากเย็นนัก และอาจนำไปสู่การนำไปใช้ในทางที่ผิดได้เครื่องมือทดสอบความปลอดภัยของ AIองค์กรไม่แสวงหาผลกำไรด้านความปลอดภัยของ AI อย่าง FAR.AI ได้พัฒนาเครื่องมือที่สามารถสร้างคำสั่ง (Prompt) ได้หลากหลายรูปแบบกว่าพันรูปแบบ เพื่อทดสอบหาช่องโหว่และพยายามหลีกเลี่ยงกลไกความปลอดภัยที่ผู้พัฒนา AI ได้วางไว้ เครื่องมือนี้สามารถสร้างคำสั่งที่ออกแบบมาเพื่อหลอกล่อให้โมเดล AI ทำสิ่งที่เป็นอันตราย เช่น การสร้างแผนการโจมตีทางไซเบอร์ หรือการให้ข้อมูลเกี่ยวกับการพัฒนาอาวุธเคมีและชีวภาพผลการทดสอบโมเดล AI ชั้นนำรายงานล่าสุดจากการทดสอบของ FAR.AI ครอบคลุมโมเดล AI จากบริษัทชั้นนำ 4 แห่งในสหรัฐอเมริกา ได้แก่:Anthropic: Claude Opus 4.8 และ Fable 5OpenAI: GPT 5.5 และ 5.6Google: Gemini 3.1 ProSpaceXAI (Elon Musk): Grok 4.3 และ 4.5ผลการทดสอบพบว่า Grok เป็นโมเดลที่เปราะบางต่อการถูกแหกคุกมากที่สุด โดยพบช่องโหว่ถึง 448 จุด รองลงมาคือ Gemini ที่พบ 249 จุด ในขณะที่โมเดลจาก Anthropic (Claude, Fable) และ OpenAI (GPT) ยังคงมีความทนทานต่อการโจมตีในรูปแบบนี้ต้นทุนต่ำในการ "แหกคุก" AIสิ่งที่น่าตกใจยิ่งกว่าคือ ต้นทุนในการ "แหกคุก" โมเดลเหล่านี้ต่ำมาก การใช้ AI อีกตัวช่วยสร้างคำสั่งที่แตกต่างกันเพื่อทดลอง พบว่าการแหกคุก Grok มีค่าใช้จ่ายเพียง 58 ดอลลาร์สหรัฐฯ และ Gemini อยู่ที่ 278 ดอลลาร์สหรัฐฯ เท่านั้นความจำเป็นของมาตรฐานและกฎระเบียบAdam Gleave ซีอีโอของ FAR.AI และผู้เชี่ยวชาญด้านความปลอดภัย AI ชี้ว่า ผลการทดสอบนี้สะท้อนให้เห็นถึงความจำเป็นในการมีมาตรฐานและกฎระเบียบที่บังคับใช้จากภายนอก "การพึ่งพาข้อตกลงความร่วมมือโดยสมัครใจ หรือการที่บริษัท AI จะสามารถกำกับดูแลตัวเองได้นั้น เป็นเรื่องที่เป็นไปไม่ได้" เขากล่าวอย่างไรก็ตาม Gleave ก็มองในแง่ดีว่า การทดสอบดังกล่าวแสดงให้เห็นว่าโมเดล AI สามารถถูกทดสอบความปลอดภัยได้อย่างเป็นระบบ "มีมุมมองที่น่าหวัง ตรงที่การป้องกันและระบบความปลอดภัยนั้นเป็นไปได้จริง"มุมมองจากผู้พัฒนา AIGoogle DeepMind โดย Rohin Shah ผู้อำนวยการด้าน AGI Safety and Alignment กล่าวว่า ผลการทดสอบนี้ "ไม่ควรถูกตีความว่าเป็นการประเมินความปลอดภัยและความมั่นคงของ Gemini อย่างครบถ้วน" เนื่องจากช่องโหว่บางจุดอาจไม่ร้ายแรงเท่ากัน และ Google กำลังทำงานอย่างต่อเนื่องเพื่อปรับปรุงระบบป้องกันAnthropic โฆษกของบริษัทกล่าวว่า ผลการทดสอบสะท้อนถึง "การลงทุนอย่างต่อเนื่องในระบบความปลอดภัยของเรา และเรายังคงพัฒนาระบบความปลอดภัยอย่างต่อเนื่องเมื่อการโจมตีมีความซับซ้อนมากขึ้น"OpenAI และ SpaceXAI ยังไม่ตอบสนองต่อคำขอความคิดเห็นจาก WIREDทิศทางกฎหมายและความปลอดภัยแม้ว่าบางรัฐในสหรัฐอเมริกา เช่น แคลิฟอร์เนียและนิวยอร์ก จะมีกฎหมายที่กำหนดให้ผู้พัฒนา AI ต้องเผยแพร่รายงานความปลอดภัย แต่รัฐบาลกลางยังไม่ได้กำหนดข้อกำหนดด้านความปลอดภัยที่เฉพาะเจาะจง ทำให้เกิดความสับสนในอุตสาหกรรมอย่างไรก็ตาม มีสัญญาณว่าทิศทางอาจกำลังเปลี่ยนไป คำสั่งของผู้บริหารบางส่วนได้เรียกร้องให้ภาครัฐและภาคเอกชนร่วมมือกันในโครงการริเริ่มด้านความปลอดภัยทางไซเบอร์ และมีการกล่าวถึงความเป็นไปได้ของกฎระเบียบที่ "ไม่เข้มงวดจนเกินไป"ความเสี่ยงที่อาจเกิดขึ้นความสามารถของ AI ที่จะนำไปใช้ในทางที่ผิดนั้นปรากฏชัดเจนขึ้นเรื่อยๆ รายงานก่อนหน้านี้ระบุว่า กลุ่มก่อการร้ายอาจใช้ ChatGPT, Claude, Gemini, Grok และ AI อื่นๆ ในการวางแผนก่อเหตุรุนแรง ผู้เชี่ยวชาญบางส่วนคาดการณ์ว่า "เราอาจกำลังเข้าใกล้ช่วงเวลาที่เกิดเหตุการณ์ร้ายแรงเกี่ยวกับการใช้ AI ในทางที่ผิด ทั้งด้านชีวภาพ ไซเบอร์ หรือเคมี ในอีกไม่กี่เดือนข้างหน้า"บทเรียนสำคัญAnka Reuel นักวิทยาศาสตร์คอมพิวเตอร์จาก Stanford University ชี้ว่า บทเรียนสำคัญจากรายงานของ FAR.AI คือมาตรการความปลอดภัยที่ Anthropic และ OpenAI ใช้ ควรเป็นมาตรฐานสำหรับโมเดล AI ทุกรุ่น "บางบริษัทรู้วิธีป้องกันการโจมตีอย่างน้อยก็ในระดับหนึ่ง คำถามคือ ทำไมบางบริษัทถึงใช้มัน ในขณะที่บางบริษัทกลับไม่ใช้?"การพัฒนา AI ที่ก้าวหน้าไปอย่างรวดเร็วมาพร้อมกับความท้าทายด้านความปลอดภัยที่ต้องได้รับการใส่ใจอย่างจริงจัง การทดสอบอย่างสม่ำเสมอ การพัฒนากลไกป้องกันที่แข็งแกร่ง และการมีกฎระเบียบที่เหมาะสม จะเป็นกุญแจสำคัญในการสร้างอนาคตของ AI ที่ปลอดภัยและเป็นประโยชน์ต่อมนุษยชาติ.https://www.wired.com/story/jailbreaking-ai-models-google-anthropic-openai-spacexai/