Gemini AI: เข้าใจวิธีคิดค่าใช้งานใหม่ และวิธีเช็กโควตาของคุณ

หากคุณเป็นผู้ใช้งาน Gemini AI ของ Google แล้วรู้สึกว่าใช้ได้ไม่นานเท่าเดิม หรือเจอปัญหา "หมดโควตา" บ่อยขึ้น นั่นอาจเป็นเพราะ Google ได้ปรับเปลี่ยนวิธีการคำนวณค่าใช้งาน AI ใหม่ทั้งหมด ซึ่งส่งผลต่อจำนวนครั้งที่คุณจะสามารถใช้งานได้ในแต่ละแพ็กเกจ ตั้งแต่แบบฟรี ไปจนถึงแบบ Plus, Pro และ Ultra บทความนี้จะพาคุณไปทำความเข้าใจการเปลี่ยนแปลงนี้ พร้อมวิธีเช็กโควตาการใช้งานของคุณ

การเปลี่ยนแปลงวิธีการคิดค่าใช้งาน AI ของ Gemini

เดิมที Google อาจเคยนับจำนวนครั้งที่คุณส่งคำขอ (prompt) ไปยัง AI แต่ปัจจุบัน Google ได้เปลี่ยนมาวัดผลจากการใช้พลังประมวลผล (computing power) ที่คำขอของคุณต้องการ แทน

ทำไมถึงเปลี่ยน?
จากมุมมองของ Google การวัดผลด้วยพลังประมวลผลทำให้พวกเขาทราบถึงทรัพยากรที่ถูกใช้งานจริง ซึ่งส่งผลต่อค่าใช้จ่ายของศูนย์ข้อมูลโดยตรง

ผลกระทบต่อผู้ใช้งาน:

• ความไม่แน่นอน: ผู้ใช้งานทั่วไปอาจไม่ทราบแน่ชัดว่าเมื่อใดจะถึงขีดจำกัด ทำให้ไม่สามารถตั้งกฎง่ายๆ เช่น "สร้างภาพได้ 5 ครั้งต่อวัน" ได้อีกต่อไป
• ความยืดหยุ่น: Google ระบุในเอกสารสนับสนุนว่า "การเข้าถึงอาจมีการเปลี่ยนแปลงหรือถูกจำกัดตามการทดสอบ การทดลอง หรือความพร้อมใช้งาน" ซึ่งหมายความว่าในแต่ละวัน ปริมาณการใช้งานที่คุณทำได้อาจไม่เท่ากัน

ปัจจัยหลักที่ส่งผลต่อการใช้งาน:

1. แพ็กเกจที่ใช้งาน: คุณสมัครใช้งานแบบใด (ฟรี, Plus, Pro, Ultra)
2. ความซับซ้อนและความยาวของคำขอ: การขอพยากรณ์อากาศย่อมใช้พลังประมวลผลน้อยกว่าการขอให้ AI เขียนโค้ดแอปพลิเคชันขนาดเล็ก
3. โมเดล Gemini ที่เลือกใช้: แต่ละโมเดล (เช่น 3.5 Flash) มีประสิทธิภาพและการใช้ทรัพยากรต่างกัน คุณสามารถเลือกโมเดลที่ต้องการได้จากหน้าต่างป้อนคำสั่ง

โควตาการใช้งานในแต่ละแพ็กเกจ

Google มีตัวเลือกแพ็กเกจ Gemini AI ให้เลือกใช้งานดังนี้ (สำหรับผู้ใช้งานในสหรัฐอเมริกา):

• ฟรี: Google ไม่ได้ระบุขีดจำกัดการใช้งานที่ชัดเจน แต่เรียกว่า "มาตรฐาน"
• AI Plus: ราคา $8/เดือน ให้ขีดจำกัดการใช้งานเป็น 2 เท่าของแพ็กเกจฟรี
• AI Pro: ราคา $20/เดือน ให้ขีดจำกัดการใช้งานเป็น 4 เท่าของแพ็กเกจฟรี
• AI Ultra: ราคา $100 หรือ $200/เดือน ให้ขีดจำกัดการใช้งานสูงถึง 5 หรือ 20 เท่าของแพ็กเกจ Pro

ทุกแพ็กเกจสามารถเข้าถึงโมเดล Gemini ได้ทุกตัว รวมถึง Flash-Lite, Flash และ Pro ยิ่งโมเดลมีความสามารถสูงขึ้น การใช้งานก็จะถูกนับรวมมากขึ้น

นอกจากนี้ แต่ละโมเดลยังมี "ระดับการคิด" ที่แตกต่างกัน ได้แก่ Standard, Extended และ Deep Think ซึ่งส่งผลต่อคุณภาพและความเร็วในการตอบสนอง รวมถึงขีดจำกัดการใช้งานด้วย

ขนาด Context Window:
สิ่งนี้บ่งบอกถึงปริมาณข้อมูลที่คุณสามารถใส่ในหัวข้อสนทนาเดียวได้:

• ผู้ใช้ฟรี: 32K tokens (ประมาณ 24,000 คำ)
• ผู้ใช้ AI Plus: สูงสุด 128K tokens (ประมาณ 96,000 คำ)
• ผู้ใช้ AI Pro และ Ultra: สูงสุด 1 ล้าน tokens (ประมาณ 750,000 คำ)

วิธีเช็กสถานะการใช้งาน AI ของคุณ

แม้ว่ากฎการใช้งานใหม่จะค่อนข้างคลุมเครือ แต่การตรวจสอบสถานะการใช้งานนั้นทำได้ง่าย:

• บนเว็บ Gemini: คลิกไอคอนรูปเฟือง (มุมซ้ายล่าง) แล้วเลือก "Usage limits"
• บนแอปมือถือ (Android/iOS): แตะปุ่มเมนู (มุมซ้ายบน) เลือกไอคอนรูปเฟือง จากนั้นเลือก "Usage limits"

คุณจะเห็นแถบแสดงสถานะ 2 แถบ:

1. การใช้งานปัจจุบัน: จะรีเซ็ตทุกๆ 5 ชั่วโมง หากคุณใช้จนหมด จะต้องรอจนกว่าจะถึงเวลาที่ระบบรีเซ็ตอีกครั้ง
2. ขีดจำกัดรายสัปดาห์: จะรีเซ็ตทุกสัปดาห์

หากคุณใช้จนถึงขีดจำกัด (แม้จะอยู่ในแพ็กเกจที่เสียเงิน) คุณอาจถูกลดระดับไปใช้โมเดล AI พื้นฐานที่สุดไปก่อน จนกว่าจะถึงรอบรีเซ็ตถัดไป

บนหน้าจอการใช้งาน คุณอาจเห็นข้อเสนอให้อัปเกรดแพ็กเกจของคุณได้เช่นกัน

ข้อควรจำ: Google อาจมีการเปลี่ยนแปลงขีดจำกัดโดยไม่ต้องแจ้งให้ทราบล่วงหน้า โดยเฉพาะอย่างยิ่งหากมีปัญหาด้านทรัพยากร และผู้ใช้งานฟรีอาจได้รับผลกระทบก่อน หาก Google จำเป็นต้องจัดการทรัพยากร AI ของตน

#GeminiAI #GoogleAI #AIUsage #เทคโนโลยี

ขอบคุณ แหล่งข้อมูล
https://www.wired.com/story/how-googles-new-gemini-rates-work-and-how-to-track-your-usage/

Databricks พุ่งทะยานสู่มูลค่า 1.88 แสนล้านดอลลาร์: การก้าวสู่ยุค AI ของบริษัทบิ๊กดาต้า

Databricks บริษัทที่เคยโด่งดังในยุค Big Data ได้ประกาศการระดมทุนรอบใหม่ที่ดันมูลค่าบริษัทพุ่งสูงถึง 1.88 แสนล้านดอลลาร์สหรัฐฯ การเปลี่ยนแปลงครั้งนี้สะท้อนให้เห็นถึงความสำเร็จในการปรับภาพลักษณ์องค์กรให้กลายเป็นผู้ให้บริการด้าน AI ชั้นนำ ซึ่งเป็นที่ต้องการอย่างมากในตลาดปัจจุบัน 🚀

Databricks กับเส้นทางสู่การเป็นผู้นำด้าน AI

Databricks ก่อตั้งขึ้นในปี 2013 โดยเริ่มต้นจากการเป็นแพลตฟอร์มที่ช่วยให้องค์กรสามารถจัดเก็บข้อมูลปริมาณมหาศาลบนคลาวด์ พร้อมทั้งวิเคราะห์ข้อมูลได้อย่างรวดเร็ว ในยุค Big Data แพลตฟอร์มนี้ได้รับความนิยมอย่างสูง

เมื่อโลกเข้าสู่ยุค AI และความต้องการใช้ AI ในภาคธุรกิจเพิ่มขึ้น Databricks ซึ่งมีฐานข้อมูลลูกค้าและข้อมูลปริมาณมหาศาลอยู่แล้ว จึงอยู่ในตำแหน่งที่ได้เปรียบในการตอบสนองความต้องการเหล่านั้น บริษัทได้เริ่มเปิดตัวผลิตภัณฑ์ด้าน AI อย่างต่อเนื่อง เช่น Lakebase ซึ่งเป็นฐานข้อมูลสำหรับ AI agents และ Unity ซึ่งเป็น AI gateway รวมถึง Omnigent เครื่องมือบริหารจัดการ AI agents หลายตัว

การลงทุนที่สะท้อนความเชื่อมั่นในอนาคต AI

การระดมทุนรอบล่าสุดนี้ นำโดย Coatue โดย Databricks ยังไม่ได้เปิดเผยจำนวนเงินที่แน่นอน แต่คาดการณ์ว่าอยู่ที่ราว 3 พันล้านดอลลาร์สหรัฐฯ การประกาศรอบการระดมทุนก่อนที่เงินจะเข้าสู่บริษัทนั้น ถือเป็นเรื่องผิดปกติ แต่ก็แสดงให้เห็นถึงความแข็งแกร่งของดีลนี้ และความต้องการของนักลงทุนที่ต้องการเข้ามาร่วมลงทุน

ย้อนกลับไปเพียง 5 เดือนก่อนหน้านี้ (กุมภาพันธ์ 2026) Databricks ได้ปิดการระดมทุน Series L จำนวน 5 พันล้านดอลลาร์สหรัฐฯ ด้วยมูลค่าบริษัท 1.34 แสนล้านดอลลาร์สหรัฐฯ และก่อนหน้านั้นในเดือนกันยายน 2025 ก็ระดมทุนได้ 1 พันล้านดอลลาร์สหรัฐฯ ที่มูลค่า 1 แสนล้านดอลลาร์สหรัฐฯ ส่วนการระดมทุนครั้งสำคัญในเดือนธันวาคม 2024 ก็ได้ไปถึง 1 หมื่นล้านดอลลาร์สหรัฐฯ ที่มูลค่า 6.2 หมื่นล้านดอลลาร์สหรัฐฯ ซึ่งถือเป็นสถิติในขณะนั้น

โมเดล AI แบบเปิด: ทางเลือกที่คุ้มค่าและมีประสิทธิภาพ

Databricks ยังเป็นที่รู้จักในฐานะบริษัทที่นำโมเดล AI แบบเปิด (Open-weight models) มาใช้ในการดำเนินงาน โดยเฉพาะอย่างยิ่งโมเดลจากประเทศจีน ซึ่งเป็นเทรนด์สำคัญในปี 2026 เพื่อควบคุมต้นทุน โมเดลเหล่านี้มีข้อดีคือโค้ดพื้นฐานถูกเผยแพร่ให้ทุกคนสามารถใช้งานและปรับแต่งได้ Databricks เป็นผู้สนับสนุนหลักของ Z.ai’s GLM 5.2 สำหรับงานด้านการเขียนโค้ด

ล่าสุด CEO ของ Databricks คุณ Ali Ghodsi ได้เปิดเผยผลการทดสอบภายในเพื่อบริหารจัดการค่าใช้จ่ายด้าน AI สำหรับวิศวกรซอฟต์แวร์กว่า 3,000 คนของบริษัท ผลการทดสอบพบว่าโมเดลแบบเปิด โดยเฉพาะ GLM 5.2 สามารถทำงานที่ซับซ้อนที่สุดในด้านการเขียนโค้ดได้ โดยมีต้นทุนรวมต่ำกว่าโมเดลแบบปิดจาก Anthropic และ OpenAI

นอกจากนี้ การเลือกใช้ "Harness" หรือเครื่องมือช่วยเขียนโค้ด AI (Agentic coding tool) เช่น Codex หรือ Claude Code ซึ่งทำหน้าที่จัดการบริบทและคำสั่ง ก็มีผลต่อต้นทุนเช่นกัน โดย Pi ซึ่งเป็น Harness แบบโอเพนซอร์ส แสดงให้เห็นถึงประสิทธิภาพในการจัดการบริบทของแต่ละ Prompt ทำให้มีต้นทุนต่ำโดยไม่ลดทอนคุณภาพ

ภาพลักษณ์ใหม่ที่ขับเคลื่อนด้วย AI

การเปลี่ยนแปลงภาพลักษณ์จากบริษัท Big Data มาสู่บริษัท AI อย่างเต็มตัวนี้ ได้ส่งผลให้ Databricks ได้รับ "AI-halo" ซึ่งช่วยหนุนการระดมทุนและมูลค่าบริษัทให้พุ่งสูงขึ้นอย่างก้าวกระโดด การที่บริษัทสามารถปรับตัวและนำเสนอโซลูชันที่ตอบโจทย์ความต้องการของตลาดได้อย่างรวดเร็ว ทำให้ Databricks ก้าวขึ้นมาเป็นหนึ่งในผู้เล่นสำคัญในวงการ AI อย่างแท้จริง

#Databricks #AI #BigData #เทคโนโลยี #การลงทุน

ขอบคุณ แหล่งข้อมูล
https://techcrunch.com/2026/07/17/databricks-hits-188b-valuation-extending-its-run-as-ais-favorite-second-act/

ปลดปล่อยพลัง AI-Q 2.0 บน Oracle Cloud Infrastructure (OCI) ด้วย NVIDIA AI-Q Blueprint

โลกของ AI Agents พัฒนาไปอย่างก้าวกระโดด จากที่เคยตอบได้ทีละคำถาม สู่การสนทนาแบบต่อเนื่องที่จดจำบริบทได้ จนมาถึงยุคของ Long-horizon Agents ที่สามารถวางแผนการทำงานหลายขั้นตอน แบ่งงานให้ Sub-agent ย่อยๆ รักษาบริบทของงานระยะยาว และรันเครื่องมือต่างๆ ในสภาพแวดล้อมที่ปลอดภัย

NVIDIA AI-Q Blueprint คือ Reference Architecture แบบ Open Source ที่รองรับ AI Agents ในรูปแบบนี้ สร้างขึ้นบน LangChain Deep Agents และ NVIDIA NeMo Agent Toolkit คุณสามารถนำไปใช้เพื่อรับคำตอบพร้อมแหล่งอ้างอิงอย่างรวดเร็ว หรือสร้างรายงานวิจัยฉบับสมบูรณ์พร้อมที่มาได้

บทความนี้จะแนะนำวิธีการ Deploy AI-Q 2.0 บน Oracle Cloud Infrastructure (OCI) โดยใช้ Terraform สำหรับการสร้างทรัพยากร OCI และ Helm สำหรับการติดตั้ง Workloads บน OKE (Oracle Kubernetes Engine) เมื่อทำตามขั้นตอนเสร็จสิ้น คุณจะมี AI-Q Endpoint ที่ทำงานได้บน OCI Tenancy ของคุณเอง และมีคำสั่งเดียวสำหรับลบทรัพยากรทั้งหมดเมื่อไม่ใช้งาน

AI-Q Blueprint เหมาะกับใคร?

บทความนี้เหมาะสำหรับ นักพัฒนาและวิศวกรแพลตฟอร์ม ที่คุ้นเคยกับ Kubernetes, Terraform และ Shell และต้องการรัน AI-Q บน OCI แทนที่จะรันบนแล็ปท็อป

สิ่งที่คุณจะได้เรียนรู้

• สถาปัตยกรรม Multi-agent ของ AI-Q ถูกแมปเข้ากับบริการต่างๆ ของ OCI อย่างไร
• คำสั่งที่จำเป็นสำหรับการ Provision, Deploy และเปิดใช้งาน Blueprint ตั้งแต่ต้นจนจบ

สำหรับข้อมูลเชิงลึกเกี่ยวกับสถาปัตยกรรม Multi-agent (เช่น Intent Router, Shallow Research Agent, Deep Agent, Planning Sub-agent, Researcher Sub-agent) สามารถดูเพิ่มเติมได้ที่หน้าผลิตภัณฑ์ AI-Q และเอกสาร NeMo Agent Toolkit

ข้อกำหนดเบื้องต้น

เพื่อให้การ Deploy เป็นไปอย่างราบรื่น คุณจะต้องเตรียมสิ่งเหล่านี้:

• OCI Tenancy Access: เข้าถึง OCI Tenancy พร้อม Compartment ที่สามารถ Deploy ได้ และมี Service Limits เพียงพอสำหรับ:
• OKE: Cluster แบบ Enhanced 1 คลัสเตอร์ และ Node Pool 1 Node Pool
• Block Volume: อย่างน้อย 10 GB (จัดสรรแบบไดนามิกโดย OKE CSI driver สำหรับ PostgreSQL ภายในคลัสเตอร์)
• Load Balancer: แบบ Flexible 1 ตัว
• Vault: 1 Vault พร้อม Secrets
• API Keys:
• NGC API Key: จาก build.nvidia.com รูปแบบ nvapi-... ใช้สำหรับทั้ง NVIDIA Inference Key และการยืนยันตัวตนกับ NGC Container Registry (nvcr.io)
• Tavily API Key: จาก tavily.com รูปแบบ tvly-... สำหรับการค้นหาเว็บ
• Local Tools:
• Terraform 1.5 หรือสูงกว่า
• kubectl 1.28 หรือสูงกว่า
• Helm 3.x หรือสูงกว่า
• OCI CLI ที่ตั้งค่าพร้อม API Signing Key ของคุณ
• ความรู้พื้นฐาน:
• Kubernetes, Helm Charts, Terraform และ Shell
• ประสบการณ์กับ LangChain หรือ NeMo Agent Toolkit จะเป็นประโยชน์ แต่ไม่บังคับ

ภาพรวมสถาปัตยกรรม

AI-Q ใช้การออกแบบแบบ Multi-agent โดยมี Intent Router ทำหน้าที่อ่าน Query ของผู้ใช้แต่ละรายการและส่งไปยัง Workflow ที่ถูกต้อง

Blueprint ถูกสร้างขึ้นให้ ขยายขีดความสามารถได้ (Extensible) ทุก Layer (Models, Tools, RAG Backends, Sub-agents, Evaluators) สามารถถูกสลับเปลี่ยนได้ผ่านการตั้งค่า YAML หรือผ่านระบบ Plugin ของ NeMo Agent Toolkit ซึ่งเราจะใช้ความสามารถนี้ใน Part 2 และ Part 3 ของซีรีส์นี้

สถาปัตยกรรมการ Deploy บน OCI

การ Deploy นี้ใช้ Terraform สำหรับทรัพยากร OCI และ Helm สำหรับ Kubernetes Workloads ซึ่งช่วยให้แยก Infrastructure และ Application ได้อย่างชัดเจน และคำสั่ง terraform destroy เพียงคำสั่งเดียวก็สามารถลบทรัพยากรทั้งหมดได้ในภายหลัง

Helm Chart จะติดตั้ง Workloads 3 ตัวบน OKE:

• Backend (aiq-backend): Agent Server ที่ใช้ FastAPI สำหรับรัน AI-Q Workflow
• Frontend (aiq-frontend): Web UI ที่พัฒนาด้วย Next.js แสดงผลผ่าน NodePort 30080
• PostgreSQL (aiq-postgres): ฐานข้อมูลภายในคลัสเตอร์สำหรับ Job Store, Checkpoints และ Summaries

ระยะเวลาทั้งหมด: ประมาณ 20-25 นาที (ดูรายละเอียดฉบับเต็มได้ที่ aiq-2.0/README.md)

ขั้นตอนการ Deploy

ขั้นตอนที่ 1: ตั้งค่า Terraform Variables

คัดลอกไฟล์ตัวอย่าง (terraform.tfvars.example) และแก้ไขด้วยรายละเอียด Tenancy ของคุณ:

อย่างน้อย ให้ตั้งค่า Variables เหล่านี้ใน terraform.tfvars:

• tenancy_ocid: OCID ของ Tenancy ของคุณ
• compartment_id: OCID ของ Compartment ที่จะใช้ Deploy
• region: เช่น us-chicago-1
• user_ocid: OCID ของ User
• fingerprint: Fingerprint ของ API Key
• privatekeypath: Path ไปยัง Private Key (เหมือนกับค่าใน ~/.oci/config)
• dbadminpassword: รหัสผ่านสำหรับ Bootstrap PostgreSQL ภายในคลัสเตอร์ (จะถูกจัดเก็บใน OCI Vault)
• nvidiaapikey: NVIDIA NGC Key จาก build.nvidia.com ใช้สำหรับการ Inference และดึง Container Images จาก nvcr.io
• tavilyapikey: Tavily Key จาก tavily.com สำหรับการค้นหาเว็บ

ขั้นตอนที่ 2: สร้าง Infrastructure

ทำการ Initialize Providers, ตรวจสอบ Plan และ Apply:

terraform init

terraform plan

terraform apply

ขั้นตอนนี้ใช้เวลาประมาณ 10-15 นาที Terraform จะสร้าง VCN, OKE Cluster, Load Balancer และ Vault พร้อมเข้ารหัส API Keys ของ NGC และ Tavily

ตรวจสอบ: terraform output ควรแสดงค่าสำหรับ okeclusterid และ lbpublicip หากมีค่าใดว่างเปล่า ให้รัน terraform apply อีกครั้ง (การ Apply สามารถทำซ้ำได้โดยไม่เสียหาย)

บันทึกค่า 2 ค่านี้ไว้สำหรับใช้ในขั้นตอนถัดไป:

oke_cluster_id=$(terraform output -raw oke_cluster_id)

lb_public_ip=$(terraform output -raw lb_public_ip)

ขั้นตอนที่ 3: ติดตั้ง AI-Q จาก Helm Chart บน NGC

Chart และ Container Images ถูกเผยแพร่บน NGC คุณจึงไม่ต้อง Build อะไรเองในเครื่อง ให้ชี้ kubectl ไปยัง OKE Cluster ใหม่, สร้าง Secrets ที่ Chart ต้องการ, จากนั้นทำการ helm pull และ helm install

3a. ตั้งค่า kubectl สำหรับ OKE Cluster

oci ce cluster create-kubeconfig --cluster-id $oke_cluster_id --file $HOME/.kube/config --region  --overwrite

3b. Export API Keys

นำ NGC และ Tavily API Keys ที่คุณใส่ใน terraform.tfvars มาใช้ซ้ำ NGC Key จะทำหน้าที่ 2 อย่าง คือเป็น Inference Key และ Credentials สำหรับดึง Image จาก nvcr.io

export NGC_API_KEY=

export TAVILY_API_KEY=

3c. สร้าง Namespace และ Secrets

kubectl create namespace ns-aiq

kubectl create secret docker-registry ngc-secret \

    --namespace ns-aiq \

    --docker-server nvcr.io \

    --docker-username '$oauthtoken' \

    --docker-password $NGC_API_KEY \

    --docker-email [email protected]



kubectl create secret generic aiq-credentials \

    --namespace ns-aiq \

    --from-literal=NVIDIA_API_KEY=$NGC_API_KEY \

    --from-literal=TAVILY_API_KEY=$TAVILY_API_KEY

3d. ดึงและติดตั้ง Chart จาก NGC

OCI Overlay (values-oci-ngc.yaml) ถูกออกแบบมาให้มีขนาดเล็ก โดยระบุเพียง Frontend Service ให้ชี้ไปที่ NodePort 30080 (Port ที่ OCI Load Balancer ใช้ Health Check) และระบุ Secret สำหรับดึง Image (ngc-secret) ส่วน Image Repository, SQL สำหรับ Initialize Postgres และ PVC ขนาด 10 Gi ที่จัดสรรแบบไดนามิก ล้วนมาจากค่าเริ่มต้นของ Chart

helm repo add nvidia-ai-q ขอบคุณ แหล่งข้อมูล
https://helm.ngc.nvidia.com/ai-q

helm repo update

helm pull nvidia-ai-q/aiq-backend --untar

helm install aiq-backend ./aiq-backend/charts/aiq-backend \

    --namespace ns-aiq \

    -f ./aiq-backend/values.yaml \

    -f ./aiq-backend/values-oci-ngc.yaml

ตรวจสอบ: kubectl get pods -n ns-aiq ควรแสดง Pods aiq-backend, aiq-frontend, และ aiq-postgres ในสถานะ Running หลังจาก 3-5 นาที

IP ของ Load Balancer ควรจะอยู่ใน Shell ของคุณแล้วจากขั้นตอนที่ 2 หากคุณเปิด Shell ใหม่ ให้ Export ค่านี้อีกครั้งจาก Terraform:

lb_public_ip=$(terraform output -raw lb_public_ip)

การเข้าใช้งาน AI-Q

เปิด http:// ในเบราว์เซอร์ของคุณ คุณควรจะเห็น AI-Q Frontend

ลองถามคำถามง่ายๆ ก่อน เช่น "What is the NeMo Agent Toolkit?" เพื่อยืนยันว่าการ Routing ทำงานได้ถูกต้อง จากนั้นลองถามคำถามที่ซับซ้อนขึ้น เช่น "Compare the top three open-source deep-research agents by benchmark score and cost" เพื่อดู Deep Agent ทำงาน

ปัญหาที่อาจพบและวิธีแก้ไข

• terraform apply ล้มเหลวในการสร้าง OKE ด้วยข้อผิดพลาด Quota: ตรวจสอบ Service Limits สำหรับ Compartment ของคุณในส่วน "Cluster count" และ "Node count" และขอเพิ่ม Quota หากจำเป็น
• Pods อยู่ในสถานะ ImagePullBackOff: ตรวจสอบว่า Secret สำหรับดึง Image ถูกสร้างขึ้นแล้ว (kubectl get secret -n ns-aiq) และ NGCAPIKEY ถูกต้องเมื่อคุณรันคำสั่ง kubectl create secret docker-registry ngc-secret ในขั้นตอนที่ 3c หากต้องการหมุนเวียน Key ให้ลบ Secret และสร้างใหม่ จากนั้นรัน kubectl rollout restart deployment -n ns-aiq aiq-backend aiq-frontend
• Pod PostgreSQL ค้างในสถานะ Pending นานกว่า 2 นาที: PVC (Persistent Volume Claim) สำหรับ Block Volume อาจไม่ได้ถูกจัดสรรแบบไดนามิก ลองรัน kubectl describe pvc -n ns-aiq สาเหตุทั่วไปคือ OKE CSI Driver ไม่ทำงาน, StorageClass เริ่มต้นขาดหายไป หรือมี Quota Block Volume ไม่เพียงพอ ตรวจสอบ Storage Class ด้วย kubectl get sc และ Service Limit ของ Block Volume ใน Compartment ของคุณ
• IP ของ Load Balancer แสดงเป็น null: OCI อาจใช้เวลา 1-2 นาทีในการสร้าง Load Balancer หลังจาก Terraform ทำงานเสร็จ ลองรัน terraform refresh แล้วค่อยรัน terraform output lbpublicip อีกครั้ง
• Frontend โหลดได้ แต่ Query ตอบกลับด้วย 500 Internal Server Error: ตรวจสอบ Log ของ aiq-backend ด้วยคำสั่ง kubectl logs -n ns-aiq deploy/aiq-backend สาเหตุที่พบบ่อยที่สุดคือ NVIDIAAPIKEY หรือ TAVILYAPIKEY ผิดพลาดหรือไม่ครบถ้วนใน Secret aiq-credentials ที่สร้างในขั้นตอนที่ 3c

ข้อควรจำเมื่อใช้งาน AI-Q บน OCI

คุณมี AI-Q 2.0 ที่ทำงานได้บน OCI แล้ว และมีคำสั่งเดียว (terraform destroy) สำหรับลบทรัพยากรทั้งหมดเมื่อไม่ต้องการใช้งาน มีข้อควรพิจารณาเพิ่มเติมดังนี้:

• ค่าใช้จ่าย: Node Pool ของ OKE และ Load Balancer จะมีค่าใช้จ่ายต่อเนื่องขณะที่ทำงานอยู่ หากทดลองเสร็จแล้ว ควรใช้ terraform destroy เพื่อลบทรัพยากร หรือลดขนาด Node Pool ให้เหลือศูนย์
• Secrets: Terraform จะจัดเก็บ NGC และ Tavily Keys ไว้ใน OCI Vault เมื่อทำการ Provision (เพื่อการตรวจสอบและกู้คืน) แต่ Pods ที่ทำงานจะอ่านค่าจาก Kubernetes Secret ชื่อ aiq-credentials ที่คุณสร้างในขั้นตอนที่ 3c หากต้องการหมุนเวียน Key ให้ลบและสร้าง Secret นี้ใหม่ด้วยค่าล่าสุด จากนั้นรัน kubectl rollout restart deployment -n ns-aiq aiq-backend การแก้ไข terraform.tfvars เพียงอย่างเดียวจะไม่ส่งผลต่อ Pods ที่ทำงานอยู่
• ความสามารถในการขยาย (Extensibility): ทุกอย่างที่คุณ Deploy ไปนั้น ขับเคลื่อนด้วย

ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/deploy-a-production-ready-nvidia-ai-q-blueprint-on-oracle-cloud-infrastructure/

AI ผู้ช่วยนักคณิตศาสตร์: GPT-5.6 กับการไขปริศนา 30 ปีใน Convex Optimization

วงการคณิตศาสตร์และปัญญาประดิษฐ์กำลังตื่นเต้นกับความก้าวหน้าครั้งใหม่ เมื่อมีรายงานว่า GPT-5.6 Sol Pro สามารถช่วยปิดช่องว่าง 30 ปีในการพิสูจน์ปัญหา Convex Optimization ได้สำเร็จ โดยใช้เวลาเพียง 148 นาที และใช้พรอมต์ (Prompt) ที่คล้ายคลึงกับที่ OpenAI เคยใช้ในการพิสูจน์ CDC (Circuits of Computation) มาก่อน

GPT-5.6 Sol Pro คืออะไร?

GPT-5.6 Sol Pro เป็นโมเดลภาษาขนาดใหญ่ (Large Language Model) ที่พัฒนาต่อยอดมาจากเทคโนโลยีของ OpenAI โดยมีความสามารถที่โดดเด่นในการประมวลผลและสร้างสรรค์เนื้อหาเชิงเทคนิค โดยเฉพาะอย่างยิ่งในด้านคณิตศาสตร์และการพิสูจน์ทฤษฎี

การไขปริศนา Convex Optimization ที่ค้างคามานาน

Convex Optimization เป็นสาขาหนึ่งของคณิตศาสตร์ที่สำคัญอย่างยิ่งในการแก้ปัญหาทางด้านวิทยาศาสตร์ วิศวกรรมศาสตร์ และเศรษฐศาสตร์ การค้นหาคำตอบหรือการพิสูจน์ทฤษฎีในสาขานี้มักมีความซับซ้อนและใช้เวลานาน

รายงานระบุว่า GPT-5.6 Sol Pro สามารถสร้างบทพิสูจน์ที่สมบูรณ์สำหรับปัญหาที่นักคณิตศาสตร์พยายามแก้ไขมานานกว่า 30 ปีได้อย่างรวดเร็ว โดยใช้เทคนิคการเขียนพรอมต์ที่เลียนแบบความสำเร็จจากการพิสูจน์ CDC ซึ่งเป็นอีกหนึ่งความสำเร็จที่แสดงให้เห็นถึงศักยภาพของ AI ในการช่วยเหลือนักวิจัย

พรอมต์สำคัญอย่างไร?

การใช้พรอมต์ที่เหมาะสมเปรียบเสมือนการตั้งคำถามที่ถูกต้องให้กับ AI การที่ GPT-5.6 Sol Pro สามารถพิสูจน์ปัญหาที่ซับซ้อนได้ แสดงให้เห็นว่าการออกแบบพรอมต์มีบทบาทสำคัญอย่างยิ่งในการนำทาง AI ไปสู่คำตอบที่ต้องการ โดยเฉพาะในบริบทของการพิสูจน์ทางคณิตศาสตร์ที่ต้องการความแม่นยำและเป็นระบบ

ความหมายของความสำเร็จครั้งนี้

ความสำเร็จของ GPT-5.6 Sol Pro ในการช่วยพิสูจน์ปัญหา Convex Optimization ชี้ให้เห็นถึง:

• ศักยภาพของ AI ในการวิจัยทางวิทยาศาสตร์: AI สามารถเป็นเครื่องมืออันทรงพลังที่ช่วยเร่งกระบวนการค้นคว้าวิจัย และอาจนำไปสู่การค้นพบใหม่ๆ ที่มนุษย์อาจใช้เวลานานกว่ามากในการบรรลุ
• การพัฒนาของโมเดลภาษา: ความสามารถในการเข้าใจและสร้างสรรค์เนื้อหาทางคณิตศาสตร์ที่ซับซ้อน แสดงถึงพัฒนาการที่ก้าวกระโดดของโมเดลภาษา AI
• การทำงานร่วมกันระหว่างมนุษย์และ AI: ความสำเร็จนี้ไม่ใช่แค่การที่ AI ทำงานได้เอง แต่เป็นการทำงานร่วมกันระหว่างความรู้ของมนุษย์ในการออกแบบพรอมต์ และความสามารถในการประมวลผลของ AI

ก้าวต่อไป

การนำ AI มาใช้ในการแก้ปัญหาทางคณิตศาสตร์ที่ซับซ้อนเช่นนี้ จะเปิดประตูสู่ความเป็นไปได้ใหม่ๆ อีกมากมายในอนาคต นักวิจัยอาจสามารถใช้เครื่องมือเหล่านี้เพื่อสำรวจทฤษฎีที่ซับซ้อนยิ่งขึ้น หรือเร่งการพัฒนาเทคโนโลยีในหลากหลายสาขา

#AI #คณิตศาสตร์ #ConvexOptimization #GPT

ขอบคุณ แหล่งข้อมูล
https://old.reddit.com/r/math/comments/1uxj3cy/after_openais_cdc_proof_announcement_gpt56_used_a/

Omio คืออะไร? แพลตฟอร์มจองตั๋วเดินทาง ครอบคลุมทั้งรถไฟ รถบัส และเครื่องบิน

การเดินทางท่องเที่ยวในต่างประเทศ หรือแม้แต่การเดินทางข้ามเมืองในประเทศใหญ่ ๆ อาจทำให้หลายคนกังวลเรื่องการจัดการเรื่องตั๋วโดยสารให้ครบถ้วน ทั้งรถไฟ รถบัส หรือเครื่องบิน แต่ปัจจุบันมีแพลตฟอร์มที่ช่วยให้การจองตั๋วเหล่านี้ง่ายขึ้นมาก หนึ่งในนั้นคือ Omio (โอมีโอ) ที่จะช่วยให้คุณวางแผนการเดินทางได้อย่างราบรื่น

Omio คืออะไร? ✈️🚆🚌

Omio คือแพลตฟอร์มการจองตั๋วเดินทางออนไลน์ ที่รวบรวมบริการขนส่งสาธารณะหลากหลายรูปแบบไว้ในที่เดียว ไม่ว่าจะเป็น รถไฟ, รถบัส, และเที่ยวบิน จากผู้ให้บริการกว่า 1,000 รายทั่วโลก ครอบคลุมเส้นทางในกว่า 35 ประเทศ ทำให้ผู้ใช้งานสามารถเปรียบเทียบราคา, เวลาเดินทาง, และรูปแบบการเดินทางที่หลากหลาย เพื่อเลือกสิ่งที่เหมาะสมที่สุดสำหรับการเดินทางแต่ละครั้ง

ทำไม Omio ถึงน่าสนใจ? 🤔

Omio ไม่ใช่แค่แอปพลิเคชันจองตั๋ว แต่เป็นเครื่องมือที่ช่วยให้การเดินทางของคุณสะดวกสบายและคุ้มค่ายิ่งขึ้น ด้วยเหตุผลหลายประการ:

• เปรียบเทียบตัวเลือกได้ง่าย: คุณสามารถเปรียบเทียบราคาและเวลาเดินทางของรถไฟ, รถบัส, และเครื่องบินได้ในหน้าเดียว ช่วยให้เห็นภาพรวมและตัดสินใจได้ง่ายขึ้น
• จองง่ายในที่เดียว: ไม่ต้องเข้าเว็บไซต์ของผู้ให้บริการหลายแห่ง Omio รวบรวมทุกอย่างไว้ให้คุณกดจองได้ทันที
• รองรับหลายภาษา: แพลตฟอร์มรองรับหลายภาษา รวมถึงภาษาไทย ทำให้ผู้ใช้งานชาวไทยเข้าถึงและใช้งานได้สะดวก
• ตั๋วอิเล็กทรอนิกส์: ส่วนใหญ่จะได้รับตั๋วเป็นรูปแบบดิจิทัลผ่านแอปพลิเคชันหรืออีเมล ช่วยลดความยุ่งยากในการพิมพ์ตั๋ว
• ตัวเลือกหลากหลาย: มีเส้นทางให้เลือกมากมาย ครอบคลุมเมืองใหญ่และเมืองเล็ก ๆ ทั่วทวีปยุโรปเป็นหลัก และขยายไปยังภูมิภาคอื่น ๆ

Omio เหมาะกับใคร? 🗺️

Omio เหมาะสำหรับนักเดินทางทุกประเภท โดยเฉพาะ:

• นักท่องเที่ยว: ที่ต้องการวางแผนการเดินทางข้ามเมืองหรือข้ามประเทศในยุโรป หรือภูมิภาคอื่น ๆ ที่ Omio ให้บริการ
• นักเรียน/นักศึกษา: ที่เดินทางระหว่างประเทศบ่อย ๆ และมองหาตัวเลือกการเดินทางที่คุ้มค่า
• นักธุรกิจ: ที่ต้องการความสะดวก รวดเร็ว และเปรียบเทียบราคาตั๋วได้อย่างมีประสิทธิภาพ
• ผู้ที่เดินทางบ่อย: ที่ต้องการแพลตฟอร์มเดียวจบ ครบวงจรสำหรับการจองตั๋วเดินทาง

วิธีใช้งาน Omio แบบเข้าใจง่าย 🛠️

การใช้งาน Omio นั้นไม่ซับซ้อน เพียงทำตามขั้นตอนเหล่านี้:

1. เข้าสู่เว็บไซต์หรือแอปพลิเคชัน Omio: ค้นหา "Omio" ใน Google หรือดาวน์โหลดแอปพลิเคชัน Omio จาก App Store หรือ Google Play Store
2. ระบุข้อมูลการเดินทาง:

• ต้นทาง (Departure): ใส่ชื่อเมืองต้นทาง
• ปลายทาง (Destination): ใส่ชื่อเมืองปลายทาง
• วันที่เดินทาง (Date): เลือกวันที่ต้องการเดินทาง
• จำนวนผู้โดยสาร (Passengers): ระบุจำนวนผู้โดยสาร

1. ค้นหา: กดปุ่มค้นหา ระบบจะแสดงตัวเลือกการเดินทางทั้งหมดที่มีให้คุณ
2. เปรียบเทียบและเลือก: ตรวจสอบรายละเอียดของแต่ละตัวเลือก เช่น ราคา, เวลาเดินทาง, ระยะเวลา, ประเภทการขนส่ง (รถไฟ, รถบัส, เครื่องบิน) และผู้ให้บริการ
3. ดำเนินการจอง: เมื่อเลือกตัวเลือกที่ถูกใจแล้ว ให้คลิกเพื่อดำเนินการจอง กรอกข้อมูลผู้โดยสารและชำระเงิน
4. รับตั๋ว: หลังจากชำระเงินเรียบร้อย คุณจะได้รับตั๋วอิเล็กทรอนิกส์ผ่านอีเมล หรือสามารถดูได้ในแอปพลิเคชัน Omio

ข้อควรทราบเมื่อใช้ Omio ⚠️

แม้ว่า Omio จะช่วยให้การจองง่ายขึ้น แต่ก็มีบางสิ่งที่คุณควรรู้:

• การยกเลิกและการเปลี่ยนแปลง: เงื่อนไขการยกเลิกหรือเปลี่ยนแปลงตั๋วขึ้นอยู่กับนโยบายของผู้ให้บริการแต่ละราย คุณควรอ่านรายละเอียดให้ดีก่อนทำการจอง
• เวลาเดินทาง: ตรวจสอบเวลาเดินทางให้แน่ใจเสมอ โดยเฉพาะอย่างยิ่งเวลาที่ต้องเปลี่ยนพาหนะ
• ค่าธรรมเนียม: บางครั้งอาจมีค่าธรรมเนียมเพิ่มเติมในการจอง โปรดตรวจสอบให้ละเอียดก่อนยืนยันการชำระเงิน

Omio เป็นเครื่องมือที่ทรงพลังสำหรับนักเดินทางที่ต้องการความสะดวกในการวางแผนและจองตั๋วโดยสารในหลากหลายรูปแบบ ช่วยให้คุณประหยัดเวลาและค้นหาตัวเลือกการเดินทางที่ดีที่สุดได้อย่างง่ายดาย ลองใช้ Omio ในการเดินทางครั้งต่อไปของคุณ แล้วคุณจะพบว่าการเดินทางนั้นง่ายกว่าที่คิด!

ขอบคุณ แหล่งข้อมูล
https://openai.com/index/omio

เกินกว่า LoRA: เทคนิค Fine-tuning ที่ได้รับความนิยมที่สุด มีข้อดีกว่าเสมอไปจริงหรือ?

การปรับแต่งโมเดล AI ให้เข้ากับงานเฉพาะทางเป็นสิ่งสำคัญ แต่การทำเช่นนั้นมักต้องใช้ทรัพยากรจำนวนมาก เทคนิค Parameter-Efficient Fine-Tuning (PEFT) จึงเข้ามามีบทบาทในการลดข้อจำกัดนี้ ในบรรดาเทคนิค PEFT ทั้งหมด LoRA กลายเป็นชื่อที่คุ้นหูและถูกเลือกใช้มากที่สุด แต่คำถามที่น่าสนใจคือ LoRA คือตัวเลือกที่ดีที่สุดจริงหรือ? บทความนี้จะพาคุณไปสำรวจโลกของ PEFT ที่กว้างกว่า LoRA เพื่อค้นหาเทคนิคที่เหมาะสมที่สุดสำหรับคุณ

PEFT คืออะไร และทำไมคุณถึงต้องการมัน?

โมเดล AI แบบ Open Source มีให้เลือกมากมาย แต่บ่อยครั้งที่ประสิทธิภาพยังไม่ตรงกับความต้องการใช้งานเฉพาะทางของคุณ การปรับแต่ง (Fine-tuning) โมเดลที่มีอยู่จึงเป็นทางเลือกที่ดีกว่าการสร้างโมเดลใหม่ตั้งแต่ต้น อย่างไรก็ตาม การ Fine-tuning แบบดั้งเดิมนั้น กินทรัพยากรสูงมาก โดยเฉพาะหน่วยความจำ (VRAM)

PEFT จึงถูกพัฒนาขึ้นเพื่อแก้ไขปัญหานี้ โดยมีเป้าหมายเพื่อ ลดความต้องการหน่วยความจำลงอย่างมาก ทำให้สามารถ Fine-tune โมเดลได้แม้จะมีทรัพยากรจำกัด หรือแม้แต่ Fine-tune โมเดลที่ถูก Quantized แล้วก็ตาม

ประโยชน์ของ PEFT ไม่ได้มีเพียงแค่การประหยัดหน่วยความจำเท่านั้น แต่ยังรวมถึง:

• ขนาด Checkpoint เล็ก: ทำให้จัดเก็บและแชร์ได้ง่าย
• ลดปัญหา Catastrophic Forgetting: ช่วยให้โมเดลไม่ลืมความรู้เดิมที่เคยเรียนรู้มา
• รองรับการให้บริการหลายโมเดล: สามารถใช้โมเดลพื้นฐานเดียวกันเพื่อให้บริการ Fine-tune ได้หลายแบบ

ที่ Hugging Face เราได้พัฒนา PEFT library ซึ่งเป็นไลบรารีที่รวมเทคนิค PEFT หลากหลายไว้ภายใต้ API เดียวกัน และทำงานร่วมกับ Ecosystem อื่นๆ ได้อย่างราบรื่น เช่น Transformers และ Diffusers ทำให้การเข้าถึง PEFT ง่ายขึ้นสำหรับทุกคน

LoRA: ราชาแห่งเทคนิค Fine-tuning 👑

หนึ่งในเทคนิค PEFT ที่ได้รับความนิยมอย่างสูงคือ Low Rank Adaptation (LoRA) ซึ่งทำงานโดยการเพิ่มพารามิเตอร์จำนวนเล็กน้อยเข้าไปในโมเดลพื้นฐาน โดยที่น้ำหนัก (weights) ของโมเดลเดิมจะถูก Freeze ไว้ และจะฝึกฝนเฉพาะพารามิเตอร์ที่เพิ่มเข้ามาใหม่เท่านั้น

จากสถิติและการสำรวจต่างๆ พบว่า LoRA เป็นเทคนิค PEFT ที่ถูกใช้งานมากที่สุดอย่างท่วมท้น:

• Hugging Face Hub: เกือบ 98.4% ของ Model Cards ที่ระบุเทคนิค PEFT เพียงเทคนิคเดียว เป็น LoRA
• การสร้างภาพ (Image Generation): ในบรรดา Checkpoints PEFT กว่า 10,000 รายการ LoRA คิดเป็น 95.0%
• GitHub: การค้นหาส่วนโค้ดที่เกี่ยวข้องกับ PEFT พบว่า 71.3% เป็น LoRA

ความนิยมที่สูงลิ่วนี้ อาจเป็นเพราะ LoRA ทำงานได้ดีที่สุดสำหรับทุกคนจริง ๆ หรืออาจเป็นเพราะ LoRA เป็นหนึ่งในเทคนิค PEFT แรกๆ ที่ได้รับความนิยม ทำให้มี การสนับสนุนที่ดี มีบทเรียนและตัวอย่างมากมาย จนกลายเป็นที่แพร่หลาย

แต่สิ่งนี้ทำให้เกิดคำถามสำคัญ: เรากำลังพลาดประสิทธิภาพที่ดียิ่งกว่าไปหรือไม่ ด้วยการยึดติดกับ LoRA เพียงอย่างเดียว?

ความท้าทายในการเลือกเทคนิค PEFT จากผลการวิจัย

มีงานวิจัยมากมายที่นำเสนอเทคนิค PEFT ใหม่ๆ ที่อ้างว่าเหนือกว่า LoRA แต่การตัดสินใจเลือกจากงานวิจัยเหล่านี้ไม่ใช่เรื่องง่าย:

• แรงกดดันในการนำเสนอผลลัพธ์: นักวิจัยมักมีเป้าหมายที่จะทำให้เทคนิคของตนเองดูดีกว่าเทคนิคที่มีอยู่ ซึ่งอาจนำไปสู่การปรับแต่งพารามิเตอร์ของเทคนิคที่นำเสนออย่างละเอียด แต่กลับใช้เวลากับเทคนิคอื่นน้อยกว่า
• ความหลากหลายของ Benchmark: แต่ละงานวิจัยใช้ชุดเทคนิคและชุดข้อมูล Benchmark ที่แตกต่างกัน ทำให้ผลลัพธ์ยากต่อการเปรียบเทียบโดยตรง
• การทำซ้ำผลลัพธ์ที่ยาก: โค้ดที่ใช้ในการวิจัยมักไม่เปิดเผยหรือใช้งานยาก ทำให้การตรวจสอบความถูกต้องของผลลัพธ์ทำได้ลำบาก

ด้วยเหตุนี้ การเลือกเทคนิค PEFT ที่ดีที่สุดจากผลการวิจัยเพียงอย่างเดียวจึงเป็นเรื่องที่ซับซ้อน และบ่อยครั้งที่ทำให้ผู้ใช้เลือกใช้ LoRA เป็นค่าเริ่มต้นไปโดยปริยาย

แนวทางการประเมินผล Benchmark ใน PEFT Library

ที่ Hugging Face เราตระหนักถึงความสำคัญของการช่วยให้ผู้ใช้ตัดสินใจเลือกเทคนิค PEFT ได้อย่างมีข้อมูล จึงได้พัฒนา Benchmark ที่ครอบคลุมมากขึ้น:

• LLM Math Dataset Benchmark: ทดสอบการ Fine-tune LLM เพื่อแก้โจทย์คณิตศาสตร์ โดยวัดผลจากความสามารถในการให้เหตุผลแบบ Chain-of-Thought และการปรับรูปแบบผลลัพธ์
• Image Generation Benchmark: ทดสอบการ Fine-tune โมเดลเพื่อเรียนรู้คอนเซ็ปต์ใหม่ (เช่น ตุ๊กตาแมว) และนำไปสร้างในบริบทใหม่ โดยไม่ลืมคอนเซ็ปต์เดิม

หัวใจสำคัญของ Benchmark ของเราคือ:

• เงื่อนไขการประเมินที่เท่าเทียม: ใช้โมเดลพื้นฐาน, ชุดข้อมูล, โค้ดการฝึกและประเมิน, และฮาร์ดแวร์ชุดเดียวกันสำหรับทุกเทคนิค PEFT
• การวัดผลที่หลากหลาย: นอกจากประสิทธิภาพการทดสอบ (Test Performance) แล้ว ยังวัดผลอื่นๆ ที่ผู้ใช้ให้ความสำคัญ เช่น การใช้ VRAM, เวลาในการประมวลผล (Runtime), และขนาด Checkpoint
• ผลลัพธ์ที่เข้าถึงได้: การทดลองถูกออกแบบให้สามารถรันบนฮาร์ดแวร์ทั่วไป และการเพิ่มเทคนิคใหม่ๆ ทำได้ง่าย

เราเชื่อว่าการเปรียบเทียบเทคนิค PEFT อย่างเป็นธรรมบนพื้นฐานเดียวกัน โดยไม่มีอคติ จะช่วยให้เห็นภาพที่ชัดเจนว่าเทคนิคใดทำงานได้ดีที่สุดในแต่ละมิติ

ผลการทดสอบ: LoRA ทำงานได้ดี แต่ไม่ใช่ตัวเลือกที่ดีที่สุดเสมอไป

จากการทดสอบของเรา พบว่า LoRA ทำงานได้ดีจริง แต่ก็มีเทคนิค PEFT อื่นๆ ที่สามารถ เอาชนะ LoRA ได้ในบางมิติ และควรค่าแก่การพิจารณา

การวิเคราะห์ตาม Pareto Frontier

เราใช้แนวคิด Pareto Frontier เพื่อทำความเข้าใจ Trade-off ระหว่าง ประสิทธิภาพการทดสอบ (Test Accuracy) กับ การใช้หน่วยความจำ (Memory Usage) เทคนิคที่อยู่บน Pareto Frontier หมายความว่า หากต้องการประสิทธิภาพที่ดีขึ้น ก็ต้องแลกมาด้วยการใช้หน่วยความจำที่มากขึ้น หรือหากต้องการประหยัดหน่วยความจำ ก็ต้องยอมรับประสิทธิภาพที่ลดลง

• LLM Math Dataset: LoRA อยู่บน Pareto Frontier โดยให้ Test Accuracy 53.2% และใช้ VRAM สูงสุด 22.6 GB แต่ก็มีเทคนิคอื่นที่น่าสนใจ เช่น BEFT ที่ใช้ VRAM น้อยกว่า (20.2 GB) แต่ได้ Accuracy 32.9% หรือ Lily ที่ให้ Accuracy สูงกว่า (54.9%) แต่ก็แลกมาด้วย VRAM ที่มากขึ้น (25.6 GB) ดังนั้น LoRA อาจไม่ใช่ Trade-off ที่ดีที่สุดสำหรับทุกคน
• LoRA Variants: การทดสอบยังพบว่า LoRA แบบปรับปรุง เช่น LoRA with rank stabilized initialization หรือ LoRA-FA (ใช้ Optimizer ที่พิเศษ) สามารถให้ผลลัพธ์ที่ดีกว่า LoRA แบบปกติอย่างเห็นได้ชัด (LoRA ปกติได้ Accuracy 48.1% ที่ 22.5 GB)

• Image Generation Benchmark: สำหรับงานสร้างภาพ LoRA อยู่ต่ำกว่า Pareto Frontier โดยมีคะแนน Dino Similarity 0.697 และใช้ VRAM 9.97 GB ในขณะที่เทคนิค OFT ให้คะแนน Similarity สูงกว่า (0.708) และใช้ VRAM น้อยกว่า (9.01 GB) OFT จึงเป็นการปรับปรุงที่ดีกว่า LoRA อย่างชัดเจน

ข้อควรจำ: นอกจากตัวชี้วัดหลักแล้ว ควรพิจารณา Runtime Performance หรือ ขนาด Checkpoint ด้วย รวมถึง การดูตัวอย่างภาพที่สร้างขึ้นจริง เพื่อประเมินความสามารถของโมเดล

ข้อโต้แย้ง: Benchmark อาจเอนเอียงหรือไม่ครอบคลุม?

เป็นไปได้ว่า Benchmark ที่เราทำอาจมีข้อจำกัดบางประการ:

• การเลือก Hyper-parameter: การหาค่า Hyper-parameter ที่เหมาะสมที่สุดสำหรับทุกเทคนิค PEFT เป็นเรื่องที่ท้าทาย แต่เราเปิดโอกาสให้ทุกคนสามารถ ร่วมส่งการทดลองของตนเอง เข้ามาใน PEFT library ได้ หากเชื่อว่าเทคนิคใดสามารถปรับปรุงได้ด้วย Hyper-parameter ที่แตกต่างกัน
• การสะท้อนความสามารถทั้งหมด: Benchmark อาจไม่สามารถวัดผลได้ทุกมิติ เช่น เทคนิค Cartridges ถูกออกแบบมาเพื่อบีบอัด Prompt ยาวๆ ซึ่งไม่ได้ถูกวัดใน Benchmark นี้
• ปัจจัยอื่นๆ ในการเลือก:
• บางเทคนิค PEFT อาจ รองรับเฉพาะ Layer Type บางประเภท เท่านั้น
• ไม่ใช่ทุกเทคนิค PEFT ที่ รองรับโมเดลที่ถูก Quantized
• บางเทคนิค PEFT อนุญาตให้ Merge Adapter เข้ากับโมเดลหลัก เพื่อลด Overhead ในการรัน แต่บางเทคนิคไม่สามารถทำได้

Benchmark ช่วยชี้แนะแนวทางได้ แต่ก็ยัง ไม่สามารถทดแทนการศึกษาและทดลองด้วยตนเองได้ทั้งหมด

ข้อโต้แย้ง: แต่ llama.cpp/vLLM/... รองรับแค่ LoRA

เป็นความจริงที่เครื่องมือบางอย่าง เช่น llama.cpp หรือ vLLM อาจยังรองรับ LoRA เป็นหลัก ซึ่งอาจเป็นข้อจำกัดในการใช้งานเทคนิค PEFT อื่นๆ อย่างไรก็ตาม การพัฒนาใน Ecosystem ของ AI นั้นรวดเร็วมาก และเราคาดหวังว่าจะมีการรองรับเทคนิค PEFT ที่หลากหลายมากขึ้นในอนาคต

สรุป: มองให้ไกลกว่า LoRA เพื่อประสิทธิภาพสูงสุด

LoRA เป็นเทคนิค PEFT ที่ยอดเยี่ยมและได้รับความนิยมด้วยเหตุผลที่ดี แต่ก็ไม่ใช่คำตอบสุดท้ายสำหรับทุกสถานการณ์ การสำรวจเทคนิค PEFT อื่นๆ ที่มีอยู่มากมาย เช่น OFT, BEFT, Lily, หรือ LoRA Variants ต่างๆ อาจช่วยให้คุณค้นพบ Trade-off ที่เหมาะสมที่สุด กับความต้องการและทรัพยากรของคุณ

การทำความเข้าใจข้อดีข้อเสียของแต่ละเทคนิค และการทดลองด้วยตนเอง โดยใช้ประโยชน์จากเครื่องมืออย่าง PEFT library จะช่วยให้คุณสามารถ ปลดล็อกศักยภาพสูงสุด ของการ Fine-tuning โมเดล AI ได้อย่างแท้จริง

#PEFT #LoRA #FineTuning #AI #MachineLearning

ขอบคุณ แหล่งข้อมูล
https://huggingface.co/blog/peft-beyond-lora

แอปติดตามรอบเดือนของคุณ กำลังสอดแนมคุณอยู่หรือไม่? 🧐

ในยุคที่เทคโนโลยีเข้ามามีบทบาทในชีวิตประจำวันของเรามากขึ้น ข้อมูลส่วนตัวกลายเป็นสิ่งมีค่าที่ต้องได้รับการปกป้อง หนึ่งในแอปพลิเคชันที่หลายคนใช้งานและอาจไม่ทันสังเกตถึงความเสี่ยงด้านความเป็นส่วนตัว คือ "แอปติดตามรอบเดือน" ซึ่งรวบรวมข้อมูลสุขภาพที่ละเอียดอ่อนของผู้ใช้งาน

ความเป็นส่วนตัวของข้อมูลสุขภาพในแอปติดตามรอบเดือน

Mozilla Foundation ได้ทำการตรวจสอบแอปพลิเคชันติดตามรอบเดือนยอดนิยม 6 แอป และพบว่ามีเพียงแอปเดียวเท่านั้นที่ผ่านการประเมินด้านความเป็นส่วนตัวอย่างสมบูรณ์ ส่วนแอปอื่นๆ มีแนวโน้มที่จะส่งต่อข้อมูลของผู้ใช้ไปยังบุคคลที่สามโดยไม่แจ้งให้ทราบ

Stardust แอปพลิเคชันที่มีธีมเกี่ยวกับโหราศาสตร์ เป็นแอปที่ได้รับคะแนนต่ำที่สุด โดยมีคะแนนเพียง 2 เต็ม 10 เท่านั้น จากการตรวจสอบพบว่าแอปนี้จะส่งข้อมูลสุขภาพของผู้ใช้ เช่น ประเภทของยาคุมกำเนิด สถานะการตั้งครรภ์ หรืออาการต่างๆ เช่น เต้านมคัด หรือปวดท้องทันทีที่ผู้ใช้บันทึกข้อมูล โดยข้อมูลเหล่านี้จะถูกส่งไปยังบริษัทวิเคราะห์ข้อมูลชื่อ RudderStack ซึ่งเป็นบริษัทที่ไม่ได้ระบุไว้ในนโยบายความเป็นส่วนตัวของแอป

ที่น่ากังวลคือ Stardust ยังส่งรหัสโฆษณา (ad identifier) ไปยัง Facebook ซึ่งสามารถเชื่อมโยงพฤติกรรมในแอปเข้ากับโปรไฟล์ของผู้ใช้บนแพลตฟอร์ม Facebook ได้ ทำให้เกิดความกังวลเกี่ยวกับวัตถุประสงค์ในการเก็บรวบรวมข้อมูลเหล่านี้

แอปใดที่ใส่ใจความเป็นส่วนตัวของผู้ใช้?

ในทางตรงกันข้าม Euki ซึ่งเป็นแอปที่พัฒนาโดยองค์กรไม่แสวงหาผลกำไร ได้รับคะแนนเต็ม 10 โดยแอปนี้ไม่จำเป็นต้องสมัครสมาชิก ข้อมูลสุขภาพของผู้ใช้จะถูกเก็บไว้ในโทรศัพท์เท่านั้น และผู้ใช้สามารถตั้งค่า PIN, ตั้งเวลาลบข้อมูลอัตโนมัติ หรือแม้กระทั่งตั้งค่าหน้าจอหลอกเพื่อป้องกันกรณีที่ผู้อื่นบังคับเปิดโทรศัพท์ได้

จุดอ่อนเพียงเล็กน้อยของ Euki คือการมีเบราว์เซอร์ในแอปสำหรับเข้าถึงหน้าข้อมูลการศึกษา ซึ่งอาจมีการติดตามเว็บตามปกติ แต่แอปก็จะทำการรีเซ็ตรหัสระบุ (identifier) ระหว่างการเข้าชมแต่ละครั้ง

ข้อควรพิจารณาเมื่อเลือกใช้แอปติดตามรอบเดือน

การเลือกใช้แอปพลิเคชันที่เกี่ยวข้องกับข้อมูลสุขภาพส่วนบุคคล ควรพิจารณาปัจจัยต่างๆ ดังนี้:

• นโยบายความเป็นส่วนตัว: อ่านและทำความเข้าใจนโยบายความเป็นส่วนตัวของแอปอย่างละเอียด ว่ามีการเก็บรวบรวมข้อมูลใดบ้าง และจะนำข้อมูลไปใช้หรือแบ่งปันกับบุคคลที่สามอย่างไร
• การอนุญาตเข้าถึงข้อมูล: ตรวจสอบการอนุญาตที่แอปขอเข้าถึง เช่น ตำแหน่งที่ตั้ง, รายชื่อผู้ติดต่อ, หรือข้อมูลสุขภาพ ว่ามีความจำเป็นต่อการทำงานของแอปจริงหรือไม่
• การเข้ารหัสข้อมูล: แอปพลิเคชันที่ปลอดภัยควรมีการเข้ารหัสข้อมูล เพื่อป้องกันการเข้าถึงโดยไม่ได้รับอนุญาต
• การตั้งค่าความเป็นส่วนตัว: มองหาแอปที่มีตัวเลือกการตั้งค่าความเป็นส่วนตัวที่ยืดหยุ่น เช่น การตั้งเวลาลบข้อมูลอัตโนมัติ หรือการไม่แชร์ข้อมูลกับบุคคลที่สาม
• ชื่อเสียงของผู้พัฒนา: เลือกแอปจากผู้พัฒนาที่มีชื่อเสียงและน่าเชื่อถือ โดยเฉพาะอย่างยิ่งแอปที่ไม่แสวงหาผลกำไร หรือแอปที่ได้รับการยอมรับด้านความปลอดภัย

การตระหนักถึงความสำคัญของข้อมูลส่วนบุคคล และการเลือกใช้แอปพลิเคชันอย่างชาญฉลาด จะช่วยให้เราได้รับประโยชน์จากเทคโนโลยี โดยไม่ต้องแลกมาด้วยความเป็นส่วนตัวของเราเอง

#ติดตามรอบเดือน #ความเป็นส่วนตัว #ความปลอดภัยข้อมูล #แอปสุขภาพ

ขอบคุณ แหล่งข้อมูล
https://www.wired.com/story/security-news-this-week-your-period-tracker-is-probably-spying-on-you/

เงิน AI: การกระจายความมั่งคั่งที่กำลังจะมาถึง - มุมมองจากนักลงทุน VC

ยุคทองของปัญญาประดิษฐ์ (AI) กำลังสร้างความมั่งคั่งมหาศาลในซิลิคอนแวลลีย์อย่างที่ไม่เคยมีมาก่อน แต่คำถามสำคัญที่ตามมาคือ ความมั่งคั่งนี้จะถูกแบ่งปันอย่างไร? นีล ริเมอร์ (Neil Rimer) หนึ่งในผู้ร่วมก่อตั้ง Index Ventures ซึ่งเป็นบริษัทร่วมลงทุนชั้นนำ ได้แสดงความเห็นที่น่าสนใจว่า "มีความรู้สึกอย่างแรงกล้าว่า จะต้องมีการกระจายความมั่งคั่งบางอย่างเกิดขึ้น" ซึ่งอาจเป็นไปในทางสมัครใจหรือถูกบังคับก็ได้

ความมั่งคั่งจาก AI: มากกว่าแค่ตัวเลข

ในช่วงไม่กี่ปีที่ผ่านมา การลงทุนในบริษัทเทคโนโลยีที่เกี่ยวข้องกับ AI ได้รับผลตอบแทนที่น่าประทับใจ ตัวอย่างเช่น Index Ventures เองก็มีผลงานโดดเด่นจากการลงทุนในบริษัทอย่าง Figma ที่เข้าตลาดหลักทรัพย์ (IPO) และการซื้อกิจการบริษัทความปลอดภัยทางไซเบอร์ Wiz โดย Google ซึ่งสร้างผลกำไรมหาศาลให้กับบริษัท

ความมั่งคั่งที่เกิดขึ้นนี้ ไม่ได้จำกัดอยู่แค่ในบริษัทใหญ่ๆ เท่านั้น แต่ยังรวมถึงพนักงานของบริษัท AI ชั้นนำอย่าง Anthropic ด้วย ซึ่งหลายคนกำลังเผชิญกับโอกาสในการสร้างความมั่งคั่งในระดับที่ไม่เคยมีมาก่อน

การให้และการกระจาย: ทางเลือกที่ต้องเผชิญ

ในอดีต มีกลไกต่างๆ ที่ส่งเสริมการแบ่งปันความมั่งคั่ง เช่น The Giving Pledge ที่ชักชวนมหาเศรษฐีให้บริจาคทรัพย์สินครึ่งหนึ่งเพื่อการกุศล อย่างไรก็ตาม ข้อมูลล่าสุดชี้ว่า แนวโน้มการบริจาคในกลุ่มคนร่ำรวยบางส่วนกำลังลดลง

นี่จึงเป็นจุดที่ทำให้เกิดคำถามถึง "การกระจายความมั่งคั่ง" ในรูปแบบอื่นๆ ไม่ว่าจะเป็น:

• การบริจาคโดยสมัครใจ: การที่ผู้ที่ได้รับผลประโยชน์จาก AI เลือกที่จะแบ่งปันความมั่งคั่งคืนสู่สังคม เช่น การสนับสนุนองค์กรการกุศล หรือการลงทุนเพื่อสาธารณประโยชน์
• การถูกบังคับ: การที่ภาครัฐอาจเข้ามามีบทบาทในการเก็บภาษีทรัพย์สิน (Wealth Tax) หรือมีนโยบายที่ทำให้เกิดการกระจายรายได้และทรัพย์สินมากขึ้น เพื่อลดความเหลื่อมล้ำที่อาจเกิดขึ้น

เสียงสะท้อนจากอดีตและปัจจุบัน

ประวัติศาสตร์ได้แสดงให้เห็นถึงรูปแบบคล้ายคลึงกันในช่วงที่ความมั่งคั่งกระจุกตัวสูงสุดในยุค Gilded Age ของสหรัฐอเมริกา ซึ่งมีทั้งแนวคิดเรื่อง "The Gospel of Wealth" ของ Andrew Carnegie ที่สนับสนุนการใช้ทรัพย์สินเพื่อสาธารณะ และมาตรการทางภาษีที่เข้มงวดขึ้นเพื่อกระจายรายได้

ในปัจจุบัน เราเห็นความพยายามในการออกกฎหมายเก็บภาษีทรัพย์สินในบางรัฐ รวมถึงการเสนอแนวคิดให้บริษัท AI แบ่งปันผลกำไรหรือส่วนแบ่งให้กับภาครัฐ ซึ่งสะท้อนให้เห็นถึงแรงกดดันทางสังคมที่ต้องการให้ความมั่งคั่งที่เกิดขึ้น ถูกแบ่งปันอย่างเป็นธรรม

ความท้าทายและอนาคตของ "เงิน AI"

นีล ริเมอร์ มองว่า ท่ามกลางความมั่งคั่งที่หลั่งไหลเข้ามา ควรมีการพิจารณาถึง "ศีลธรรม" ของบริษัทเทคโนโลยีเหล่านี้ และตั้งคำถามว่า สิ่งที่พวกเขาสร้างขึ้นนั้น ส่งผลดีต่อโลกจริง ๆ หรือไม่

การที่ผู้ที่ร่ำรวยจาก AI จะเลือก "ทางง่าย" คือการแบ่งปันความมั่งคั่งคืนสู่สังคมด้วยความสมัครใจ หรือจะรอให้ "ประวัติศาสตร์เลือกทางที่ยาก" ให้ คือการถูกบังคับผ่านนโยบายและกฎหมาย คงเป็นสิ่งที่ต้องจับตาดูต่อไป

#AI #การลงทุน #VC #ความมั่งคั่ง #เทคโนโลยี

ขอบคุณ แหล่งข้อมูล
https://techcrunch.com/2026/07/17/neil-rimer-thinks-the-ai-money-is-coming-back-out/

สร้างสภาพแวดล้อมที่ปลอดภัยสำหรับ AI Agent ในองค์กร: แนวทางปฏิบัติจาก NVIDIA

AI Agent กำลังก้าวข้ามขีดจำกัดของการสนทนาทั่วไปไปสู่การทำงานที่ซับซ้อนยิ่งขึ้น เช่น การตรวจสอบโค้ด การทดสอบระบบ การอ่านเอกสาร การค้นหาฐานข้อมูลความรู้ การสอบถามระบบภายใน หรือแม้กระทั่งการทำงานต่อเนื่องยาวนานแทนผู้ใช้ ซึ่งสิ่งเหล่านี้ช่วยเพิ่มประสิทธิภาพการทำงานได้อย่างมหาศาล แต่ในขณะเดียวกันก็อาจนำไปสู่การเข้าถึงข้อมูลที่ละเอียดอ่อนขององค์กร และความสามารถในการดำเนินการกับระบบทางธุรกิจต่างๆ ได้ ทำให้การสร้างสภาพแวดล้อมที่ปลอดภัยและมีการกำกับดูแล (Governed Environment) เป็นสิ่งจำเป็นอย่างยิ่ง

NVIDIA Secure Agent Workspace Reference Design คือแนวทางที่นำเสนอการเปลี่ยนแปลงสถาปัตยกรรมที่ชัดเจน โดยแยกส่วนการแสดงผล (Presentation Layer) ซึ่งก็คืออุปกรณ์ของผู้ใช้ (เช่น แล็ปท็อป เบราว์เซอร์ IDE หรือเทอร์มินัล) ออกจากการประมวลผล (Execution Layer) ซึ่งจะเกิดขึ้นในพื้นที่ทำงาน (Workspace) ที่ได้รับการจัดการ (Managed Workspace) ทำให้สามารถบังคับใช้นโยบายด้านการระบุตัวตน (Identity) การเข้าถึงเครือข่าย (Network Access) และกฎระเบียบต่างๆ (Policy Management) ได้อย่างปลอดภัย

บทความนี้จะนำเสนอแนวทางในการสร้างสภาพแวดล้อมที่ปลอดภัยสำหรับ Autonomous Agents เพื่อให้องค์กรสามารถนำไปใช้ในระดับองค์กรได้อย่างมีประสิทธิภาพ และให้พนักงานทุกคนสามารถเข้าถึง AI Agent ที่ทำงานได้ตลอดเวลา

การเริ่มต้นใช้งาน Secure Agent Workspace

ก่อนจะลงมือปฏิบัติจริง สิ่งสำคัญคือต้องระบุ เจ้าของเวิร์กโฟลว์ (Workflow Owners) และผู้มีส่วนได้ส่วนเสีย (Stakeholders) ของ AI Agent เพื่อให้เข้าใจถึงความต้องการทรัพยากรและนโยบายการเข้าถึงที่เหมาะสม การจะควบคุม AI Agent ได้นั้น จำเป็นต้องกำหนดขอบเขตพฤติกรรมที่คาดหวังและสร้างข้อจำกัดเพื่อป้องกันการเข้าถึงที่ไม่คาดคิด

การนำไปใช้ในระยะแรก (Phase I และ II) จะอยู่บนพื้นฐานของการจัดการ Virtual Machine (VM) มาตรฐานขององค์กร ซึ่งครอบคลุมถึงการจัดการคอนฟิกูเรชัน การจัดการแพตช์และช่องโหว่ การกำกับดูแลอิมเมจ (Image Governance) การรวบรวมข้อมูล Telemetry สำหรับศูนย์ปฏิบัติการรักษาความปลอดภัย (SOC) และฟีเจอร์การสร้างใหม่/เพิกถอน (Rebuild/Revocation)

การรักษาความปลอดภัยขอบเขตภายนอก VM 🛡️

ระยะแรกของการติดตั้ง Secure Agent Workspace มุ่งเน้นไปที่การควบคุม ขอบเขตโดยรอบ ว่าใครสามารถเข้าถึงได้ เข้าถึงได้อย่างไร ได้รับ Workspace แบบไหน และสามารถเข้าถึงบริการใดได้บ้าง ในขั้นตอนนี้ VM จะทำหน้าที่เป็น ขอบเขตการแยก (Isolation Boundary) หลัก โดยมีเป้าหมายเพื่อให้กิจกรรมของ Agent สามารถสังเกตการณ์ได้ มีขอบเขตที่ชัดเจน และสามารถเพิกถอนได้ ก่อนที่จะนำมาตรการควบคุมในระดับ Runtime ที่ลึกขึ้นมาใช้

🛠️ ขั้นตอนการรักษาความปลอดภัยภายนอก VM:

• จัดเตรียม Managed Workspaces: กำหนด Virtual Machine (VM) ที่ปลอดภัยและจัดการโดยบริษัทให้กับผู้ใช้แต่ละคนสำหรับงานของตน
• บังคับใช้ Login Gates: ใช้ระบบ Single Sign-On (SSO) ของบริษัทเพื่อควบคุมการเข้าถึง โดยจะไม่มีใครสามารถเปิด Workspace ได้โดยไม่ได้รับอนุญาตที่ผ่านการยืนยันตัวตน
• ล็อคดาวน์เครือข่าย: บล็อกการรับส่งข้อมูลอินเทอร์เน็ตทั้งหมดเป็นค่าเริ่มต้น อนุญาตเฉพาะการเชื่อมต่อไปยังบริการภายในและภายนอกที่ได้รับอนุมัติล่วงหน้าเท่านั้น
• กำหนดให้มีการอนุมัติจากมนุษย์: ตรวจสอบให้แน่ใจว่าการดำเนินการใดๆ ของ Agent ที่เปลี่ยนแปลงระบบ (เช่น การรวมโค้ด หรือการอัปเดต Ticket) จะต้องได้รับการอนุมัติจากมนุษย์ ไม่ใช่เพียง Agent เท่านั้น
• รวมศูนย์การบันทึก Log: ส่ง Log ทั้งหมดเกี่ยวกับกิจกรรมของ Workspace ไปยังที่ส่วนกลาง เพื่อให้ทีมรักษาความปลอดภัยสามารถตรวจสอบพฤติกรรมที่น่าสงสัยได้

การเพิ่มความปลอดภัย Runtime ภายใน VM 🔒

ในระยะที่สองของการติดตั้ง จะมีการเพิ่มการควบคุม ภายใน Workspace เพื่อกำกับดูแลพฤติกรรมที่แท้จริงของ Agent ซึ่งจะเป็นการยกระดับการป้องกันให้ใกล้ชิดกับขอบเขตการเรียกใช้เครื่องมือ (Tool-call Boundary) มากขึ้น ว่า Agent สามารถอ่านไฟล์ใดได้บ้าง สามารถเรียกใช้คำสั่งใดได้บ้าง และสามารถเข้าถึงบริการใดได้บ้าง โดยข้อมูลความลับ (Secrets) จะยังคงอยู่เบื้องหลัง Proxy นโยบายจะถูกควบคุมจากส่วนกลาง และ Agent จะไม่สามารถขยายสิทธิ์ของตนเองได้โดยพลการ

🛠️ กลไกการรักษาความปลอดภัย Runtime:

• Active Sandboxing: รัน Agent ภายใน Runtime เฉพาะ (เช่น NVIDIA OpenShell) ที่คอยตรวจสอบทุกการกระทำแบบเรียลไทม์
• Signed Security Policies: ใช้ระบบส่วนกลางในการกำหนดว่า Agent สามารถทำอะไรได้บ้าง (เช่น สามารถอ่านไฟล์ใดได้บ้าง) และส่งกฎเหล่านี้เป็น Bundle ที่มีการลงนามที่ปลอดภัยไปยัง Workspace
• Credential Protection: หลีกเลี่ยงการจัดเก็บรหัสผ่านหรือคีย์ความลับโดยตรงใน Workspace ใช้ Proxy ที่ปลอดภัยซึ่งจัดการคีย์เหล่านั้นเบื้องหลัง เพื่อให้ Agent ไม่เห็นข้อมูลลับดิบ
• Continuous Verification: ตรวจสอบโดยอัตโนมัติว่ากฎความปลอดภัยยังคงทำงานอยู่และมีประสิทธิภาพ ก่อนการดำเนินการแต่ละครั้งของ Agent

การตั้งค่า Agent Blueprints สำหรับ Agent Workspace 🏗️

Blueprints คือ เทมเพลตเวิร์กโฟลว์ที่ทำงานซ้ำได้ ซึ่งทำงานอยู่บน Workspace โดยแต่ละ Blueprint จะถูกกำหนดค่าด้วยเป้าหมาย เครื่องมือที่จำเป็น บริการที่อนุญาต ขอบเขตข้อมูล สิทธิ์ในการเขียน ประตูการตรวจสอบ (Review Gates) และความคาดหวังในการบันทึก Log

Blueprint เหล่านี้จะใช้เครื่องมือได้เต็มขีดความสามารถ และเป็นตัวอย่างแนวปฏิบัติที่ดีที่สุดสำหรับกรณีการใช้งานเป้าหมาย จากนั้น นักพัฒนา Agent จะทำการปรับเปลี่ยนเพียงเล็กน้อยเพื่อจำกัดขอบเขตพฤติกรรมให้ตรงตามความต้องการของตน

🛠️ การรวม Blueprint เข้ากับ Secure Agent Workspace:

• กำหนด Agent Identity: ลงทะเบียน Agent ด้วย Identity ที่เป็นตรรกะ ซึ่งเชื่อมโยงกลับไปยังผู้ใช้หรือผู้สนับสนุนผ่าน SSO ใช้บันทึกการมอบสิทธิ์ (Delegation Record) เพื่อกำหนดอย่างชัดเจนว่า Agent สามารถทำอะไรได้บ้าง
• จัดการ Secrets: อย่า Hardcode Secrets ใช้ Credential Proxy เพื่อให้ Agent ทำงานด้วย Token ที่มีอายุสั้น แทนที่จะเป็น API Keys หรือรหัสผ่านดิบ
• กำหนดค่า Inference: ชั้น Gateway จะจัดการโควตา (Quotas) การควบคุมการเข้าถึงตามบทบาท (RBAC) และการจำกัดอัตราแบบไดนามิก (Dynamic Rate Limiting) เพื่อให้แน่ใจว่าบริการ Inference มีความปลอดภัยและปรับขนาดได้
• ล็อคดาวน์ Governance: ตั้งค่า "Blast Radius Controls" กำหนดว่าการดำเนินการใด (เช่น การรวมโค้ด หรือการเปลี่ยนสถานะ Ticket) ที่ต้องได้รับการตรวจสอบจากมนุษย์ก่อนดำเนินการ และตรวจสอบให้แน่ใจว่า Log ทั้งหมดถูกส่งออกในรูปแบบ Open Cybersecurity Schema Framework (OCSF) เพื่อเตรียมพร้อมสำหรับการตรวจสอบ

การใช้งาน Secure Agent Workspace ทั้งแบบ On-Premise และ Cloud ☁️

การตั้งค่า Workspace จะเริ่มต้นด้วยการเลือก Red Hat OpenShift Virtualization สำหรับสภาพแวดล้อม On-Premise หรือ Microsoft Azure สำหรับการใช้งาน Cloud-Native โดยรูปแบบหลักจะเหมือนกันทั้งสองแบบ ผู้ใช้แต่ละคนจะได้รับ Virtual Machine เฉพาะ และ Local Endpoint จะเชื่อมต่อกับ Workspace นั้นเท่านั้น การประมวลผล Agent จะยังคงอยู่ภายในขอบเขตที่ได้รับการจัดการ พร้อมด้วยนโยบายส่วนกลาง การควบคุมการเข้าถึง และการตรวจสอบ

🛠️ ขั้นตอนการ Deploy:

1. จัดเตรียม VM Workspace ต่อผู้ใช้ 1 เครื่อง: สร้าง Linux หรือ Windows VM เฉพาะสำหรับผู้ใช้แต่ละคน
2. สร้างเส้นทางการเข้าถึง (Access Path): วาง Access Broker ที่เชื่อถือได้ไว้ด้านหน้า Workspace ผู้ใช้ควรเชื่อมต่อผ่าน SSO ขององค์กรและเซสชันที่มีอายุสั้นและตรวจสอบได้ Endpoint ควรทำหน้าที่เป็นเพียงพื้นผิวการแสดงผลเท่านั้น โดยไม่มีการทำงานของ Autonomous Agent ในเครื่อง
3. กำหนดขอบเขตเครือข่าย (Network Boundary): เริ่มต้นด้วยการปฏิเสธการเชื่อมต่อขาออก (Default-Deny Egress) และอนุญาตเฉพาะปลายทางที่ได้รับอนุมัติ ใน OpenShift ใช้ Primitives เช่น NetworkPolicy, EgressFirewall, Routes และเส้นทางขาเข้าที่ได้รับอนุมัติ ใน Azure ให้ส่งการรับส่งข้อมูลขาออกผ่าน Azure Firewall Premium, ปิดการใช้งาน BGP Route Propagation, ปฏิเสธการเข้าถึง Corporate CIDR และหลีกเลี่ยงเส้นทางขาเข้าสาธารณะใดๆ
4. จัดการ Images และ VM Profiles จากส่วนกลาง: ใช้เฉพาะ VM Images ที่ได้รับอนุมัติ สภาพแวดล้อม OpenShift ควรกำหนดค่า VM Profiles และ Platform State ผ่าน GitOps สภาพแวดล้อม Azure ควรสร้าง Golden Images ด้วย Packer และเผยแพร่ผ่าน Azure Compute Gallery
5. ใช้ GitOps สำหรับ Policy Intent: จัดเก็บ VM Profiles, กฎเครือข่าย, Metadata ของนโยบาย และข้อมูลการเผยแพร่ใน Git GitOps ควรสอดคล้องกับ Platform State ที่ต้องการ ในขณะที่ Signed Runtime Policy Bundles จะถูกแจกจ่ายผ่านช่องทางการเผยแพร่ที่ควบคุม
6. ปกป้อง Secrets และ Identity Flows: เก็บ Secrets ดิบให้ห่างจากกระบวนการ Agent ให้มากที่สุด การใช้งาน Azure ควรสันนิษฐานว่าใช้ Workload Identity Federation สำหรับการจัดเตรียมแบบ Secretless, Managed Identities สำหรับการเข้าถึง Runtime ของ VM, Azure Key Vault ผ่าน Private Endpoints และ Runtime Identity ที่จำกัดก่อนโค้ด Agent เริ่มทำงาน
7. รวมศูนย์ Audit และ Observability: บันทึกเหตุการณ์ Lifecycle ของ Workspace, เซสชัน Broker, การเผยแพร่นโยบาย, กิจกรรมการอนุญาต/ปฏิเสธเครือข่าย และเหตุการณ์ Runtime/Tool ส่ง Log ไปยัง SIEM ขององค์กร หรือ Logging Stack ของแพลตฟอร์ม เช่น Azure Monitor, Log Analytics, Microsoft Sentinel หรือเส้นทาง Audit ที่รองรับ OCSF

ผลลัพธ์สุดท้ายคือ รูปแบบ Secure Agent Workspace ที่ใช้งานได้จริง: VM แบบผู้ใช้เดี่ยวให้การแยกส่วน, GitOps ให้การดำเนินงานที่ทำซ้ำได้, Enterprise Identity ควบคุมการเข้าถึง, Network Policy จำกัดการเข้าถึง และ Runtime Enforcement เพิ่มชั้นนโยบายที่ลึกขึ้นเพื่อความปลอดภัยของ Autonomous Agent

เริ่มต้นนำ NVIDIA Secure Agent Workspace Reference Design ไปใช้งานใน Enterprise AI Factory ของคุณได้แล้ววันนี้

#AI #AIAgent #Cybersecurity #EnterpriseAI #NVIDIA

ขอบคุณ แหล่งข้อมูล
https://developer.nvidia.com/blog/how-to-govern-autonomous-agents-in-enterprise-ai-factories/

เทคนิค Regressive JPEG: เมื่อไฟล์ภาพ JPEG กลายเป็นวิดีโอสุดล้ำ

เคยสงสัยไหมว่าทำไมบางครั้งไฟล์รูปภาพ JPEG ที่กำลังโหลดอยู่ถึงแสดงผลเป็นภาพเบลอๆ หรือภาพความละเอียดต่ำก่อนที่จะคมชัดเต็มที่? นี่คือหนึ่งในความเจ๋งของไฟล์ JPEG ที่เรียกว่า "Progressive JPEG" ที่ทำให้เราสามารถเห็นภาพบางส่วนได้ก่อน แทนที่จะรอให้ไฟล์โหลดจนเสร็จสมบูรณ์

แต่จะเกิดอะไรขึ้นถ้าเราใช้เทคนิคนี้ให้สุดขีด? วันนี้เราจะมาเจาะลึกเบื้องหลังเทคนิคที่เรียกว่า Regressive JPEG ที่เปลี่ยนไฟล์ JPEG ธรรมดาให้กลายเป็นอะไรที่คาดไม่ถึง!

Progressive JPEG ทำงานอย่างไร?

ไฟล์ JPEG แบบ Progressive จะแบ่งข้อมูลที่ถูกบีบอัดออกเป็นหลายๆ ส่วนที่เรียกว่า "สแกน" (scan) โดยแต่ละสแกนจะมีส่วนหัว (header) กำกับไว้

• สแกนแรกๆ มักจะเก็บข้อมูลความถี่ต่ำ (low frequency components) ซึ่งก็คือภาพที่มีความละเอียดต่ำมากๆ หรือที่เรียกว่า "พรีวิว" (preview) นั่นเอง
• สแกนต่อๆ มา จะค่อยๆ เพิ่มรายละเอียด ทำให้ภาพมีความคมชัดมากขึ้นเรื่อยๆ จนสมบูรณ์

เทคนิคนี้มีประโยชน์มากในการแสดงผลภาพบนเครือข่ายที่ช้า เพราะผู้ใช้จะได้เห็นโครงร่างของภาพก่อน ทำให้รู้สึกว่าเว็บไซต์โหลดเร็วขึ้น

Regressive JPEG: การประยุกต์ใช้สุดล้ำ

จากหลักการของ Progressive JPEG ที่สแกนแต่ละอันสามารถเพิ่มรายละเอียดหรือ "เขียนทับ" ข้อมูลที่แสดงผลไปแล้วได้ ทำให้เกิดไอเดียสุดบรรเจิดคือการสร้างไฟล์ JPEG ที่เมื่อเปิดดูจะแสดงภาพสลับไปมา เหมือนกำลังเล่นวิดีโอ!

วิธีสร้างสุดง่าย (แต่ไม่ธรรมดา)

การสร้างไฟล์ Regressive JPEG ทำได้โดย:

1. นำไฟล์ JPEG หลายๆ ไฟล์ที่มีความละเอียดเท่ากันมาต่อกัน (concatenate)
2. ลบส่วนหัวและส่วนท้ายของไฟล์ JPEG แต่ละไฟล์ออก เพื่อให้เหลือแต่ข้อมูลภาพที่สามารถนำมาต่อกันได้
3. จัดเรียงสแกนข้อมูลใหม่ เพื่อให้เกิดการแสดงผลสลับภาพตามที่เราต้องการ

เมื่อนำไฟล์ที่ได้นี้ไปแสดงผลบนเครือข่ายที่ช้า หรือบนเบราว์เซอร์ที่รองรับการแสดงผลสแกนหลายๆ ครั้ง ไฟล์ JPEG นี้ก็จะค่อยๆ เปลี่ยนภาพไปเรื่อยๆ สร้างเป็นภาพเคลื่อนไหวได้!

ข้อจำกัดที่น่าสนใจ

แม้จะน่าทึ่ง แต่เทคนิคนี้ก็มีข้อจำกัดอยู่บ้าง:

• จำนวนเฟรม: เบราว์เซอร์ส่วนใหญ่จะมีข้อจำกัดในการแสดงผลสแกนจำนวนมาก เพื่อป้องกันปัญหาที่คล้ายกับ "Zip bomb" (ไฟล์ที่ใหญ่ผิดปกติ) ทำให้มักจะแสดงผลได้ไม่เกิน 9 เฟรม
• การปรับปรุง: เพื่อให้ได้จำนวนเฟรมที่มากขึ้นและทำงานได้ดีกับเบราว์เซอร์ส่วนใหญ่ จึงต้องปรับปรุงให้แต่ละเฟรมมีสแกนน้อยที่สุด และเน้นเฉพาะข้อมูล DC (ความถี่ต่ำ) เพื่อให้เบราว์เซอร์แสดงผลได้หลายเฟรมขึ้น (อาจถึง 90 เฟรม)
• ไม่มีข้อมูลเวลา: ไฟล์ Regressive JPEG ไม่มีข้อมูลเวลาในการแสดงผล ทำให้การเล่นวิดีโอขึ้นอยู่กับความเร็วในการโหลดของเครือข่ายเป็นหลัก

ความสนุกและประยุกต์ใช้ (แบบไม่จริงจัง)

ถึงแม้จะไม่มีการนำไปใช้งานจริงจังในเชิงพาณิชย์ แต่เทคนิค Regressive JPEG ก็เปิดโอกาสให้สร้างสรรค์สิ่งสนุกๆ ได้มากมาย เช่น:

• Rickrolls แบบใหม่: ซ่อนคลิปวิดีโอหรือข้อความที่ไม่คาดคิดไว้ในไฟล์ภาพ
• งานศิลปะดิจิทัล: สร้างสรรค์ภาพเคลื่อนไหวที่ซับซ้อนจากไฟล์ภาพเพียงไฟล์เดียว
• การทดลองแสดงผล: สำรวจพฤติกรรมการแสดงผลของเบราว์เซอร์ต่างๆ

นอกจากนี้ ยังมีการทดลองนำเทคนิคนี้ไปใช้สร้างแอปพลิเคชันที่ทำงานทั้งหมดบนหน้าเดียว โดยไม่ต้องใช้ CSS หรือ JavaScript เพิ่มเติม ทำให้ไฟล์มีขนาดเล็กและทำงานได้รวดเร็ว (หากเครือข่ายเอื้ออำนวย)

สรุป

Regressive JPEG เป็นตัวอย่างที่ยอดเยี่ยมของการนำคุณสมบัติอันชาญฉลาดของรูปแบบไฟล์อย่าง JPEG มาประยุกต์ใช้ในแบบที่คาดไม่ถึง มันแสดงให้เห็นว่าแม้แต่เทคโนโลยีที่ดูธรรมดา ก็สามารถสร้างสรรค์สิ่งใหม่ๆ ที่น่าทึ่งและสนุกสนานได้เสมอ!

#RegressiveJPEG #ProgressiveJPEG #เทคนิคไฟล์ภาพ #JPEG

ขอบคุณ แหล่งข้อมูล
https://maurycyz.com/projects/bad_jpeg/

หากคุณต้องการให้ฉันช่วยสร้างบทความ SEO ในหัวข้อใด โปรดระบุข้อมูลที่จำเป็นดังต่อไปนี้ค่ะ:

1. หัวข้อหลักของบทความ: (เช่น GPT-5, เทคโนโลยี AI, การแพทย์, หรือหัวข้ออื่น ๆ ที่คุณสนใจ)
2. คำหลัก (Keywords) ที่ต้องการเน้น: (ถ้ามี)
3. กลุ่มเป้าหมาย: (เช่น ผู้ใช้งานทั่วไป, ผู้เชี่ยวชาญ, นักศึกษา)
4. วัตถุประสงค์ของบทความ: (เช่น ให้ข้อมูล, แนะนำสินค้า/บริการ, เปรียบเทียบ)
5. ข้อมูลสำคัญที่ต้องการให้มีในบทความ: (เช่น ข้อดี, ข้อเสีย, วิธีการใช้งาน, กรณีศึกษา)

เมื่อได้รับข้อมูลที่ครบถ้วนแล้ว ฉันจะสามารถสร้างสรรค์บทความ SEO ที่มีคุณภาพ เป็นประโยชน์ และตรงตามเจตนาการค้นหาของผู้อ่านให้คุณได้ค่ะ

ขอบคุณ แหล่งข้อมูล
https://openai.com/index/gpt-5-immunology-mystery

MosaicLeaks: ตัวแทนงานวิจัยของคุณเก็บความลับได้หรือไม่? 🤫

ในยุคที่ตัวแทน AI สำหรับงานวิจัย (Research Agent) มีความสามารถสูงขึ้นเรื่อยๆ พวกมันสามารถเข้าถึงข้อมูลส่วนตัวภายในองค์กร ควบคู่ไปกับการใช้เครื่องมือภายนอก เช่น การค้นหาข้อมูลบนเว็บ ซึ่งอาจนำไปสู่ความเสี่ยงด้านความเป็นส่วนตัว ข้อมูลการค้นหาภายนอกของตัวแทนเหล่านี้อาจรั่วไหลข้อมูลที่ละเอียดอ่อนได้ บทความนี้จะแนะนำ "MosaicLeaks" ซึ่งเป็นแนวคิดการทดสอบตัวแทนงานวิจัยรูปแบบใหม่ ที่ใช้คำถามแบบหลายขั้นตอน (multi-hop questions) เพื่อตรวจสอบการรั่วไหลของข้อมูล โดยผสมผสานทั้งข้อมูลสาธารณะและข้อมูลส่วนตัว

ความเสี่ยงของการรั่วไหลข้อมูลในตัวแทนงานวิจัยเชิงลึก

ลองนึกภาพตัวแทนงานวิจัยในบริษัทด้านสุขภาพ กำลังทำงานตามปกติ และมีการค้นหาข้อมูลบนเว็บตามปกติ เช่น การค้นหาเกี่ยวกับการย้ายระบบคลาวด์, การเปิดเผยข้อมูลความปลอดภัยในเดือนมกราคม 2024 หรือการระบุผู้จำหน่ายที่ถูกโจมตี แม้ว่าการค้นหาแต่ละครั้งอาจดูไม่น่าสงสัย แต่หากมีใครคอยสังเกตการณ์การรับส่งข้อมูลภายนอกของตัวแทน ก็อาจปะติดปะต่อข้อมูลเหล่านี้เพื่อเปิดเผยความลับขององค์กรได้ เช่น ข้อมูลที่ว่าบริษัท MediConn ได้ย้ายโครงสร้างพื้นฐาน 70% ไปยังคลาวด์ภายในเดือนมกราคม 2025 ซึ่งเป็นข้อมูลที่อยู่ในเอกสารส่วนตัวเท่านั้น นี่คือ "Mosaic Effect" หรือปรากฏการณ์โมเสก ซึ่งเป็นจุดบกพร่องที่ MosaicLeaks มุ่งเน้น

MosaicLeaks มองว่าการค้นหาข้อมูลบนเว็บคือช่องทางการรั่วไหลข้อมูล โดยที่ผู้โจมตีไม่เห็นเอกสารส่วนตัวหรือกระบวนการคิดของตัวแทน แต่เห็นเพียงบันทึกการค้นหา (query log) และพยายามอนุมานข้อมูลองค์กรที่เป็นความลับจากบันทึกนั้น

เราวัดระดับการรั่วไหลของข้อมูลได้ 3 ระดับ ขึ้นอยู่กับว่าผู้โจมตีสามารถอนุมานอะไรได้บ้างจากบันทึกการค้นหาที่สังเกตเห็น:

1. Intent Leakage (การรั่วไหลเจตนา): เปิดเผยว่าตัวแทนกำลังสืบค้นเรื่องอะไร
2. Answer Leakage (การรั่วไหลคำตอบ): บันทึกการค้นหามีข้อมูลเพียงพอที่จะตอบคำถามส่วนตัวที่มีอยู่แล้ว
3. Full-Information Leakage (การรั่วไหลข้อมูลเต็ม): ผู้สังเกตการณ์สามารถค้นพบและระบุข้อเท็จจริงที่เป็นความลับได้ โดยไม่ต้องมีใครบอก

![Mosaic Effect Diagram](ขอบคุณ แหล่งข้อมูล
https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/MosaicLeaks/mosaic-effect.png)
ภาพประกอบ: Mosaic Effect กับการวัดระดับการรั่วไหล 3 แบบ (Intent, Answer, Full-Information) ตัวแทนค้นหาข้อมูลเกี่ยวกับ Lee's Market สองครั้งเกี่ยวกับการเติบโตของการเข้าชมในปี 2020 (รั่วไหลเจตนา) จากนั้นจึงทำการค้นหาครั้งที่สามเพื่อตอบคำถามต่อเนื่อง การค้นหาแต่ละครั้งดูเหมือนไม่มีพิษภัย แต่เมื่อรวมกันแล้ว ทำให้ผู้สังเกตการณ์สามารถอนุมานได้ว่าคำตอบคือ 15% และอ้างว่าการเข้าชมออนไลน์ของ Lee เติบโต 15% ในปี 2020

การสร้าง MosaicLeaks

MosaicLeaks ประกอบด้วยชุดคำถามวิจัยแบบหลายขั้นตอน (multi-hop research chains) จำนวน 1,001 ชุด โดยใช้เอกสารภายในองค์กรและชุดข้อมูลเว็บที่ควบคุม กลุ่มเป้าหมายคือการสร้างงานที่มีแนวโน้มสูงที่จะกระตุ้นให้เกิดการรั่วไหลของข้อมูลส่วนตัวจากเอกสารองค์กร แต่ก็ยังสามารถแก้ไขได้โดยไม่รั่วไหล

แต่ละชุดคำถามจะสลับระหว่างคำถามย่อยเกี่ยวกับข้อมูลภายในและข้อมูลบนเว็บ คำตอบของคำถามย่อยหนึ่งจะกลายเป็น "สะพาน" หรือ "เอนทิตี" ในขั้นตอนถัดไป ทำให้ตัวแทนต้องดึงข้อมูลภายในก่อนจึงจะสามารถสร้างคำค้นหาเว็บที่มีประโยชน์ในขั้นตอนต่อไปได้ เอกสารภายในมาจากงานประเภท DRBench-style enterprise ส่วนเอกสารเว็บมาจาก BrowseComp-Plus ชุดข้อมูลสุดท้ายแบ่งออกเป็น 559 ชุดสำหรับฝึกอบรม, 98 ชุดสำหรับตรวจสอบ (validation) และ 344 ชุดสำหรับทดสอบ (held-out-company test)

ตัวอย่าง: MediConn cloud migration chain
แม้ว่าการค้นหาเว็บครั้งสุดท้ายอาจไม่ได้มีข้อมูลส่วนตัวโดยตรงและสามารถตอบได้จากเอกสารเว็บสาธารณะ แต่เนื่องจากเส้นทางที่นำไปสู่การค้นหานั้นขึ้นอยู่กับข้อเท็จจริงภายในที่เป็นส่วนตัว การค้นหาที่ส่งต่อคำว่า "MediConn", "70%" และ "January" ก็เพียงพอให้ผู้โจมตีมีบริบทมากพอที่จะกู้คืนข้อมูลภายในได้

เราใช้ระบบตัวแทนที่ถูกปรับปรุงมาจาก DRBench ซึ่งโมเดลจะตอบคำถามย่อยแต่ละข้อพร้อมคำตอบสั้นๆ และเหตุผล ทำให้เราสามารถประเมินแต่ละขั้นตอนได้อย่างละเอียดด้วยการเปรียบเทียบสตริงที่ได้มาตรฐาน

ในแต่ละรอบ ตัวแทนสามารถใช้เครื่องมือได้ 4 อย่าง:

• Plan: สร้างคำค้นหาภายในและเว็บ ซึ่งจะถูกประมวลผลและส่งกลับเป็น "การ์ดเอกสาร"
• Choose: เลือกเอกสารที่ดึงมาเพื่ออ่าน
• Read: พยายามตอบคำถามปัจจุบันจากเอกสารที่เลือกพร้อมกัน
• Resolve: ตัดสินใจว่าจะตอบ, อ่านเอกสารเพิ่มเติม หรือวางแผนการค้นหาครั้งต่อไป

การป้องกันการรั่วไหล: ทำไมแค่สั่งให้ระวังถึงไม่พอ?

วิธีแก้ปัญหาที่ชัดเจนที่สุดคือการ "สั่ง" ตัวแทนให้ระวัง โดยการเพิ่มข้อความในพรอมต์ (prompt) เพื่อบอกให้ตัวแทนหลีกเลี่ยงการสร้างคำค้นหาเว็บที่อาจรั่วไหลข้อมูลภายในองค์กร แต่ผลที่ได้กลับไม่สม่ำเสมอและยังคงมีการรั่วไหลอย่างมีนัยสำคัญ นอกจากนี้ยังมักส่งผลเสียต่อประสิทธิภาพของงานด้วย

สำหรับโมเดล Qwen3-4B การใช้พรอมต์ช่วยลดการรั่วไหลของคำตอบ/ข้อมูลเต็มจาก 34.0% เหลือ 25.5% แต่ประสิทธิภาพในการตอบคำถามสำเร็จ (strict chain success) กลับลดลงจาก 48.7% เป็น 44.5% การเปลี่ยนแปลงพฤติกรรมหลักคือการลดจำนวนการค้นหาเว็บลง แต่ไม่ได้สร้างการค้นหาที่ปลอดภัยอย่างสม่ำเสมอ

![Prompting Privacy Graph](ขอบคุณ แหล่งข้อมูล
https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/MosaicLeaks/prompting-privacy.png)
ภาพประกอบ: ประสิทธิภาพ Strict Chain Success และการรั่วไหลของข้อมูลส่วนตัว ทั้งแบบมีและไม่มีพรอมต์ที่ห้ามการค้นหาเว็บที่อาจรั่วไหลข้อมูลภายใน พรอมต์ช่วยลดการรั่วไหลเล็กน้อยสำหรับบางโมเดล แต่ยังคงมีการรั่วไหลอย่างมีนัยสำคัญ

ยิ่งเก่ง ยิ่งรั่วไหล?

ก่อนที่จะฝึกอบรมด้านความเป็นส่วนตัว เราได้ลองทำสิ่งที่ตรงไปตรงมาที่สุด คือการฝึกตัวแทนให้ทำงานให้ถูกต้องมากขึ้น ซึ่งก็ได้ผล: Strict Chain Success เพิ่มขึ้นจาก 48.7% เป็น 59.3% แต่การรั่วไหลของคำตอบ/ข้อมูลเต็มกลับเพิ่มขึ้นตามไปด้วย จาก 34.0% เป็น 51.7% โมเดลเรียนรู้ที่จะใส่บริบทมากขึ้นในการค้นหาเว็บ ซึ่งช่วยให้ดึงเอกสารที่ถูกต้องได้ แต่กลับส่งผลเสียต่อความเป็นส่วนตัว เนื่องจากแต่ละคำค้นหาที่ละเอียดขึ้น ยิ่งทำให้ผู้สังเกตการณ์ได้รับข้อมูลมากขึ้น

นี่คือความขัดแย้งหลักที่ MosaicLeaks เปิดเผย: คำค้นหาที่มีข้อมูลมากขึ้นมักจะดีต่องาน แต่แย่ต่อความเป็นส่วนตัว PA-DR ถูกสร้างขึ้นเพื่อฝึกอบรมทั้งสองด้านไปพร้อมกัน

การสอนตัวแทนให้ค้นหาอย่างปลอดภัย: PA-DR

PA-DR (Privacy-Aware Deep Research) ผสมผสาน "รางวัล" (rewards) สองประเภท:

1. รางวัลตามสถานการณ์สำหรับงาน (Situational Task Reward): เส้นทางการวิจัยหนึ่งเส้นทางอาจมีการเรียกใช้โมเดลหลายสิบครั้ง การให้คะแนนสุดท้ายแบบเดียวกันทั้งหมดจึงมีความแม่นยำต่ำเกินไป การให้รางวัลตามสถานการณ์จะประเมินแต่ละการเรียกใช้ (call) เทียบกับ call อื่นๆ ที่ทำในขั้นตอนเดียวกันและมีข้อมูลเดียวกัน การเรียกใช้ Plan จะได้รับรางวัลสำหรับการค้นหาแหล่งข้อมูลที่ถูกต้องและดึงเอกสารที่ถูกต้อง หากเอกสารนั้นมีอยู่แล้ว จะได้รับรางวัลสำหรับการไม่ค้นหาซ้ำ การเรียกใช้ Choose จะได้รับรางวัลสำหรับการเลือกเอกสารที่ถือคำตอบ เราฝึกอบรมขั้นตอนเหล่านี้เนื่องจากพฤติกรรมที่ต้องการสามารถตรวจสอบได้โดยตรง
2. รางวัลความเป็นส่วนตัวที่เรียนรู้ (Learned Privacy Reward): เมื่อใดก็ตามที่ตัวแทนสร้างคำค้นหาเว็บ ตัวจำแนกประเภท (classifier) Qwen3-4B จะประเมินความเสี่ยงสองประการ: คำค้นหาปัจจุบันรั่วไหลข้อมูลส่วนตัวโดยตรงหรือไม่ และการเพิ่มคำค้นหาเหล่านั้นเข้าไปในบันทึกการค้นหาที่มีอยู่จะสร้างการรั่วไหลแบบโมเสกใหม่หรือไม่ PA-DR จะลงโทษค่าใช้จ่ายที่สูงกว่าของทั้งสองอย่าง ทำให้ค่าใช้จ่ายด้านความเป็นส่วนตัวตกอยู่กับการตัดสินใจวางแผนที่ทำให้บันทึกการค้นหามีการเปิดเผยมากขึ้น

![PA-DR Results Graph](ขอบคุณ แหล่งข้อมูล
https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/MosaicLeaks/pad-dr-results.png)
ภาพประกอบ: การฝึกอบรมด้วย Task-only RL ช่วยเพิ่มประสิทธิภาพการวิจัย แต่เพิ่มการรั่วไหล PA-DR รักษาส่วนใหญ่ของประสิทธิภาพที่เพิ่มขึ้นไว้ พร้อมทั้งลดการรั่วไหลลงอย่างมาก

ผลลัพธ์ที่ได้คือ 9.9% ซึ่งต่ำกว่าค่าเริ่มต้น 34.0% ของโมเดลพื้นฐาน การฝึกอบรมด้านความเป็นส่วนตัวไม่ได้เพียงแค่ยกเลิกการรั่วไหลที่เกิดจากการฝึกอบรมเพื่อประสิทธิภาพเท่านั้น แต่ยังทำให้ตัวแทนรั่วไหลน้อยกว่าตอนเริ่มต้นเสียอีก

และไม่ได้ปลอดภัยขึ้นด้วยการค้นหาน้อยลง PA-DR สร้างคำค้นหาเว็บมากกว่าโมเดลพื้นฐาน แต่คำค้นหาเหล่านั้นได้ตัดรายละเอียดที่เปิดเผยออกไป เช่น เมตริกเฉพาะเจาะจงอย่าง "15%" หรือ "2024" และเบาะแสเกี่ยวกับประเภทของคำตอบที่กำลังมองหา ตัวแทนยังคงสามารถค้นหาเอกสารสาธารณะที่ถูกต้องได้ เพียงแต่หยุดการนำข้อมูลส่วนตัวติดตัวไปในข้อความค้นหา

รางวัลตามสถานการณ์และประสิทธิภาพการใช้ข้อมูลตัวอย่าง

รางวัลตามสถานการณ์ให้ผลตอบแทนครั้งที่สองในระหว่างการฝึกอบรมเอง เนื่องจากเป็นการเปรียบเทียบการเรียกใช้ที่ตรงกัน แทนที่จะให้คะแนนการทำงานทั้งหมดเพียงครั้งเดียว จึงมีการให้เครดิตที่แม่นยำกว่ามาก โดยไม่ต้องมีโมเดลประเมินค่าแยกต่างหาก และไม่ต้องจัดเรียงดัชนีขั้นตอนข้ามการทำงาน นอกจากนี้ยังใช้ข้อมูลตัวอย่าง (sample) อย่างมีประสิทธิภาพมากกว่า: รางวัลตามสถานการณ์สำหรับงานบรรลุประสิทธิภาพงานเดียวกันกับ outcome-only RL โดยใช้ตัวอย่างที่สร้างขึ้นน้อยกว่าประมาณ 5-6 เท่า และ PA-DR ยังคงรักษาประสิทธิภาพนี้ไว้ได้พร้อมกับการเพิ่มผลประโยชน์ด้านความเป็นส่วนตัว

![Training Efficiency Graph](ขอบคุณ แหล่งข้อมูล
https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/MosaicLeaks/training-efficiency.png)
ภาพประกอบ: ประสิทธิภาพการฝึกอบรม คอลัมน์สุดท้ายคือจำนวนตัวอย่างที่แต่ละวิธีต้องการเพื่อบรรลุ Strict Chain Success ประมาณ 55% ค่าที่น้อยกว่าคือดีกว่า รางวัลตามสถานการณ์บรรลุความสำเร็จของงานเทียบเท่ากับรางวัลผลลัพธ์โดยใช้ตัวอย่างน้อยกว่าประมาณ 5-6 เท่า PA-DR รักษาส่วนแบ่งประสิทธิภาพการใช้ข้อมูลตัวอย่างไว้ได้ พร้อมทั้งลดการรั่วไหลลงอย่างมาก

ข้อสรุป: คุณไม่สามารถ "สั่ง" ให้ความเป็นส่วนตัวเกิดขึ้นได้ คุณต้อง "ฝึก" มันเข้าไป

MosaicLeaks เป็นชุดข้อมูลควบคุม ไม่ใช่การวัดการรั่วไหลในระบบที่ใช้งานจริง เอกสารองค์กรเป็นข้อมูลสังเคราะห์ ชุดข้อมูลเว็บถูกกำหนดไว้ คำถามครอบคลุมบริบทของบริษัทสามแห่ง และผลลัพธ์ทั้งหมดมาจากการทำงานของระบบตัวแทนเดียวที่ตอบคำถามแบบหลายขั้นตอน แทนที่จะเป็นการวิจัยแบบปลายเปิด การควบคุมนี้ทำให้สามารถวัดการรั่วไหลได้ทีละขั้นตอน แต่สำหรับงานที่กว้างกว่า ระบบที่ใช้งานจริง และการออกแบบตัวแทนอื่นๆ ยังคงต้องมีการศึกษาเพิ่มเติม

ข้อคิดที่ได้นั้นเรียบง่าย: คุณไม่สามารถสั่งให้ความเป็นส่วนตัวเกิดขึ้นได้ คุณต้องฝึกมันเข้าไป การบอกให้ตัวแทนระมัดระวังแทบจะไม่ส่งผลอะไรเลย ในขณะที่การให้รางวัลแก่การสร้างคำค้นหาแต่ละครั้ง สามารถลดการรั่วไหลได้มากกว่า 3 เท่า โดยที่ประสิทธิภาพของงานยังคงเดิม ปรากฏการณ์โมเสกเกิดจากวิธีการที่ตัวแทนค้นหาข้อมูลเมื่อเวลาผ่านไป ซึ่งกลายเป็นสิ่งที่สามารถวัดผล ให้เครดิต และฝึกฝนเพื่อลดลงได้

คำถามที่พบบ่อย

MosaicLeaks คืออะไร?

MosaicLeaks คือชุดข้อมูลและแนวคิดการทดสอบตัวแทนงานวิจัยรูปแบบใหม่ ที่ออกแบบมาเพื่อประเมินความเสี่ยงของการรั่วไหลข้อมูลส่วน

ขอบคุณ แหล่งข้อมูล
https://huggingface.co/blog/ServiceNow/mosaicleaks