NVIDIA Nemotron 3 Embed: โมเดลฝังตัวที่ก้าวล้ำเพื่อการค้นหาขั้นสูง

ในยุคที่ปัญญาประดิษฐ์ (AI) พัฒนาไปอย่างรวดเร็ว การค้นหาข้อมูลที่แม่นยำและมีประสิทธิภาพเป็นหัวใจสำคัญของแอปพลิเคชันอัจฉริยะต่างๆ โดยเฉพาะอย่างยิ่งในการสร้างระบบ Agentic Retrieval ที่ซับซ้อน NVIDIA ได้เปิดตัว NVIDIA Nemotron 3 Embed ซึ่งเป็นชุดโมเดลฝังตัว (Embedding Models) แบบเปิด (Open) ที่พร้อมใช้งานเชิงพาณิชย์ เพื่อยกระดับคุณภาพการค้นหาให้ดียิ่งขึ้น พร้อมมอบทางเลือกในการนำไปใช้งานจริงสำหรับระบบ RAG (Retrieval-Augmented Generation) ขนาดใหญ่, Agentic Retrieval, การค้นหาโค้ด และการจัดการหน่วยความจำของ Agent

Nemotron 3 Embed: ความสำเร็จบน RTEB และประสิทธิภาพที่เหนือกว่า

Nemotron 3 Embed ประกอบด้วยโมเดลแบบเปิด 3 รูปแบบ ที่ได้รับการพิสูจน์แล้วว่าให้ผลลัพธ์การค้นหาที่ยอดเยี่ยม โดยมีโมเดลขนาด 8B เป็นตัวชูโรง ซึ่งสามารถ ขึ้นอันดับ 1 ของลีดเดอร์บอร์ด RTEB (Retrieval-Augmented Generation Benchmark) ได้สำเร็จ นอกจากนี้ยังมีโมเดลขนาด 1B ที่มีประสิทธิภาพสูง ซึ่งออกแบบมาเพื่อการใช้งานในระดับ Production โดยเฉพาะ

ผลลัพธ์เด่นบนลีดเดอร์บอร์ด RTEB

Nemotron-3-Embed-8B-BF16 ได้รับการจัดอันดับเป็น อันดับที่ 1 บนลีดเดอร์บอร์ด RTEB (ข้อมูล ณ วันที่ 15 กรกฎาคม 2026) แสดงให้เห็นถึงความสามารถในการทำความเข้าใจและดึงข้อมูลที่เกี่ยวข้องได้อย่างแม่นยำ

ฟีเจอร์สำคัญสำหรับระบบ Retrieval ระดับองค์กร

นอกเหนือจากผลลัพธ์ที่ยอดเยี่ยมบน Benchmark แล้ว Nemotron 3 Embed ยังมาพร้อมกับชุดฟีเจอร์ที่พร้อมใช้งานจริงสำหรับระบบ Retrieval ในระดับองค์กร:

  • Open Weights, Datasets, and Recipes: เปิดโอกาสให้ทีมพัฒนาสามารถตรวจสอบ, ปรับแต่ง (Tune), หรือ Fine-tune โมเดล และนำไปใช้งานบนโครงสร้างพื้นฐานของตนเองได้อย่างเต็มที่
  • 32k Context Window: รองรับการค้นหาข้อมูลในเอกสารขนาดยาว, บริบทโค้ดขนาดใหญ่, และประวัติการสนทนาของ Agent ที่ยาวนาน ช่วยลดปัญหาการตัดข้อมูล (Truncation)
  • Multilingual & Code Retrieval: สนับสนุนการค้นหาข้อมูลข้ามภาษาทั่วโลก, เอกสารทางเทคนิค, และคลังโค้ดที่มีหลายไฟล์
  • NVIDIA NVFP4 Efficiency: มอบเส้นทางการปรับใช้แบบ 4-bit ที่ปรับให้เหมาะสมกับสถาปัตยกรรม Blackwell ของ NVIDIA เพื่อการค้นหาที่มี Throughput สูงและใช้หน่วยความจำน้อยลง
  • Fine-Tuning and Distillation Recipes: สูตรสำเร็จจาก NVIDIA NeMo AutoModel ช่วยให้สามารถปรับโมเดลให้เข้ากับข้อมูลเฉพาะทาง (Domain Adaptation) และการบีบอัดโมเดล (Model Compression) ได้
  • Day-0 Ecosystem Integration: พร้อมใช้งานทันทีบน Hugging Face, สามารถนำไปปรับใช้เป็น NVIDIA NIM microservice, รองรับโดย vLLM, และเข้าถึงได้ผ่านพันธมิตร AI Cloud และ Inference ชั้นนำ

การประเมินผล: คุณภาพการค้นหา, ประสิทธิภาพของ Agent, และการนำไปใช้

การประเมิน Nemotron 3 Embed ครอบคลุม 3 มิติหลัก ได้แก่ คุณภาพการค้นหา, ประสิทธิภาพของ Agent ในการทำงานที่ซับซ้อน, และการประเมินผลลัพธ์จากการนำไปใช้งาน โมเดลขนาด 8B แสดงถึงศักยภาพสูงสุดของชุดโมเดลนี้ ในขณะที่โมเดล 1B BF16 และ NVFP4 นำเสนอการออกแบบที่เน้นการค้นหาไปสู่การใช้งานที่ประหยัดต้นทุนและมี Throughput สูงขึ้น

ความแม่นยำที่เหนือกว่าบน Benchmark การค้นหา

Nemotron-3-Embed-8B-BF16 ได้รับคะแนน 78.5% บน RTEB และ 75.5% บน MMTEB Retrieval ซึ่งเป็นผลลัพธ์ที่โดดเด่น

สำหรับโมเดล Nemotron-3-Embed-1B-BF16 สามารถรักษาคุณภาพการค้นหาของโมเดล 8B ไว้ได้มาก โดยมีคะแนน 72.4% บน RTEB และ 71.0% บน MMTEB Retrieval ซึ่งลดอัตราข้อผิดพลาดลงอย่างเห็นได้ชัดเมื่อเทียบกับรุ่นก่อนหน้า

ทำไมการค้นหาที่ดีจึงสำคัญสำหรับ Agent?

การประเมินประสิทธิภาพของ Agent ในการทำงานจริง แสดงให้เห็นว่า การค้นหาข้อมูลที่แม่นยำยิ่งขึ้นช่วยลดต้นทุนการประมวลผลของ Agent ได้อย่างมาก เมื่อ Agent ได้รับข้อมูลที่เกี่ยวข้องตั้งแต่เนิ่นๆ จะช่วยหลีกเลี่ยงการค้นหาซ้ำซ้อน, การประมวลผลที่ไม่จำเป็น, และการตรวจสอบบริบทที่มากเกินไป Nemotron 3 Embed ช่วยพัฒนาขีดความสามารถของ Agentic Retrieval ให้ดียิ่งขึ้น

การปรับขนาดการค้นหาด้วย NVFP4 บน Blackwell

สำหรับระบบที่ต้องการ Throughput สูง การเลือกใช้โมเดลฝังตัวขนาดเล็กมักเป็นทางเลือกเพื่อตอบสนองเป้าหมายด้าน Latency และต้นทุน Nemotron-3-Embed-1B-NVFP4 ถูกออกแบบมาเพื่อลดช่องว่างระหว่างประสิทธิภาพในการให้บริการ (Serving Efficiency) และคุณภาพการค้นหา โดยใช้การเร่งความเร็ว NVFP4 แบบ Native บนสถาปัตยกรรม NVIDIA Blackwell โมเดลนี้ทำการ Quantize น้ำหนัก (Weights) และ Activation ของ Linear Layers ไปเป็น NVFP4 เพื่อการ Inference ที่มีประสิทธิภาพ และใช้ Quantization-Aware Distillation (QAD) เพื่อรักษาความแม่นยำสำหรับ Input Sequence ที่ยาว

ประสิทธิภาพการให้บริการที่เหนือกว่า

NVFP4 บน Blackwell ให้ Throughput ที่สูงขึ้นถึง 2 เท่า เมื่อเทียบกับ BF16 สำหรับการให้บริการแบบ High-throughput และ Low-latency พร้อมทั้งรักษาความแม่นยำในการค้นหาได้มากกว่า 99% เมื่อเทียบกับ BF16 ในขณะที่ลดการใช้หน่วยความจำลง

การผสานรวมกับ Ecosystem และการนำไปใช้งานจริง

Nemotron 3 Embed ได้รับการประเมินผลจากพันธมิตรองค์กรชั้นนำในหลากหลายอุตสาหกรรม ทั้งด้าน Agentic Retrieval, Agent Memory, Code Retrieval, และ Workflow การ Inference ระดับ Production

  • Automation Anywhere: "ผลลัพธ์เบื้องต้นจากโมเดล NVIDIA Nemotron 3 Embed ใหม่นั้นน่าประทับใจ โดยเฉพาะอย่างยิ่งในการตอบคำถาม ซึ่งแสดงให้เห็นถึงการปรับปรุงเมื่อเทียบกับโมเดลปัจจุบันของเรา"
  • Boomi: "ความพร้อมของโมเดลทั้งขนาด 1B และ 8B ช่วยให้ทีมมีความยืดหยุ่นในการปรับสมดุลระหว่างคุณภาพ, Latency, และข้อกำหนดในการนำไปใช้งาน"
  • IBM: "ได้เห็นผลลัพธ์เบื้องต้นที่น่าสนใจจากการประเมินโมเดล NVIDIA Nemotron 3 Embed ใน Proof-of-Concept ที่สร้างขึ้นบน watsonx.data"
  • Zep: "ในการทดสอบภายในเบื้องต้นเทียบกับโมเดลอื่นๆ ที่ Zep ใช้ Nemotron 3 Embed 1B สามารถจัดอันดับเป็นอันดับแรกในทุกงาน Memory Retrieval"

การสร้างโมเดล Nemotron 3 Embed

โมเดล Nemotron-3-Embed-8B-BF16 ถูกพัฒนาต่อยอดจาก Mistral-3-8B-Instruct-2512 โดยปรับเปลี่ยน Causal Decoder ให้เป็น Bidirectional Encoder สำหรับการค้นหาข้อมูลแบบเต็ม Sequence และผ่านการฝึกอบรมแบบ Contrastive Pre-training บนข้อมูล Text Pairs ที่ได้จากเว็บและข้อมูลสังเคราะห์ จากนั้นจึงทำการ Fine-tune ด้วยชุดข้อมูลการค้นหาแบบ Multilingual ที่คัดสรรมาอย่างดี

สำหรับโมเดล Nemotron-3-Embed-1B เป็นกระบวนการที่ซับซ้อน โดยเริ่มจากการปรับใช้สูตร Bidirectional Adaptation กับ Mistral-3-3B-Instruct-2512 เป็นฐาน จากนั้นจึงทำการบีบอัดผ่านการทำ Structured Pruning และ Distillation สองรอบ โดยใช้ NVIDIA ModelOpt's Neural Architecture Search engine

ขอบคุณ แหล่งข้อมูล
https://huggingface.co/blog/nvidia/nemotron-3-embed-wins-rteb

NVIDIA Nemotron 3 Embed: โมเดลฝังตัวที่ก้าวล้ำเพื่อการค้นหาขั้นสูงในยุคที่ปัญญาประดิษฐ์ (AI) พัฒนาไปอย่างรวดเร็ว การค้นหาข้อมูลที่แม่นยำและมีประสิทธิภาพเป็นหัวใจสำคัญของแอปพลิเคชันอัจฉริยะต่างๆ โดยเฉพาะอย่างยิ่งในการสร้างระบบ Agentic Retrieval ที่ซับซ้อน NVIDIA ได้เปิดตัว NVIDIA Nemotron 3 Embed ซึ่งเป็นชุดโมเดลฝังตัว (Embedding Models) แบบเปิด (Open) ที่พร้อมใช้งานเชิงพาณิชย์ เพื่อยกระดับคุณภาพการค้นหาให้ดียิ่งขึ้น พร้อมมอบทางเลือกในการนำไปใช้งานจริงสำหรับระบบ RAG (Retrieval-Augmented Generation) ขนาดใหญ่, Agentic Retrieval, การค้นหาโค้ด และการจัดการหน่วยความจำของ AgentNemotron 3 Embed: ความสำเร็จบน RTEB และประสิทธิภาพที่เหนือกว่าNemotron 3 Embed ประกอบด้วยโมเดลแบบเปิด 3 รูปแบบ ที่ได้รับการพิสูจน์แล้วว่าให้ผลลัพธ์การค้นหาที่ยอดเยี่ยม โดยมีโมเดลขนาด 8B เป็นตัวชูโรง ซึ่งสามารถ ขึ้นอันดับ 1 ของลีดเดอร์บอร์ด RTEB (Retrieval-Augmented Generation Benchmark) ได้สำเร็จ นอกจากนี้ยังมีโมเดลขนาด 1B ที่มีประสิทธิภาพสูง ซึ่งออกแบบมาเพื่อการใช้งานในระดับ Production โดยเฉพาะผลลัพธ์เด่นบนลีดเดอร์บอร์ด RTEBNemotron-3-Embed-8B-BF16 ได้รับการจัดอันดับเป็น อันดับที่ 1 บนลีดเดอร์บอร์ด RTEB (ข้อมูล ณ วันที่ 15 กรกฎาคม 2026) แสดงให้เห็นถึงความสามารถในการทำความเข้าใจและดึงข้อมูลที่เกี่ยวข้องได้อย่างแม่นยำฟีเจอร์สำคัญสำหรับระบบ Retrieval ระดับองค์กรนอกเหนือจากผลลัพธ์ที่ยอดเยี่ยมบน Benchmark แล้ว Nemotron 3 Embed ยังมาพร้อมกับชุดฟีเจอร์ที่พร้อมใช้งานจริงสำหรับระบบ Retrieval ในระดับองค์กร:Open Weights, Datasets, and Recipes: เปิดโอกาสให้ทีมพัฒนาสามารถตรวจสอบ, ปรับแต่ง (Tune), หรือ Fine-tune โมเดล และนำไปใช้งานบนโครงสร้างพื้นฐานของตนเองได้อย่างเต็มที่32k Context Window: รองรับการค้นหาข้อมูลในเอกสารขนาดยาว, บริบทโค้ดขนาดใหญ่, และประวัติการสนทนาของ Agent ที่ยาวนาน ช่วยลดปัญหาการตัดข้อมูล (Truncation)Multilingual & Code Retrieval: สนับสนุนการค้นหาข้อมูลข้ามภาษาทั่วโลก, เอกสารทางเทคนิค, และคลังโค้ดที่มีหลายไฟล์NVIDIA NVFP4 Efficiency: มอบเส้นทางการปรับใช้แบบ 4-bit ที่ปรับให้เหมาะสมกับสถาปัตยกรรม Blackwell ของ NVIDIA เพื่อการค้นหาที่มี Throughput สูงและใช้หน่วยความจำน้อยลงFine-Tuning and Distillation Recipes: สูตรสำเร็จจาก NVIDIA NeMo AutoModel ช่วยให้สามารถปรับโมเดลให้เข้ากับข้อมูลเฉพาะทาง (Domain Adaptation) และการบีบอัดโมเดล (Model Compression) ได้Day-0 Ecosystem Integration: พร้อมใช้งานทันทีบน Hugging Face, สามารถนำไปปรับใช้เป็น NVIDIA NIM microservice, รองรับโดย vLLM, และเข้าถึงได้ผ่านพันธมิตร AI Cloud และ Inference ชั้นนำการประเมินผล: คุณภาพการค้นหา, ประสิทธิภาพของ Agent, และการนำไปใช้การประเมิน Nemotron 3 Embed ครอบคลุม 3 มิติหลัก ได้แก่ คุณภาพการค้นหา, ประสิทธิภาพของ Agent ในการทำงานที่ซับซ้อน, และการประเมินผลลัพธ์จากการนำไปใช้งาน โมเดลขนาด 8B แสดงถึงศักยภาพสูงสุดของชุดโมเดลนี้ ในขณะที่โมเดล 1B BF16 และ NVFP4 นำเสนอการออกแบบที่เน้นการค้นหาไปสู่การใช้งานที่ประหยัดต้นทุนและมี Throughput สูงขึ้นความแม่นยำที่เหนือกว่าบน Benchmark การค้นหาNemotron-3-Embed-8B-BF16 ได้รับคะแนน 78.5% บน RTEB และ 75.5% บน MMTEB Retrieval ซึ่งเป็นผลลัพธ์ที่โดดเด่นสำหรับโมเดล Nemotron-3-Embed-1B-BF16 สามารถรักษาคุณภาพการค้นหาของโมเดล 8B ไว้ได้มาก โดยมีคะแนน 72.4% บน RTEB และ 71.0% บน MMTEB Retrieval ซึ่งลดอัตราข้อผิดพลาดลงอย่างเห็นได้ชัดเมื่อเทียบกับรุ่นก่อนหน้าทำไมการค้นหาที่ดีจึงสำคัญสำหรับ Agent?การประเมินประสิทธิภาพของ Agent ในการทำงานจริง แสดงให้เห็นว่า การค้นหาข้อมูลที่แม่นยำยิ่งขึ้นช่วยลดต้นทุนการประมวลผลของ Agent ได้อย่างมาก เมื่อ Agent ได้รับข้อมูลที่เกี่ยวข้องตั้งแต่เนิ่นๆ จะช่วยหลีกเลี่ยงการค้นหาซ้ำซ้อน, การประมวลผลที่ไม่จำเป็น, และการตรวจสอบบริบทที่มากเกินไป Nemotron 3 Embed ช่วยพัฒนาขีดความสามารถของ Agentic Retrieval ให้ดียิ่งขึ้นการปรับขนาดการค้นหาด้วย NVFP4 บน Blackwellสำหรับระบบที่ต้องการ Throughput สูง การเลือกใช้โมเดลฝังตัวขนาดเล็กมักเป็นทางเลือกเพื่อตอบสนองเป้าหมายด้าน Latency และต้นทุน Nemotron-3-Embed-1B-NVFP4 ถูกออกแบบมาเพื่อลดช่องว่างระหว่างประสิทธิภาพในการให้บริการ (Serving Efficiency) และคุณภาพการค้นหา โดยใช้การเร่งความเร็ว NVFP4 แบบ Native บนสถาปัตยกรรม NVIDIA Blackwell โมเดลนี้ทำการ Quantize น้ำหนัก (Weights) และ Activation ของ Linear Layers ไปเป็น NVFP4 เพื่อการ Inference ที่มีประสิทธิภาพ และใช้ Quantization-Aware Distillation (QAD) เพื่อรักษาความแม่นยำสำหรับ Input Sequence ที่ยาวประสิทธิภาพการให้บริการที่เหนือกว่าNVFP4 บน Blackwell ให้ Throughput ที่สูงขึ้นถึง 2 เท่า เมื่อเทียบกับ BF16 สำหรับการให้บริการแบบ High-throughput และ Low-latency พร้อมทั้งรักษาความแม่นยำในการค้นหาได้มากกว่า 99% เมื่อเทียบกับ BF16 ในขณะที่ลดการใช้หน่วยความจำลงการผสานรวมกับ Ecosystem และการนำไปใช้งานจริงNemotron 3 Embed ได้รับการประเมินผลจากพันธมิตรองค์กรชั้นนำในหลากหลายอุตสาหกรรม ทั้งด้าน Agentic Retrieval, Agent Memory, Code Retrieval, และ Workflow การ Inference ระดับ ProductionAutomation Anywhere: "ผลลัพธ์เบื้องต้นจากโมเดล NVIDIA Nemotron 3 Embed ใหม่นั้นน่าประทับใจ โดยเฉพาะอย่างยิ่งในการตอบคำถาม ซึ่งแสดงให้เห็นถึงการปรับปรุงเมื่อเทียบกับโมเดลปัจจุบันของเรา"Boomi: "ความพร้อมของโมเดลทั้งขนาด 1B และ 8B ช่วยให้ทีมมีความยืดหยุ่นในการปรับสมดุลระหว่างคุณภาพ, Latency, และข้อกำหนดในการนำไปใช้งาน"IBM: "ได้เห็นผลลัพธ์เบื้องต้นที่น่าสนใจจากการประเมินโมเดล NVIDIA Nemotron 3 Embed ใน Proof-of-Concept ที่สร้างขึ้นบน watsonx.data"Zep: "ในการทดสอบภายในเบื้องต้นเทียบกับโมเดลอื่นๆ ที่ Zep ใช้ Nemotron 3 Embed 1B สามารถจัดอันดับเป็นอันดับแรกในทุกงาน Memory Retrieval"การสร้างโมเดล Nemotron 3 Embedโมเดล Nemotron-3-Embed-8B-BF16 ถูกพัฒนาต่อยอดจาก Mistral-3-8B-Instruct-2512 โดยปรับเปลี่ยน Causal Decoder ให้เป็น Bidirectional Encoder สำหรับการค้นหาข้อมูลแบบเต็ม Sequence และผ่านการฝึกอบรมแบบ Contrastive Pre-training บนข้อมูล Text Pairs ที่ได้จากเว็บและข้อมูลสังเคราะห์ จากนั้นจึงทำการ Fine-tune ด้วยชุดข้อมูลการค้นหาแบบ Multilingual ที่คัดสรรมาอย่างดีสำหรับโมเดล Nemotron-3-Embed-1B เป็นกระบวนการที่ซับซ้อน โดยเริ่มจากการปรับใช้สูตร Bidirectional Adaptation กับ Mistral-3-3B-Instruct-2512 เป็นฐาน จากนั้นจึงทำการบีบอัดผ่านการทำ Structured Pruning และ Distillation สองรอบ โดยใช้ NVIDIA ModelOpt's Neural Architecture Search enginehttps://huggingface.co/blog/nvidia/nemotron-3-embed-wins-rteb
3 Comentários 0 Compartilhamentos 368 Visualizações 0 Anterior