เปลี่ยนโมเดล Hugging Face เป็น SageMaker Studio ได้ในคลิกเดียว 🖱️

เคยไหมที่เจอโมเดล AI เจ๋งๆ บน Hugging Face แล้วอยากลองใช้ทันที แต่ต้องมานั่งตั้งค่าหลายขั้นตอนบน Amazon SageMaker Studio ตั้งแต่เปิดคอนโซล, สร้างโดเมน, ตั้งค่าสิทธิ์ IAM จนถึงขอโควตา GPU? ล่าสุด Amazon ได้เปิดตัวฟีเจอร์ใหม่ที่ช่วยลดขั้นตอนเหล่านี้ลง ทำให้การเปลี่ยนจากโมเดลที่ค้นพบไปสู่การใช้งานจริงบน SageMaker Studio ทำได้ง่ายและรวดเร็วขึ้นมาก

เส้นทางที่สั้นลง จากการค้นพบสู่การใช้งานจริง 🚀

ก่อนหน้านี้ การจะเริ่มใช้ SageMaker Studio หลังเจอโมเดลที่ถูกใจบน Hugging Face ต้องผ่านหลายขั้นตอนที่อาจทำให้เสียเวลาและขาดตอนในการทดลอง แต่ด้วยการผสานรวมครั้งนี้ ทุกอย่างจะง่ายขึ้นกว่าเดิม

> "ที่ Arcee เราสร้างโมเดลแบบเปิด (Open Models) เพื่อให้นักพัฒนาและองค์กรสามารถควบคุมสิ่งที่รันได้อย่างแท้จริง ทั้งการตรวจสอบน้ำหนักโมเดล (weights), การฝึกฝนเพิ่มเติมด้วยข้อมูลของตัวเอง และการนำไปใช้งานตามเงื่อนไขของตนเอง การผสานรวมนี้ช่วยให้การใช้งานสมบูรณ์แบบยิ่งขึ้น การเปลี่ยนจากโมเดลเปิดบน Hugging Face ไปสู่ SageMaker Studio ได้ในคลิกเดียว จากนั้นจึงทำการ Fine-tune หรือ Deploy ภายในสภาพแวดล้อม AWS ของคุณเอง โดยไม่ต้องตั้งค่าอะไรเพิ่มเติม คือประสบการณ์ที่โมเดลเปิดขาดหายไปมาตลอด น้ำหนักโมเดลแบบเปิดที่คุณเป็นเจ้าของ รันบนคลาวด์ที่คุณควบคุมได้ นี่คือสิ่งที่ลูกค้าของเราต้องการอย่างแท้จริง"
>
> — Mark McQuade, Founder and CEO, Arcee AI

ฟีเจอร์ใหม่ที่ช่วยให้การทำงานราบรื่นขึ้น

การเปิดตัว "One-click Studio landing experience" ทำให้การเลือก "Customize on SageMaker AI" หรือ "Deploy on SageMaker AI" บนหน้าโมเดลที่รองรับบน Hugging Face จะพาคุณตรงไปยังคอนโซล SageMaker Studio ทันที ระบบจะทำการสร้างโดเมนใหม่พร้อมการตั้งค่าสิทธิ์ที่จำเป็นให้โดยอัตโนมัติภายในเวลาไม่กี่วินาที และส่งต่อข้อมูลโมเดลที่คุณเลือกไปให้ด้วย

ฟีเจอร์ใหม่นี้ประกอบด้วย 3 ความสามารถหลัก ที่ช่วยย่นระยะเวลาจากโมเดล Hugging Face ไปสู่เวิร์กโฟลว์ SageMaker Studio ที่พร้อมใช้งาน:

1. Deep Links จาก Hugging Face สู่ SageMaker Studio 🔗

เมื่อคุณเรียกดูโมเดลบน Hugging Face คุณจะเห็นปุ่มแอ็คชันที่เชื่อมโยงโดยตรงกับเวิร์กโฟลว์ของ SageMaker Studio สำหรับโมเดลที่รองรับ:

  • Customize on SageMaker AI: เปิดหน้า "Model Customization" ใน Studio โดยโหลดโมเดลที่เลือกไว้ให้พร้อมสำหรับการ Fine-tune
  • Deploy on SageMaker AI: เปิดหน้า "Deployment" ใน Studio โดยตั้งค่าโมเดลไว้ล่วงหน้าสำหรับการ Deploy เป็น Endpoint

แต่ละจุดเชื่อมต่อนั้นจะรักษา "บริบท" ของโมเดลไว้ ทำให้คุณไม่ต้องเสียเวลาค้นหาโมเดลอีกครั้งเมื่อเข้าไปใน Studio

2. การตั้งค่าสิทธิ์ที่ตั้งค่าไว้ล่วงหน้า ✅

สภาพแวดล้อม Studio ใหม่ที่สร้างผ่านกระบวนการนี้ จะมาพร้อมกับการตั้งค่าสิทธิ์ที่ครอบคลุมความสามารถทั้งหมดของ SageMaker Studio รวมถึงการปรับแต่งโมเดล, การเทรนงาน (Training Jobs), การทดลองบน Notebook, และการ Deploy Endpoint

มีการสร้างและแนบ Managed Policy ใหม่ชื่อ AmazonSageMakerModelCustomizationCoreAccess ให้โดยอัตโนมัติ ซึ่งให้สิทธิ์สำหรับการปรับแต่งโมเดลแบบ Serverless ผ่าน Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO), Reinforcement Learning with Verifiable Rewards (RLVR), และ Reinforcement Learning from AI Feedback (RLAIF) พร้อมรองรับการ Deploy ไปยัง Endpoint บน SageMaker Studio หรือ Amazon Bedrock

สิ่งนี้ช่วยลดความจำเป็นในการสร้างและตั้งค่า IAM Roles และ Policies ด้วยตนเองก่อนเริ่มทดลอง สำหรับสภาพแวดล้อม Studio ที่มีอยู่แล้ว จะมีข้อความแนะนำพร้อมลิงก์ไปยังเอกสารที่ช่วยในการเพิ่มสิทธิ์เหล่านี้

3. การแสดงผลโควตา GPU ที่ชัดเจน 📊

เมื่อเลือกประเภท Instance สำหรับการ Deploy หรือเทรน UI ของ Studio จะแสดงความพร้อมใช้งานของโควตา GPU ให้เห็นโดยตรงในรายการเลือก Instance คุณจะเห็นทันทีว่า Instance ประเภท GPU ใด (เช่น G5, G6) ที่มีให้ใช้งานภายใต้ขีดจำกัดปัจจุบันของบัญชีของคุณ โดยไม่ต้องเข้าไปตรวจสอบที่ Service Quotas แยกต่างหาก หากคุณยังต้องการขอเพิ่มขีดจำกัด ระบบจะส่งคุณไปยังหน้า Service Quotas ของ Instance ประเภทนั้นๆ โดยตรง

ทดลองใช้งานจริง: จาก Hugging Face สู่ SageMaker Studio 🛠️

มาดูขั้นตอนการปรับแต่งหรือ Deploy โมเดล โดยเริ่มจาก Hugging Face กัน

  1. ค้นหาและเลือกโมเดล: บนหน้าโมเดลของ Hugging Face คลิก "Deploy" แล้วเลือก "Amazon SageMaker AI" หากโมเดลรองรับ คุณจะเห็นปุ่ม "Deploy on SageMaker AI" และ "Customize on SageMaker AI" จากนั้นเลือก "Customize on SageMaker AI" สำหรับโมเดลที่รองรับ
  2. ลงชื่อเข้าใช้ AWS: คุณจะถูกขอให้ลงชื่อเข้าใช้ AWS ด้วยข้อมูลประจำตัวของคุณ หากคุณมีเซสชันคอนโซลที่ใช้งานอยู่แล้ว ขั้นตอนนี้จะข้ามไปโดยอัตโนมัติ
  3. เข้าสู่ Studio: คุณจะมาถึงหน้า "Model Customization" ใน SageMaker Studio ทันที พร้อมโหลดโมเดลที่เลือกไว้ให้เรียบร้อย จากนั้นตั้งค่าพารามิเตอร์สำหรับการ Fine-tune เช่น ข้อมูลการเทรน, Hyperparameters, และประเภท Instance แล้วส่ง Job การปรับแต่ง
  • หรือหากเลือก "Deploy on SageMaker AI" จะเป็นการเปิดหน้าการ Deploy Endpoint ใน Studio พร้อมตั้งค่าโมเดลไว้ให้แล้ว เลือกประเภท Instance (พร้อมแสดงโควตา) ตรวจสอบการตั้งค่า และทำการ Deploy
  1. ทดสอบ Endpoint: หลังจาก Deploy Endpoint แล้ว สามารถทดสอบการ Inference ได้โดยตรงจากอินเทอร์เฟซทดสอบ Endpoint ของ Studio

คุณสามารถลองประสบการณ์นี้ได้แล้ววันนี้:

  • เรียกดูโมเดลบน Hugging Face
  • มองหาปุ่ม "Customize on SageMaker AI" หรือ "Deploy on SageMaker AI" บนโมเดลที่รองรับ
  • เลือกและทำตามขั้นตอนการลงชื่อเข้าใช้ที่ง่ายขึ้น
  • เริ่มสร้างสรรค์ผลงานในสภาพแวดล้อม SageMaker Studio ที่ตั้งค่าสมบูรณ์แล้ว

การเปิดตัวประสบการณ์ One-click Studio landing experience ช่วยลดอุปสรรคระหว่างการค้นพบโมเดลและการทดลองใช้งานได้อย่างมาก ด้วยการเชื่อมโยง Hugging Face เข้ากับเวิร์กโฟลว์ของ SageMaker Studio โดยตรง นักพัฒนาสามารถทำงานได้อย่างต่อเนื่อง ไม่ต้องสลับบริบท ไม่ต้องตั้งค่าสภาพแวดล้อมด้วยตนเอง และไม่ต้องแก้ไขปัญหาเรื่องสิทธิ์

หากต้องการเริ่มต้นใช้งาน สามารถเข้าไปที่หน้า Amazon SageMaker Studio หรือสำรวจโมเดลบน Hugging Face แล้วเลือก "Deploy" หรือ "Customize on SageMaker AI" ได้เลย

#SageMakerStudio #HuggingFace #AI #MachineLearning #Cloud

ขอบคุณ แหล่งข้อมูล
https://huggingface.co/blog/amazon/one-click-to-sagemaker-studio

เปลี่ยนโมเดล Hugging Face เป็น SageMaker Studio ได้ในคลิกเดียว 🖱️เคยไหมที่เจอโมเดล AI เจ๋งๆ บน Hugging Face แล้วอยากลองใช้ทันที แต่ต้องมานั่งตั้งค่าหลายขั้นตอนบน Amazon SageMaker Studio ตั้งแต่เปิดคอนโซล, สร้างโดเมน, ตั้งค่าสิทธิ์ IAM จนถึงขอโควตา GPU? ล่าสุด Amazon ได้เปิดตัวฟีเจอร์ใหม่ที่ช่วยลดขั้นตอนเหล่านี้ลง ทำให้การเปลี่ยนจากโมเดลที่ค้นพบไปสู่การใช้งานจริงบน SageMaker Studio ทำได้ง่ายและรวดเร็วขึ้นมากเส้นทางที่สั้นลง จากการค้นพบสู่การใช้งานจริง 🚀ก่อนหน้านี้ การจะเริ่มใช้ SageMaker Studio หลังเจอโมเดลที่ถูกใจบน Hugging Face ต้องผ่านหลายขั้นตอนที่อาจทำให้เสียเวลาและขาดตอนในการทดลอง แต่ด้วยการผสานรวมครั้งนี้ ทุกอย่างจะง่ายขึ้นกว่าเดิม> "ที่ Arcee เราสร้างโมเดลแบบเปิด (Open Models) เพื่อให้นักพัฒนาและองค์กรสามารถควบคุมสิ่งที่รันได้อย่างแท้จริง ทั้งการตรวจสอบน้ำหนักโมเดล (weights), การฝึกฝนเพิ่มเติมด้วยข้อมูลของตัวเอง และการนำไปใช้งานตามเงื่อนไขของตนเอง การผสานรวมนี้ช่วยให้การใช้งานสมบูรณ์แบบยิ่งขึ้น การเปลี่ยนจากโมเดลเปิดบน Hugging Face ไปสู่ SageMaker Studio ได้ในคลิกเดียว จากนั้นจึงทำการ Fine-tune หรือ Deploy ภายในสภาพแวดล้อม AWS ของคุณเอง โดยไม่ต้องตั้งค่าอะไรเพิ่มเติม คือประสบการณ์ที่โมเดลเปิดขาดหายไปมาตลอด น้ำหนักโมเดลแบบเปิดที่คุณเป็นเจ้าของ รันบนคลาวด์ที่คุณควบคุมได้ นี่คือสิ่งที่ลูกค้าของเราต้องการอย่างแท้จริง">> — Mark McQuade, Founder and CEO, Arcee AIฟีเจอร์ใหม่ที่ช่วยให้การทำงานราบรื่นขึ้นการเปิดตัว "One-click Studio landing experience" ทำให้การเลือก "Customize on SageMaker AI" หรือ "Deploy on SageMaker AI" บนหน้าโมเดลที่รองรับบน Hugging Face จะพาคุณตรงไปยังคอนโซล SageMaker Studio ทันที ระบบจะทำการสร้างโดเมนใหม่พร้อมการตั้งค่าสิทธิ์ที่จำเป็นให้โดยอัตโนมัติภายในเวลาไม่กี่วินาที และส่งต่อข้อมูลโมเดลที่คุณเลือกไปให้ด้วยฟีเจอร์ใหม่นี้ประกอบด้วย 3 ความสามารถหลัก ที่ช่วยย่นระยะเวลาจากโมเดล Hugging Face ไปสู่เวิร์กโฟลว์ SageMaker Studio ที่พร้อมใช้งาน:1. Deep Links จาก Hugging Face สู่ SageMaker Studio 🔗เมื่อคุณเรียกดูโมเดลบน Hugging Face คุณจะเห็นปุ่มแอ็คชันที่เชื่อมโยงโดยตรงกับเวิร์กโฟลว์ของ SageMaker Studio สำหรับโมเดลที่รองรับ:Customize on SageMaker AI: เปิดหน้า "Model Customization" ใน Studio โดยโหลดโมเดลที่เลือกไว้ให้พร้อมสำหรับการ Fine-tuneDeploy on SageMaker AI: เปิดหน้า "Deployment" ใน Studio โดยตั้งค่าโมเดลไว้ล่วงหน้าสำหรับการ Deploy เป็น Endpointแต่ละจุดเชื่อมต่อนั้นจะรักษา "บริบท" ของโมเดลไว้ ทำให้คุณไม่ต้องเสียเวลาค้นหาโมเดลอีกครั้งเมื่อเข้าไปใน Studio2. การตั้งค่าสิทธิ์ที่ตั้งค่าไว้ล่วงหน้า ✅สภาพแวดล้อม Studio ใหม่ที่สร้างผ่านกระบวนการนี้ จะมาพร้อมกับการตั้งค่าสิทธิ์ที่ครอบคลุมความสามารถทั้งหมดของ SageMaker Studio รวมถึงการปรับแต่งโมเดล, การเทรนงาน (Training Jobs), การทดลองบน Notebook, และการ Deploy Endpointมีการสร้างและแนบ Managed Policy ใหม่ชื่อ AmazonSageMakerModelCustomizationCoreAccess ให้โดยอัตโนมัติ ซึ่งให้สิทธิ์สำหรับการปรับแต่งโมเดลแบบ Serverless ผ่าน Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO), Reinforcement Learning with Verifiable Rewards (RLVR), และ Reinforcement Learning from AI Feedback (RLAIF) พร้อมรองรับการ Deploy ไปยัง Endpoint บน SageMaker Studio หรือ Amazon Bedrockสิ่งนี้ช่วยลดความจำเป็นในการสร้างและตั้งค่า IAM Roles และ Policies ด้วยตนเองก่อนเริ่มทดลอง สำหรับสภาพแวดล้อม Studio ที่มีอยู่แล้ว จะมีข้อความแนะนำพร้อมลิงก์ไปยังเอกสารที่ช่วยในการเพิ่มสิทธิ์เหล่านี้3. การแสดงผลโควตา GPU ที่ชัดเจน 📊เมื่อเลือกประเภท Instance สำหรับการ Deploy หรือเทรน UI ของ Studio จะแสดงความพร้อมใช้งานของโควตา GPU ให้เห็นโดยตรงในรายการเลือก Instance คุณจะเห็นทันทีว่า Instance ประเภท GPU ใด (เช่น G5, G6) ที่มีให้ใช้งานภายใต้ขีดจำกัดปัจจุบันของบัญชีของคุณ โดยไม่ต้องเข้าไปตรวจสอบที่ Service Quotas แยกต่างหาก หากคุณยังต้องการขอเพิ่มขีดจำกัด ระบบจะส่งคุณไปยังหน้า Service Quotas ของ Instance ประเภทนั้นๆ โดยตรงทดลองใช้งานจริง: จาก Hugging Face สู่ SageMaker Studio 🛠️มาดูขั้นตอนการปรับแต่งหรือ Deploy โมเดล โดยเริ่มจาก Hugging Face กันค้นหาและเลือกโมเดล: บนหน้าโมเดลของ Hugging Face คลิก "Deploy" แล้วเลือก "Amazon SageMaker AI" หากโมเดลรองรับ คุณจะเห็นปุ่ม "Deploy on SageMaker AI" และ "Customize on SageMaker AI" จากนั้นเลือก "Customize on SageMaker AI" สำหรับโมเดลที่รองรับลงชื่อเข้าใช้ AWS: คุณจะถูกขอให้ลงชื่อเข้าใช้ AWS ด้วยข้อมูลประจำตัวของคุณ หากคุณมีเซสชันคอนโซลที่ใช้งานอยู่แล้ว ขั้นตอนนี้จะข้ามไปโดยอัตโนมัติเข้าสู่ Studio: คุณจะมาถึงหน้า "Model Customization" ใน SageMaker Studio ทันที พร้อมโหลดโมเดลที่เลือกไว้ให้เรียบร้อย จากนั้นตั้งค่าพารามิเตอร์สำหรับการ Fine-tune เช่น ข้อมูลการเทรน, Hyperparameters, และประเภท Instance แล้วส่ง Job การปรับแต่งหรือหากเลือก "Deploy on SageMaker AI" จะเป็นการเปิดหน้าการ Deploy Endpoint ใน Studio พร้อมตั้งค่าโมเดลไว้ให้แล้ว เลือกประเภท Instance (พร้อมแสดงโควตา) ตรวจสอบการตั้งค่า และทำการ Deployทดสอบ Endpoint: หลังจาก Deploy Endpoint แล้ว สามารถทดสอบการ Inference ได้โดยตรงจากอินเทอร์เฟซทดสอบ Endpoint ของ Studioคุณสามารถลองประสบการณ์นี้ได้แล้ววันนี้:เรียกดูโมเดลบน Hugging Faceมองหาปุ่ม "Customize on SageMaker AI" หรือ "Deploy on SageMaker AI" บนโมเดลที่รองรับเลือกและทำตามขั้นตอนการลงชื่อเข้าใช้ที่ง่ายขึ้นเริ่มสร้างสรรค์ผลงานในสภาพแวดล้อม SageMaker Studio ที่ตั้งค่าสมบูรณ์แล้วการเปิดตัวประสบการณ์ One-click Studio landing experience ช่วยลดอุปสรรคระหว่างการค้นพบโมเดลและการทดลองใช้งานได้อย่างมาก ด้วยการเชื่อมโยง Hugging Face เข้ากับเวิร์กโฟลว์ของ SageMaker Studio โดยตรง นักพัฒนาสามารถทำงานได้อย่างต่อเนื่อง ไม่ต้องสลับบริบท ไม่ต้องตั้งค่าสภาพแวดล้อมด้วยตนเอง และไม่ต้องแก้ไขปัญหาเรื่องสิทธิ์หากต้องการเริ่มต้นใช้งาน สามารถเข้าไปที่หน้า Amazon SageMaker Studio หรือสำรวจโมเดลบน Hugging Face แล้วเลือก "Deploy" หรือ "Customize on SageMaker AI" ได้เลย#SageMakerStudio #HuggingFace #AI #MachineLearning #Cloudhttps://huggingface.co/blog/amazon/one-click-to-sagemaker-studio
6 التعليقات 0 المشاركات 817 مشاهدة 0 معاينة