MSI EdgeXpert 60STH BGB104TG5 ยก AI Supercomputer มาไว้บนโต๊ะทำงาน – QuickServ

MSI EdgeXpert 60STH BGB104TG5 คือ Personal AI Supercomputer ขนาดกะทัดรัดที่พัฒนาบนแพลตฟอร์ม NVIDIA DGX Spark ใช้ชิป NVIDIA GB10 Grace Blackwell Superchip ซึ่งรวม Blackwell GPU เข้ากับ CPU Arm 20 Core พร้อม Unified System Memory ขนาด 128GB และให้ประสิทธิภาพ AI สูงสุดถึง 1 petaFLOP จุดเด่นของ EdgeXpert คือการนำความสามารถระดับ AI Supercomputer มาอยู่ในเครื่องขนาดประมาณ 1.2 ลิตร สามารถติดตั้งบนโต๊ะทำงาน ห้อง Lab หรือเชื่อมต่อกับ Network ขององค์กรได้ง่าย โดยไม่จำเป็นต้องเริ่มต้นจาก GPU Server ขนาดใหญ่ทันที

MSI EdgeXpert 60STH คืออะไร ?

MSI EdgeXpert 60STH เป็นระบบประมวลผล AI ที่พัฒนาบน NVIDIA Grace Blackwell Architecture และใช้ NVIDIA GB10 ซึ่งประกอบด้วย Blackwell GPU และ CPU Arm แบบ 20 Core แบ่งเป็น 10 Cortex-X925 และ 10 Cortex-A725 ตัวเครื่องได้รับการออกแบบมาเพื่อรองรับ Workload เช่น

• Generative AI และ Large Language Model

• AI Model Development

• Machine Learning และ Deep Learning

• Data Science

• AI Inference

• Fine-Tuning

• Rendering

• Visualization

• Software Development ที่ใช้ GPU Acceleration

ด้วยสถาปัตยกรรม Unified Memory ทำให้ CPU และ GPU สามารถเข้า ถึงหน่วยความจำร่วมกันได้ จึงเหมาะกับ AI Model ที่ต้องการพื้นที่ Memory จำนวนมาก ซึ่งเป็นหนึ่งในข้อจำกัดสำคัญของ Workstation ที่ใช้ GPU แบบแยกทั่วไป

ขุมพลัง NVIDIA GB10 Grace Blackwell สูงสุด 1 petaflop หัวใจของ MSI EdgeXpert 60STH คือ NVIDIA GB10 Grace Blackwell Superchip ที่ให้ประสิทธิภาพ AI สูงสุด 1 petaFLOP ที่ FP4 แบบ Sparse พร้อม Tensor Core รุ่นที่ 5 และ RT Core รุ่นที่ 4 ระบบรองรับ Data Format หลายรูปแบบ ได้แก่

• TF32

• FP16

• BF16

• INT8

• FP8

• FP6

• FP4

ทำให้นักพัฒนาและทีม AI สามารถเลือก Precision ที่เหมาะกับ Workload ของตนเอง ไม่ว่าจะเป็นการพัฒนา Prototype, ทดสอบโมเดล หรือใช้งาน Inference ภายในองค์กร

Unified Memory 128GB จุดเด่นสำหรับ Large AI Model

อีกหนึ่งจุดเด่นสำคัญคือ LPDDR5x Unified System Memory ขนาด 128GB พร้อม Memory Bandwidth 273 GB/s แตกต่างจากคอมพิวเตอร์ทั่วไปที่ RAM ของระบบและ VRAM บน GPU ถูกแยกออกจากกัน ระบบ Unified Memory ช่วยให้ CPU และ GPU สามารถใช้ Memory Pool เดียวกันได้ จึงลดข้อจำกัดในการเคลื่อนย้ายข้อมูลระหว่างหน่วยความจำ

MSI ระบุว่าระบบมีหน่วยความจำประมาณ 100GB สำหรับ User Workload และสามารถทำงานร่วมกับ AI Model ที่มีขนาดสูงสุดประมาณ 200 Billion Parameters รวมถึงรองรับการ Fine-Tune โมเดลขนาดสูงสุดประมาณ 70 Billion Parameters จึงเหมาะสำหรับองค์กรที่ต้องการทดลอง Large Language Model ภายในองค์กร โดยยังไม่จำเป็นต้องลงทุนกับระบบ GPU Server ขนาดใหญ่

MSI EdgeXpert เหมาะกับผู้เริ่มต้นด้าน AI หรือไม่ ?

สำหรับองค์กรหรือทีมที่เพิ่งเริ่มต้นทำ AI และยังไม่แน่ใจว่าควรเริ่มจาก Infrastructure ขนาดใหญ่แค่ไหน MSI EdgeXpert 60STH ถือว่าเหมาะมากสำหรับการเริ่มต้น เหตุผลสำคัญคือภายในเครื่องได้รวมองค์ประกอบหลักสำหรับงาน AI มาให้ครบแล้ว ทั้ง CPU, GPU, Unified Memory, Storage, Network และ NVIDIA DGX OS ทำให้ทีมสามารถเริ่มพัฒนาและทดลอง AI Workload ได้โดยไม่ต้องประกอบระบบหลายส่วนเอง

ผู้เริ่มต้นสามารถนำไปใช้กับงาน เช่น

• ทดสอบ Large Language Model

• ทำ Internal Chatbot

• ทำ RAG หรือ Knowledge Assistant

• ทดลอง AI Agent

• ทำ AI Inference

• Fine-Tuning โมเดลในระดับที่เหมาะสม

• พัฒนา Proof of Concept

• เรียนรู้และทดลอง NVIDIA AI Software Stack จึงเหมาะทั้งสำหรับ AI Developer รายบุคคล ทีม Development ขนาดเล็ก ไปจนถึงองค์กรที่กำลังเริ่มโครงการ Private AI

เครื่องเดียวจบไหม ?

ถ้ามองในแง่ของการเริ่มต้น EdgeXpert หนึ่งเครื่องสามารถครอบคลุมงานได้ค่อนข้างมาก สำหรับการทำ Prototype , Development , RAG , AI Agent , Inference หรือการทดลอง Large Language Model ภายในทีมขนาดเล็ก เครื่องเดียวสามารถใช้เป็นทั้ง AI Workstation และ Personal AI Cloud ได้ จึงไม่จำเป็นต้องมี Server หลายเครื่องตั้งแต่วันแรก อย่างไรก็ตาม คำว่า "ตัวเดียวจบ" จะขึ้นอยู่กับ Workload จริง เช่น

• ขนาดของ AI Model

• Dataset

• Context Length

• Precision และ Quantization

• จำนวนผู้ใช้งานพร้อมกัน

• จำนวน AI Service ที่ต้องเปิดพร้อมกัน

• Performance ที่ต้องการ

หากเริ่มต้นจากทีมขนาดเล็กหรือโครงการ AI ภายในองค์กร EdgeXpert เครื่องเดียวถือว่าเป็นจุดเริ่มต้นที่ดี แต่หาก Workload โตขึ้น ก็ยังสามารถขยายระบบต่อได้โดยไม่จำเป็นต้องทิ้งระบบเดิม

ถ้าต้องการขยายในอนาคต ทำได้ไหม ?

ทำได้ โดย MSI EdgeXpert สามารถเชื่อมต่อ สูงสุด 2 เครื่องผ่าน NVIDIA ConnectX-7 ตามข้อมูลจาก MSI เมื่อเชื่อมต่อ EdgeXpert สองเครื่องเข้าด้วยกัน ระบบสามารถรองรับ AI Model ขนาดสูงสุดประมาณ 405 Billion Parameters ได้จึงเหมาะกับแนวคิด เริ่มจาก 1 เครื่อง >> เพิ่มเป็น 2 เครื่อง >> Scale ไปยังระบบ AI Infrastructure ขนาดใหญ่ในอนาคต รูปแบบนี้ช่วยให้องค์กรสามารถลงทุนตามการใช้งานจริง ไม่จำเป็นต้องซื้อระบบขนาดใหญ่เกินความต้องการตั้งแต่เริ่มต้น

NVIDIA ConnectX-7 สำหรับการเชื่อมต่อระบบ AI ความเร็วสูง

EdgeXpert มาพร้อม NVIDIA ConnectX-7 Smart NIC สำหรับการเชื่อมต่อระบบความเร็วสูง และรองรับการเชื่อม EdgeXpert สองเครื่องเข้าด้วยกัน ใน Datasheet ของ MSI ยังระบุ QSFP Cable สำหรับการ Stack EdgeXpert จำนวน 2 เครื่อง โดยรองรับ Data Rate 112G ต่อ Lane และ Bandwidth สูงสุด 400G นอกจาก ConnectX-7 แล้ว ตัวเครื่องยังมี 10GbE RJ-45 สำหรับเชื่อมต่อเข้ากับ Network Infrastructure ภายในองค์กรได้อีกด้วย

NVIDIA DGX OS พร้อม Software Stack สำหรับงาน AI

MSI EdgeXpert 60STH มาพร้อม NVIDIA DGX OS และ NVIDIA AI Software Stack ช่วยลดความซับซ้อนในการเตรียม Environment สำหรับพัฒนา AI อีกหนึ่งจุดเด่นคือ Workload ที่พัฒนาบน EdgeXpert สามารถต่อยอดไปยังระบบขนาดใหญ่ขึ้นได้ เช่น

• NVIDIA DGX Infrastructure

• Accelerated Data Center

• DGX Cloud

• Cloud Infrastructure ที่รองรับ NVIDIA GPU

MSI ระบุว่าสามารถย้าย Workload จาก EdgeXpert ไปยัง DGX Cloud หรือ Accelerated Data Center ได้ จึงเหมาะกับแนวทาง Develop >> Test >>Scale ทีม Developer สามารถเริ่มจากเครื่องขนาดเล็กบนโต๊ะทำงานก่อน แล้วค่อยขยายไปยัง Production Infrastructure เมื่อระบบพร้อม

ใช้ได้ทั้ง AI Workstation และ Personal AI Cloud MSI ออกแบบ EdgeXpert ให้สามารถใช้งานได้ 2 รูปแบบหลัก

1. AI Workstation

สามารถต่อ Monitor, Keyboard และ Mouse แล้วใช้งานเป็นเครื่องสำหรับ Developer ได้โดยตรง เหมาะกับ

• AI Developer

• Machine Learning Engineer

• Data Scientist

• Software Developer

• Researcher

• R&D Team

2. Personal AI Cloud

อีกทางเลือกหนึ่งคือเชื่อม EdgeXpert เข้ากับระบบ Network แล้วใช้งานเป็น Personal AI Cloud ทีมงานสามารถเข้าถึงทรัพยากร AI ผ่าน Network จาก Notebook, Workstation หรือ Client ภายในองค์กรได้ โดยไม่จำเป็นต้องติดตั้งเครื่อง AI ประสิทธิภาพสูงให้กับผู้ใช้งานทุกคน ตาม Diagram ใน Datasheet หน้าแรก MSI แสดงการใช้งานได้ทั้งแบบ Network Connected สำหรับระบบเดิมขององค์กร และแบบ Standalone พร้อม Display, Mouse และ Keyboard จึงมีความยืดหยุ่นในการ Deploy ค่อนข้างสูง

Compact AI Supercomputer ขนาดเพียง 1.2 ลิตร แม้จะรองรับ AI Workload ระดับสูง แต่ MSI EdgeXpert มีขนาดตัวเครื่องเพียง 151 x 151 x 52 มิลลิเมตร หรือประมาณ 1.2 ลิตร น้ำหนักประมาณ 1.2 กิโลกรัม สามารถวางบนโต๊ะทำงาน ห้อง Lab หรือพื้นที่สำนักงานได้โดยไม่ต้องใช้ตู้ Rack และ MSI ระบุว่าสามารถใช้ไฟจากปลั๊กไฟมาตรฐานได้ จึงเหมาะกับองค์กรที่อยากเริ่มต้น AI Infrastructure โดยยังไม่ต้องเพิ่ม Server Room หรือ Data Center Infrastructure ขนาดใหญ่

เชื่อมต่อครบทั้ง 10GbE, ConnectX-7 และ Wi-Fi 7 ด้าน Connectivity รองรับการใช้งานทั้งแบบ Desktop และ Network Environment ได้แก่

• 4 x USB 3.2 Type-C สูงสุด 20Gb/s

• 1 x RJ-45 10GbE

• NVIDIA ConnectX-7 Smart NIC

• Wi-Fi 7

• Bluetooth 5.4

• HDMI 2.1

• DisplayPort 1.4a ผ่าน USB-C สูงสุด 4 ช่อง

ช่วยให้ EdgeXpert สามารถนำไปใช้งานเป็น Standalone AI Workstation หรือเชื่อมเข้าสู่ Network Infrastructure ขององค์กรได้ทันที Storage NVMe ความจุ 4TB สำหรับรุ่น MSI EdgeXpert 60STH BGB104TG5 ใช้ Storage ความจุ 4TB ซึ่งเหมาะกับการจัดเก็บไฟล์ที่เกี่ยวข้องกับ AI Development เช่น

• AI Model

• Dataset

• Vector Database

• Container

• Development Environment

• Source Code

• Local Knowledge Base

Datasheet ของ EdgeXpert ระบุว่าระบบรองรับ NVMe M.2 ขนาด 1TB หรือ 4TB พร้อม Self-Encryption โดยรุ่น BGB104TG5 ที่กล่าวถึงในบทความนี้เป็นรุ่นความจุ 4TB

MSI EdgeXpert 60STH เหมาะกับใคร ?

- องค์กรที่กำลังเริ่มต้น AI

เหมาะกับบริษัทที่ต้องการเริ่มสร้าง AI Use Case แต่ยังไม่ต้องการลงทุน GPU Server หรือ AI Cluster ขนาดใหญ่ในทันที สามารถเริ่มจาก EdgeXpert เครื่องเดียวเพื่อสร้าง Prototype และประเมินว่า AI สามารถสร้างประโยชน์ให้ธุรกิจได้มากน้อยเพียงใดก่อนขยายระบบ

- องค์กรที่ต้องการสร้าง Private AI

สำหรับองค์กรที่มีข้อมูลสำคัญ เช่น เอกสารภายใน Knowledge Base ข้อมูลลูกค้า หรือข้อมูลธุรกิจ EdgeXpert สามารถนำมาใช้เป็น Local AI Platform เพื่อทดลอง AI Workload ภายในองค์กรได้

- ทีม Developer และ AI Engineer

เหมาะสำหรับทีมที่ต้อง Develop, Fine-Tune และทดสอบ AI Model โดยไม่ต้องแย่งทรัพยากรจาก Production Server การมีเครื่อง AI Development โดยเฉพาะยังช่วยให้ทีมทดลอง Model หรือ Framework ใหม่ได้สะดวกขึ้น

- มหาวิทยาลัยและ Research Lab

สามารถใช้สำหรับงานวิจัยด้าน AI, Machine Learning, Deep Learning, Computer Vision, NLP และ Generative AI ด้วยขนาดที่กะทัดรัด จึงสามารถติดตั้งใน Lab ได้ง่ายกว่าระบบ GPU Server แบบ Rack

- Software House และ AI Startup

เหมาะสำหรับทีมที่ต้องการสร้าง AI Prototype หรือ Proof of Concept ก่อนนำระบบขึ้น Production

ถ้า EdgeXpert ยังไม่ใหญ่พอ มี MSI XpertStation WS300 สำหรับองค์กรที่เริ่มต้นจาก EdgeXpert แล้วพบว่า Workload โตขึ้นมาก หรือต้องการระบบที่รองรับการประมวลผลระดับองค์กรที่หนักกว่าเดิม สามารถขยับขึ้นไปดู MSI XpertStation WS300

XpertStation WS300
เป็นแพลตฟอร์ม AI Workstation / AI Server ระดับสูงกว่า เหมาะกับงาน AI, Deep Learning และ Workload ที่ต้องการ GPU และทรัพยากรระบบมากขึ้น หากมองแบบง่าย ๆ

MSI EdgeXpert
เหมาะกับการเริ่มต้น AI , Development , Prototype และ Personal AI Cloud
MSI XpertStation WS300
เหมาะกับองค์กรที่ต้องการ Scale ไปสู่ AI Workload ที่ใหญ่และจริงจังมากขึ้น ทำให้องค์กรสามารถเริ่มต้นจากระบบขนาดเล็ก และเลือกขยาย Infrastructure ตามความต้องการจริงได้ในอนาคต

สเปก MSI EdgeXpert 60STH BGB104TG5

รายการ	รายละเอียด
Architecture	NVIDIA Grace Blackwell
GPU	NVIDIA GB10
CPU	Arm 20 Core: 10 Cortex-X925 + 10 Cortex-A725
CUDA Cores	Blackwell Generation
Tensor Cores	5th Generation
RT Cores	4th Generation
AI Performance	สูงสุด 1 petaFLOP FP4 Sparse
System Memory	128GB LPDDR5x Unified Memory
Memory Interface	256-bit
Memory Bandwidth	273 GB/s
Storage	4TB NVMe M.2
Ethernet	10GbE RJ-45
High-Speed Network	NVIDIA ConnectX-7
Wireless	Wi-Fi 7
Bluetooth	Bluetooth 5.4
USB	4 x USB 3.2 Type-C สูงสุด 20Gb/s
Display	HDMI 2.1 และ DP 1.4a ผ่าน USB-C
OS	NVIDIA DGX OS
Dimensions	151 x 151 x 52 mm
Volume	ประมาณ 1.2L
Weight	ประมาณ 1.2 kg

เริ่มจาก AI Prototype แล้วค่อย Scale สู่ Production หนึ่งในข้อได้เปรียบของ EdgeXpert คือองค์กรไม่จำเป็นต้องเริ่มต้นจาก Infrastructure ขนาดใหญ่ ทีมสามารถนำ EdgeXpert มาใช้สำหรับ AI Development >> Prototype >> Testing >> Validation เมื่อ Use Case เริ่มมีความชัดเจนและต้องรองรับผู้ใช้งานจำนวนมากขึ้น จึงค่อย Scale ไปยังระบบที่ใหญ่ขึ้น เช่น EdgeXpert เครื่องที่สอง , MSI XpertStation WS300 , GPU Server หรือ NVIDIA Accelerated Data Center

แนวทางนี้ช่วยลดความเสี่ยงจากการลงทุนเกินความจำเป็น และเปิดโอกาสให้องค์กรทดลอง AI Use Case หลายรูปแบบก่อนเลือก Architecture สำหรับ Production

MSI EdgeXpert 60STH กับการเริ่มต้น Private AI Infrastructure MSI EdgeXpert 60STH BGB104TG5 ไม่ได้ถูกออกแบบมาเพื่อทดแทน GPU Server หรือ AI Cluster ขนาดใหญ่ในทุกกรณี แต่เป็นอีกทางเลือกที่น่าสนใจสำหรับองค์กรที่ต้องการนำพลังของ NVIDIA Grace Blackwell มาไว้ใกล้ Developer และข้อมูลมากขึ้น

ด้วย AI Performance สูงสุด 1 petaFLOP, Unified Memory 128GB และความสามารถในการทำงานกับ AI Model สูงสุดประมาณ 200 Billion Parameters ทำให้ EdgeXpert เหมาะอย่างยิ่งกับการเริ่มต้น AI Development, Research และ Private AI

สำหรับผู้ที่เพิ่งเริ่มต้น จุดเด่นสำคัญคือสามารถเริ่มจาก เครื่องเดียว ก่อน เมื่อ Workload โตขึ้นสามารถเพิ่มเป็น 2 เครื่อง และหากต้องการระบบระดับใหญ่กว่านั้น ก็ยังสามารถขยับไปสู่แพลตฟอร์มอย่าง MSI XpertStation WS300 หรือ AI Infrastructure ระดับ Data Center ได้ จึงเป็นรูปแบบการลงทุนที่เปิดโอกาสให้องค์กร เริ่มเล็ก ทดลองจริง แล้วค่อยขยายตามการใช้งาน

เลือก MSI EdgeXpert สำหรับองค์กร ปรึกษา QuickServ ได้การเลือกเครื่อง AI ไม่ควรพิจารณาเพียง Performance ของ GPU เท่านั้น แต่ควรประเมินร่วมกับขนาด AI Model , Dataset , จำนวนผู้ใช้งาน , Network Infrastructure , Storage และแผนการ Scale ระบบในอนาคต

QuickServ พร้อมให้คำปรึกษาในการเลือกและออกแบบ AI Infrastructure ให้เหมาะกับ Workload ขององค์กร ตั้งแต่ Personal AI Supercomputer สำหรับ Developer ไปจนถึง Workstation , GPU Server และ AI Infrastructure สำหรับ Data Center

คำถามที่พบบ่อยเกี่ยวกับ MSI EdgeXpert 60STH (FAQs)

Q : MSI EdgeXpert 60STH เหมาะกับคนที่เพิ่งเริ่มต้น AI หรือไม่ ?

A : เหมาะ โดยเฉพาะองค์กรหรือทีม Development ที่ต้องการเริ่มทดลอง AI , LLM , RAG หรือ AI Agent โดยไม่ต้องลงทุน GPU Server ขนาดใหญ่ตั้งแต่แรก เพราะภายในเครื่องมีทั้ง CPU, GPU, Unified Memory 128GB, Storage และ NVIDIA DGX OS พร้อมสำหรับการเริ่มต้นพัฒนา AI Workload

Q : ใช้ MSI EdgeXpert เพียงเครื่องเดียวพอหรือไม่ ?

A : สำหรับ Development , Prototype , RAG , AI Agent , Inference และการทดลอง AI Model ภายในทีมขนาดเล็ก EdgeXpert หนึ่งเครื่องสามารถรองรับงานได้ค่อนข้างครอบคลุม แต่หากมีผู้ใช้งานจำนวนมากหรือ Workload หนักขึ้น ควรวางแผนขยายระบบเพิ่มเติม

Q : MSI EdgeXpert 60STH สามารถรัน Large Language Model ได้ใหญ่แค่ไหน ?

A : MSI ระบุว่าสามารถทำงานกับ AI Model ขนาดสูงสุดประมาณ 200 Billion Parameters และ Fine-Tune โมเดลสูงสุดประมาณ 70 Billion Parameters ทั้งนี้ Performance จริงขึ้นอยู่กับ Model Architecture , Precision , Quantization และ Workload ที่ใช้งาน

Q : สามารถนำ MSI EdgeXpert มาสร้าง Private AI หรือ Chatbot ภายในองค์กรได้หรือไม่ ?

A : ได้ สามารถนำมาใช้เป็น Local AI Platform สำหรับ Internal Chatbot , RAG , Knowledge Assistant , AI Agent หรือ AI Application ที่ต้องการประมวลผลข้อมูลภายในองค์กรได้

Q : MSI EdgeXpert สามารถต่อกันหลายเครื่องได้หรือไม่ ?

A : MSI ระบุว่าสามารถเชื่อมต่อ EdgeXpert ได้สูงสุด 2 เครื่องผ่าน NVIDIA ConnectX-7 และรองรับการทำงานกับ AI Model ขนาดสูงสุดประมาณ 405 Billion Parameters

Q : ถ้า EdgeXpert ไม่เพียงพอในอนาคตควรทำอย่างไร ?

A : สามารถเพิ่ม EdgeXpert เป็น 2 เครื่องก่อน หรือหาก Workload ขยายไปสู่ระดับองค์กรที่ต้องการ GPU และทรัพยากรระบบมากขึ้น สามารถพิจารณาแพลตฟอร์มระดับสูงกว่า เช่น MSI XpertStation WS300 หรือระบบ GPU Server สำหรับ Data Center

Q : EdgeXpert จำเป็นต้องติดตั้งในห้อง Server หรือไม่ ?

A : ไม่จำเป็น ตัวเครื่องมีขนาดประมาณ 1.2 ลิตรและสามารถใช้ไฟจากปลั๊กมาตรฐาน จึงสามารถวางบนโต๊ะทำงานหรือในห้อง Lab ได้ รวมถึงสามารถติดตั้งเป็น Network-Connected Personal AI Cloud ภายในองค์กรได้

หากสนใจ MSI EdgeXpert 60STH BGB104TG5 หรือกำลังพิจารณาว่าควรเริ่มจาก EdgeXpert หรือขยับไปยังระบบที่ใหญ่กว่า สามารถติดต่อทีม QuickServ เพื่อช่วยประเมิน Requirement และออกแบบสเปกที่เหมาะสมกับการใช้งานจริง

โทร. 02-496-1234

LINE : @quickserv

Related to