ការប្រកួតប្រជែងក្នុងការដាក់ឱ្យប្រើប្រាស់ LLM ក្នុងម៉ាស៊ីនផ្ទាល់ខ្លួន (Local) ទើបតែមានការផ្លាស់ប្តូរដ៏ធំមួយ។ ខណៈពេលដែល NVIDIA នៅតែគ្រប់គ្រងទីផ្សារកម្រិតសហគ្រាស ក្រុមហ៊ុន AI របស់ចិន Axera បានបង្ហាញខ្លួនជាមួយនឹង AX8860 ដែលជាឈីបដែលអះអាងថា លឿនជាង ថោកជាង និងសន្សំសំចៃថាមពលជាង NVIDIA DGX Spark យ៉ាងខ្លាំង។
សម្រាប់អ្នកដែលកំពុងបង្កើត Agentic AI ឬដំណើរការ Small Language Models (SLMs) នៅក្នុងម៉ាស៊ីនផ្ទាល់ខ្លួន AX8860 មិនមែនគ្រាន់តែជាការកែលម្អបន្តិចបន្តួចនោះទេ ប៉ុន្តែវាគឺជាការផ្លាស់ប្តូរដ៏សំខាន់នៃតុល្យភាពរវាងតម្លៃ និងប្រសិទ្ធភាព។
លក្ខណៈបច្ចេកទេសដ៏ខ្លាំងក្លា ក្នុងទំហំតូច
AX8860 ត្រូវបានផលិតឡើងលើបច្ចេកវិទ្យា 6nm ដោយរួមបញ្ចូល CPU Arm Cortex-A55 ចំនួន ១៦ គីរ (Cores) ជាមួយនឹង NPU ផ្ទាល់ខ្លួន ដែលអាចផ្តល់កម្លាំងគណនាដល់ទៅ 256 TOPS (FP4)។
ប៉ុន្តែចំណុចពិសេសបំផុតគឺផ្នែកអង្គចងចាំ (Memory)។ ឈីបនេះគាំទ្រ LPDDR5/5X រហូតដល់ 128 GB ជាមួយនឹង bandwidth រហូតដល់ 273 GB/s ដែលធ្វើឱ្យវាក្លាយជាគូប្រជែងផ្ទាល់ជាមួយ DGX Spark របស់ NVIDIA និង Ryzen AI Halo របស់ AMD។
អ្វីដែលគួរឱ្យភ្ញាក់ផ្អើលបំផុតនោះគឺ វាប្រើប្រាស់ថាមពលត្រឹមតែ 40W ប៉ុណ្ណោះសម្រាប់ module មួយ។ បើប្រៀបធៀបជាមួយគូប្រជែងដែលប្រើថាមពលខ្ពស់ AX8860 ត្រូវបានរចនាឡើងសម្រាប់អ្នកដែលចង់បានប្រសិទ្ធភាព AI កម្រិតខ្ពស់ ដោយមិនចាំបាច់ប្រើប្រាស់ប្រព័ន្ធភ្លើងដ៏ធំក្នុងការិយាល័យ។
ការយកឈ្នះលើយក្ស NVIDIA៖ ការអះអាងអំពីប្រសិទ្ធភាព
Axera មិនត្រឹមតែអួតពីលក្ខណៈបច្ចេកទេសប៉ុណ្ណោះទេ ប៉ុន្តែពួកគេបានអះអាងពីលទ្ធផលជាក់ស្តែង។ ក្នុងការធ្វើតេស្តជាមួយម៉ូដែល Qwen 27B ឈីប AX8860 ត្រូវបានគេរាយការណ៍ថាមានល្បឿន prefill លឿនជាង 25% និងល្បឿន decode លឿនជាង 30% បើធៀបនឹង NVIDIA DGX Spark។
នៅពេលដែលអ្នករួមបញ្ចូលការបង្កើនល្បឿននេះ ជាមួយនឹងការអះអាងថាឈីបនេះមានតម្លៃប្រហែលពាក់កណ្តាលនៃ DGX Spark នោះវាក្លាយជាជម្រើសដែលមិនអាចបដិសេធបាន។ មិនថាអ្នកមើលទៅលើតម្លៃ 4,999 ដុល្លារ (64GB) ឬលើ 7,000 ដុល្លារ (128GB) នៃប្រព័ន្ធ NVIDIA នោះទេ AX8860 មានគោលបំណងកាត់បន្ថយឧបសគ្គផ្នែកតម្លៃសម្រាប់ឧបករណ៍ AI កម្រិតអាជីព។
លទ្ធភាពក្នុងការពង្រីក និងភាពបត់បែន
Axera យល់ថាឈីបតែមួយប្រហែលជាមិនគ្រប់គ្រាន់។ AX8860 ត្រូវបានរចនាឡើងសម្រាប់ការពង្រីកកម្លាំងយ៉ាងខ្លាំង៖
- Single Module: 256 TOPS ប្រើថាមពល 40W។
- 2x Cluster: បង្កើនកម្លាំងគណនាដល់ 512 TOPS។
- 4x Cluster: ឈានដល់ 1024 TOPS ជាមួយនឹងប្រសិទ្ធភាព scaling 80%។
ដើម្បីឱ្យ hardware នេះអាចប្រើប្រាស់បានយ៉ាងទូលាយ Axera នឹងបញ្ចេញវាក្នុងទម្រង់ជាច្រើន រួមមាន module, PCIe cards (ទំហំតែមួយ និងបួនឈីប) និងសូម្បីតែ Mini PCs និង Pocket PCs ដែលកំពុងត្រូវបានអភិវឌ្ឍ។
ប្រព័ន្ធ Ecosystem ដ៏រឹងមាំ និងផែនការអនាគត
Hardware នឹងគ្មានប្រយោជន៍ប្រសិនបើគ្មាន Software។ AX8860 ត្រូវបានបង្កើតឡើងដើម្បីដំណើរការបានយ៉ាងរលូនជាមួយ framework ដែលពេញនិយមដូចជា vLLM, SGLang និង PyTorch។ នេះមានន័យថា អ្នកអភិវឌ្ឍន៍អាចផ្លាស់ប្តូរការងាររបស់ពួកគេមកប្រើឈីបនេះបានយ៉ាងងាយស្រួល។
ហើយនេះគ្រាន់តែជាការចាប់ផ្តើមប៉ុណ្ណោះ។ ផែនការរបស់ Axera បង្ហាញពីការបង្កើនកម្លាំងគណនាយ៉ាងខ្លាំង៖
- AX8860: 256 TOPS
- Axera 8950: រហូតដល់ 500 TOPS
- Axera 8970: លើសពី 700 TOPS
សេចក្តីសន្និដ្ឋាន
ប្រសិនបើការអះអាងរបស់ Axera ត្រូវបានបញ្ជាក់ថាជាការពិតតាមរយៈការធ្វើតេស្តឯករាជ្យ AX8860 អាចនឹងក្លាយជាស្តង់ដារថ្មីសម្រាប់ម៉ាស៊ីន LLM ទំហំតូច (SFF)។ វាផ្តល់នូវអត្ថប្រយោជន៍បីយ៉ាងក្នុងពេលតែមួយ៖ ល្បឿនលឿនជាង, ប្រើថាមពលតិចជាង និងតម្លៃថោកជាង។
សម្រាប់អ្នកអភិវឌ្ឍន៍ និងក្រុមហ៊ុនដែលធុញទ្រាន់នឹង “តម្លៃថ្លៃហួសហេតុរបស់ NVIDIA” ឈីប AX8860 គឺជាសញ្ញាមួយដែលបង្ហាញថា យុគសម័យនៃ AI កម្រិតខ្ពស់ដែលមនុស្សគ្រប់គ្នាអាចមានលទ្ធភាពប្រើប្រាស់បាន គឺបានមកដល់ហើយ។
