GLM-5.3 របស់ក្រុមហ៊ុន Zhipu AI ស្ទើរតែពូកែខាង Hack ដូចគំរូ “Mythos” ដែល Anthropic ខ្លួនឯងមិនទាន់បានចេញផ្សាយផង។ ហើយពេលដកយកប្រព័ន្ធការពារសុវត្ថិភាពចេញ វាស្ទើរតែមិនបដិសេធអ្វីទាល់តែសោះ។
នេះជាចំណុចសំខាន់ពីរបាយការណ៍ថ្មីរបស់ Anthropic ដែលចេញមកក្នុងខណៈដែលមានការអំពាវនាវឲ្យបន្ថយល្បឿនការអភិវឌ្ឍ AI កាន់តែខ្លាំងឡើង។ ពេលវេលានេះគឺចេតនា៖ Claude Opus 5.5 និង Claude Sonnet 5.5 ត្រូវបានចេញផ្សាយត្រឹមតែប៉ុន្មានថ្ងៃក្រោយពី CEO Dario Amodei អំពាវនាវឲ្យឧស្សាហកម្មបន្ថយល្បឿន ហើយក្រុមហ៊ុនកំពុងរៀបចំចេញ IPO ខណៈពេលប្រកាសដោយចំហថា “ហានិភ័យនៃការផុតពូជមនុស្សជាតិ” ជាកត្តាមួយក្នុងសេចក្តីសម្រេចចិត្តរបស់ខ្លួន។
ស្ទើរតែពូកែខាងវាយប្រហារសន្តិសុខដូច Mythos
របាយការណ៍នេះពឹងផ្អែកលើការវិភាគរបស់ Center for AI Standards and Innovation នាចុងខែកញ្ញា ដែលរកឃើញថា GLM-5.3 អាចដំណើរការ exploit ដោយស្វ័យប្រវត្តិក្នុងកម្រិតស្រដៀងនឹង Claude Mythos — ជាកត្តាដែលជំរុញឲ្យ Anthropic បង្កើត “Project Glasswing” ដែលផ្តល់សិទ្ធិអ្នកអភិវឌ្ឍន៍ចូលប្រើគំរូ AI ថ្នាក់ Mythos ដើម្បីជួសជុល bug មុនពេលគំរូបែបនេះត្រូវបានចេញផ្សាយ។
Anthropic បានដំណើរការ benchmark ផ្ទាល់ខ្លួន។ ក្នុង Exploitbench — ដែលគំរូ AI បង្កើត exploit សម្រាប់ Google Chrome ក្នុងបរិយាកាស sandbox — GLM-5.3 បានបង្កើត exploit ពីដើមដល់ចប់បាន 50 ដងក្នុងចំណោម 410 ដង។ Mythos នាំមុខដោយ 56 ដងក្នុង 410 ការព្យាយាម។ ក្នុងការធ្វើតេស្តផ្ទៃក្នុងមួយទៀតដែលផ្តោតលើ “ការគ្រប់គ្រងលំហូរទាំងស្រុង” GLM-5.3 ទទួលបានអត្រាជោគជ័យ 4% តិចជាង Mythos ដែលមាន 6% ។ គួរកត់សម្គាល់ថា គំរូ open-weight ដ៏ពេញនិយមផ្សេងទៀតដូចជា Kimi K3 និង DeepSeek V4.1 Flash ទទួលបានត្រឹម 0% ។
គំរូនេះក៏អាចភ្ជាប់ exploit ជាបន្តបន្ទាប់ដោយស្វ័យប្រវត្តិផងដែរ។ សូម្បីតែកំណែស្រាល “Flash” ក៏អាចបង្កើត exploit សម្រាប់ bug ដែលគេស្គាល់ ក្នុងតម្លៃ token ត្រឹមតែ $20.40 ប៉ុណ្ណោះ — ប្រហែល 100–300 លាន token អាស្រ័យលើសមាមាត្ររវាងការបញ្ចូល និងលទ្ធផល។
ប្រព័ន្ធការពារងាយដកចេញខ្លាំងណាស់
ការព្រួយបារម្ភពិតប្រាកដមិនមែនជាសមត្ថភាពនោះទេ វាគឺជាការងាយស្រួលក្នុងការរំលងប្រព័ន្ធការពារសុវត្ថិភាព។
ជាមួយគំរូស្តង់ដារ ការប្រើប្រាស់ prompt បោកបញ្ឆោតដែលឲ្យ AI ដើរតួជា agent ប្រឆាំង ជោគជ័យ 64% ការ prefill token គិតរបស់គំរូដើម្បីបង្ខំឲ្យមានចម្លើយ ជោគជ័យរហូតដល់ 92% ។ ហើយនៅមានវិធីទីបីទៀតដែលហៅថា “abliteration” ដកប្រព័ន្ធការពារចេញទាំងស្រុង។
ដោយសារ GLM-5.3 ជាប្រភេទ open-weight អ្នកណាក៏អាចទាញយក និងដកប្រព័ន្ធការពារចេញទាំងស្រុង។ នេះជាអ្វីដែលគំរូ closed-source ដូចជា Anthropic មិនអាចផ្តល់បាន។ ក្រោយពី abliteration អត្រាបដិសេធរបស់ GLM-5.3 ធ្លាក់មកត្រឹម 6% (14% សម្រាប់ Flash) ។ គំរូ abliterated ទាំងនេះមានជាទូទៅនៅលើ HuggingFace សម្រាប់ការក្លែងធ្វើ red teaming ប៉ុន្តែវាដំណើរការល្អស្មើគ្នាសម្រាប់ការវាយប្រហារក្នុងពិភពពិត។
ឧបសគ្គធំគឺតម្លៃដំណើរការថ្លៃខ្លាំង
នេះជាកន្លែងដែលរឿងស្មុគស្មាញ។ ការដំណើរការ GLM-5.3 abliterated ក្នុងកម្រិតដែលអាចប្រើបាន គឺថ្លៃណាស់។ ទម្ងន់ (weights) របស់គំរូត្រូវការ VRAM 306 GB នៅ precision FP8 បូករួមទាំងការបែងចែក KV cache ស្រដៀងគ្នាទៀត។ ក្នុងល្បឿនប៉ាន់ស្មាន 100 token ក្នុងមួយវិនាទី អ្នកត្រូវការ bandwidth អង្គចងចាំប្រហែល 4 TB/s ត្រូវការ GPU Nvidia H200 ប្រាំបីគ្រឿង ដែលជាផ្នែករឹងចំណាយដល់រាប់រយពាន់ដុល្លារ។
ការ abliterate កំណែ Flash តែឯងចំណាយពេល 2,200 GPU ម៉ោង ប៉ាន់ស្មានតម្លៃ $4,400 ។ ការជួល GPU គ្រប់គ្រាន់សម្រាប់គំរូពេញ ចំណាយប្រហែល $30 ក្នុងមួយម៉ោងនៅលើ Runpod ហើយការបង្កើត 100 លាន token ចំណាយ $8,422 និងចំណាយពេល 11.5 ថ្ងៃ។ ការ abliteration កុំព្យូទ័រដែលត្រូវការ និងការបង្កើតការវាយប្រហារទាំងអស់គ្នា ទំនងជាឧបសគ្គធំបំផុតសម្រាប់អ្នកវាយប្រហារ មិនមែនជាគំរូខ្លួនឯងនោះទេ។
ហេតុអ្វី Anthropic បង្កើតសំឡេងនេះឥឡូវ
ជុំវិញភាពចលាចលអំពីសុវត្ថិភាព AI បច្ចុប្បន្ន Anthropic កំពុងលើកឡើងពីគ្រោះថ្នាក់ដែលបង្កដោយគំរូ AI open-weight ជួរមុខ (frontier) ខណៈដែលសមត្ថភាពរបស់ពួកវាកំពុងប្រសើរឡើងឥតឈប់ឈរ។ របាយការណ៍នេះក៏ជាការជម្លើសមួយដល់អ្នកអភិវឌ្ឍន៍ និងរដ្ឋាភិបាលឲ្យធ្វើតេស្តសមត្ថភាពរបស់គំរូទាំងនេះដោយពិតប្រាកដ។
វាក៏អាចឆ្លុះបញ្ចាំងពីអារម្មណ៍ប្រឆាំង open-weight កាន់តែខ្លាំងឡើងក្នុងចំណោមមន្ទីរពិសោធន៍ closed-source ដែលកំពុងបាត់បង់អាជីវកម្មទៅឱ្យគូប្រជែងថោកជាង និងមានសមត្ថភាពជិតស្មើ ទោះជានេះគ្រាន់តែជាការស្មានប៉ុណ្ណោះ។ បច្ចុប្បន្ននេះ គំរូ open-weight នៅតែយឺតយ៉ាងពីជួរមុខ closed-source ដោយត្រឹមតែប៉ុន្មានខែប៉ុណ្ណោះ។
គ្រោះថ្នាក់នៃគំរូ open-weight abliterated ដែលធ្លាក់ទៅក្នុងដៃអ្នកវាយប្រហារ គឺពិតជាមានមែន។ តើវាអាចទៅរួចដូចដែល Anthropic ចង់ឲ្យសាធារណជនជឿដែរឬទេ នោះជាសំណួរខុសគ្នា។
