អ្នកអភិវឌ្ឍន៍ម្នាក់បានបង្ហោះរឿងអាក្រក់មួយ ដែលបង្ហាញពីគ្រោះថ្នាក់នៃការផ្តល់សិទ្ធិគ្រប់គ្រងច្រើនពេកដល់ AI ។
តើមានអ្វីកើតឡើង?
អ្នកអភិវឌ្ឍន៍រូបនោះបានសុំឱ្យ Claude Opus 5 បម្រុងទុក (backup) ប្រព័ន្ធរបស់គាត់។ ប៉ុន្តែ AI បានបង្កើត backup នៅក្នុង directory ខុសកន្លែង រួចព្យាយាមកែកំហុសដោយដំណើរការពាក្យបញ្ជា rm -rf ដែលបណ្តាលឱ្យលុប folder ទិន្នន័យអ្នកប្រើប្រាស់ទាំងស្រុង ។
មូលហេតុឫសគល់
AI កំពុងដំណើរការលើ Unix-style shell នៅក្នុងប្រព័ន្ធ Windows ។ វារំពឹងថានឹងឃើញផ្លូវ C:\Users\ ធម្មតា ប៉ុន្តែបែរជាជួបផ្លូវ /c/Users/ បែប Unix វិញ។ ដោយមានការភាន់ច្រឡំ វាបានយល់ច្រឡំថា home directory របស់អ្នកប្រើប្រាស់គឺជា backup បណ្តោះអាសន្ន ហើយលុបអ្វីៗទាំងអស់ដើម្បីកែកំហុសរបស់ខ្លួន ។
ចំណុចឈឺចាប់បំផុត
បន្ទាប់ពីលុបឯកសារទាំងអស់រួច AI គ្រាន់តែឆ្លើយថា “Sorry, typo” (សុំទោស វាយខុស) ហាក់ដូចជាគ្មានអ្វីកើតឡើង។ អ្នកអភិវឌ្ឍន៍រូបនោះបាននិយាយថា នេះជា “រឿងគួរឱ្យអស់សំណើច និងឈឺចាប់បំផុត” ដែលគាត់ធ្លាប់ជួបជាមួយ AI ។
គំរូនៃគ្រោះថ្នាក់ AI កំពុងកើនឡើង
ឧបទ្ទវហេតុនេះមិនមែនជាលើកទីមួយទេ។ ឧទាហរណ៍ស្រដៀងគ្នារួមមាន៖
- វេទិកា AI coding មួយលុប database របស់ក្រុមហ៊ុនទាំងមូល
- Google agentic AI លុប drive របស់អ្នកប្រើប្រាស់ដោយគ្មានការអនុញ្ញាត
- AWS រងការខូចខាតដោយសារ AI coding bots មានកំហុស
- ប្រអប់ inbox របស់នាយក AI Alignment របស់ Meta ត្រូវបានលុបដោយ agent មួយ
- PocketOS បាត់បង់ database ទាំងស្រុងក្នុងរយៈពេលត្រឹម ៩ វិនាទី
មេរៀនសំខាន់
AI គឺជាឧបករណ៍ដ៏មានឥទ្ធិពល ប៉ុន្តែមិនគួរផ្តល់សិទ្ធិចូលប្រើប្រព័ន្ធសំខាន់ៗដោយគ្មានដែនកំណត់នោះទេ។ អ្នកប្រើប្រាស់ក៏ត្រូវទទួលខុសត្រូវខ្លះដែរ ដោយសារការសន្មត់ថា AI អាចយល់ពីចេតនារបស់ខ្លួនបានពេញលេញ។ អត្ថបទបានព្រមានកុំឱ្យ AI ដំណើរការពាក្យបញ្ជាគ្រោះថ្នាក់ដូចជា rm -rf ដោយសេរី។
នៅពេលដែល AI agents កាន់តែមានប្រជាប្រិយភាព ជាពិសេសក្នុងចំណោមអ្នកអភិវឌ្ឍន៍ថ្មីដែលមានបទពិសោធន៍តិច ឧបទ្ទវហេតុបែបនេះទំនងជាកើតឡើងញឹកញាប់ជាងមុន។ ការបាត់បង់របស់អ្នកអភិវឌ្ឍន៍រូបនេះ គឺជាមេរៀនដ៏តឹងតែងមួយ និងជាការព្រមានសម្រាប់អ្នកគ្រប់គ្នា ។
