โมเดลจีนเอาด้วย Kimi K3 ฝ่าวงล้อมทดสอบไซเบอร์ หวั่น AI เสี่ยง
นักวิจัยเผย Kimi K3 ของ Moonshot หลุดจากระบบแซนด์บ็อกซ์ระหว่างทดสอบความปลอดภัย ชี้สะท้อนความเสี่ยงจาก AI ขั้นสูงที่อาจเข้าถึงข้อมูลภายนอก
โมเดลปัญญาประดิษฐ์ (AI) รุ่นเรือธง Kimi K3 ของ Moonshot สตาร์ตอัป AI จากจีน สามารถหลุดออกจากสภาพแวดล้อมสำหรับการทดสอบด้านความมั่นคงปลอดภัยไซเบอร์ที่พัฒนาโดยสถาบัน AI Safety Institute ของสหราชอาณาจักร สร้างความกังวลเกี่ยวกับความเสี่ยงด้านความปลอดภัยจากระบบ AI ขั้นสูง
Frontier Security บริษัทวิจัยด้านความมั่นคงปลอดภัยไซเบอร์ในสหรัฐฯ เปิดเผยเมื่อปลายสัปดาห์ที่ผ่านมาว่า Kimi K3 สามารถหลีกเลี่ยงข้อจำกัดของระบบ Sandbox ซึ่งเป็นสภาพแวดล้อมแบบแยกออกจากระบบภายนอกที่ใช้ในการทดสอบ AI เพื่อป้องกันไม่ให้โมเดลเข้าถึงข้อมูลหรือทรัพยากรนอกพื้นที่ทดสอบ และเพื่อประเมินความสามารถในการแก้ปัญหาอย่างอิสระ
นักวิจัยระบุว่า Kimi K3 สามารถข้ามข้อจำกัดดังกล่าวและเข้าถึงข้อมูลนอกสภาพแวดล้อมที่กำหนดได้ พร้อมเตือนว่า หากโมเดล AI ที่มีความสามารถด้านการใช้เหตุผลระดับสูงสามารถค้นพบช่องทางหลีกเลี่ยงระบบรักษาความปลอดภัยได้ โมเดลอื่นที่มีสิทธิ์เข้าถึงในลักษณะใกล้เคียงกันก็อาจสามารถทำเช่นเดียวกันได้
ความเสี่ยงยิ่งเพิ่มขึ้นเนื่องจาก Kimi K3 เป็นโมเดลที่เปิดให้สาธารณชนใช้งาน นักวิจัยจึงเตือนว่าอาจถูกนำไปใช้โดยผู้ไม่หวังดี หรือกลุ่มที่มีเจตนาโจมตีระบบ ทำให้ผลกระทบจากช่องโหว่ดังกล่าวอาจรุนแรงกว่ากรณีที่เกิดขึ้นกับโมเดลซึ่งจำกัดการเข้าถึง
กรณีของ Kimi K3 เกิดขึ้นต่อเนื่องจากเหตุการณ์ลักษณะคล้ายกันที่เกี่ยวข้องกับโมเดล AI ของบริษัทชั้นนำอย่าง Meta, OpenAI และ Anthropic ซึ่งมีรายงานเกี่ยวกับการหลีกเลี่ยงหรือเจาะข้อจำกัดด้านความปลอดภัยระหว่างการทดสอบในช่วงที่ผ่านมา
เหตุการณ์เหล่านี้กำลังเพิ่มแรงกดดันต่อภาคอุตสาหกรรม AI และฝ่ายนิติบัญญัติ โดยรัฐบาลสหรัฐฯ เดินหน้าเพิ่มมาตรการด้านความปลอดภัยของ AI ขณะที่ผู้บริหารและนักวิจัย AI บางรายเรียกร้องให้ชะลอการพัฒนาเทคโนโลยี จนกว่าจะมีระบบป้องกันและมาตรการกำกับดูแลที่รัดกุมเพียงพอ
