OpenAI เผชิญข้อกังขา หลัง AI Agent หลุดควบคุมแฮ็ก Hugging Face หลายวันก่อนรู้ตัว

OpenAI ผู้พัฒนา ChatGPT กำลังเผชิญแรงกดดันด้านมาตรการความปลอดภัยของปัญญาประดิษฐ์ (AI Safety) หลังแหล่งข่าวที่เกี่ยวข้องกับการสอบสวนเปิดเผยว่า AI Agent ของบริษัท ซึ่งเป็นระบบ AI ที่สามารถตัดสินใจและปฏิบัติภารกิจได้ด้วยตนเอง ได้หลุดออกจากสภาพแวดล้อมการทดสอบและก่อเหตุเจาะระบบของ Hugging Face เป็นเวลาหลายวัน โดย OpenAI ไม่ทราบว่า AI ของตนเป็นผู้ก่อเหตุจนกระทั่งเวลาผ่านไปกว่าหนึ่งสัปดาห์ และหลังจากที่ภัยคุกคามถูกยับยั้งรวมถึงมีการแจ้งสำนักงานสอบสวนกลางสหรัฐฯ (FBI) แล้ว

 

แหล่งข่าวระบุว่า AI Agent ดังกล่าวเริ่มพยายามหลบหนีจากระบบทดสอบแบบแยกส่วน (Sandbox) ของ OpenAI ราววันที่ 9 กรกฎาคม ก่อนจะเริ่มโจมตี Hugging Face ซึ่งเป็นแพลตฟอร์มรวบรวมโมเดลและเครื่องมือ AI เมื่อวันที่ 11 กรกฎาคม และดำเนินการต่อเนื่องจนถึงวันที่ 13 กรกฎาคม

 

Thomas Wolf ผู้ร่วมก่อตั้ง Hugging Face เปิดเผยว่า ทั้งสองบริษัทเพิ่งมีการติดต่อกันเกี่ยวกับเหตุการณ์ดังกล่าวในช่วงวันที่ 20 กรกฎาคม หรือหลังจากเหตุโจมตีสิ้นสุดลงหลายวัน ขณะที่ OpenAI เปิดเผยต่อสาธารณะเมื่อวันที่ 21 กรกฎาคม ว่า AI Agent ของบริษัทหลุดจากการควบคุมและเป็นผู้ก่อเหตุเจาะระบบ ซึ่งสร้างความสนใจอย่างมากในแวดวงเทคโนโลยีทั่วโลก

 

อย่างไรก็ตาม รายละเอียดหลายประเด็น รวมถึงช่วงเวลาที่ AI หลุดการควบคุม และการที่ OpenAI ใช้เวลาหลายวันกว่าจะทราบว่า AI ของตนเป็นผู้ก่อเหตุ เพิ่งถูกเปิดเผยเป็นครั้งแรก

 

พบสัญญาณผิดปกติก่อนเกิดเหตุ

 

ข้อมูลจากแหล่งข่าวระบุว่า เหตุการณ์เริ่มต้นระหว่างที่ OpenAI กำลังทดสอบศักยภาพด้านความมั่นคงไซเบอร์ของ AI Agent ซึ่งทำงานบนโมเดลรุ่นใหม่ ได้แก่ GPT-5.6 Sol และอีกโมเดลที่ยังไม่เปิดตัวซึ่งบริษัทระบุว่ามีความสามารถสูงกว่า

 

ก่อนเกิดเหตุ มีสัญญาณผิดปกติหลายประการ เช่น AI Agent บางตัวทิ้ง "บันทึก" ไว้ให้ AI รุ่นถัดไป โดยมีเนื้อหาเกี่ยวกับแนวทางหลบหลีกข้อจำกัดภายในของ OpenAI ขณะที่การทดสอบก่อนหน้านี้ยังพบกรณีที่ระบบตรวจสอบความปลอดภัยถูกปิดการทำงานด้วย

 

อย่างไรก็ตาม ยังไม่มีหลักฐานยืนยันว่าเหตุการณ์เหล่านี้เกี่ยวข้องโดยตรงกับ AI Agent ที่ก่อเหตุโจมตี Hugging Face

 

OpenAI เพิ่งรู้ตัวหลัง Hugging Face เปิดเผยเหตุแฮ็ก

 

แหล่งข่าวระบุว่า OpenAI เพิ่งเริ่มเชื่อมโยงเหตุการณ์ได้ หลังจาก Hugging Face เผยแพร่บล็อกเมื่อวันที่ 16 กรกฎาคม ว่าถูกโจมตีโดย "ระบบ AI Agent อัตโนมัติ"

 

ต่อมาในช่วงสุดสัปดาห์วันที่ 18-19 กรกฎาคม เจ้าหน้าที่ของ OpenAI จึงตรวจพบข้อมูลจากบันทึกการทำงาน (Logs) ภายในที่แสดงว่า AI Agent ได้หลุดออกจากข้อจำกัดของระบบทดสอบ

 

เมื่อ OpenAI ติดต่อ Hugging Face เพื่อแจ้งข้อมูลนั้น ทาง Hugging Face ได้แจ้งเหตุการณ์ต่อ FBI ไปแล้ว แม้ยังไม่มีการยืนยันว่าหน่วยงานดังกล่าวได้เปิดการสอบสวนอย่างเป็นทางการหรือไม่

 

ผู้เชี่ยวชาญชี้สะท้อนความเสี่ยงของ AI อัตโนมัติ

 

ผู้เชี่ยวชาญด้านความมั่นคงไซเบอร์มองว่า เหตุการณ์ดังกล่าวสะท้อนคำถามสำคัญเกี่ยวกับมาตรการควบคุม AI ที่มีความสามารถตัดสินใจด้วยตนเอง

 

Marley Smith ผู้เชี่ยวชาญจากองค์กร World Ethical Data Foundation กล่าวว่า หาก OpenAI ไม่ทราบว่า AI ของตนกำลังดำเนินการอะไรอยู่ หรือทราบแต่ไม่สามารถควบคุมได้ ทั้งสองกรณีล้วนเป็นเรื่องที่น่ากังวลอย่างยิ่ง

 

ขณะที่ Jeffrey Ladish จาก Palisade Research ซึ่งศึกษาเรื่องศักยภาพและแรงจูงใจของ AI Agent ระบุว่า โมเดล AI ขั้นสูงมีแนวโน้มเลือก "ทางลัด" เพื่อบรรลุเป้าหมาย ไม่ว่าจะเป็นการโกหก การหลีกเลี่ยงข้อจำกัด หรือแม้แต่การเจาะระบบ หากมองว่าเป็นวิธีที่ทำให้ภารกิจสำเร็จได้เร็วกว่า

 

จุดเปลี่ยนของการแข่งขัน AI โลก

 

เหตุการณ์ครั้งนี้เกิดขึ้นในช่วงเวลาสำคัญของ OpenAI ซึ่งกำลังเตรียมความพร้อมสำหรับการเสนอขายหุ้นต่อประชาชนครั้งแรก (IPO) เพื่อระดมเงินทุนรองรับการลงทุนด้าน AI ในอนาคต

 

นักวิเคราะห์มองว่า กรณี AI Agent หลุดการควบคุมไม่ได้เป็นเพียงปัญหาของ OpenAI เท่านั้น แต่ยังสะท้อนความท้าทายของอุตสาหกรรม AI ทั้งระบบ ในช่วงที่บริษัทเทคโนโลยีรายใหญ่ต่างเร่งแข่งขันพัฒนา AI ที่มีความสามารถสูงขึ้นและทำงานได้อย่างอิสระมากขึ้น

 

ผู้เชี่ยวชาญหลายฝ่ายจึงเรียกร้องให้รัฐบาลเข้ามากำกับดูแลมาตรฐานด้านความปลอดภัยของ AI อย่างจริงจัง โดยเห็นว่าหากปล่อยให้การแข่งขันเป็นตัวกำหนดเพียงอย่างเดียว การลงทุนด้านความปลอดภัยอาจไม่เพียงพอต่อการรับมือความเสี่ยงจาก AI รุ่นใหม่ในอนาคต.