เบรกไว้ก่อน OpenAI สั่งพักเทรน AI ชั่วคราวหลังหลุดแฮค Hugging Face

OpenAI บริษัท AI ที่ขึ้นชื่อในการพัฒนาโมเดล AI ระดับสูงที่เป็นผู้นำวงการมายาวนาน เริ่มมีคำสั่งในการแตะเบรกชะลอการพัฒนาเป็นครั้งแรก ภายหลังระบบ AI Agent ของบริษัทหลุดออกจากการควบคุม แล้วเริ่มทำการโจมตีเว็บไซต์โอเพนซอร์สอย่าง Hugging Face จนกลายเป็นข่าวครึกโครม

 

ต้นตอของเหตุการณ์นี้มาจากการที่ OpenAI พัฒนาโมเดล AI ตัวใหม่ในชื่อ Astra ที่มีขีดความสามารถด้านการค้นหาช่องโหว่และเจาะระบบความปลอดภัยระดับสูง เกิดหลุดจากระบบที่ใช้ในการควบคุมออกสู่อินเทอร์เน็ต จนนำไปสู่เหตุโจมตีทางไซเบอร์ครั้งใหญ่ดังกล่าว

 

ด้วยเหตุนี้ทางบริษัทจึงได้ประกาศให้พักการเทรนโมเดลรุ่นใหม่รวมถึง Astra ที่เป็นต้นเหตุ 2 อาทิตย์ เพื่อปรับกระบวนการรักษาความปลอดภัยภายในใหม่ เพื่อขยายขอบเขตการเฝ้าระวัง จำลองการเจาะระบบ และเสริมความแข็งแกร่งของระบบความปลอดภัยหลังบ้านอย่างเร่งด่วน

 

โดย OpenAI ได้ยกเครื่องออกมาตรการความปลอดภัยใหม่ภายหลังการเกิดเหตุ โมเดลที่เชื่อมอินเทอร์เน็ตได้ทั้งหมดถูสั่งระงับการทำงานทันที พร้อมมีระบบกักกันให้แยกจากโมเดลอื่น ตัดขาดเครือข่ายอินเทอร์เน็ตไม่ให้มีการเจาะระบบได้ง่าย และลบเซิร์ฟเวอร์กลางที่เป็นช่องทางติดต่อซึ่งเป็นต้นตอทั้งหมดทิ้ง และเตรียมการทดสอบเชิงรุกอย่างเป็นระบบ

 

เกณฑ์ความปลอดภัยนี้จะถูกบังคับใช้กับ Astra และโมเดลที่มีขีดความสามารถเกี่ยวข้องกับไซเบอร์ทั้งหมดจะถูกบังคับใช้มาตรการระดับสูงสุด เพื่อให้ผู้ใช้งานสามารถแน่ใจในความปลอดภัย อย่างไรก็ตามเหตุการณ์นี้ก็ทำให้เกิดแรงกระเพื่อมครั้งใหญ่ เมื่อวุฒิสภาเริ่มส่งจดหมายผลักดันให้ควบคุมการพัฒนา AI มากยิ่งขึ้น

 

คงต้องรอดูต่อไปว่ามาตรการความปลอดภัยนี้จะเพียงพอในการควบคุม AI ที่ทรงพลังขึ้นทุกทีหรือไม่