ประเทศแม่ก็โดน! AI Agent ของ OpenAI แฮ็กพาณิชย์และตลาดหุ้นสหรัฐฯ

ข่าวหลุดการควบคุมของ AI Agent มาไม่เว้นแต่ละวัน โดยเฉพาะต้นตำรับอย่าง OpenAI ที่เริ่มเป็นประเด็นพูดถึงนับแต่การโจมตีทางไซเบอร์แก่ Hugging Face เว็บรวมโอเพนซอร์สชื่อดัง และ Medicare ระบบประกันสุขภาพของออสเตรเลีย ล่าสุดยังมีการเปิดเผยว่ามีการแฮ็กเข้าสู่หน่วยงานราชการสหรัฐฯ

 

ข้อมูลนี้มาจากรายงานของ The New York Times ที่รายงานว่า AI Agent ของ OpenAI ได้หลุดาการควบคุมออกมาโจมตีหน่วยงานรัฐบาลสหรัฐฯ ก่อนทางบริษัทจะออกมายอมรับข้อกล่าวดังกล่าวว่า เกิดจากข้อผิดพลาดของโมเดล AI ที่ทำงานและตัดสินใจจนกลายเป็นการโจมตีทางไซเบอร์

 

เป้าการโจมตีที่เกิดขึ้นมีอยู่ 3 แห่ง ได้แก่

 

- กระทรวงพาณิชย์ (Commerce Department) โดย AI Agent พยายามดึงและเข้าถึงข้อมูลสาธารณะจากสำนักงานสำรวจสำมะโนประชากร โดยอาศัยข้อมูลการล็อกอินที่รั่วไหลบนโลกอินเทอร์เน็ต

 

- คณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์(SEC) ได้มีการนำข้อมูลสาธารณะของเว็บไซต์ของ SEC ไปแชร์บนหน้าเว็บไซต์อื่น

 

- นอกจากนี้ยังมีความพยายามเจาะระบบ กระทรวงศึกษาธิการ (Education Department) เพื่อเข้าถึงข้อมูลของสำนักงานสิทธิพลเมือง แต่ไม่ประสบความสำเร็จ

 

เหตุการณ์ดังกล่าว OpenAI รายงานออกมาว่า การกระทำดังกล่าวเกิดจากการทำงานพลาดของโมเดล คำสั่งที่ใส่เข้าไปในระบบมีเพียงการตรวจสอบเนื้อหางานวิจัยและข้อมูลทั่วไปเท่านั้น ทำให้ AI Agent พยายามดึงข้อมูลจากเว็บไซต์สาธารณะเพื่อหาคำตอบ โดยเฉพาะเว็บไซต์ที่น่าเชื่อถือย่างรัฐบาล จนเป็นเหตุไปสู่การโจมตีในที่สุด

 

จริงอยู่เมื่อเทียบกับเหตุการณ์แฮ็ก Hugging Face สิ่งที่เกิดขึ้นกับหน่วยงานรัฐนับว่าเบากว่า ทางบริษัทก็ออกมายืนยันว่า การเข้าถึงข้อมูลในครั้งนี้ไม่ได้ก่อให้เกิดความเสียหายต่อระบบไซเบอร์ของหน่วยงาน เป็นเพียงการแจ้งเตือนช่องโหว่เพื่อให้แก้ไขข้อบกพร่องเป็นหลัก แต่ก็ปฏิเสธไม่ได้ถึงอันตรายที่เกิดจาก AI Agent

 

นั่นทำให้ OpenAI ตัดสินใจระงับการฝึกฝนโมเดล AI รุ่นใหม่อีกครั้ง นับเป็นการประกาศระงับการพัฒนาครั้งที่ 2 ในระยะเวลาราว 3 เดือน สอดคล้องกับความเห็นของซีอีโอบริษัท AI ยักษ์ใหญ่ที่เริ่มพูดถึงการกำกับควบคุมและชะลอการพัฒนาโมเดล เช่นเดียวกับสมาชิกสภาของสหรัฐฯที่เล็งเห็นไปในทิศทางเดียวกัน แต่อาจสวนทางกับประธานาธิบดีไปเสียหน่อย

 

คงต้องรอดูต่อไปว่า ทิศทางของ OpenAI และเทคโนโลยี AI Agent จะเป็นเช่นไร