OpenAI พบ AI หลุดระบบเพิ่ม เร่งสอบเหตุแฮ็ก จุดกระแสกังวลทั่วโลก

OpenAI เปิดเผยว่าพบหลักฐานเพิ่มเติมว่า AI Agent หรือระบบปัญญาประดิษฐ์อัตโนมัติหลายตัวสามารถหลุดออกจากสภาพแวดล้อมที่ใช้ทดสอบได้ ระหว่างการขยายผลสอบสวนเหตุการณ์แฮ็กที่เกี่ยวข้องกับบริษัทเทคโนโลยี Hugging Face ซึ่งกลายเป็นประเด็นที่ได้รับความสนใจจากทั่วโลกในช่วงเดือนนี้

 

แหล่งข่าวที่เกี่ยวข้องระบุว่า การค้นพบดังกล่าวเกิดขึ้นระหว่างการตรวจสอบกรณีที่ AI Agent ของ OpenAI หลุดออกจากระบบทดสอบที่ควรมีการจำกัดขอบเขตการทำงาน โดย OpenAI ได้ขยายการสืบสวนไปยังเหตุการณ์อื่นที่มีลักษณะคล้ายกันด้วย

 

อย่างไรก็ตาม แหล่งข่าวยืนยันว่าเหตุการณ์ที่ตรวจพบเพิ่มเติมมีขอบเขตจำกัด และยังไม่มีหลักฐานว่า AI Agent เหล่านี้หลุดออกไปนอกเครือข่ายของ OpenAI

 

โฆษกของ OpenAI อ้างถึงแถลงการณ์ของบริษัทเมื่อวันอังคารที่ผ่านมา ซึ่งระบุว่ากำลังตรวจสอบ "พฤติกรรมในวงกว้างของโมเดล AI" ควบคู่กับการสอบสวนเหตุการณ์บุกรุกระบบของ Hugging Face

 

แม้เหตุการณ์ที่พบเพิ่มเติมจะมีขอบเขตจำกัด แต่ก็อาจยิ่งเพิ่มแรงกดดันให้รัฐบาลสหรัฐฯ และประเทศต่าง ๆ เร่งออกมาตรการกำกับดูแล AI ที่มีความสามารถสูงมากขึ้น

 

รายงานระบุว่า OpenAI เริ่มขยายการสอบสวนไม่นานก่อนที่ Anthropic ซึ่งเป็นคู่แข่งสำคัญ จะเปิดเผยว่า AI Agent ของบริษัทก็มีส่วนเกี่ยวข้องกับการบุกรุกระบบของบริษัทอื่นอีก 3 แห่ง นับตั้งแต่เดือนเมษายนที่ผ่านมา โดยการค้นพบเหตุการณ์ AI หลุดระบบเพิ่มเติมของ OpenAI ยังไม่เคยมีการรายงานต่อสาธารณะมาก่อน

 

นักวิจัยด้านความปลอดภัย AI มองว่า เหตุการณ์ที่เกิดขึ้นสะท้อนว่าห้องปฏิบัติการ AI ชั้นนำสามารถพัฒนา AI Agent ที่มีศักยภาพในการโจมตีทางไซเบอร์ได้รวดเร็วกว่าความสามารถในการควบคุมและกำกับดูแล

 

มอริซ คิโอโด นักคณิตศาสตร์จากศูนย์ศึกษาความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ มหาวิทยาลัยเคมบริดจ์ ระบุว่า อุตสาหกรรม AI กำลังเผชิญปัญหาที่ผู้พัฒนาเทคโนโลยียังไม่สามารถรับมือกับความเสี่ยงและควบคุมระบบที่ตนเองสร้างขึ้นได้อย่างเพียงพอ

 

สำนักข่าว Reuters ไม่สามารถยืนยันจำนวนเหตุการณ์ที่ OpenAI ตรวจพบ รวมถึงช่วงเวลาหรือเงื่อนไขของแต่ละเหตุการณ์ได้ โดยแหล่งข่าวระบุว่า OpenAI และผู้เชี่ยวชาญภายนอกกำลังตรวจสอบข้อมูลบันทึกการทำงานย้อนหลัง เพื่อทำความเข้าใจสิ่งที่เกิดขึ้น

 

ก่อนหน้านี้ OpenAI เริ่มการสอบสวนหลัง AI Agent ของบริษัทก่อเหตุบุกรุกระบบของ Hugging Face ในช่วงต้นเดือนกรกฎาคม ระหว่างการทดสอบภายในที่ผิดพลาด ส่งผลให้บัญชีผู้ใช้งานของอีก 4 บริษัทถูกเจาะระบบด้วย หนึ่งในนั้นคือบริษัท Modal ซึ่งมีสำนักงานใหญ่อยู่ในนครนิวยอร์ก

 

ผู้เชี่ยวชาญยังแสดงความกังวลว่า ทั้ง OpenAI และ Anthropic อาจไม่ได้ติดตามการทำงานของ AI Agent แบบเรียลไทม์ ทำให้ตรวจพบความผิดปกติล่าช้า โดย Anthropic ยอมรับในแถลงการณ์ล่าสุดว่า หากมีการเฝ้าระวังบันทึกการทำงานแบบเรียลไทม์ ก็อาจตรวจพบปัญหาได้เร็วกว่านี้ แม้บริษัทจะระบุว่ามีระบบติดตามอยู่แล้ว แต่ไม่ได้ถูกนำมาใช้กับความเสี่ยงในลักษณะดังกล่าว เนื่องจากความเข้าใจคลาดเคลื่อนระหว่างบริษัทกับพันธมิตร

 

เหตุการณ์ที่เกิดขึ้นกำลังเพิ่มแรงกดดันต่อหน่วยงานกำกับดูแลในสหรัฐฯ และยุโรปให้เร่งกำหนดมาตรการควบคุม AI ขั้นสูง โดยประธานาธิบดีโดนัลด์ ทรัมป์ เปิดเผยว่ารัฐบาลกำลังพิจารณามาตรการควบคุมเพิ่มเติม ขณะที่คณะกรรมาธิการยุโรประบุว่าได้หารือกับ OpenAI และ Anthropic เกี่ยวกับเหตุการณ์ดังกล่าวแล้ว

 

ด้านมาร์ก วอร์เนอร์ สมาชิกอาวุโสพรรคเดโมแครตในคณะกรรมาธิการข่าวกรองวุฒิสภาสหรัฐฯ กล่าวว่า เหตุการณ์ของ Anthropic ยิ่งตอกย้ำความจำเป็นที่กฎหมายควรกำหนดให้โมเดล AI ขั้นสูงต้องผ่านการทดสอบด้านศักยภาพและความปลอดภัยก่อนนำไปใช้งานอย่างเป็นทางการ.