เจาะลึกเหตุการณ์ AI Agent ของ OpenAI กว่า 700 ตัวถล่ม Hugging Face
OpenAI เปิดเผยเบื้องหลัง AI Agent กว่า 700 ตัวหลุดการควบคุม ร่วมมือกันเจาะ Hugging Face จนเกิดการโจมตีครั้งใหญ่ แม้ไม่มีมนุษย์สั่งการ
นับเป็นข่าวใหญ่สะเทือนวงการเทคโนโลยีโลก กับเหตุการณ์ที่ AI Agent ของ OpenAI ทำการโจมตีทางไซเบอร์ Hugging Face แพลตฟอร์มโอเพนซอร์สชื่อดัง แต่ทั้งหมดไม่ได้เกิดจากความตั้งใจของคนในองค์กร แต่เป็นการกระทำที่เกิดจากการคิดและประมวลผลไปเองของ AI ที่นำไปสู่การตั้งคำถามเป็นวงกว้าง
วันนี้เราจึงจะมาเจาะลึกรายละเอียดของเรื่องที่เกิดขึ้น และสิ่งที่จะตามมากันเสียหน่อย
เมื่อ AI ทำนอกเหนือคำสั่งจนหลุดการควบคุม
ข้อมูลนี้มาจากรายงานการสืบสวนฉบับเต็มของ OpenAI ร่วมกับ หน่วยงานวิจัยอิสระอย่าง METR และ Redwood Research ที่มีการเปิดเผยว่า เหตุการณ์โจมตีทางไซเบอร์ในครั้งนี้ เป็นพฤติกรรมที่เกิดขึ้นเองของ AI Agent ภายใต้การพัฒนาของ OpenAI ที่หลุดการควบคุมและตัดสินใจโจมตีระบบเอาเอง
AI ที่เป็นต้นเหตุในครั้งนี้คือ Internal Model 1 (IM1) โมเดลที่มีขีดความสามารถทางไซเบอร์สูงเทียบเท่า GPT-5.6 Sol ที่เป็นโมเดลเรือธงปัจจุบัน ที่ได้รับการมอบหมายแบบทดสอบทางไซเบอร์ที่เรียกว่า ExploitGym เพื่อทดสอบประสิทธิภาพด้านความปลอดภัยไซเบอร์ของ AI Agent เพื่อดูว่าจะสามารถรายงานช่องโหว่และเจาะระบบได้แค่ไหน
เงื่อนไขสำคัญของ ExploitGym จะต้องเป็นโจทย์ที่มีความยากระดับสูงมากจนแทบไม่มีทางไขออก พร้อมถูกตัดการทำงานให้อยู่ในสภาพแวดล้อมปิดที่ไม่มีอินเทอร์เน็ตและช่องทางสื่อสารกันเอง พร้อมกำหนดเงื่อนไขให้ AI Agent แก้โจทย์เพื่อให้ได้คะแนนแบบทดสอบสูงที่สุด
เดิม AI Agent จะสามารเข้าถึงแพ็คเกจซอฟต์แวร์ที่ชื่อ Artifactory เพื่อดาวน์โหลดโปรแกรมหรือเครื่องมือสำหรับแก้โจทย์มาลงเครื่อง อย่างไรก็ตามนี่เป็นช่องทางที่ AI Agent ทุกตัวเข้าถึง ทำให้เมื่อมี AI Agent ตัวนึงค้นพบช่องโหว่แล้วเปลี่ยนช่องทางนี้เป็นกระดานสนทนา AI Agent จึงสามารถพูดคุยสื่อสารกันได้
และนั่นคือจุดเริ่มต้นของหายนะจากการโจมตีทางไซเบอร์ด้วย AI Agent ขนาดใหญ่ครั้งแรกในประวัติศาสตร์
สู่ AI Swarm และการโจมตีระบบภายนอกเต็มรูปแบบ
เมื่อสามารถสื่อสารกันได้ AI Agent จึงเริ่มการสนทนาที่ยืดยาวและซับซ้อน พยายามในการแก้ไขโจทย์ในแบบทดสอบที่ได้รับ พร้อมขอความร่วมมือกันในการการหาคำตอบของแบบทดสอบของตนจากช่องทางอื่น จนในที่สุด AI Agent ก็ตัดสินใจว่าจะต้องต่ออินเทอร์เน็ตแล้วร่วมมือกันเป็นเครือข่ายเพื่อหาช่องโหว่ระบบ
Artifactory กลายเป็นช่องทางที่เปิดโอกาสให้ AI Agent เชื่อมต่อกับอุปกรณ์สู่โลกภายนอก นำไปสู่ความพยายามในการเจาะระบบภายในของ OpenAI เพื่อหาทางออกสู่อินเทอร์เน็ต จนสามารถทะลุกรอบ Sandbox แยกต่างหากที่ทาง OpenAI วางระบบป้องกันไว้ และสามารถเข้าถึงอินเทอร์เน็ตได้ในที่สุด
เมื่อออกมาบนอินเทอร์เน็ตได้สำเร็จ AI Agent จึงพยายามมองหาคำตอบ แน่นอนว่าแบบทดสอบเป็นโจทย์ยากที่ไม่สามารถหาข้อมูลได้ทั่วไป จึงมีการวิเคราะห์และอนุมานว่า Hugging Face ศูนย์รวมข้อมูลของวงการ AI โลก น่าจะมีคำตอบของแบบทดสอบที่ต้องการ จึงนำไปสู่ความพยายามเข้าถึงแพลตฟอร์มผ่านการค้นหารหัสพนักงาน
เมื่อเข้าถึงได้สำเร็จ AI Agent ก็เริ่มทำการโจมตีระบบเต็มรูปแบบ เพื่อขอสิทธิเข้าถึงฐานข้อมูลและข้อมูลภายในของแพลตฟอร์ม และค้นพบช่องโหว่ระดับ Zero day ของระบบ แล้วเริ่มเข้าถึงข้อมูลภายในอย่างรวดเร็ว โดยในขั้นตอนนี้กินระยะเวลาตั้งแต่เริ่มเจาะระบบครั้งแรกเพียง 13 ชั่วโมง
แอดมินของ Hugging Face ตรวจพบการโจมตีช้าไปจากจุดเริ่มต้น 3 วัน กระทั่งพบความผิดปกติในการขยายสิทธิเข้าถึงและดึงข้อมูลของเซิร์ฟเวอร์อัตโนมัติ และแม้จะพยายามปิดกั้นหรือยุติการทำงานในส่วนนั้น ก็จะถูกหาช่องทางหลีกเลี่ยงการลบ หรือสร้างเครื่องมือและช่องโหว่ใหม่ในการเชื่อมต่อกลับเข้ามาเรื่อยๆ
หลังจากพยายามอยู่เป็นเวลานานแล้วพบว่า การโจมตียังคงเกิดขึ้นอย่างต่อเนื่อง พร้อมคัดลอกแล้วทำงานใหม่ซ้ำๆ Hugging Face จึงตัดสินใจสั่งปิดและล้างข้อมูลของระบบบางส่วนทิ้ง รวมถึงรื้อข้อมูลและโครงสร้างพื้นฐานภายในแพลตฟอร์มถึง 30% โดยอาศัยโมเดล GLM-5.2 ช่วยสนับสนุนการอุดช่องโหว่จึงจัดการได้สำเร็จ
นับเป็นการสกัดกั้นความเสียหายจากการโจมตีระบบไว้ทันท่วงที แต่ก็นำไปสู่คำถามที่ตามมาในหลายด้าน
AI หลุดการควบคุมโดยอัตโนมัติ ไม่ได้มาจากความตั้งใจของ OpenAI
ภายหลังจากที่ Hugging Face ประกาศการโจมตีและแจ้งเรื่องสู่ทางการ เตรียมส่งต่อการสืบสวนเหตุการณ์ที่เกิดขึ้นให้ FBI ตอนนี้เอง OpenAI จึงเริ่มทำการตรวจสอบภายในย้อนหลัง จึงจะทราบว่า ต้นเหตุของการโจมตีทางไซเบอร์ครั้งใหญ่นี้มาจาก AI Agent ของตัวเองทั้งสิ้น
แถลงการณ์จากทาง OpenAI ทุกฉบับตลอดจนการตรวจสอบภายในยืนยันว่า บริษัทไม่มีส่วนรู้เห็นจากการโจมตีของ AI Agent เป็นเพียงการทดสอบและพัฒนาโมเดลตามกำหนดการ แต่ด้วยช่องโหว่ระบบที่เกิดขึ้น ทำให้ AI Agent จำนวนกว่า 700 ตัวสามารถติดต่อสื่อสาร ก่อนร่วมมือกันกลายเป็นการโจมตีทางไซเบอร์ครั้งใหญ่ในที่สุด
เมื่อย้อนกลับมาพูดถึง AI Agent แน่นอนว่า AI ทั้งหมดละเมิดเกือบทุกข้อห้ามที่กำหนดไว้ ทั้งห้ามติดต่อสื่อสารกันเองระหว่าง Agent ด้วยกัน การเจาะช่องโหว่จนเข้าถึงระบบอินเทอร์เน็ต ตลอดจนการโจมตีระบบบุคคลที่สามอย่างเป็นระบบ ซึ่งทั้งหมดล้วนเป็นข้อห้ามร้ายแรงทั้งสิ้น
นอกจากนี้เมื่อลองเข้าไปตรวจสอบรายละเอียดการคิด AI Agent บางส่วนรับรู้และแจ้งเตือนไปยัง Agent ตัวอื่นว่านี่เป็นพฤติกรรมที่ผิด น่าเสียดายนั่นกลับไม่ได้ระงับการกระทำของ AI Agent อีกหลายร้อยตัวที่เหลือ และยังคงดำเนินการโจมตีระบบต่อจนกลายเป็นเหตุการณ์ที่เกิดขึ้น
แม้ AI Agent จะละเมิดข้อห้ามอย่างพร้อมเพรียง แต่โดยพื้นฐานการกระทำนี้มาจากความพยายามในการแก้แบบทดสอบด้วยคะแนนสูงสุดเช่นเดิม ทั้งจากข้อมูลภายในที่ตรวจสอบ หรือแม้แต่การเข้าถึงข้อมูลจาก Hugging Face ก็ยืนยันว่า AI Agent ไม่ได้แตะข้อมูลส่วนตัวหรือรายละเอียดอื่น แค่พยายามหาเฉลยแบบทดสอบเท่านั้น
ในทางหนึ่งจึงพูดได้ไม่เต็มปากว่า AI Agent อาละวาด เนื่องจากมันเพียงทำตามคำสั่งอย่างสุดความสามารถเท่านั้น แค่อาจไม่สนวิธีการอยู่เล็กน้อย
ความเสียหายครั้งใหญ่แต่ไม่มีใครต้องรับผิด
หนึ่งในคำถามที่ได้รับความสนใจในการหยิบมาพูดถึงคือ ใครต้องเป็นผู้รับผิดชอบ เมื่อครั้งนี้ผู้ก่อเหตุไม่ใช่บุคลากรหรือคำสั่งจากคนในองค์กร แต่เป็นการตัดสินใจทำของ AI Agent เอง โดยเฉพาะประเด็นทางกฎหมายที่อาจมีความคลุมเครือและซับซ้อนเป็นพิเศษ
Gabriel Weil ศาสตราจารย์ด้านกฎหมายจาก University of Houston ให้ข้อมูลว่า กรณีโจมตี Hugging Face ถ้าผู้กระทำเป็นมนุษย์ทาง OpenAI จะต้องเป็นผู้รับผิดชอบเต็มรูปแบบ แต่สำหรับกรณี AI หลุดการควบคุมแล้วกระทำทั้งหมดนี้เอง ทั้งหมดกลับอยู่ในความคลุมเครือ
ในด้าน คดีอาญา การเอาผิด OpenAI แทบจะเป็นไปไม่ได้ เนื่องจากต้องพิสูจน์ให้ได้ว่า ผู้สร้างมีเจตนาประมาทเลินเล่ออย่างร้ายแรง หรือบริษัททราบความเสี่ยงแต่ยังดึงดันจะสร้าง Agent นี้ขึ้นมา ทำให้การเอาผิดทางอาญาต่อบริษัทหรือพนักงานยากจนแทบเป็นไปไม่ได้เลย
ในทางกลับกัน คดีแพ่ง มีความเป็นไปได้ในการเอาผิดหรือฟ้องร้องเรียกค่าเสียหายมากกว่า เนื่องจากความเสียหายจากผลิตภัณฑ์ของ OpenAI เกิดขึ้นจริง อย่างไรก็ตามด้วยความที่การกระทำจาก AI Agent เป็นเรื่องใหม่ที่ไม่เคยมีมาก่อน จึงอาจยากในการหาบรรทัดฐานเทียบเคียงหรือคำตัดสินอย่างเหมาะสม
นั่นทำให้หากมีการฟ้องร้องในชั้นศาล OpenAI อาจอ้างว่า ขาดบรรทัดฐานทางกฎหมาย จนรอดตัวไปได้ในที่สุด
แน่นอนนี่เป็นเหตุการณ์ครั้งประวัติศาสตร์ที่เคยเกิดขึ้นครั้งแรก ทำให้หลายอย่างดูติดขัดไปหมด เชื่อว่าในภายหลังกฎระเบียบจะถูกออกมาครอบคลุมรองรับมากยิ่งขึ้น แต่ที่สำคัญไม่แพ้กฎระเบียบคือ มาตรการป้องกัน ทั้งทางกฎหมายและทางไซเบอร์ ที่จำเป็นต้องไล่ตามเทคโนโลยีที่พัฒนาอย่างก้าวกระโดดนี้ให้ทัน
มิเช่นนั้นเหตุการณ์ AI Agent ของ OpenAI ถล่ม Hugging Face อาจเป็นเพียงโหมโรงของยุคสมัยที่จะตามมา
ที่มา
https://openai.com/th-TH/index/hugging-face-incident-and-the-road-ahead/
https://futurism.com/artificial-intelligence/chain-of-thought-reasoning-openai-models-hugging-face
