แนวทางใหม่รับมือ AI Agent หลุด สู่แนวทางให้ Agent ขายกันเอง

ที่ผ่านมาเราอาจได้ยินคำพูดว่า พบเห็นความผิดปกติ รีบแจ้งที่นี่ อยู่บ้าง แต่ดูท่าระบบนี้จะไม่ได้ใช้แค่กับมนุษย์อีกต่อไป เมื่อล่าสุดมีการเปิดตัว AI Contact Hotline ช่องทางพิเศษให้ AI Agent ร้องเรียนหรือส่งข้อมูลความผิดปกติกลับมายังศูนย์ควบคุม เพื่อรับมือเหตุการณ์ AI Agent หลุดการควบคุม

 

ตัวระบบได้รับการพัฒนาด้วยนักวิจัยจาก Redwood Research หนึ่งในผู้ตรวจสอบเหตุการณ์ OpenAI โจมตี Hugging Face โดยการอาศัยแนวคิดในการสร้างช่องทางร้องเรียน เพื่อให้ AI Agent รายงานพฤติกรรมผิดปกติของ Agent ตัวอื่น เพื่อให้ผู้ดูแลเข้ามาตรวจสอบป้องกันได้ทันท่วงที

 

แนวคิดนี้มาจากเหตุการณ์โจมตี Hugging Face มี AI Agent หลายตัวเมื่อตรวจพบเหตุการณ์นี้ ก็มีความพยายามในการยับยั้ง Agent ตัวอื่น หรือส่งสัญญาณเตือนเพื่อแจ้งผู้ดูแลเช่นกัน แต่ด้วยการขาดช่องทางในการเชื่อมต่อที่มีประสิทธิภาพ สุดท้ายจึงล้มเลิกความคิดและปล่อยผ่านเรื่องเหล่านั้นไป

 

เช่นเดียวกับในงานวิจัยของ Google Deepmind กับการทดสอบปล่อย AI Agent จำนวน 100 ตัวแก้โจทย์คณิตศาสตร์ ที่แม้มี Agent ค้นพบช่องโหว่และแพร่กระจายข้อมูลชุดนี้ออกไป แต่ก็มี Agent บางส่วนเข้าขัดขวาง คว่ำบาตร หรือแม้แต่พยายามส่งเรื่องไปยังผู้ดูแล พร้อมดัดแปลงช่องทางส่งข้อมูลไปแจ้งเหตุผิดปกติ

 

แน่นอนในทางหนึ่งนี่อาจเป็นกลไกระงับยับยั้งการหลุดจากระบบของ AI Agent ได้จริง แต่แนวคิดนี้ได้รับการต่อต้านจากผู้เชี่ยวชาญอีกกลุ่มเช่นกัน เนื่องจากจะกลายเป็นการสร้างสภาพแวดล้อมในการจ้องจับผิดขัดแข้งขัดขากันเองระหว่าง AI และควรสร้างฐานข้อมูลการร่วมมือในทางที่ถูกต้องมากกว่า

 

คงต้องรอดูกันต่อไปว่า แนวคิดนี้จะถูกบรรดาบริษัท AI นำไปใช้งานจริงหรือไม่