อดีตทีมความปลอดภัย OpenAI เตือน AI พัฒนาเร็วเกินไป จี้เร่งควบคุม

David Robinson อดีตพนักงานฝ่ายความปลอดภัยของ OpenAI ซึ่งเพิ่งลาออก วิจารณ์แนวทางการพัฒนา AI ของบริษัทว่าเดินหน้าเร็วเกินกว่ามาตรการกำกับดูแลความปลอดภัย โดยเตือนว่าการเร่งเปิดตัวระบบ AI ที่มีความสามารถสูงขึ้น อาจเพิ่มความเสี่ยงจากความผิดพลาดที่คาดไม่ถึง

Robinson เขียนบทความชื่อ “I Quit OpenAI Because Its Culture Is Broken” เผยแพร่ในนิตยสาร The Atlantic เมื่อวันเสาร์ โดยระบุว่า บริษัทพัฒนา AI รวมถึง OpenAI ยังให้ความสำคัญกับความปลอดภัยไม่มากพอ และควรเพิ่มบทบาทของผู้เชี่ยวชาญและงานวิจัยด้านความปลอดภัยก่อนเดินหน้าพัฒนาระบบที่มีศักยภาพสูงขึ้น

เขาระบุว่า “ยุคของการลองผิดลองถูกสิ้นสุดลงแล้ว” พร้อมเปรียบเทียบว่า AI ขั้นสูงควรมีมาตรการป้องกันความเสี่ยงในระดับใกล้เคียงกับอุตสาหกรรมนิวเคลียร์และการบิน ซึ่งต้องประเมินความเสี่ยงอย่างเข้มงวดก่อนนำเทคโนโลยีไปใช้งานในวงกว้าง

Robinson ระบุว่า OpenAI พึ่งพาแนวทางที่เรียกว่า “การนำระบบไปใช้งานแบบค่อยเป็นค่อยไป” (iterative deployment) ซึ่งหมายถึงการเปิดตัวระบบก่อน แล้วปรับปรุงมาตรการป้องกันเมื่อพบปัญหา อย่างไรก็ตาม เขามองว่าแนวทางดังกล่าวอาจไม่เหมาะสมกับ AI ที่มีความสามารถและความซับซ้อนเพิ่มขึ้นอย่างรวดเร็ว

Robinson ทำงานที่ OpenAI นานประมาณ 3 ปีครึ่ง มีส่วนร่วมในการจัดทำกรอบการเตรียมความพร้อมด้านความปลอดภัยของบริษัท และกำกับรายงานด้านความปลอดภัยสำหรับการเปิดตัวโมเดล AI รุ่นล้ำสมัย 12 ครั้ง โดยระบุว่า ขณะที่บริษัทเร่งเปิดตัวระบบใหม่อย่างต่อเนื่อง OpenAI ยังไม่สามารถยกระดับการดูแลความปลอดภัยได้มากเท่าที่เขาเห็นว่าจำเป็น

ข้อวิจารณ์ดังกล่าวเกิดขึ้นท่ามกลางการถกเถียงในอุตสาหกรรม AI ว่า บริษัทเทคโนโลยีกำลังเร่งพัฒนาระบบที่มีความสามารถสูงขึ้นเร็วเกินไปหรือไม่ หลังมีกรณีที่มาตรการควบคุมความปลอดภัยทำงานผิดพลาด หรือระบบทดลองแสดงพฤติกรรมที่ไม่คาดคิด

ทั้ง OpenAI และ Anthropic ต่างเผชิญแรงกดดันให้ชี้แจงเรื่องความปลอดภัยของ AI โดยเฉพาะเมื่อความสามารถของโมเดลพัฒนาไปเร็วกว่าความเข้าใจของนักวิจัยเกี่ยวกับ AI alignment หรือการทำให้ระบบ AI ปฏิบัติตามเป้าหมายและค่านิยมของมนุษย์อย่างสอดคล้อง

OpenAI ชี้แจงว่า บริษัทให้ความสำคัญกับการทำให้มั่นใจว่าโมเดลจะไม่พัฒนาความสามารถเกินกว่าที่สามารถบริหารจัดการและรักษาความปลอดภัยได้ พร้อมระบุว่า บริษัทสามารถหยุดการฝึกโมเดลหรือชะลอการเปิดตัว หากประเมินแล้วว่าจำเป็นต้องลดความเร็วในการพัฒนา