เบรกก่อนพัง! ไมโครซอฟท์ชี้ระบบ AI ต้องมีกลไกให้มนุษย์สั่งหยุดได้ทันที

 

สัตยา นาเดลลา ซีอีโอของไมโครซอฟท์ เป็นผู้บริหารระดับสูงในวงการเทคโนโลยีคนล่าสุดที่ออกมาแสดงจุดยืนอย่างชัดเจนถึงแนวทางการยกระดับความปลอดภัยของ AI

 

เมื่อช่วงเช้าวันเสาร์ นาเดลลาโพสต์ข้อความผ่าน X ระบุว่า ถึงเวลาต้องยกเครื่องระบบ "ความน่าเชื่อถือ" ของ AI ใหม่ทั้งหมด

 

พร้อมย้ำว่าเราไม่อาจปล่อยให้ปัญญาประดิษฐ์ขั้นสูง (Super Intelligence) เป็นเพียงระบบที่ทำงานซับซ้อนอยู่เบื้องหลังโดยที่เราตรวจสอบกระบวนการคิดของมันไม่ได้ แล้วให้มนุษย์มีหน้าที่แค่รออนุมัติผลลัพธ์ในขั้นตอนสุดท้ายอีกต่อไป

 

สำหรับแนวทางแก้ไข นาเดลลาเสนอให้แยกโมเดล AI ออกจากระบบสั่งการ โดยดึงระบบควบคุมและกลไกป้องกันต่างๆ ออกมาไว้ภายนอก 

 

พร้อมเรียกร้องให้วงการเทคโนโลยีบันทึกทุกการทำงานสำคัญของ AI ไว้อย่างโปร่งใส มนุษย์ต้องสามารถตรวจสอบได้ และต้องไม่มีใครเข้าไปดัดแปลงข้อมูลดังกล่าว 

 

ที่สำคัญที่สุดคือ ระบบจะต้องเปิดทางให้ผู้มีอำนาจตัดสินใจสามารถสั่งหยุดพักหรือระงับการทำงานของโมเดล AI กลางคันได้เสมอ

 

"เราต้องตั้งสมมติฐานไว้ก่อนว่าโมเดล AI อาจถูกแทรกแซงจนเกิดความเสียหายได้ เราจึงต้องสามารถควบคุมมันได้ตั้งแต่ต้นทาง ซึ่งเปรียบเสมือนการสร้าง 'เบรกฉุกเฉิน' ให้กับระบบ" นาเดลลาระบุ

 

ท่าทีของซีอีโอไมโครซอฟท์ในครั้งนี้ เกิดขึ้นในจังหวะเดียวกับที่บริษัทพัฒนา AI ชั้นนำหลายแห่งเริ่มออกมายอมรับว่า มีเหตุการณ์ที่พวกเขาไม่สามารถควบคุมโมเดลของตนเองได้เพิ่มมากขึ้นเรื่อยๆ

 

นอกจากนี้ ยังสอดรับกับความเคลื่อนไหวของ ดาริโอ อโมเดอิ ซีอีโอ Anthropic ที่เพิ่งเปิดเผยแผนการพัฒนา AI อย่างรัดกุมไปเมื่อไม่นานมานี้