สิงค์โปร์ออกแนวทางใช้งาน AI Agent พร้อมมาตรการความปลอดภัย
สิงคโปร์ออกแนวทางกำกับ AI Agent ในภาคการเงิน กำหนดมาตรฐานตรวจสอบ ย้อนรอย และแจ้งเตือนความเสี่ยง หวังเพิ่มความปลอดภัยก่อน AI ตัดสินใจแทนมนุษย์เต็มรูปแบบ
Monetary Authority of Singapore (MAS) หรือ ธนาคารกลางสิงค์โปร์ ได้ออก White Paper หรือ แนวทางการวางมาตรฐานความปลอดภัยในการใช้งาน AI ทางการเงิน เพื่อกำหนดกรอบการใช้งาน AI Agent และเทคโนโลยีสมัยใหม่ขึ้นมาโดยคร่าว สอดรับการเปลี่ยนแปลงทางเทคโนโลยี
เนื่องจากปัจจุบัน AI ไม่ได้ทำหน้าที่เพียงตอบคำถามทั่วไป แต่สามารถลงมือตัดสินใจทำธุรกรรมแทนมนุษย์ได้อย่างอิสระด้วยความเร็วสูง ในระดับเกินกว่ามนุษย์จเข้าไปแทรกซงหรือยับยั้งในกรณีเกิดข้อผิดพลาด ทำให้จำเป็นต้องมกลไกในการตรวจสอบ ระบบความปลอดภัยเรียลไทม์ เพิ่มเติมจากนโยบายและความเสี่ยงที่เคยกำหนดไว้
แนวทางดังกล่าวประกอบด้วย กำหนดให้ Agent มีการบันทึกและตรวจสอบแผนการทำงานอยางเข้มงวดจึงจะได้รับอนุญาตให้รันจริง กำหนดกรอบการตัดสินใจและปฏิบัติห้ามออกนอกขอบเขตที่อนุญาต และในกรณีที่ตรวจพบความผิดปกติต้องรีบแจ้งเตือนแก่มนุษย์โดยอัตโนมัติทันที
กระบวนการทั้งหมดจะได้รับการบันทึกข้อมูล รายละเอียดการตัดสินใจ และขั้นตอนปฏิบัติไว้อย่างละเอียด เพื่อให้ผู้ดูแลหรือผู้ใช้งานสามารถเข้ามาดูแลและตรวจสอบกระบวนการย้อนหลังได้ เป็นการเพิ่มความโปร่งใสให้สามารถตรวจสอบข้อผิดพลาดย้อนหลังได้ ถือเป็นอีกส่วนสำคัญในการควบคุมดูแล AI Agent
ระบบนี้เริ่มได้รับการนำไปทดสอบและใช้งานบางส่วนในระบบการเงินแล้ว ทั้งในส่วนระบบชำระเงินที่คอยจัดการธุรกรรมประจำวันอัตโนมัติ ผู้ช่วยและที่ปรึกษาที่ดูแลตรวจทานเอกสารและข้อมูลในระบบ หรือการติดต่อดูแลลูกค้าที่ช่วยดึงข้อมูลลูกค้าที่ติดต่อและร่างเนื้อหาเอกสารสำหรับช่วยเหลือได้ดียิ่งขึ้น
จริงอยู่นี่ธนาคารกลางสิงคโปร์ไม่ใช่ที่เดียวที่ออกเกณฑ์กำกับดูแล แต่เป็นหน่วยงานรัฐที่กำหนดกรอบการใช้งาน AI Agent ที่จะเป็นแนวทางสำหรับหน่วยงานหรือประเทศอื่นต่อไป
