จีนเปิดรับฟังความคิดเห็นสาธารณะต่อมาตรการกำกับดูแล AI

หน่วยงานกำกับดูแลด้านไซเบอร์ของจีนได้เผยแพร่ร่างกฎระเบียบเพื่อเปิดรับฟังความคิดเห็นจากสาธารณชน เมื่อวันเสาร์ที่ผ่านมา โดยมีเป้าหมายเพิ่มความเข้มงวดในการกำกับดูแลบริการปัญญาประดิษฐ์ (AI) ที่ถูกออกแบบให้จำลองบุคลิกภาพของมนุษย์และมีปฏิสัมพันธ์ทางอารมณ์กับผู้ใช้งาน

ความเคลื่อนไหวดังกล่าวสะท้อนความพยายามของรัฐบาลปักกิ่งในการกำหนดทิศทางการขยายตัวอย่างรวดเร็วของ AI ที่ให้บริการแก่ผู้บริโภค โดยการเสริมสร้างมาตรการด้านความปลอดภัยและจริยธรรมให้เข้มแข็งยิ่งขึ้น

ร่างกฎระเบียบที่เสนอจะครอบคลุมถึงผลิตภัณฑ์และบริการ AI ที่เปิดให้สาธารณชนใช้งานในจีน ซึ่งมีการนำเสนอคุณลักษณะบุคลิกภาพแบบมนุษย์ รูปแบบความคิด และลักษณะการสื่อสาร รวมถึงมีการโต้ตอบทางอารมณ์กับผู้ใช้ผ่านข้อความ ภาพ เสียง วิดีโอ หรือรูปแบบอื่น ๆ

ร่างดังกล่าวกำหนดแนวทางการกำกับดูแลที่ให้ผู้ให้บริการต้องแจ้งเตือนผู้ใช้งานเกี่ยวกับการใช้งานที่มากเกินไป และต้องเข้าแทรกแซงเมื่อพบสัญญาณของการเสพติดบริการ นอกจากนี้ ผู้ให้บริการจะต้องรับผิดชอบด้านความปลอดภัยตลอดวงจรชีวิตของผลิตภัณฑ์ และจัดให้มีระบบตรวจสอบอัลกอริทึม ความมั่นคงปลอดภัยของข้อมูล และการคุ้มครองข้อมูลส่วนบุคคล

ร่างกฎระเบียบยังมุ่งจัดการความเสี่ยงทางจิตวิทยาที่อาจเกิดขึ้น โดยกำหนดให้ผู้ให้บริการต้องสามารถระบุสถานะของผู้ใช้งาน ประเมินอารมณ์ และระดับการพึ่งพาบริการ หากพบว่าผู้ใช้แสดงอารมณ์รุนแรงหรือมีพฤติกรรมเสพติด ผู้ให้บริการต้องดำเนินมาตรการที่จำเป็นเพื่อเข้าแทรกแซง

ขณะเดียวกัน มาตรการดังกล่าวได้กำหนดเส้นแดงด้านเนื้อหาและพฤติกรรมอย่างชัดเจน โดยระบุว่าบริการ AI ต้องไม่สร้างหรือเผยแพร่เนื้อหาที่เป็นภัยต่อความมั่นคงของชาติ การปล่อยข่าวลือ หรือการส่งเสริมความรุนแรงและสื่อลามกอนาจาร