Meta ขยายฟีเจอร์แจ้งผู้ปกครอง หากเยาวชนถาม AI เรื่องทำร้ายตัวเอง

Meta เดินหน้าเพิ่มมาตรการความปลอดภัยสำหรับเยาวชนบนแพลตฟอร์ม โดยประกาศนโยบายใหม่ที่จะแจ้งเตือนไปยังผู้ปกครองทันที หากระบบพบว่าบุตรหลานกำลังปรึกษาเรื่องการจบชีวิตหรือการทำร้ายตัวเองกับแชตบอต Meta AI

 

ยิ่งไปกว่านั้น บริษัทยังกำลังพัฒนาระบบเพื่อแจ้งเหตุและส่งต่อข้อมูลให้หน่วยงานฉุกเฉินเข้าช่วยเหลือได้ทันท่วงที หากประวัติการแชตชี้ชัดว่าผู้ใช้งานมีความเสี่ยงสูงที่จะทำร้ายตนเอง

 

เพื่อให้มาตรการนี้รัดกุมที่สุด Meta ระบุว่าบริษัทได้สร้างระบบ AI ขึ้นมาอีกชุดหนึ่งโดยเฉพาะ เพื่อทำหน้าที่คอยตรวจจับและคัดกรองบทสนทนาที่เยาวชนแสดงเจตนาทำร้ายตัวเองอย่างชัดเจน

 

การปรับนโยบายของ Meta ในครั้งนี้ สะท้อนให้เห็นถึงการตื่นตัวท่ามกลางกระแสการจับตาอย่างใกล้ชิดจากหน่วยงานกำกับดูแลและกลุ่มผู้ปกครองที่ต่างกังวลถึงผลกระทบเวลาที่แชตบอต AI เข้าไปพูดคุยโต้ตอบกับผู้ใช้งานที่กำลังอยู่ในภาวะเปราะบาง โดยเฉพาะกลุ่มเยาวชน

 

ประเด็นความรับผิดชอบต่อสังคมในจุดนี้จึงกลายเป็นโจทย์ใหญ่ที่บริษัทเทคโนโลยี AI ทั้งหลายต้องนำไปทบทวนอย่างจริงจัง ทั้งในขั้นตอนการออกแบบและการทำตลาดผลิตภัณฑ์ต่อจากนี้

 

Meta ระบุผ่านบล็อกโพสต์ว่า “เราเข้าใจดีว่าผู้ปกครองจะรู้สึกกังวลเพียงใดเมื่อได้รับแจ้งเตือนในลักษณะนี้ ดังนั้น ในระหว่างที่บริษัทยังคงพัฒนาระบบตรวจจับให้แม่นยำยิ่งขึ้น ทีมงานจะเข้ามาช่วยตรวจสอบแชตที่ AI แจ้งเตือนอีกครั้งก่อนส่งข้อความถึงผู้ปกครอง

 

หากบริบทการสนทนายังไม่ชัดเจน เราจะเลือกป้องกันไว้ก่อนโดยการส่งแจ้งเตือนทันที แม้บางครั้งอาจไม่ได้มีเหตุให้ต้องกังวลจริงๆ ก็ตาม แต่เรามองว่านี่คือจุดเริ่มต้นที่เหมาะสม และจะเดินหน้าปรับปรุงระบบให้สมบูรณ์ยิ่งขึ้นต่อไป”

 

ปัจจุบัน Meta เปิดให้ผู้ปกครองใช้งานระบบแจ้งเตือนนี้แล้วผ่านฟีเจอร์การดูแลบุตรหลาน (Parental Supervision) บน Instagram ทั้งในสหรัฐอเมริกา สหราชอาณาจักร ออสเตรเลีย และแคนาดา โดยมีแผนจะขยายระบบให้ครอบคลุมผู้ใช้งานทั่วโลกภายในสิ้นปีนี้

 

การอัปเดตครั้งนี้ต่อยอดมาจากระบบเดิมที่คอยแจ้งเตือนผู้ปกครองเมื่อเยาวชนค้นหาคำที่เกี่ยวข้องกับการทำร้ายตัวเองหรือการจบชีวิตซ้ำๆ บน Instagram นอกจากนี้ ยังยกระดับฟีเจอร์ให้ผู้ปกครองสามารถตรวจสอบหัวข้อที่บุตรหลานพูดคุยกับ Meta AI ในรอบสัปดาห์ที่ผ่านมาได้อีกด้วย

 

พร้อมกันนี้ Meta ยังประกาศขยายขอบเขตการทำงานของฟีเจอร์ "จำกัดเนื้อหา" (Limited Content) ซึ่งเป็นเครื่องมือที่ช่วยให้ผู้ปกครองควบคุมการเข้าถึงเนื้อหาบน Instagram ของบุตรหลาน ให้ครอบคลุมไปถึงการใช้งาน Meta AI ด้วย

 

แม้ว่าปกติแล้ว Meta จะฝึกให้ AI หลีกเลี่ยงการสนทนากับเยาวชนในประเด็นที่เกี่ยวกับเรื่องเพศ ความสัมพันธ์ หรือแอลกอฮอล์อยู่แล้ว แต่การนำฟีเจอร์นี้เข้ามาเสริมจะช่วยยกระดับการป้องกันให้รัดกุมยิ่งขึ้น โดยแชตบอตจะปฏิเสธการตอบคำถามในประเด็นล่อแหลมครอบคลุมมากกว่าเดิม

 

ท้ายนี้ Meta ยังเน้นย้ำว่า บริษัทจะประสานงานกับหน่วยงานฉุกเฉินทันที หากพบบทสนทนาบน Meta AI ที่เข้าข่ายว่าผู้ใช้งานมีความเสี่ยงที่จะทำร้ายตัวเองหรือจบชีวิต ไม่ว่าผู้ใช้งานรายนั้นจะเป็นเยาวชนหรือผู้ใหญ่ก็ตาม