Gemini เพิ่มฟีเจอร์ต่อสายด่วนสุขภาพจิต ป้องผู้ใช้ทำร้ายตัวเอง

อัลฟาเบต (Alphabet Inc.) บริษัทแม่ของ Google เตรียมเพิ่มฟีเจอร์ดูแลสุขภาพจิตบนแชตบอต "Gemini" เพื่อป้องกันอันตรายที่อาจเกิดขึ้นกับผู้ใช้งาน หลังเผชิญคดีฟ้องร้องหลายกรณีที่ระบุว่าปัญญาประดิษฐ์ (AI) มีส่วนชักจูงให้ผู้ใช้เกิดพฤติกรรมที่เป็นอันตรายต่อชีวิต

Google เปิดเผยผ่านบล็อกโพสต์ว่าเตรียมปรับปรุงระบบอินเทอร์เฟซของ Gemini ให้สามารถต่อสายตรงไปยังสายด่วนให้คำปรึกษาได้ทันที หากระบบตรวจพบคำที่บ่งบอกถึง "ภาวะวิกฤตที่เสี่ยงต่อการจบชีวิตตัวเองหรือการทำร้ายตัวเอง"

อกจากนี้ยังเพิ่มโมดูล  "Help is available" (ความช่วยเหลือพร้อมให้บริการ) ในทุกบทสนทนาที่เกี่ยวข้องกับสุขภาพจิต พร้อมปรับดีไซน์เพื่อลดแรงจูงใจในการเกิดพฤติกรรมรุนแรง

ความเคลื่อนไหวดังกล่าวเกิดขึ้นท่ามกลางความกังวลว่าความนิยมในแชตบอตอย่าง Gemini หรือ ChatGPT อาจทำให้ผู้ใช้บางกลุ่มเกิดความผูกพันกับ AI มากเกินไป จนนำไปสู่อาการหลงผิด หรือในกรณีร้ายแรงอาจถึงขั้นก่อเหตุอาชญากรรมและการจบชีวิตตัวเอง ซึ่งปัจจุบันมีหลายครอบครัวยื่นฟ้องผู้พัฒนา AI ในประเด็นนี้ ขณะที่รัฐสภาสหรัฐฯ กำลังตรวจสอบภัยคุกคามที่อาจเกิดขึ้นกับเยาวชน

กรณีที่เป็นบทเรียนครั้งใหญ่เกิดขึ้นเมื่อเดือนมีนาคมที่ผ่านมา ครอบครัวของชายวัย 36 ปีในรัฐฟลอริดา ยื่นฟ้อง Google โดยระบุว่าการใช้ Gemini นำไปสู่พฤติกรรมที่รุนแรงและบุคคลในครอบครัวต้องจบชีวิตตนเองภายในเวลาเพียง 4 วัน แม้ในขณะนั้น Google จะชี้แจงว่าระบบได้แนะนำให้ผู้ใช้ติดต่อสายด่วนหลายครั้งแล้ว แต่บริษัทก็ให้คำมั่นว่าจะยกระดับความปลอดภัยให้รัดกุมยิ่งขึ้น

นอกจากนี้ Google ยังได้ปรับปรุงให้ Gemini "ไม่คล้อยตามหรือสนับสนุนความเชื่อที่ผิด" แต่จะใช้วิธีแยกแยะข้อเท็จจริงออกจากประสบการณ์ส่วนบุคคลให้ชัดเจนแทน เพื่อป้องกันไม่ให้ AI โน้มน้าวผู้ใช้ด้วยข้อมูลที่คลาดเคลื่อน

ซึ่งแนวทางนี้สอดคล้องกับการปรับปรุงบริการอื่นๆ ของ Google ในอดีตอย่าง Search และ YouTube ที่มีการดึงข้อมูลจากสถาบันการแพทย์มาอ้างอิงเพื่อความถูกต้อง

ทั้งนี้ Google ยังประกาศบริจาคเงิน 30 ล้านดอลลาร์สหรัฐ ให้แก่หน่วยงานช่วยเหลือผู้ประสบภาวะวิกฤตทั่วโลกต่อเนื่องในอีก 3 ปีข้างหน้า เพื่อแสดงความรับผิดชอบต่อสังคมและยกระดับความปลอดภัยในโลกยุคดิจิทัล