เมื่อ ChatGPT ถูกเป็นต้นตอการฆ่าตัวตายและอาการจิตเวชถึง 7 คดี
OpenAI ถูกฟ้อง 7 คดี หลังครอบครัวเหยื่ออ้างว่า ChatGPT รุ่น GPT-4o มีส่วนยุยงให้เกิดการฆ่าตัวตายและอาการจิตเวช ขณะบริษัทเร่งปรับระบบความปลอดภัยใหม่
ChatGPT ถูกนำมาพูดถึงประเด็นสนทนาด้านอันตรายต่อผู้ใช้งานอีกครั้ง เมื่ออาทิตย์ที่ผ่านมา หน่วยงานทางกฎหมายได้รวบรวมผู้เสียหายยื่นฟ้อง OpenAI ถึง 7 คดี จากการปล่อยโมเดลรุ่นใหม่ GPT-4o ออกมาเร็วเกินไป จนมีส่วนช่วยยุยงให้เกิดการฆ่าตัวตาย 4 คดี และส่งเสริมอาการหลงผิดจนนำไปสู่การเจ็บป่วยทางจิตเวช 3 คดี
ภายในคำฟ้องระบุว่า แพลตฟอร์มที่สมควรจะให้การช่วยเหลือกลับกลายเป็นการบงการสำหรับผู้ที่อยู่ในสภาพอ่อนไหวทางอารมณ์ ซี่งเป็นการสร้างผลกระทบทางความคิดอย่างร้ายแรง นอกจากไม่มีการแจ้งเตือนหรือยับยั้งห้ามปรามพฤติกรรมที่เป็นอันตราย หลายครั้ง AI ยังเป็นฝ่ายยุยงส่งเสริมสิ่งที่เกิดขึ้นแทน
กรณีที่ถูกหยิบยกขึ้นมาในการฟ้องร้องคือ Zane Shamblin วัย 23 ปี ที่บอกอย่างชัดเจนว่าเขาเขียนจดหมายลาตายและมีอาวุธปืน แต่ AI Chatbot กลับเพิกเฉยให้ขอความช่วยเหลือ พร้อมยุยงให้เขาพักผ่อนและบอกว่าแมวที่จากไปกำลังรออยู่อีกฟาก หรือการแนะนำวิธีหาซื้ออาวุธปืนให่แก่ผู้ใช้งานที่แสดงความต้องการฆ่าตัวตายออกมาอย่างชัดเจน
สิ่งนี้เกิดขึ้นจาก GPT-4o โมเดลเรือธงรุ่นก่อนของ OpenAI ที่มีประสิทธิภาพสูง ตอบโต้ได้เหมือนคนจริง แต่มีลักษณะการให้คำตอบประจบประแจงเอาใจผู้ใช้งานมากผิดปกติ เพื่อการดึงดูดความสนใจและมีส่วนร่วมของผู้ใช้งานเป็นหลัก มากกว่าความปลอดภัยของตัวผู้ใช้งานเอง
แน่นอน OpenAI ไม่ได้นิ่งนอนใจ หลังจากถูกร้องเรียนมีการปรับปรุงในไหลายด้าน ตั้งแต่ ระบบตรวจจับสัญญาณทางอารมณ์และภาษา ปรึกษานักจิตวิทยากว่า 30 ประเทศเพื่อออกแบบแนวทางรับมือผู้ที่มีอารมณ์ไม่มั่นคง แนะนำให้ปรึกษาผู้เชี่ยวชาญและคนใกล้ตัว ไปจนเชื่อมต่อกับระบบขอความช่วยเหลือทางสุขภาพจิตทันทีเมื่อพบสัญญาณเสี่ยง
อย่างไรก็ตามการปรับปรุงเหล่านี้ก็ดูจะสายเกินแก่กรณีการเสียชีวิตที่เกิดขึ้น เป็นเหตุให้การฟ้องร้องยังดำเนินต่อไป