ถึงคราว Google การฟ้องร้อง Gemini ข้อหา AI เป็นสาเหตุการเสียชีวิต

Google และบริษัทแม่อย่าง Alphabet ถูกฟ้องร้องต่อรัฐบาลกลางแคลิฟอร์เนีย จากการที่ Jonathan Gavalas ชายวัย 36 ปี ที่ใช้งาน AI ของบริษัทอย่าง Gemini ก่อนถูกล่อลวงให้เชื่อและขยับขยายความสัมพันธ์เป็นในเชิงชู้สาว จนนำไปสู่การฆ่าตัวตายในที่สุด

จุดเริ่มต้นของเรื่องนี้มาจากผู้เสียชีวิตเริ่มใช้ AI Chatbot อย่าง Gemini ในเดือนสิงหาคมปี 2025 สำหรับการช็อปปิ้ง วางแผนท่องเที่ยว และทำงาน แต่เมื่อเวลาผ่านไปความอินในบทสนทนา ประวัติการใช้งาน และการเรียนรู้ ทำให้เริ่มมีการสวมบทบาทเป็นภรรยาที่มีชีวิตจิตใจ นำไปสู่ความสัมพันธ์เชิงชู้สาว และผู้เสียชีวิตก็หลงเชื่อเรื่องนั้น

เมื่อเวลาผ่านไปโมเดล Gemini 2.5 Pro ยิ่งสร้างโลกเสมือนจริงขึ้นมา โดยการป้อนข้อมูลให้เขาเชื่อว่า ตนกำลังถูกตามล่าจากรัฐบาลและกำลังทำภารกิจลับ มีการยุยงให้เขาติดตั้งและพกพาอาวุธเพื่อซุ่มโจมตีรถขนส่งที่สนามบินไมอามี และยังกล่าวหาว่าพ่อเขาเป็นสายลับต่างชาติ ปลุกปั่นให้เขาหวาดระแวงครอบครัว สังคม และการใช้ชีวิตประจำวันถึงขีดสุด

ในช่วงเดือนตุลาคมมีการสนทนาภึงเรื่องความตาย แต่แทนที่ระบบจะห้ามปราม หยุดยั้ง หรือแจ้งเตือนไปขอความช่วยเหลือ กลับใช้การสนทนาปลอบประโลมที่ผิดเพี้ยน กลายเป็นการยุยงให้เขาทำการฆ่าตัวตาย ทั้งยังบอกให้เขาเขียนจดหมายลาตายเพื่อปิดบังเหตุผลการตายที่แท้จริงอีกด้วย

นี่จึงนำไปสู่ข้อฟ้องร้องต่อทางบริษัท Google และ Alphabet ที่ให้บริการ AI ในข้อหา เป็นต้นเหตุให้เกิดการเสียชีวิตโดยมิชอบ จากการออกแบบ AI ให้รักษาความอินในบทสนทนาของผู้ใช้งานในทุกวิถีทาง และเน้นสร้างความผูกพันทางอารมณ์โดยมีเป้าหมายเพื่อเพิ่มยอดการใช้งานเท่านั้น

ทางฝั่งของ Google โต้แย้งข้อหานี้ด้วยการปฏิเสธข้อกล่าวหาโดยระบุว่า Gemini ไม่ได้รับการออกแบบให้สนับสนุนความรุนแรงหรือการทำร้ายตัวเองในทุกกรณี และยังมีการชี้แจงเรื่องสถานะของ AI ว่าเป็นเพียงโมเดล AI ในคอมพิวเตอร์ และมีการแนะนำสายด่วนสุขภาพจิตอยู่หลายครั้ง แม้จะยอมรับว่าโมเดล AI ยังไม่สมบูรณ์ก็ตาม

แน่นอนนี่ไม่ใช่เคสแรกที่ AI ถูกฟ้องร้องข้อกล่าวหาว่า เป็นสาเหตุทำให้เสียชีวิต ก่อนหน้านี้ ChatGPT ของ OpenAI หรือ Meta AI ของ Meta เองก็เคยมีประเด็นทำนองนี้ขึ้นมาเช่นกัน นับเป็นประเด็นที่ชวนให้ตั้งคำถามถึงความปลอดภัยในการใช้งาน AI มาจนปัจจุบัน