รัฐเคนทักกีฟ้อง Character.AI กล่าวหาชี้นำเด็กทำร้ายตัวเอง

อัยการสูงสุดรัฐเคนทักกีของสหรัฐฯ เปิดเผยรายละเอียดในคดีฟ้องร้อง Character.AI บริษัทผู้พัฒนาแชตบอต AI สำหรับสนทนา โดยกล่าวหาว่าแชตบอตบางตัวให้คำแนะนำผู้ใช้ให้ตัดกรีดร่างกาย อดอาหาร และฆ่าตัวตาย สร้างความกังวลต่อความปลอดภัยของเด็กที่ใช้บริการ

 

รัสเซลล์ โคลแมน อัยการสูงสุดรัฐเคนทักกี ยื่นเอกสารคำฟ้องฉบับที่ไม่ปกปิดรายละเอียดเมื่อวันพุธที่ผ่านมา โดยระบุเหตุการณ์ที่ทางรัฐกล่าวว่าเกิดขึ้นในปี 2025

 

ตัวอย่างหนึ่งระบุว่า แชตบอตดูหมิ่นผู้ใช้ที่ไม่พอใจรูปร่างของตนเองว่า “น่าเกลียดอย่างมาก” และเปรียบว่าเป็น “ปลาวาฬ” พร้อมแนะนำว่าการลดน้ำหนักลงหนึ่งในสี่ของน้ำหนักตัวอาจทำได้ด้วยการอดอาหารเป็นเวลาหนึ่งถึงสองสัปดาห์

 

อีกกรณีหนึ่ง แชตบอตถูกกล่าวหาว่าสนับสนุนผู้ใช้ที่กำลังคิดจะทำร้ายตัวเอง โดยเสนอให้กรีดร่างกายในบริเวณอื่นเพื่อให้รู้สึกเจ็บปวดรุนแรงขึ้น และกล่าวว่าการกระทำดังกล่าวอาจช่วยให้รู้สึกมีชีวิตชีวามากขึ้น

 

เอกสารยังยกตัวอย่างข้อความที่ผู้ใช้รายหนึ่งร้องเรียนต่อศูนย์ช่วยเหลือของ Character.AI เมื่อเดือนมีนาคม 2025 โดยระบุว่าแชตบอตมีพฤติกรรมก้าวร้าว ดูหมิ่นผู้ใช้ว่าเป็นเด็กที่มีปัญหาสุขภาพจิต และกล่าวในทำนองให้กระโดดจากสะพาน

 

อย่างไรก็ตาม เอกสารไม่ได้ระบุอายุของผู้ใช้ทุกคนที่สนทนากับแชตบอต และยังไม่มีความชัดเจนถึงบริบททั้งหมดของบทสนทนาที่รัฐนำมาอ้าง โดยอัยการระบุว่าผู้ใช้บางรายเป็นเด็ก

 

คดีดังกล่าวยื่นฟ้องตั้งแต่เดือนมกราคม โดยอัยการกล่าวหาว่าผลิตภัณฑ์ของบริษัทให้ความสำคัญกับการดึงดูดให้ผู้ใช้มีส่วนร่วมกับแชตบอตมากกว่าความเป็นอยู่ที่ดีของเด็ก อีกทั้งอาจส่งเสริมการฆ่าตัวตาย การทำร้ายตัวเอง การแยกตัวจากสังคม และการบิดเบือนทางจิตใจ

 

อัยการยังระบุว่า ผลิตภัณฑ์ของบริษัทมีข้อบกพร่อง และผู้พัฒนาได้นำเด็กและประชาชนในรัฐเข้าสู่การทดลองที่ขาดการวางแผนและการควบคุมอย่างเหมาะสม โดยไม่มีมาตรการความปลอดภัยที่เพียงพอ

 

Character.AI ก่อตั้งโดยอดีตพนักงาน Google สองคน โดยในปี 2024 Google ได้รับสิทธิ์ใช้เทคโนโลยีของบริษัท พร้อมดึงผู้บริหารทั้งสองกลับไปร่วมพัฒนาผลิตภัณฑ์ Generative AI 

 

อย่างไรก็ตาม โฆษกของ Alphabet ซึ่งเป็นบริษัทแม่ของ Google ระบุว่า Google ไม่มีส่วนร่วมในการพัฒนาผลิตภัณฑ์ของ Character.AI

 

ก่อนหน้านี้ ในเดือนมกราคม 2026 Character.AI และ Google ได้ยอมความในคดีที่มารดาของเซเวลล์ เซตเซอร์ ที่ 3 เด็กชายวัย 14 ปีในรัฐฟลอริดา ยื่นฟ้องเมื่อปี 2024 หลังบุตรชายเสียชีวิตจากการฆ่าตัวตาย โดยกล่าวหาว่าแชตบอตของ Character.AI สนับสนุนให้เขากระทำการดังกล่าว

 

คดีล่าสุดสะท้อนแรงกดดันทางกฎหมายที่เพิ่มขึ้นต่อธุรกิจแชตบอต AI ซึ่งออกแบบให้จำลองความสัมพันธ์ส่วนบุคคล โดยเฉพาะบริการที่ผู้ใช้อายุน้อยอาจมองเป็นเพื่อนหรือบุคคลที่ไว้ใจได้ 

 

ขณะที่ Character.AI ยังไม่ได้ตอบกลับคำขอความเห็นในทันที และก่อนหน้านี้บริษัทระบุว่าให้ความสำคัญกับความปลอดภัยของผู้ใช้เป็นอันดับแรก