คุยแชทกับ Claude อยู่ดีๆ รู้ตัวอีกทีกลับถูกแจ้งความส่งตำรวจ

นับเป็นอีกหนึ่งความเปลี่ยนแปลงที่ชัดเจนจาก AI เมื่อข้อมูลจาก WINK News รายงานว่า เจ้าหน้าที่สืบสวนได้ทำการจับกุม Carli Michelle Heller หญิงสาวจากเมือง Bonita Springs รัฐฟลอริดา โดยอาศัยข้อมูลที่เธอทำการพูดคุยกับ Claude ว่ามีแผนการกราดยิงสำนักนายอำเภอ

ข้อมูลจากรายงานการจับกุมเปิดเผยว่า ผู้ต้องหาได้ทำการพิมพ์ข้อความพูดคุยกับ Claude โมเดล AI ของ Anthropic ว่าเธอมีแผนการกราดยิงสำนักนายอำเภอที่อยู่ใกล้เคียงในวันที่ 26 กันยายน 2026 ในวันรุ่งขึ้นเธอยังพิมพ์ข้อความพูดคุยกับ AI ว่าได้ปืนกระบอกใหม่มา

เรื่องที่เกิดขึ้นทำให้เธอถูกจับกุมในวันที่ 29 กันยายน 2026 พร้อมถูกตั้งข้อหาข่มขู่ว่าจะใช้ความรุนแรงแบบเป็นลายลักษณ์อักษร ซึ่งถือเป็นความผิดทางอาญาตามกฎหมายรัฐฟลอริดา นับเป็นความผิดอุกฉกรรจ์ระดับ 2 ที่อาจทำให้เธอต้องโทษจำคุกสูงสุดถึง 15 ปีเลยทีเดียว

ส่วนที่น่าสนใจอยู่ที่เนื้อหาทั้งหมดเป็นการสนทนาพูดคุยกับ AI Chatbot ไม่มีการพูดถึงหรือรั่วไหลสู่ภายนอก เหตุการณ์นี้มาจากระบบตรวจสอบภายในของ Anthropic เอง ที่แจ้งเตือนบันทึกการสนทนาของเธอให้แก่พนักงานที่เป็นมนุษย์ตรวจสอบ ก่อนมีการประเมินว่าเธอเป็นภัยคุกคามร้ายแรง นำไปสู่การแจ้งความตำรวจท้องที่ในที่สุด

ในทางหนึ่งนี่เป็นการละเมิดความเป็นส่วนตัวอย่างชัดเจน และผู้ใช้งานที่ถูกจับกุมเองก็ไม่ได้รับรู้มาก่อนว่า เนื้อหาสนทนาของเธอสามารถถูกเข้าถึงและพนักงานของบริษัท เนื่องจากเธอใช้ Claude เป็นเหมือนไดอารี่ส่วนตัว สำหรับบันทึกเรื่องราวและความรู้สึกของตัวเองมาตลอด

แน่นอนนี่เป็นแนวทางแตกต่างจากพฤติกรรมของ OpenAI ที่มีการตรวจพบว่า มีผู้ใช้งานพยายามใช้ AI Chatbot ช่วยวางแผนก่อเหตุร้าย โดยข้อมูลชุดนี้พนักงานได้แจ้งเรื่องนี้แต่ทางผู้บริหารกลับไม่ให้ความสนใจ จนกลายเป็นเหตุกราดยิงที่เมือง Tumbler Ridge ประเทศแคนาดา และมีผู้เสียชีวิตรวมถึง 8 คนในที่สุด

นี่เป็นอีกครั้งที่แสดงให้เห็นว่า เนื้อหาพูดคุยกับ AI Chatbot ไม่เพียงใช้ดำเนินการทางกฎหมาย แต่สามารถใช้เป็นหลักฐานเอาผิดจนนำไปสู่การจับกุมได้จริง