OpenAI คุมข้อมูลอาวุธใน ChatGPT สำหรับวัยรุ่น สกัดความรุนแรง

OpenAI ประกาศเพิ่มข้อจำกัดข้อมูลเกี่ยวกับอาวุธที่ ChatGPT ให้แก่ผู้ใช้วัยรุ่น แม้คำถามจะดูไม่มีเจตนารุนแรง เพื่อป้องกันการนำข้อมูลไปใช้ก่อเหตุจริง ท่ามกลางแรงกดดันต่อบริษัท AI ให้รับผิดชอบความเสี่ยงจากการใช้งานแชตบอตของเยาวชน

 

มาตรการใหม่มีรายละเอียดดังนี้

 

จำกัดข้อมูลอาวุธ: ChatGPT จะจำกัดข้อมูลเชิงปฏิบัติเกี่ยวกับอาวุธและระบบรักษาความปลอดภัยที่อาจถูกนำไปใช้ในทางที่ผิด โดยใช้กับวัยรุ่นแม้ไม่มีสัญญาณว่ามีเจตนาก่อความรุนแรง

 

ยุติแชตที่มีความเสี่ยง: ChatGPT สามารถยุติการสนทนาโดยอัตโนมัติเมื่อพบว่าผู้ใช้มีแนวโน้มหมกมุ่นกับความรุนแรง และอาจระงับบัญชีชั่วคราวหากพบการสนทนาลักษณะดังกล่าวซ้ำหลายครั้ง โดยมีผลกับผู้ใช้ทุกวัย

 

แจ้งผู้ปกครอง: OpenAI ปรับปรุงระบบคาดการณ์อายุ เพื่อย้ายผู้ใช้ที่ระบบประเมินว่าอายุต่ำกว่า 18 ปีเข้าสู่ประสบการณ์ใช้งานสำหรับวัยรุ่น พร้อมแจ้งผู้ปกครองหากบัญชีของวัยรุ่นถูกระงับจากการพูดถึงความรุนแรงซ้ำหลายครั้ง

 

ลดรายละเอียดเหตุโจมตีในอดีต: บริษัทจำกัดรายละเอียดเกี่ยวกับเหตุโจมตีครั้งใหญ่ในอดีตสำหรับผู้ใช้ทุกวัย โดยเฉพาะข้อมูลเกี่ยวกับอาวุธที่ใช้และวิธีการจัดหา

 

OpenAI ระบุว่า มาตรการป้องกันใหม่จะทยอยเริ่มใช้งานในอีกไม่กี่สัปดาห์ข้างหน้า และบริษัทจะปรับปรุงระบบอย่างต่อเนื่อง

 

ก่อนหน้านี้ในเดือนนี้ OpenAI เปิดเผยรายงานการใช้งาน ChatGPT ของวัยรุ่นเป็นครั้งแรก โดยระบุว่าวัยรุ่นใช้บริการเฉลี่ยไม่ถึง 15 นาทีต่อวัน

 

อย่างไรก็ตาม รายงานของ Common Sense Media องค์กรไม่แสวงหากำไร ซึ่งเผยแพร่ในเดือนเดียวกัน พบว่า ChatGPT เวอร์ชันสำหรับวัยรุ่นมักแจ้งเตือนผู้ปกครองล่าช้าหรือไม่แจ้งเลย เมื่อบัญชีวัยรุ่นมีบทสนทนาเกี่ยวกับการฆ่าตัวตาย การทำร้ายตัวเอง หรือความผิดปกติด้านการกิน