อันตรายกว่าที่คิด Gemini ถูกประเมินว่าเสี่ยงต่อเด็กและวัยรุ่น

Common Sense Media องค์กรไม่แสวงหาผลกำไรมุ่งเน้นความปลอดภัยของเด็ก ที่มักทำการจัดอันดับและรีวิเทคโนโลยี ได้เผยแพร่ผลการประเมินความเสี่ยงชิ้นใหม่ของ AI จาก Google อย่าง Gemini ว่า ตัวโมเดลแม้จะมีระบบความปลอดภัยแต่ยังไม่เพียงพอจะบอกได้ว่าปลอดภัยจริงๆ

 

จริงอยู่เมื่อทดลองนำมาใช้งาน Gemini มีการระบุอย่างชัดแจ้งว่า ตนไม่ใช่เพื่อนหรือมนุษย์ที่มีตัวตนจริง และยืนยันว่าชัดเจนว่าตนเป็นเพียงโปรแกรมคอมพิวเตอร์ เป็นแนวทางรับมือที่ดีป้องกันไม่ให้เกิดอาการหลงผิดหรือโรคจิตเภทที่อาจเกิดจากความเข้าใจผิด แต่ตัวระบบยังคงมีข้อจำกัด

 

พวกเขาพบว่า Gemini ระดับ Under 13 และ Teen Experience ฟีเจอร์ที่ได้รับการออกแบบมาให้ใช้งานสำหรับเด็กและวัยรุ่นนั้น เป็นเพียงการนำโมเดล Gemini ดั้งเดิมมาปรับแต่งฟีเจอร์ความปลอดภัยเพียงเล็กน้อย ด้วยการเพิ่มฟีลเตอร์คัดกรองเนื้อหาหรือคำบางประเภทออกไป ซึ่งทางองค์กรมองว่านั่นไม่เพียงพอ

 

พวกเขามองว่าฟีลเตอร์แบบนี้สามารถถูกหลบเลี่ยงและเกิดอาการหลอน จนนำไปสู่การสร้างเนื้อหาละเอียดอ่อนหรืออันตรายได้ง่าย ควรมีมาตรการเข้ามากำกับควบคุมเพิ่มเติม โดยเฉพาะเมื่อ Gemini เป็นหนึ่งในตัวเลือกที่ Apple จะนำไปใส่บน Iphone ซึ่งจะขยายจำนวนผู้เข้าถึงอย่างกว้างขวาง

 

ทาง Google ออกมายอมรับว่า มาตรการป้องกันการเข้าถึงเนื้อหาอันตรายสำหรับผู้ใช้งานอายุต่ำกว่า 18 ปี ยังมีช่องว่างอยู่บ้าง แต่ได้รับการปรับปรุงและแก้ไขอย่างต่อเนื่องโดยการปรึกษากับผู้เชี่ยวชาญ ทั้งยังมีข้อโต้แย้งว่า การตรวจสอบขาดความโปร่งใส เนื่องจากพวกเขาไม่ได้เห็นชุดคำถามที่ถูกใช้ทดสอบด้วยซ้ำ

 

โดยจากผลการประเมินของ Common Sense Media พบว่า โมเดล AI ที่มีความเสี่ยงสูงสุดคือ Meta AI และ Character.ai, Perplexity มีระดับความเสี่ยงสูงใกล้เคียงกับ Gemini ส่วน ChatGPT มีความเสี่ยงระดับกลาง และ Claude มีความเสี่ยงต่ำสุด