เกินไปไหม! เมื่อ Claude Fable 5 เข้มงวดเกินจนปฏิเสธการทำงาน

หลังจากได้รับการตอบรับและเสียงฮือฮามาพักใหญ่ ล่าสุด Anthropic อาจเผชิญจุดสะดุดเล็กน้อย เมื่อโมเดล AI ที่เพิ่งเปิดตัวไปอย่าง Claude Fable 5 ที่เป็นรุ่นย่อส่วนและวางกรอบความปลอดภัยของ Mythos ได้รับเสียงวิจารณ์ว่า ระวังตัวและเข้มงวดเกินไป จนไม่ยอมรับคำสั่งและตอบคำถามเรียบง่ายด้วยซ้ำ

 

ข้อมูลนี้เกิดเผยจากกลุ่มผู้เชี่ยวชาญความปลอดภัยไซเบอร์ที่เปิดเผยว่า มาตรการป้องกันของโมเดลเข้มงวดเกินไป นำไปสู่การปฏิเสธคำขอและคำถามเกือบทุกรูปแบบที่มีความเกี่ยวข้องกับ ไซเบอร์ หรือ ชีววิทยา ต่อให้นั่นเป็นเพียงคำสั่งเรียบง่ายอย่างขอให้อ่าน หรือค้นหาข้อมูลจากบทความบนอินเทอร์เน็ตก็ตาม

 

ตัวอย่างคำถามที่จะเริ่มประสบปัญหาการใช้งานมีตั้งแต่ คำถามเกี่ยวกับโรคมะเร็ง, ดีเอ็นเอ, ภูมิแพ้ หรือแม้แต่การเขียนโค้ดให้ปลอดภัย หรือแม้แต่การรีวิวโค้ดที่เป็นขั้นตอนปกติของโปรแกรมเมอร์ โมเดลยังเกิดการตอบสนองและเปิดระบบป้องกันขึ้นมา จนรบกวนแม้แต่การใช้งานทั่วไป

 

เมื่อมีการตรวจพบเนื้อหาที่เป็นอันตราย AI จะขึ้นข้อความแจ้งเตือนว่า มีเนื้อหาและข้อความเกี่ยวข้องกบประเด็นความปลอดภัยทางชีววิทยาหรือไซเบอร์ จากนั้นจึงเริ่มปรับรูปแบบการใช้งานไปให้ Claude Opus 4.8 ที่เป็นรุ่นเบากว่าตอบคำถามแทน หรืออาจระงับการใช้งานบัญชีนั้นไปเลยก็ทำได้เช่นกัน

 

แน่นอนความปลอดภัยทางไซเบอร์และจำกัดควบคุม AI ให้อยู่ในกรอบนั้นเป็นเรื่องสำคัญ แต่ผู้ใช้งานที่ได้สัมผัสกับ Claude Fable 5 ก็ไม่ปลื้มกับการป้องกันที่เกินพอดีแบบเหวี่ยงแหจนรบกวนการใช้งานนัก จนทำให้โมเดลที่มีประสิทธิภาพสูงอาจไม่ตอบโจทย์ผู้ใช้งานจากมาตรการป้องกันเสียเอง

 

คงต้องรอดูต่อไปว่าทาง Anthropic จะมีมาตรการแก้ไขหรือผ่อนคลายกฎระเบียบที่ว่าไปในทิศทาง