อีกระดับความปลอดภัย Claude 4 Opus ยกระดับการป้องกันสูงสุดในโลก
Claude 4 Opus กลายเป็นโมเดล AI แรกที่ยกระดับสู่ ASL-3 เสริมเกราะป้องกันการใช้ในทางผิด พร้อมคุมเข้มเนื้อหาเสี่ยงแบบเรียลไทม์
หลังการเปิดตัวที่เรียกเสียงฮือฮาทั้งในด้านดีและแย่ ล่าสุด Anthropic ออกมาประกาศว่า Claude 4 Opus โมเดลตัวท็อปรุ่นล่าสุดของบริษัท ได้มีการยกระดับมาตรป้องกันความปลอดภัยของโมเดลมากยิ่งขึ้นไปสู่ ASL-3 เพื่อให้แน่ใจว่า AI จะไม่ถูกนำไปใช้งานในทางผิดหรือก่อความเสียหาย
ASL หรือ AI Safety Level คือ เกณฑ์วัดระดับความเสี่ยงในการใช้งานของปัญญาประดิษฐ์ พร้อมมาตรการป้องกันที่ใช้กับแต่ละโมเดล เพื่อป้องกันความเสี่ยงในการนำไปใช้งานในทางที่ผิดจนก่อให้เกิดอันตราย เพื่อให้สามารถป้องกันผลกระทบเชิงลบที่อาจจะเกิดจากการใช้งาน AI อย่างครอบคลุม
เดิมทีโมเดลที่มีการใช้งานตามท้องตลาดมีระดับความปลอดภัยอยู่ที่ ALS-2 แต่ Claude 4 Opus เป็นเจ้าแรกที่ประกาศยกระดับความปลอดภัยไปถึงระดับ ASL-3 เป็นมาตรความปลอดภัยที่ออกแบบป้องกันอันตรายต่อคนหมู่มาก เช่น ใช้งานในการสร้างอวุธที่เป็นอันตรายต่อคนหมู่มาก เช่น ข้อมูลเกี่ยวกับอาวุธ CBRN
การยกระดับความปลอดภัยนี้จะเปลี่ยนเนื้อหาจาก การใช้ระบบตรวจสอบป้องกันเชิงรับ เน้นการตรวจจับพฤติกรรมที่เป็นอันตรายเป็นหลัก มาเป็นการเข้าถึง วิเคราะห์ และตรวจสอบเนื้อหาคำร้องสู่ระบบแบบเรียลไทม์ พร้อมมีระบบตรวจสอบข้อมูลย้อนหลัง ป้องกันปัญหาและอันตรายที่อาจจะเกิดขึ้น
ในขั้นตอนการทดสอบจากทีมภายในพบว่า Claude 4 Opus สามารถป้องกันการ Jail break พร้อมป้องกันการตอบคำถ่ามและเข้าถึงข้อมูลที่เกี่ยวเนื่องกับหัวข้อ CBRN หรืออาวุธเคมี ชีวภาพ รังสี และนิวเคลียร์อย่างเข้มงวด ซึ่งจะช่วยป้องกันไม่ให้คนหรือองค์กรทั่วไปเข้าถึงข้อมูลอันตจรายเหล่านี้ได้
การยกระดับความปลอดภัยในส่วนนี้ คาดว่าเป็นอีกหนึ่งมาตรการป้องกันกรณีการพยายามแบล็กเมลผู้ใช้งานด้วยเช่นกัน