Anthropic ผลักดันกฎหมายระงับ AI เมื่อมีความเสี่ยงต่อ 50 คนขึ้นไป
Anthropic เสนอร่างกฎหมายควบคุม จำกัดอำนาจรัฐในการสั่งปิดโมเดล AI ไว้เฉพาะกรณีเสี่ยงหายนะ ตั้งคำถามถึงสมดุลระหว่างความปลอดภัยกับเสรีภาพในการพัฒนาเทคโนโลยี
ข้อมูลนี้มาจากสำนักข่าว Politico ที่มีการพูดถึง Anthropic บริษัทผู้พัฒนา AI ชื่อดัง ได้มีการเสนอรางกฎหมายควบคุม AI ฉบับใหม่ต่อรัฐสภาสหรัฐฯ โดยมีใจความสำคัญว่า รัฐบาลจะสั่งปิดโมเดล AI ได้ก็ต่อเมื่อ โมเดล AI ถูกประเมินเป็นความเสี่ยงระดับหายนะ หรือมีผู้มีความเสี่ยงต่อการเสียชีวิต 50 คนขึ้นไปเท่านั้น
โดยพื้นฐานกฎหมายที่ทางบริษัทเสนอคล้ายคลึงกฎหมาย Senate Bill 53 กฎหมายควบคุม AI ที่เพิ่งได้รับการอนุมัติในรัฐแคลิฟอร์เนีย ที่เน้นการตรวจสอบอย่างโปร่งใส และประเมินความเสี่ยงระดับหายนะจากโมเดลขนาดใหญ่ รัฐบาลจึงจะสามารถเข้ามาสั่งแทรกแซงการทำงานของโมเดล AI ได้
ความเสี่ยงระดับหายหะที่พูดถึงถูกกำหนดด้วยสองเงื่อนไขคือ การที่มีคนจำนวน 50 ชีวิตขึ้นไปตกอยู่ในความเสี่ยงที่อาจถึงชีวิต หรือเกิดความเสียหายต่อทรัพย์สินมูลค่า 1 พันล้านดอลลาร์ขึ้นไป โดยความเสี่ยงระดับนี้จะเกิดขึ้นได้ต่อเมื่อ AI ถูกใช้ในการสร้างอาวุธสงครามร้ายแรง หรือก่อให้เกิดการโจมตีทางไซเบอร์ขนาดใหญ่เท่านั้น
ตัวกฎหมายกำหนดให้ผู้ประเมินเหตุการณ์จะมาจาก ผู้ประเมินอิสระ ที่ลงทะเบียนกับกระทรวงพาณิชย์สหรัฐฯ โดยสามารถได้รับค่าจ้างจากบริษัท AI เองตราบที่ไม่มีเงินดังกล่าวไม่มีผลผูกพันกับการประเมิน โดยเมื่อตรวจพบผู้ประเมินจะมีเวลา 72 ชั่วโมงในการแจ้งกระทรวงพาณิชย์ เพื่อขอร้องต่อศาลในการระงับโมเดล AI ต่อไป
นี่นับเป็นกรอบควบคุมการทำงานของโมเดล AI ชั้นสูงที่ถูกนำเสนอจากบริษัทผู้พัฒนาโดยตรง จุดหมายหลักคือกำหนดกรอบควบคุมโมเดล AI ล้ำสมัย เพื่อเป็นการแสดงความรับผิดชอบต่อความก้าวหน้าของเทคโนโลยี และเสนอทางออกในการควบคุมวิกฤติที่กำลังก่อตัวขึ้นจากทั่วทุกมุมโลก
เห็นได้ชัดว่าข้อบังคับเหล่านี้เป็นการประเมินที่ถูกมองว่าค่อนข้างหละหลวมในการป้องกันล่วงหน้า เมื่อเทียบกับมาตรฐานความปลอดภัยของผลิตภัณฑ์และอุตสาหกรรมอื่น เพราะกลไกควบคุมทั่วไปควรประเมินว่าการสูญเสียชีวิต ก็เป็นความเสี่ยงร้ายแรงที่ประเมินค่าไม่ได้แล้ว นี่จึงเป็นการประเมินจากความเสียหายแบบมหภาค
นี่จึงเป็นร่างกฎหมายที่ถูกออกแบบมาเพื่อรับประกันให้บริษัท AI ขนาดใหญ่ สามารถลงทุนด้านเทคโนโลยีอย่างวางใจโดยไม่ต้องกังวลข้อบกพร่องขนาดเล็กหรือกลางทั้งหมด แต่ขณะเดียวกันนี่ก็เป็นร่างกฎหมายที่ออกแบบมาสำหรับป้องกันการเข้าแทรกแซงจากรัฐบาล เหมือนที่ครั้งหนึ่งเคยเกิดขึ้นกับ Claude Mythos เช่นกัน
คงต้องรอดูกันต่อไปว่า ร่างกฎหมายของ Anthropic จะได้รับการพูดถึงและผลักดันให้ใช้งานจริงหรือไม่
