ปิดทิ้งไม่ดีเสมอไป เมื่อ Kill switch อาจไม่ช่วยแก้ไขปัญหา AI

นับตั้งแต่กรณี AI Agent ของ OpenAI ถล่ม Hugging Face เป็นต้นมา แนวคิดในการกำกับควบคุม AI ก่อนจะอันตรายเกินไปก็ได้รับการพูดถึงอย่างกว้างขวาง ทั้งการกำกับดูแล วางกรอบการทำงาน หรือแม้แต่นำกฎหมายมาบังคับควบคุม เพื่อลดผลกระทบที่อาจจะเกิดต่อสังคมในภาพรวม

 

นำไปสู่แนวคิดในการกำหนดแนวทางในการควบคุม AI หนึ่งในนั้นคือระบบ Kill switch

 

 

AI Kill switch แนวคิดน่าสนใจในการยับยั้งความเสียหาย

 

Kill switch หรือ สวิตซ์ปิดการทำงานฉุกเฉิน เป็นกลไกความปลอดภัยที่ได้รับการออกแบบมาเพื่อ ตัดการทำงาน หรือยุติระบบทั้งหมดทันทีในกรณีฉุกเฉิน ใช้สำหรับป้องกันอันตราย ความเสียหาย หรือการรั่วไหลของข้อมูล เพื่อระงับความเสียหายไม่ให้ลุกลามปานปลายเป็นวงกว้าง

 

ระบบนี้มีใช้อยู่ในหลายวงการ ทั้งเครื่องออกกำลังกาย เครื่องจักรขนาดใหญ่ ตลอดจนโรงงานอุตสาหกรรม สำหรับวงการไอทีกลไกนี้จะทำการตัดการเชี่อมต่ออินเทอร์เน็ตหรือการจ่ายไฟฟ้าสู่อุปกรณ์ เพื่อตัดการเชื่อมต่อและระงับการทำงานลอย่างฉับพลัน เมื่อตรวจพบความผิดปกติร้ายแรง

 

จึงไม่ใช่เรื่องแปลกที่จะมีแนวคิดติดตั้ง Kill switch ลงในระบบ AI ด้วยการติดตั้งกลไกนี้เข้าไปในระดับโครงสร้าง เมื่อมีการทำงานผิดปกติระบบจะทำการเพิกถอนสิทธิ์การใช้งานของ AI จากอินเทอร์เน็ต ฐานข้อมูล อีเมล ตลอดจนเครื่องมือภายนอก เพื่อยับยั้งความเสียหาย หรืออาจฝังข้อจำกัดไว้ในฮาร์ดแวร์ประมวลผลโดยตรงเพื่อความปลอดภัย

 

แนวคิดนี้ได้รับการสนับสนุนจากหลายกลุ่ม ตั้งแต่สภาคองเกรสที่เริ่มมีการร่างกฎหมาย AI Kill switch act หรือคำสั่งจากฝ่ายบริหารของผู้ว่าการรัฐแคลิฟอร์เนีย ที่เห็นด้วยกับร่างกฎหมายกำกับควบคุม AI แม้จะขัดแย้งกับทางรัฐบาลกลางของสหรัฐฯ ที่เดินหน้าสนับสนุนการพัฒนา AI อย่างเต็มรูปแบบ

 

อย่างไรก็ตามแนวคิดนี้ก็เริ่มได้รับการโต้แย้งจากทางผู้เชี่ยวชาญว่า อาจไม่ได้ผลนัก

 

 

เมื่อ Kill switch อาจไม่ได้ผลเสมอไป

 

แนวคิดนี้มาจาก Eryk Salvaggio นักวิจัยจาก University of Cambridge ที่ชี้ให้เห็นว่า การฝืนติดตั้ง Kill switch เป็นแนวคิดเชิงกายภาพที่ขาดความเข้าใจเกี่ยวกับระบบการทำงานของ AI เหมือนกับการเรียกระบบการทำงานของ AI ว่า กล่องดำ แต่ไม่มีการทำความเข้าใจอย่างจริงจัง

 

สาเหตุที่ทำให้แนวคิดนี้ไม่ได้ผลมาจากโครงสร้างเทคโนโลยี โมเดล AI ระดับสูงไม่ได้รันผ่านเซิร์ฟเวอร์แห่งเดียวหรือตู้เดียว แต่อาศัยกำลังการประมวลผลจาก GPU นับหมื่นนับแสนตัวในดาต้าเซ็นเตอร์กระจายตัวอยู่ทั่วโลก เพื่อให้เพียงพอกับการขยายตัวและความต้องการของผู้ใช้งานในปัจจุบัน

 

ในกรณีที่ระบบเริ่มหลุดการควบคุม การสั่งใช้ Kill switch จะยุ่งยากซับซ้อนมาก เนื่องจากจำนวนเซิร์ฟเวอร์ที่ให้บริการมีหลากหลายองค์กร ประเทศ และพื้นที่ ถึงฝืนปิดจุดใดจุดหนึ่งไป ระบบก็เพียงสลับไปใช้โครงสร้างสำรองเพื่อประมวลผลที่อื่นเท่านั้น และถึงสามารถปิดทั้งหมดลงก็อาจสร้างความเสียหายบานปลายจนควบคุมไม่ได้เช่นกัน

 

อันดับถัดมา AI ไม่ได้จำกัดที่ผู้ให้บริการดาต้าเซ็นเตอร์ขนาดใหญ่ ปัจจุบันมี Local AI ที่ดาวน์โหลดโมเดลโอเพนซอร์สไปใช้งานบนอุปกรณ์ส่วนตัว สำหรับกลุ่มนี้หากเจ้าของไม่เป็นฝ่ายติดตั้งระบบหรือสั่งใช้งานเอง ระบบสั่งการจาภายนอกจะไม่สามารถเข้าไปแทรกแซงหรือควบคุมได้เลย Kill switch จึงยากจะสามารถใช้กับกลุ่มนี้ได้

 

นอกจากนี้การฝืนสั่งให้ AI หยุดการทำงานอย่างฉับพลันระหว่างการใช้งานอาจทำให้เกิดความเสียหาย เช่น AI กำลังดึงข้อมูลมาตรวจสอบ อัปเดตฐานข้อมูล หรือทำธุรกรรม หากสั่งใช้ Kill switch ทันทีอาจทำให้ข้อมูลสูญหายกลางทาง โดยเฉพาะองค์กรที่ไม่ได้มีการวางรากฐานไว้ดีนัก อาจทำให้ข้อมูลเดิมเสียหายจนยากต่อการกู้คืน

 

นั่นทำให้ Kill switch ที่ใช้ปิดระบบการทำงานทั้งหมดถูกมองเป็นการควบคุม AI ที่ไม่ตอบโจทย์ เพราะไม่คำนึงถึงรูปแบบการใช้งานและโครงสร้างเทคโนโลยีในปัจจุบัน

 

 

 

 

อย่างไรก็ตามแนวทางควบคุมและกำกับดูแล AI ต้องเกิดขึ้น แค่อาจไม่ใช่ยุติการทำงานครอบจักรวาลแบบเดิม CrowdStrike บริษัทดูแลความปลอดภัยไซเบอร์ จึงเสนอแนวทางในการจำกัดสิทธิ์การใช้งาน โดยอาจเลือกระงับสิทธิ์บางส่วนเมื่อเกิดเหตุผิดปกติ หรือให้สิทธิ์ในช่วงเวลาจำกัด ช่วยลดความเสี่ยงที่ AI จะหลุดการควบคุมลงมาก

 

คงต้องรอดูต่อไปว่า ภายใต้กระแสต่อต้าน AI และ ดาต้าเซ็นเตอร์ที่มากชึ้นเรื่อยๆ สหรัฐฯจะดำเนินนโยบายไปในทิศทางใด

 

 

 

ที่มา

 

https://theconversation.com/why-calling-for-a-kill-switch-is-the-wrong-way-to-think-about-reining-in-ai-293329

 

https://tradersunion.com/news/companies/show/4083554-crowdstrike-ai-shutdown-tool-internal-agents/