เมื่อกลาโหมสหรัฐฯ ขอตรวจสอบโมเดล AI บริษัทใหญ่ก่อนเปิดให้ใช้งาน

ในช่วงที่ผ่านมาเทคโนโลยี AI ได้รับความสนใจอย่างต่อเนื่อง นำไปสู่การพัฒนาอย่างก้าวกระโดดที่พลิกโฉมโลกทั้งใบในเวลาไม่กี่ปี หลายภาคส่วนต่างทยอยปรับตัวเพื่อเปิดรับ AI เข้ามาในการทำงาน แต่การไล่ตามเทคโนโลยีก็ดูจะยากเย็น เพราะการเปลี่ยนแปลงเป็นไปอย่างรวดเร็วภายในระยะเวลาไม่กี่เดือน

 

นั่นเป็นเหตุผลให้ล่าสุดรัฐบาลสหรัฐฯเริ่มขยับตัวเข้ามาแทรกแซงวงการ AI

 

 

เมื่อเพนตากอนจะเข้ามากำกับดูแลวงการ AI

 

นับเป็นการปรับเปลี่ยนนโยบายครั้งสำคัญของรัฐบาลสหรัฐฯ จากเดิมที่ให้พัฒนาโมเดล AI กันได้อย่างอิสระ ล่าสุดได้มีการกำหนดมาตรการตรวจสอบความปลอดภัย AI ใหม่ โดยขอเข้าถึงและทดสอบโมเดล AI จากบริษัทยักษ์ใหญ่ เช่น Microsoft, Google หรือ xAI ก่อนมีการเปิดให้ใช้งานกันทั่วไป

 

เดิมนโยบายของรัฐบาลสหรัฐฯที่มีต่อ AI ตั้งแต่สมัยรัฐบาลไบเดนคือ ผ่อนปรนข้อจำกัดเป็นจำนวนมาก เพื่อให้เอกชนเร่งพัฒนาเทคโนโลยีเพื่อแข่งขันกับจีน นี่จึงเป็นครั้งแรกที่มีการทำข้อตกลงกับบริษัทเทคโนโลยียักษ์ใหญ่ โดยมีจุดหมายในการเข้าไปกำกับควบคุมการพัฒนาและโมเดล AI โดยตรง

 

สาเหตุของการเปลี่ยนแปลงทางนโยบายครั้งนี้ คาดว่ามาจาก Claude Mythos ของ Anthropic ที่กลายเป็นจุดเปลี่ยนสำคัญ ด้วยคุณสมบัติในการค้นหาช่องโหว่ซอฟต์แวร์ระดับ Zero day นำไปสู่ความกังวลว่า AI อาจถูกนำไปใช้ในการโจมตีทางไซเบอร์ จนต้องเริ่มเข้ามากำกับดูแลโดยตรง

 

หน่วยงานที่รับผิดชอบในส่วนนี้คือ Center for AI Standards and Innovation หรือ CAISI ภายใต้กระทรวงพาณิชย์สหรัฐฯ โดยบริษัทต้องส่งมอบโมเดลเวอร์ชัน ลดระบบป้องกันและข้อจำกัด ให้แก่เจ้าหน้าที่ สำหรับค้นหาช่องโหว่และจำลองสถานการณ์ที่อาจถูกนำไปใช้ในทางผิด เพื่อตรวจสอบผลกระทบที่อาจจะเกิดขึ้น

 

นับเป็นการเข้ามากำกับดูแลเชิงรุกครั้งแรกของรัฐบาลกลางสหรัฐฯต่ออุตสาหกรรม AI อย่างจริงจัง

 

 

รายละเอียดของการกำกับดูแลโมเดลเปิดตัวใหม่

 

การประกาศนี้ได้รับความร่วมมืออย่างกว้างขวางจากบริษัทเทคโนโลยีหลายแห่ง โดยเฉพาะส่วนที่มีสัญญาร่วมกับกระทรวงกลาโหมสหรัฐฯในการนำโมเดลไปใช้งาน ปัจจุบันบริษัทที่ให้ความร่วมมือกับนโยบายนี้ได้แก่ OpenAI, xAI, Google, Microsoft และ Anthropic แม้จะมีประเด็นขัดแย้งกับเพนตากอนก็ตาม

 

จากการเปิดเผยข้อมูลของรัฐบาลปัจจุบัน CAISI เริ่มดำเนินการตรวจสอบโมเดลแล้ว ปัจจุบันดำเนินการประเมินความเสี่ยงไปแล้วมากกว่า 40 ครั้ง รวมถึงโดมเดลทมี่ยังไม่ได้รับการเปิดตัว พร้อมได้รับความร่วมมือจาก Microsoft ในการพัฒนาแบบทดสอบและตรวจหาพฤติกรรมที่ไม่คาดคิดของโมเดล

 

แน่นอนนี่เป็นเพียงบริษัทขั้นต้นคาดว่าในอนาคตจะมีอีกหลายบริษัทที่เข้าโครงการเพิ่มเติม เช่น AWS, NVIDIA หรือ Reflection ที่มีการเซ็นสัญญากับกระทรวงกลาโหมสหรัฐฯไว้ และมีแนวโน้มจะขยายความร่วมมือไปยังบริษัท AI ชั้นนำที่อยู่ในประเทศทั้งหมดต่อไป โดยมีจุดหมายเพื่อให้แน่ใจว่าการตรวจสอบนี้เป็นมาตรฐานเหมือน การอนุมัติยาของ FDA

 

คาดว่าในยอนาคตอาจเปลี่ยนจากระบบสมัครใจ มาเป็นร่างกฎหมายควบคุมที่ชัดเจนต่อไป

 

ผลกระทบที่ตามมาจากเรื่องนี้

 

นโยบายนี้จะช่วยเพิ่มปลอดภัยของโมเดล AI อย่างชัดเจน โดยเฉพาะต่อความมั่นคงของสหรัฐฯ ช่วยอุดช่องโหว่ไซเบอร์หรืออันตรายจากการใช้งานที่จะเกิดขึ้นแบบ Claude Mythos ป้องกันการถูกนำไปใช้ในทางผิดและความมั่นคงทางการทหาร เป็นประโยชน์ต่อรัฐบาลอย่างชัดเจน

 

แต่ที่ได้ประโยชน์เช่นกันคือผู้ใช้งาน การตรวจสอบเชิงลึกอาจช่วยลดอาการหลอนและคำตอบที่เป็นอันตรายต่อผู้ใช้งาน เป็นมาตรฐานความปลอดภัยและบรรทัดฐานทางจริยธรรมที่จะช่วยตีกรอบโมเดลที่ได้รับการพัฒนา ซึ่งจะนำไปสู่การกำกับดูแลทางกฎหมาย เพื่อป้องกันอันตรายจากการใช้งานในระยะยาว

 

อย่างไรก็ตามการออกมาตรการเหล่านี้จะส่งผลกระทบต่ออุตสาหกรรม AI เช่นกัน แรกสุดคือความล่าช้าในการพัฒนาเทคโนโลยี จากเดิมเพียงตรวจสอบภายในและปล่อยไปได้ทันที จำเป็นต้องได้รับการตรวจจากหน่วยงานภาครัฐที่ล่าช้า ซ้ำซ้อน ส่งผลต่อศักยภาพการแช่งขันระดับโลกในระยะยาว จนอาจทำให้สหรัฐฯแพ้จีนได้

 

การเปิดเผยข้อมูลเชิงลึกในส่วนโครงสร้าง ข้อมูล และการทำงาน อาจทำให้ข้อมูลโมเดลเกิดการรั่วไหลจากภาครัฐ นำไปสู่การหลุดรอดของความลับทางการค้าที่เสี่ยงต่อการโจรกรรม อีกทั้งยังอาจมีการเข้ามากำกับดูแลเนื้อหาจากรัฐบาลโดยตรง จนกลายเป็นการปิดกั้นและเซ็นเซอร์ประเด็นทางการเมืองและสังคมแบบเดียวกับที่เกิดกับโมเดล AI จีน

 

ในอนาคตกรณีที่การตรวจสอบกำกับดูแลนี้กลายเป็นกฎหมาย แบบเดียวกับการอนุมัติยาจาก FDA อาจส่งผลกระทบต่อบริษัทขนาดเล็กและสตาร์ทอัพอย่างร้ายแรง เนื่องจากพวกเขาไม่มีทุนพอรองรับกฎระเบียบและการตรวจสอบ จนอาจกลายเป็นการปิดกั้นการพัฒนา และผูกขาดเทคโนโลยีแบบเดียวกับที่เกิดกับบริษัทยาในสหรัฐฯต่อไป

 

 

 

 

นับเป็นการเคลื่อนไหวครั้งสำคัญของรัฐบาลสหรัฐฯที่สร้างผลกระทบต่ออุตสาหกรรม AI อย่างชัดเจน สอดคล้องกับแนวโน้มทั่วโลกที่เริ่มมีมาตรการกำกับควบคุมความก้าวหน้าที่เร็วเกินไปในปัจจุบัน ที่เหลือเราคงต้องมารอดูว่า การกำกับดูแลนี้จะเพิ่มความปลอดภัยหรือกีดขวางการพัฒนาเทคโนโลยีมากกว่ากัน

 

 

 

 

ที่มา

 

https://interestingengineering.com/ai-robotics/us-pentagon-ai-access-before-deployment

 

https://theconversation.com/white-house-wants-to-vet-powerful-ai-models-for-risks-a-computer-scientist-explains-why-ai-safety-is-so-difficult-281117