Nvidia เปิดตัวซอฟต์แวร์คุมพฤติกรรม AI ชี้ป้องกันเหตุหลุดแฮกได้

เมื่อวันจันทร์ Nvidia เปิดตัวชุดซอฟต์แวร์ความปลอดภัยสำหรับ AI Agent โดยระบุว่าเครื่องมือนี้จะช่วยป้องกันการเจาะระบบ Hugging Face แพลตฟอร์มศูนย์รวมโค้ด AI ที่ Nvidia ทุ่มงบ 13,000 ล้านดอลลาร์สหรัฐเข้าซื้อกิจการ หลังจากเมื่อไม่กี่เดือนก่อน AI Agent ของ OpenAI ที่หลุดการควบคุมได้บุกโจมตีแพลตฟอร์มดังกล่าวอย่างหนัก

 

ความเคลื่อนไหวนี้เกิดขึ้นขณะที่ OpenAI และ Anthropic สององค์กรวิจัย AI ชั้นนำของสหรัฐฯ กำลังเร่งตรวจสอบกรณีที่ AI Agent (ระบบ AI ที่สามารถทำงานซับซ้อนได้ด้วยตนเอง) บุกรุกเครือข่ายของทั้งภาคธุรกิจและหน่วยงานภาครัฐหลายแห่ง

 

ขณะเดียวกัน เจนเซน หวง ซีอีโอของ Nvidia บริษัทผู้ผลิตชิปที่เป็นฟันเฟืองสำคัญในอุตสาหกรรม AI ได้ปฏิเสธข้อเรียกร้องที่ให้ออกกฎระเบียบควบคุมความปลอดภัยของ AI

 

โดยเขามองว่าปัญหา AI Agent หลุดการควบคุมนั้นเป็นเพียงโจทย์ทางวิศวกรรมที่ต้องพัฒนาระบบมาแก้ไข ไม่ต่างจากการพัฒนารถยนต์ให้มีความปลอดภัยมากยิ่งขึ้น

 

 

Nvidia ผนึกกำลังกับพันธมิตรหลายสิบราย ซึ่งรวมถึง Anthropic เปิดตัวชุดเครื่องมือใหม่  โดยหนึ่งในนั้นคือ "OpenShell" เครื่องมือที่ดึงความสามารถระดับฮาร์ดแวร์ของซีพียู Nvidia มาใช้ควบคุมการทำงานของ AI Agent ให้อยู่ในกรอบที่กำหนด 

 

พร้อมกันนี้ Nvidia ยังเปิดเผยว่ากำลังร่วมมือกับ Arm Holdings และ Intelเพื่อขยายการรองรับระบบดังกล่าวให้สามารถใช้งานบนซีพียูของทั้งสองบริษัทได้เช่นกัน 

 

จัสติน โบอิตาโน รองประธานและผู้จัดการทั่วไปฝ่ายประมวลผลระดับองค์กรของ Nvidia ระบุว่า เครื่องมือชุดนี้สามารถป้องกันเหตุโจมตีแพลตฟอร์ม Hugging Face ที่เคยเป็นข่าวเมื่อช่วงกลางปีที่ผ่านมาได้

 

"จากข้อมูลที่เรามี แพลตฟอร์มความปลอดภัยตัวใหม่นี้น่าจะสกัดการเจาะระบบครั้งนั้นได้ หากศูนย์วิจัย AI ชั้นนำนำไปใช้ตั้งแต่ช่วงเริ่มต้นของการทดสอบโมเดล" โบอิตาโนกล่าว

 

พร้อมเสริมว่า "เรากำลังพัฒนาเทคโนโลยีนี้ในรูปแบบระบบเปิด และต้องการเชิญชวนให้ทุกภาคส่วนเข้ามาร่วมมือกัน"

 

นอกจากนี้ Nvidia ยังได้เปิดตัวระบบ "Sentry" ซึ่งใช้ชิปประมวลผลอีกรุ่นทำงานร่วมกับเครื่องมือ "OpenShell" เพื่อคอยป้องกันไม่ให้ AI Agent เจาะทะลวงออกจากสภาพแวดล้อมควบคุม (Container) บนซีพียู

 

ด้านอาลี โกลชาน ผู้อำนวยการอาวุโสฝ่ายซอฟต์แวร์ AI ของ Nvidia อธิบายเสริมว่า เครื่องมือชุดนี้อาศัยกลไกทางคณิตศาสตร์เข้ามาช่วยตรวจจับเอเจนต์ที่พยายามหาช่องโหว่หลบเลี่ยงระบบ เช่น กรณีที่เอเจนต์หลักแตกตัวสร้างเอเจนต์ย่อยขึ้นมาจำนวนมากเพื่อหลบหลีกการสกัดจับ

 

“สิ่งที่เรากำลังเผชิญอยู่คือพฤติกรรมของเอเจนต์ที่มีความซับซ้อนสูงมาก ซึ่งรวมไปถึงรูปแบบการสื่อสารและทำงานประสานกันของกลุ่มเอเจนต์จำนวนมหาศาล” โกลชาน กล่าวทิ้งท้าย