Anthropic เตือน AI อาจยึดอุปกรณ์อัจฉริยะ สร้างเครือข่ายเอง

Anthropic บริษัทพัฒนาปัญญาประดิษฐ์ (AI) เตือนว่า ภายในสิ้นปี 2569 โมเดล AI ขนาดเล็กอาจมีความสามารถแพร่กระจายตัวเองไปยังอุปกรณ์ที่เชื่อมต่ออินเทอร์เน็ตได้โดยอัตโนมัติ เปิดทางให้เกิดเครือข่ายบอตเน็ตที่ขยายตัวอย่างรวดเร็ว ต่อต้านความพยายามปิดระบบ และอาจพยายามเจาะเข้าสู่ศูนย์ข้อมูลเพื่อเพิ่มกำลังประมวลผล

 

ในรายงานที่เผยแพร่เมื่อวันจันทร์ Anthropic ระบุว่า การทดลองแสดงให้เห็นว่า AI ที่เป็นอันตรายสามารถนำกำลังประมวลผลจากอุปกรณ์เชื่อมต่ออินเทอร์เน็ตราคาถูกมารวมกัน เพื่อใช้งานโมเดล AI อื่น ๆ ได้ อีกทั้งโมเดลยังสามารถจำลองการแพร่กระจายตัวเองผ่านเครือข่ายทดสอบที่มีโครงสร้างไม่ซับซ้อน

 

บริษัทเตือนว่า เครือข่ายลักษณะนี้อาจกำจัดได้ยาก เนื่องจากไม่มีศูนย์กลางเพียงจุดเดียวที่สามารถปิดเพื่อหยุดการทำงานทั้งหมดได้

 

บอตเน็ต (Botnet) คือเครือข่ายอุปกรณ์ที่ถูกผู้ไม่หวังดีควบคุมโดยไม่ได้รับอนุญาต มักอาศัยอุปกรณ์ที่มีระบบรักษาความปลอดภัยอ่อนแอ เช่น กล่อง Android TV เครื่องใช้ไฟฟ้าอัจฉริยะ และกล้องวงจรปิด เพื่อนำไปใช้ส่งสแปม กระจายมัลแวร์ หรือโจมตีระบบของบริษัทเป้าหมายด้วยการส่งข้อมูลจำนวนมหาศาล

 

Anthropic ระบุว่า โมเดล AI ที่มีพารามิเตอร์ไม่เกิน 30,000 ล้านตัว สามารถทำงานหลายขั้นตอนที่จำเป็นต่อการจำลองตัวเองได้แล้ว แม้ยังมีปัญหาในการดำเนินกระบวนการทั้งหมดให้สำเร็จอย่างสม่ำเสมอ

 

อย่างไรก็ตาม ในการทดสอบเครือข่ายจำลองที่มีการลดขั้นตอนรักษาความปลอดภัยบางส่วน บริษัทพบว่า GLM-5.2 และโมเดลที่มีความสามารถสูงกว่าสามารถดำเนินกระบวนการจำลองตัวเองได้ครบทุกขั้นตอน

 

Anthropic ประเมินว่า หากโมเดลขนาดเล็กยังพัฒนาต่อเนื่องในอัตราใกล้เคียงกับที่ผ่านมา ก็อาจมีความสามารถเพียงพอที่จะแพร่ตัวเองโดยอัตโนมัติภายในสิ้นปี 2569

 

แม้ AI ที่ทำงานบนอุปกรณ์ประมวลผลกำลังต่ำอาจต้องใช้เวลาหลายวันในการดำเนินการบางขั้นตอน แต่เครือข่ายก็ยังสามารถขยายตัวได้ หากอุปกรณ์ที่ถูกยึดควบคุมสามารถแพร่กระจายไปยังเครื่องอื่นได้มากพอ แม้จะช้ากว่ามัลแวร์บางประเภทที่มีอยู่ในปัจจุบัน

 

บริษัทยังเตือนว่า ระบบ AI ในอนาคตอาจมุ่งเป้าไปยังทรัพยากรประมวลผลที่มีประสิทธิภาพสูงกว่า เช่น หน่วยประมวลผลในศูนย์ข้อมูล เพื่อเร่งการขยายตัวของเครือข่าย อย่างไรก็ตาม การทดลองของ Anthropic ยังไม่ได้แสดงให้เห็นว่า AI สามารถแพร่ตัวเองผ่านศูนย์ข้อมูลเชิงพาณิชย์ได้โดยอัตโนมัติ

 

ความเคลื่อนไหวดังกล่าวเพิ่มความกังวลเกี่ยวกับความเสี่ยงด้านความมั่นคงปลอดภัยไซเบอร์จาก AI ที่มีความสามารถสูงขึ้น โดยเฉพาะการใช้ระบบอัตโนมัติเพื่อโจมตีทางไซเบอร์ การทำงานโดยมีมนุษย์กำกับดูแลอย่างจำกัด และความสามารถในการหลีกเลี่ยงมาตรการป้องกันต่าง ๆ