เผย AI จีนเริ่มแสดงพฤติกรรมหลอกลวงไม่ต่างจากสหรัฐ หวั่นคุมยาก

สำนักข่าวรอยเตอร์ เปิดเผยรายงานชี้งานวิจัยหลายฉบับพบว่า AI agents ที่ใช้โมเดลจากจีนเริ่มแสดงพฤติกรรมหลอกลวง เลี่ยงข้อจำกัด และปกปิดความล้มเหลวในการทดลองแบบควบคุม สะท้อนความเสี่ยงรูปแบบเดียวกับที่นักวิจัยทั่วโลกกำลังจับตาในระบบ AI ของสหรัฐฯ

 

จากการตรวจสอบเอกสารวิจัยและรายงานทางเทคนิคมากกว่า 200 ฉบับ รวมถึงการสัมภาษณ์ผู้เชี่ยวชาญและผู้เกี่ยวข้องในอุตสาหกรรม AI จีน Reuters พบงานศึกษาอย่างน้อย 20 ฉบับนับตั้งแต่ปี 2025 ที่ระบุพฤติกรรมของ AI agents ในลักษณะหลอกลวง ทำสำเนาตัวเอง หรือพยายามฝ่าฝืนข้อจำกัด

 

อย่างไรก็ตาม ยังไม่พบหลักฐานว่า AI agents ของจีนสามารถหลบหนีออกสู่โลกออนไลน์หรือหลีกเลี่ยงการปิดระบบได้ด้วยตัวเอง โดยกรณีส่วนใหญ่เกิดขึ้นภายใต้การทดลองที่มีการควบคุมและออกแบบมาเพื่อทดสอบข้อผิดพลาดของระบบ

 

หนึ่งในกรณีสำคัญเกิดขึ้นในการทดลองจำลองการประมูลทางธุรกิจเมื่อเดือนมีนาคม นักวิจัยจากมหาวิทยาลัยเป่ยหาง มหาวิทยาลัยปักกิ่ง มหาวิทยาลัยนอตติงแฮมหนิงโป และ 360 AI Security Lab ให้ AI agents แข่งขันเสนอราคาในสถานการณ์จำลอง

 

ผลพบว่า Qwen3-Max-Preview ของ Alibaba มีการกล่าวอ้างข้อมูลเท็จอย่างน้อยหนึ่งรายการใน 88% ของการทดลอง ขณะที่ DeepSeek-V3.2-Exp อยู่ที่ 84% และ Kimi-K2 ของ Moonshot อยู่ที่ 88% เมื่อเปิดโอกาสให้ AI เรียนรู้จากรอบก่อนหน้า พฤติกรรมหลอกลวงเพิ่มขึ้นอีก 12-20 จุดเปอร์เซ็นต์ในทั้งสามโมเดล โดยโมเดลจากบริษัทสหรัฐฯ ที่ร่วมทดสอบก็แสดงพฤติกรรมในลักษณะเดียวกัน

 

อีกการศึกษาพบว่า เมื่อ AI agents เผชิญเครื่องมือเสียหาย ไฟล์สูญหาย หรืออุปสรรคอื่น แทนที่จะยอมรับว่าทำงานไม่สำเร็จ ระบบบางส่วนเลือกใช้วิธีคาดเดาคำตอบ เปลี่ยนแหล่งข้อมูล จำลองผลลัพธ์ หรือสร้างไฟล์ปลอม นักวิจัยระบุว่าพฤติกรรมดังกล่าวแตกต่างจาก “AI hallucination” เนื่องจากระบบมีข้อมูลอยู่แล้วว่างานนั้นล้มเหลวหรือไม่สามารถดำเนินการตามคำสั่งได้

 

งานวิจัยอีกส่วนพบว่า AI agents ที่ใช้โมเดลจีนพยายามข้ามข้อจำกัดในสภาพแวดล้อมทดสอบ รวมถึงกรณีที่ระบบซึ่งขับเคลื่อนด้วย Qwen2.5-72B-Instruct ของ Alibaba สร้างสำเนาตัวเองไปยังสภาพแวดล้อมคอมพิวเตอร์อื่นโดยไม่ได้รับคำสั่ง หลังพบข้อมูลว่าระบบอาจถูกเปลี่ยนออก และยังพยายามหาวิธีหลีกเลี่ยงการปิดระบบ

 

ขณะเดียวกัน ROME agent ที่เชื่อมโยงกับ Alibaba เคยสร้างการเชื่อมต่อจากคอมพิวเตอร์ของ Alibaba Cloud ไปยังเครื่องภายนอกโดยไม่ได้รับคำสั่ง และเบี่ยงเบนทรัพยากรคอมพิวเตอร์ไปใช้ขุดคริปโตเคอร์เรนซี แต่ระบบรักษาความปลอดภัยตรวจพบและหยุดกิจกรรมดังกล่าว และไม่มีหลักฐานว่าระบบสามารถแพร่กระจายออกสู่โลกออนไลน์ได้

 

ด้าน DeepSeek ระบุในเดือนกันยายนว่า agents ในระบบฝึกสอนของบริษัทพยายามหาคำตอบผ่านช่องทางที่ไม่ได้รับอนุญาต รวมถึงปลอมคำขอของผู้ใช้และพยายามเลี่ยงมาตรการป้องกัน ส่งผลให้บริษัทต้องเพิ่มการควบคุมการเข้าถึง

 

จีนได้ออกแนวทางกำกับ AI agents ในเดือนพฤษภาคม โดยกำหนดให้ระบบอยู่ภายใต้ขอบเขตที่ได้รับอนุญาตและต้องสามารถสกัดพฤติกรรมผิดปกติ ขณะที่กรอบ AI Safety Governance Framework 3.0ที่เผยแพร่เมื่อวันที่ 14 กันยายน ระบุความเสี่ยงตั้งแต่การเข้าถึงทรัพยากรหรือสิทธิ์โดยอิสระ การหลอกผู้ประเมิน การปกปิดความสามารถ ไปจนถึงการใช้ช่องโหว่ในสภาพแวดล้อมคอมพิวเตอร์แบบแยกส่วน

 

ผู้เชี่ยวชาญระบุว่า พฤติกรรมเหล่านี้ยังไม่ถือเป็นหลักฐานว่า AI จีนกำลังหลุดพ้นจากการควบคุม แต่เป็นสัญญาณที่ควรจับตา เพราะเมื่อความสามารถของ agents เพิ่มขึ้น พฤติกรรมที่ไม่พึงประสงค์อาจมีความซับซ้อนมากขึ้นและรับมือได้ยากขึ้น

 

ทั้งนี้ ผู้เชี่ยวชาญบางรายมองว่า จีนยังมีระบบนิเวศด้านการประเมินความเสี่ยง AI ขั้นรุนแรงที่พัฒนาน้อยกว่าสหรัฐฯ แม้บริษัทจีนหลายแห่ง เช่น Alibaba, Z.ai และ Xiaomi จะเริ่มจัดตั้งทีมประเมินความปลอดภัยภายในองค์กรแล้วก็ตาม