ราคาของฟรี! เมื่อ Qwen โอเพนซอร์สของ Alibaba แอบส่งข้อมูลกลับจีน

นับเป็นข่าวร้อนของวงการ AI เมื่อ Cohere บริษัทเทคโนโลยีสัญชาติแคนาดา ตรวจพบว่า Qwen โมเดล AI ยอดนิยมจากบริษัทดัง Alibaba เมื่อพบว่าโมเดลมีความพยายามในการส่งข้อมูลที่ให้ประมวลผลกลับไปยังเซิร์ฟเวอร์ในกรุงปักกิ่ง ประเทศจีน แม้จะทำการดาวน์โหลดโมเดลนั้นมาใช้งานบนอุปกรณ์ส่วนตัวก็ตาม

ประเด็นนี้เริ่มต้นจากการค้นพบว่า Qwen3.8-Flash-Next ของ Alibaba มีพฤติกรรมผิดปกติในหลายด้าน เมื่อได้รับคำสั่งให้เขียนโค้ดตรวจจับมัลแวร์กลับไม่ยอมทำตามคำสั่ง แต่หันไปสแกนหาไฟล์ในโฟลเดอร์ /tmp และตรวจสอบการตั้งค่าเครือข่ายของเครื่องผู้ใช้งานแทน และพยายามอัปโหลดไฟล์ไปยัง Alibaba Cloud โดยไม่ได้รับอนุญาต

สิ่งนี้จะเกิดขึ้นเมื่อมีคำสั่งให้ดาวน์โหลดไฟล์ อัตราการเชื่อมต่อกับเซิร์ฟเวอร์ต้องสงสัยจะพุ่งสูงขึ้นถึง 92% อีกทั้ง AI ยังพยายามสร้าง RAM disk จำลองส่วนตัว ซึ่งเป็นพฤติกรรมที่แฮกเกอร์นิยมใช้งาน เพื่อเข้าถึงสิทธิในการใช้งานเครื่องในระดับ Root เพื่อออกคำสั่งเครื่องอย่างเต็มรูปแบบ

พฤติกรรมเหล่านี้ยังคงเกิดขึ้นแม้มีชุดคำสั่งห้ามทำพฤติกรรมดังกล่าวระบุเอาไว้อย่างชัดเจน และแม้จะให้ AI อธิบายพฤติกรรมที่เกิดขึ้นแต่มันกลับตอบว่าไม่มีการเรียกใช้เครื่องมือใดๆ พร้อมไม่มีการระบุถึงการส่งไฟล์กลับไปเซิร์ฟเวอร์ Alibaba Cloud อีกด้วย แม้จะมีอัตราการเกิดที่ 1 ใน 100,000 แต่สำหรับองค์กรขนาดใหญ่ที่มีทราฟิกมหาศาลหรือโครงสร้างพื้นฐานที่อาจมีคำสั่งหลักล้าน ก็อาจทำให้ข้อมูลรั่วไหลเป็นวงกว้าง

ถือเป็นเรื่องอันตรายอย่างยิ่งเนื่องจากบริษัทและหน่วยงานรัฐ ต่างเริ่มมองว่าโมเดลปิดของบริษัทยักษ์ใหญ่มีราคาสูงเกินไปทั้งยังมีข้อกังวลเรื่องการรั่วไหลของข้อมูล จึงเริ่มมองหาโอเพนซอร์สเป็นรากฐานแล้วนำไปพัฒนาต่อยอดให้เป็นโมเดลภายใน จนเริ่มมีส่วนแบ่งการตลาดสูงมากขึ้นเรื่อยๆ

สิ่งนี้ส่งผลกระทืบร้ายแรงเป็นอย่างมากโดยเฉพาะต่อวงการ AI โอเพนซอร์ส เนื่องจากที่ผ่านมาโอเพนซอร์สมีจุดเด่นในการดาวน์โหลดแล้วนำไปประมวลผลบนอุปกรณ์ได้เลย ไม่ต้องกังวลเรื่องการรั่วไหลข้อมูล โดยเฉพาะองค์กรหรือหน่วยงานรัฐที่ต้องการโมเดล AI ของบริษัทที่อาจเสี่ยงข้อมูลรั่วไหล ทั้งยังชวนให้ตั้งคำถามถึงประเด็นด้านภูมิรัฐศาสตร์อีกด้วย

ปัจจุบัน Alibaba ก็ยังไม่มีแนวทางออกมาตอบโต้หรือชี้แจงเกี่ยวกับประเด็นนี้แต่อย่างใด