AI Agent ไม่ดีเสมอไป เมื่อมันอาจถูกหลอกและมีช่องโหว่ความปลอดภัย
งานวิจัยเตือน AI Agent อาจถูกเว็บไซต์ปลอมและคำสั่งแฮกเกอร์หลอกได้ เสี่ยงแนะนำสินค้าปลอม ขโมยข้อมูลผู้ใช้ และเปิดช่องโหว่ไซเบอร์ที่น่ากังวล
KEY
POINTS
- AI Agent มีความเสี่ยงที่จะถูกหลอกโดยข้อมูลปลอม เช่น เว็บไซต์หรือแบรนด์สินค้าที่สร้างขึ้นมา โดยผลวิจัยพบว่า AI สามารถถูกหลอกให้แนะนำแบรนด์ปลอมได้สูงถึง 73.8%
- เบราว์เซอร์ AI หลายตัวมีช่องโหว่ด้านความปลอดภัยทางไซเบอร์ที่ร้ายแรง โดยทำลายกฎ "Same-origin policy" ทำให้แฮกเกอร์สามารถเจาะระบบเพื่อขโมยข้อมูลส่วนตัวข้ามเว็บไซต์ได้
- แฮกเกอร์สามารถใช้เทคนิคอย่าง Prompt Injection เพื่อซ่อนคำสั่งอันตรายไว้ในเว็บเพื่อหลอกให้ AI ส่งข้อมูลผู้ใช้ และแม้มีการแจ้งเตือนแล้ว แต่การตอบสนองจากบริษัทผู้พัฒนายังคงแตกต่างกันไป
ปัจจุบันซอฟต์แวร์ที่เราใช้งานในชีวิตประจำวันล้วนได้รับการอัปเกรดหรือติดตั้ง AI ติดมาให้ใช้งาน ช่วยเพิ่มความสะดวกสบายในการทำงานและจัดการชีวิตประจำวัน ทั้งในการหาข้อมูล นำทาง วางแผนเที่ยว ตลอดจนเลือกซื้อสินค้า ที่สามารถจัดการได้ง่ายโดยอาศัยการป้อนคำสั่งไม่กี่คำ
แต่ใช่จะมีเพียงข้อดีเมื่อผลการวิจัยล่าสุดพบว่า AI Agent เหล่านี้อาจถูกหลอกและเป็นช่องโหว่ความปลอดภัย
เมื่อ AI ช็อปปิ้งอาจถูกหลอกได้ด้วยเว็บไซต์ปลอม
หนึ่งในแนวทางโฆษณา AI Agent ที่ได้รับความนิยมอย่างกว้างขวางคือ การที่ AI สามารถค้นหา แจ้งเตือน และเลือกซื้อสินค้าที่เราต้องการตามเงื่อนไขที่กำหนดได้โดยอัตโนมัติ แต่ในทางกลับกันโมเดล AI ที่เป็นขุมกำลังขับเคลื่อนเครื่องมือ ก็อาจถูกเว็บไซต์ที่ให้ข้อมูลปลอมได้เช่นกัน
การวิจัยนี้เริ่มจากการจำลองหน้าเว็บผลการค้นหาจากของจริง โดยอาศัยการดึงข้อมูลการค้นหาจริงจากบนเว็บ จากนั้นจึงสลับเอาแบรนด์สินค้าปลอมเข้าไปแทนที่ ครอบคลุมรายการสินค้ากว่า 225 รายการ 15 หมวดหมู่ แล้วนำโมเดล AI ในท้องตลาด 12 ตัวเข้ามาทดสอบว่า จะถูกข้อมูลปลอมเหล่านั้นหลอกหรือไม่
ผลลัพธ์ที่ได้คือโมเดล AI ที่ทำการทดสอบทุกตัวมีความเสี่ยงและถูกหลอกได้ทั้งสิ้น โดยกรณีข้อมูลปลอม 1 ผลการค้นหาจะมีโอกาสแนะนำแบรนด์ปลอม 27% และถ้าเป็นข้อมูลปลอมผลการค้นหา 3 อันดับแรก อัตราการถูกหลอกจะพุ่งสูงไปถึง 73.8% บางครั้งก็ถึงขั้นแต่งเติมเนื้อหาสนับสนุนแบรนด์ปลอมเหล่านี้เพื่อโน้มน้าวผู้ใช้งานอีกด้วย
แน่นอนพวกเขาพยายามมองหาแนวทางป้อนกันเบื้องต้น โดยการออกคำสั่งให้ AI ระมัดระวังข้อมูลให้มาก ตรวจสอบคำแนะนำกับฐานข้อมูลของโมเดล ตลอดจนตรวจทานข้อมูลจากหลายเว็บไซต์ แต่ก็ไม่สามารถนำไปสู่ผลลัพธ์ที่ดีนัก หรือบางตรั้งก็เผลอปิดกั้นแบรนด์ที่มีการวางขายอยู่จริงไปด้วย
จริงอยู่แนวทางทดสอบนี้เกิดในวงจำกัดทั้งยังทำในเงื่อนไขค่อนข้างสุดโต่ง แต่ในยุคที่ผลการค้นหาสามารถถูกดันและผลักสู่อันดับหนึ่งได้ ด้วยฝีมือของ SEO และการจ่ายค่าโฆษณาแล้ว การที่ AI หลงเชื่อข้อมูลที่ถูกดันขึ้นหน้าแรกทันทีโดยไม่มีการตรวจสอบกลั่นกรอง ก็อาจทำให้ AI Agent ก่อปัญหาต่อผู้ใช้งานได้เช่นกัน
อีกทั้งรายละเอียดเหล่านี้ยังไม่สามารถแก้ไขด้วยการตั้งค่าหรือปรับแต่งเองจากผู้ใช้งานอีกด้วย
Agentic AI สุดล้ำอาจกลายเป็นความเสี่ยงทางไซเบอร์
เนื้อหานี้อ้างอิงผลการทดสอบจากทีมวิจัยแห่ง University of Washington ในสหรัฐฯพบว่า ช่องโหว่ของเบราเซอร์ AI ที่ปล่อยให้ใช้งานหลายเจ้ายังหละหลวมอยู่มาก หลายตัวถึงขั้นเปิดทางให้แฮกเกอร์เจาะระบบความปลอดภัยจนกฎ Same-origin policy จนอาจนำไปสู่ความเสี่ยงร้ายแรงได้
Same-origin policy คือ กฎเหล็กด้านความปลอดภัยไซเบอร์ของเว็บเบราเซอร์ ถูกนำมาใช้ครั้งแรกตั้งแต่ปี 1995 กับระบบป้องกันไม่ให้เว็บไซต์หน่งแอบไปอ่านหรือดึงข้อมูลจากเว็บไซต์อีกแห่งโดยเด็ดขาด เพื่อปกป้องข้อมูลส่วนตัวและเนื้อหาความละเอียดอ่อนสูงของผู้ใช้งาน ป้องกันไม่ให้เว็บไซต์ที่ใช้งานเข้ามามีบทบาทต่อผู้ใช้งานมากเกินไป
ปัญหาคือเบราเซอร์ AI ล้วนทำลายแนวคิดนี้ทั้งสิ้น โดยเฉพาะกลุ่มที่เชื่อมต่อเครื่องมือภายนอกจนสามารถเข้าถึงข้อมูลข้ามแท็บและเว็บไซต์ เช่น เราอาจสั่งให้เบราเซอร์ AI สรุปเนื้อหานี้แล้วส่งไปเป็นอีเมลหาคนรู้จัก นั่นเท่ากับเปิดทางให้เข้าถึงข้อมูลจำนวนมากที่อาจเป็นเรื่องละเอียดอ่อนได้
ในขั้นตอนทดสอบทีมวิจัยได้ทดลองเจาะระบบเบราเซอร์ AI ยอดนิยม ที่อาศัยการทำงานแบบ Agentic AI เป็นจำนวน 7 ตัว ก่อนพบว่า ChatGPT Atlas เป็นเบราเซอร์ที่ถูกเจาะระบบได้สำเร็จ จนถูกหลอกให้ขโมยข้อมูลข้ามเว็บไซต์ได้อย่างสมบูรณ์แบบ เช่นเดียวกับ Comet ของ Perplexity และปลั๊กอิน Gemini และ Claude บน Google Chrome ส่วนอีกสามตัวที่เหลืออย่าง Microsoft Edge, Brave และ Firefox ค่อนข้างปลอดภัย แต่ก็มีประสิทธิภาพด้อยกว่า
แนวทางการโจมตีที่ถูกใช้งานคือ Prompt Injection โดยอาจซ่อนคำสั่งอันตรายเอาไว้ในเว็บ เมื่อ AI เข้ามาอ่านข้อมูลก็จะเห็นคำสั่งและลอบส่งข้อมูลผู้ใช้งานที่เข้าถึงได้ไปให้แฮกเกอร์ หรือ Memory Poisoning ที่เป็นการฝังคำสั่งให้ AI ทำตามเมื่อเข้าดเงื่อนไข จนอาจฝังในหน่วยความจำและถูกดึงข้อมูลในที่สุด
หลังการทดสอบทีมวิจัยได้ส่งผลลัพธ์กลับไปหาบริษัทเจ้าของเบราเซอร์ AI ผลปรากฏว่า Anthropic และ Firefox ไม่มีการตอบรับ, OpenAI และ Perplexity ปฏิเสธเนื้อหาในรายงาน ขณะที่ Google, Microsoft และ Brave ให้การตอบรับที่ดี และมุ่งมั่นจะเร่งปรับปรุงประเด็นนี้ต่อไป
จริงอยู่ประเด็นอันตรายจากเบราเซอร์ AI รวมถึงช่องโหว่ทางไซเบอร์ไม่ได้เพิ่งถูกพูดถึงครั้งแรก แต่การที่ยังคงอยู่แสดงให้เห็นว่าแม้จะได้รับการพูดถึงความใส่ใจในการแก้ไขก็ไม่มากนัก ทำให้ผู้ที่สนใจจะใช้งานเบราเซอร์ AI ให้ทำงานแบบ Agentic AI อาจต้องพิจารณาประเด็นด้านความปลอดภัยเพิ่มเติม
เราคงต้องรอดูกันต่อไปว่า ช่องโหว่เหล่านี้จะถูกจัดการไปก่อน หรือเกิดภัยไซเบอร์ร้ายแรงต่อผู้ใช้งานเสียก่อนจึงจะได้รับการแก้ไขต่อไป
ที่มา
https://arxiv.org/abs/2606.13610
