เผย AI ถูกใช้สำหรับการแฮ็คและปล่อยข้อมูลเท็จ

เจ้าหน้าที่ความปลอดภัยทางไซเบอร์ชั้นนำของแคนาดากล่าวกับรอยเตอร์ว่า หลักฐานเบื้องต้นที่แสดงว่าการปฏิวัติเทคโนโลยีที่แผ่ขยายไปทั่วซิลิคอนวัลเลย์ก็ถูกนำมาใช้โดยอาชญากรไซเบอร์เช่นกัน

ในการให้สัมภาษณ์ในสัปดาห์นี้ หัวหน้าศูนย์ความปลอดภัยทางไซเบอร์ของแคนาดา Sami Khoury กล่าวว่าหน่วยงานของเขาได้พบการใช้ AI "ในอีเมลฟิชชิ่ง หรือสร้างอีเมลในลักษณะที่เจาะจงมากขึ้น ในรหัสที่เป็นอันตราย (และ) มีการแพร่กระจายข้อมูลที่ผิดและบิดเบือนข้อมูล"

Khoury ไม่ได้ให้รายละเอียดหรือหลักฐานประกอบคำกล่าวอ้าง แต่การยืนยันว่าอาชญากรไซเบอร์ใช้ AI อยู่แล้ว 

ในช่วงหลายเดือนที่ผ่านมา กลุ่มเฝ้าระวังทางไซเบอร์หลายกลุ่มได้เผยแพร่รายงานเตือนเกี่ยวกับความเสี่ยงของการนำ AI ไปใช้ในทางที่ผิด หรือโดยอาชญากร โดยเฉพาะอย่างยิ่งโปรแกรมประมวลผลภาษาที่พัฒนาไปอย่างรวดเร็วที่เรียกว่าโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งใช้ข้อความจำนวนมากเพื่อสร้างบทสนทนาและเอกสารที่น่าเชื่อถือ และอื่น ๆ

ในเดือนมีนาคม องค์กรตำรวจยุโรป Europol เผยแพร่รายงานที่ระบุว่าโมเดลเช่น ChatGPT ของ OpenAI ทำให้สามารถ "ปลอมแปลงเป็นองค์กรหรือบุคคลในลักษณะที่เหมือนจริงมาก แม้จะมีความเข้าใจภาษาอังกฤษขั้นพื้นฐานเท่านั้น" ในเดือนเดียวกัน ศูนย์ความมั่นคงทางไซเบอร์แห่งชาติของอังกฤษระบุในบล็อกโพสต์ว่า มีความเสี่ยงที่อาชญากร "อาจใช้ LLM เพื่อช่วยในการโจมตีทางไซเบอร์ที่เกินความสามารถในการป่องกันที่มีอยู่ในปัจจุบัน"

นักวิจัยด้านความปลอดภัยทางไซเบอร์ได้สาธิตกรณีการใช้งานที่อาจเป็นอันตรายที่หลากหลาย และตอนนี้บางคนกล่าวว่าพวกเขาเริ่มเห็นเนื้อหาที่น่าสงสัยว่าสร้างโดย AI แล้ว Khoury กล่าวว่าในขณะที่การใช้ AI เพื่อร่างโค้ดที่เป็นอันตรายนั้นยังอยู่ในช่วงเริ่มต้น - "ยังมีมาตรการที่ต้องดำเนินการเพราะต้องใช้เวลามากในการแก้ช่องโหว่ต่างๆ " - ข้อกังวลคือโมเดล AI นั้นพัฒนาอย่างรวดเร็ว เป็นเรื่องยากที่จะจัดการกับศักยภาพที่เป็นอันตรายของพวกมันก่อนที่จะถูกปล่อยให้คนทั่วไปใช้งาน