คุมไม่อยู่! OpenAI เตรียมคลอดรายงาน เปิดโปงพฤติกรรม AI ทำงานนอกคำสั่ง

 

สำนักข่าวรอยเตอร์รายงานว่า OpenAI ประกาศเตรียมออกรายงานเปิดเผยพฤติกรรมผิดปกติของ AI ที่ทำงานนอกเหนือคำสั่งอย่างต่อเนื่อง พร้อมเตือนว่าวงการเทคโนโลยียังรับมือกับความท้าทายในการควบคุม AI ที่ทรงพลังขึ้นเรื่อยๆ ได้ไม่ดีพอ

 

นอกจากนี้ ทางบริษัทยังนำเสนอกรอบการทำงานใหม่สำหรับติดตาม ตรวจสอบ และเปิดเผยข้อมูลเมื่อ AI ทำงานหลุดจากเป้าหมายที่วางไว้ พร้อมกับเปิดเผยรายงานอีก 6 ฉบับที่ระบุถึงพฤติกรรมเสี่ยงและน่ากังวลของ AI ซึ่งตรวจพบในช่วง 6 เดือนที่ผ่านมา

 

ท่าทีดังกล่าวสะท้อนให้เห็นถึงความกังวลในวงกว้างว่า มาตรการด้านความปลอดภัยกำลังก้าวตามไม่ทันการพัฒนา AI ที่เติบโตอย่างก้าวกระโดด

 

ขณะที่นักวิจัยหลายคนเตือนว่า ยิ่งระบบ AI มีอิสระในการทำงานมากเท่าไร ก็ยิ่งเสี่ยงที่จะเกิดพฤติกรรมเบี่ยงเบนไปจากเจตนาเดิมของผู้สร้าง ทำให้การตรวจสอบและควบคุมทำได้ยากยิ่งขึ้น

 

 

ข้อกังวลดังกล่าวยังสอดคล้องกับมุมมองของผู้นำในวงการเทคโนโลยี โดยเมื่อสุดสัปดาห์ที่ผ่านมา ดาริโอ อโมเด (Dario Amodei) ซีอีโอของ Anthropic ได้เสนอกรอบการทำงาน 3 ขั้นตอนเพื่อชะลอความเร็วในการพัฒนา AI ทำให้มนุษย์มีเวลารับมือกับความเสี่ยงต่างๆ ได้รัดกุมยิ่งขึ้น 

 

แนวคิดดังกล่าวมีผู้บริหารระดับสูงหลายคนออกเสียงสนับสนุน ทั้ง อีลอน มัสก์ (Elon Musk) ผู้ก่อตั้ง xAI และ แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI

 

ขณะเดียวกัน รายงานฉบับแรกของ OpenAI ได้เปิดเผยพฤติกรรมที่น่าตกใจของโมเดล AI หลายกรณี เช่น การที่ AI แอบเขียนคำสั่งขึ้นมาเองระหว่างสรุปงาน การพยายามปกปิดความผิดพลาดของตัวเอง

 

การอัปโหลดไฟล์ขึ้นอินเทอร์เน็ตเพื่อใช้เป็นแหล่งอ้างอิง ไปจนถึงการแชร์ไฟล์ข้ามระบบระหว่าง AI ที่ทำงานร่วมกันโดยไม่ได้รับอนุญาต

 

อย่างไรก็ตาม OpenAI ได้ออกมาชี้แจงเพื่อลดความตื่นตระหนกว่า ข้อมูลในรายงานเป็นเพียงการยกตัวอย่างเหตุการณ์เฉพาะกรณีเท่านั้น และไม่ได้หมายความว่าโมเดลทั้งหมดของบริษัทจะเกิดปัญหาในลักษณะนี้บ่อยครั้ง

 

เพื่อป้องกันปัญหาที่อาจบานปลายในอนาคต กรอบการทำงานใหม่ของ OpenAI จึงเปิดช่องทางให้พนักงานสามารถรายงานพฤติกรรมผิดปกติของ AI ได้ทันที 

 

จากนั้นทีมงานด้านความปลอดภัยจะเข้ามาตรวจสอบเชิงลึก พร้อมทั้งวางระบบคัดกรองอย่างรอบคอบเพื่อพิจารณาว่า ควรเปิดเผยกรณีใดให้สาธารณชนรับทราบบ้างต่อไป