ผู้นำ AI เตือนยูเอ็น ระบบพัฒนาเร็วและทรงพลังเสี่ยงคุมไม่อยู่

ผู้บริหารบริษัท AI ชั้นนำของโลก 3 แห่ง ให้ข้อมูลต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ (UNSC) เมื่อวันที่ 23 กันยายน ท่ามกลางความกังวลว่า AI ที่มีความสามารถสูงขึ้นอย่างรวดเร็วอาจพัฒนาตัวเองจนมนุษย์ควบคุมได้ยาก และกลายเป็นความเสี่ยงต่อความมั่นคงระหว่างประเทศ

 

ผู้เข้าร่วมการประชุมครั้งนี้ ได้แก่ Sam Altman ซีอีโอ OpenAI, Dario Amodei ซีอีโอ Anthropic และ Clément Delangue ผู้ร่วมก่อตั้ง Hugging Face ซึ่งถือเป็นบุคคลสำคัญในอุตสาหกรรม AI

 

Amodei ระบุว่า หากบริหารจัดการ AI อย่างไม่เหมาะสม เทคโนโลยีดังกล่าวอาจกลายเป็นความเสี่ยงต่อมนุษยชาติ ขณะที่ Yoshua Bengio นักวิทยาศาสตร์ AI ชาวแคนาดาและประธานร่วมของคณะผู้เชี่ยวชาญวิทยาศาสตร์อิสระระหว่างประเทศของยูเอ็น เตือนว่าอันตรายจาก AI เป็นเรื่องที่เกิดขึ้นจริงและใกล้เข้ามา

 

Altman กล่าวว่า การตัดสินใจสำคัญเกี่ยวกับ AI ไม่ควรอยู่ในมือของบริษัทเทคโนโลยีเพียงไม่กี่แห่ง แต่ควรถูกกำหนดผ่านกระบวนการประชาธิปไตยและรัฐบาลที่ประชาชนสามารถตรวจสอบได้ พร้อมเรียกร้องให้ประเทศต่างๆ ร่วมมือกันในระดับนานาชาติ

 

ประเด็นดังกล่าวเกิดขึ้นขณะที่สหรัฐฯ และจีน ซึ่งเป็นสองประเทศผู้นำด้านการพัฒนา AI ยังมีแนวทางแตกต่างกันเกี่ยวกับการกำกับดูแล โดยทั้งสองประเทศกำลังหารือถึงระบบแจ้งเตือนเหตุการณ์ด้าน AI ที่อาจกระทบความมั่นคงระดับชาติ

 

ด้านประธานาธิบดี Donald Trump กล่าวต่อที่ประชุมสมัชชาใหญ่ยูเอ็นเมื่อวันที่ 22 กันยายนว่า สหรัฐฯ ไม่สนับสนุนความพยายามสร้างระบบควบคุม AI ในระดับโลก และต้องการส่งเสริมการเติบโตของเทคโนโลยีมากกว่าการจำกัด พร้อมระบุว่าจะติดตามความเสี่ยงผ่านกระทรวงยุติธรรม

 

ขณะที่เลขาธิการยูเอ็น Antonio Guterres สนับสนุนการกำกับดูแล AI ในระดับโลกมาอย่างต่อเนื่อง โดยเตือนว่าการพัฒนา AI อย่างรวดเร็วสร้างความเสี่ยงที่ไม่ควรมองข้าม

 

คณะมนตรีความมั่นคงยูเอ็นเคยหารือเรื่องความเสี่ยงจาก AI เป็นครั้งแรกในปี 2023 ก่อนจัดประชุมอีกครั้งในปี 2024 สะท้อนว่า AI กำลังถูกยกระดับจากประเด็นเทคโนโลยีไปสู่ประเด็นด้านความมั่นคงระหว่างประเทศ