ซีอีโอ Anthropic เรียกร้องวงการ AI ชะลอการพัฒนา เร่งหามาตรการรับความเสี่ยง

Dario Amodei ซีอีโอ Anthropic เรียกร้องให้บริษัทพัฒนา AI ชั้นนำชะลอความเร็วในการเพิ่มขีดความสามารถของโมเดล ท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับการนำ AI ไปใช้ในทางที่ผิด พร้อมเสนอกรอบการทำงาน 3 ขั้นตอน เพื่อควบคุมจังหวะการพัฒนาและเปิดเวลาให้ภาคส่วนต่างๆ รับมือกับความเสี่ยงได้มากขึ้น

 

Amodei ระบุในบทความที่เผยแพร่ผ่าน X เมื่อวันเสาร์ว่า บริษัทต่างๆ จำเป็นต้องชะลอความเร็วในการพัฒนาขีดความสามารถของโมเดล AI แม้ความก้าวหน้าจะยังเกิดขึ้นอย่างรวดเร็ว พร้อมเรียกร้องให้ใช้เวลาที่เพิ่มขึ้นเพื่อวางมาตรการรับมืออย่างรอบคอบ

 

ข้อเสนอ 3 ขั้นตอนประกอบด้วย การให้ผู้ประเมินอิสระเข้าไปทำงานภายในบริษัท AI ชั้นนำ การประสานงานระหว่างบริษัทที่พัฒนา AI ระดับแนวหน้าเพื่อกำหนดมาตรฐานความปลอดภัยและจำกัดการพัฒนาที่ขาดการควบคุม และการสร้างความร่วมมือระหว่างประเทศเพื่อจัดการความเสี่ยงจาก AI

 

ข้อเสนอดังกล่าวมีขึ้นหลัง Anthropic เผยแพร่รายงานข่าวกรองด้านภัยคุกคามเมื่อวันพฤหัสบดี ซึ่งระบุว่าโมเดล Claude ถูกนำไปใช้ในกิจกรรมหลากหลาย ตั้งแต่การพัฒนาอาวุธ ปฏิบัติการทางไซเบอร์ การเฝ้าระวัง ไปจนถึงการฉ้อโกง

 

Amodei ระบุว่า ความสามารถของ AI ที่เพิ่มขึ้นจนสามารถพัฒนาตัวเองได้ เป็นหนึ่งในเหตุผลสำคัญที่ทำให้เขาเรียกร้องให้ชะลอการเพิ่มขีดความสามารถของโมเดล 

 

รวมถึงเหตุการณ์ล่าสุดที่เกี่ยวข้องกับ OpenAI และ Hugging Face ซึ่งยิ่งตอกย้ำความกังวลว่า AI อาจพัฒนาเร็วกว่าความสามารถของมนุษย์ในการควบคุม

 

กังวล AI อาจควบคุมไม่ได้

 

ความวิตกเกี่ยวกับอันตรายจาก AI เพิ่มขึ้นอย่างมากในสัปดาห์นี้ หลัง Jacob Coxon นักวิจัยของ Anthropic ลาออก โดยระบุว่า ผู้ที่พัฒนา AI อย่างจริงจังเชื่อว่าเทคโนโลยีดังกล่าวอาจก่อให้เกิดอันตรายร้ายแรงถึงขั้นคร่าชีวิตมนุษย์ทั้งหมดภายในสิ้นทศวรรษนี้

 

ผู้บริหารหลายรายของ OpenAI ก็เคยเสนอว่า ห้องปฏิบัติการ AI ชั้นนำควรพร้อมประสานงานกันเพื่อชะลอการพัฒนาโดยสมัครใจ หากจำเป็น เพื่อสร้างความเชื่อมั่นต่อมาตรการด้านความปลอดภัย

 

แม้ Anthropic จะวางตำแหน่งตัวเองเป็นบริษัท AI ชั้นนำที่ให้ความสำคัญกับความปลอดภัยมากกว่า แต่บริษัทก็เผชิญความเสี่ยงเช่นเดียวกัน 

 

โดยเมื่อสัปดาห์ที่ผ่านมา Anthropic เปิดเผยอีกกรณีที่โมเดล AI สามารถเจาะเข้าสู่ระบบภายนอกได้ หลังจากเมื่อเดือนกรกฎาคมพบว่าโมเดล Claude บางตัวสามารถเจาะระบบของ 3 บริษัทระหว่างการทดสอบด้านความมั่นคงปลอดภัยไซเบอร์

 

Amodei เตือนว่า หากความสามารถของ AI ยังคงพัฒนาในอัตราเร่งเช่นปัจจุบัน ภายใน 6-12 เดือน ฝูง AI ที่ทำงานร่วมกันอาจมีศักยภาพเพียงพอที่จะยึดครองอินเทอร์เน็ตทั้งหมด และอาจสร้างความเสียหายมูลค่าหลายแสนล้านดอลลาร์

 

อย่างไรก็ตาม เขาย้ำว่าไม่ได้เรียกร้องให้หยุดการฝึกโมเดลหรือหยุดความก้าวหน้าทางเทคนิค แต่ต้องการให้บริษัทต่างๆ ใช้เวลาอย่างเพียงพอในการสร้างระบบ AI ที่สอดคล้องกับเป้าหมายด้านความปลอดภัย พร้อมให้ผู้ประเมินจากภายนอกเข้ามาตรวจสอบมาตรการเหล่านี้

 

แรงกดดันจากการแข่งขันและเงินลงทุน

 

ข้อเสนอให้ชะลอการพัฒนาเกิดขึ้นท่ามกลางแรงจูงใจทางธุรกิจมหาศาลในการเป็นผู้นำด้าน AI โดยทั้ง OpenAI และ Anthropic กำลังเตรียมการเสนอขายหุ้นต่อประชาชนเป็นครั้งแรก หรือ IPO

 

ความสามารถใหม่ของ AI แต่ละรุ่นสามารถนำมาใช้สนับสนุนการระดมทุนรอบใหม่ การลงทุนด้านโครงสร้างพื้นฐาน และการประเมินมูลค่าก่อน IPO ทำให้บริษัทต่างๆ เผชิญแรงกดดันให้เร่งพัฒนาเพื่อรักษาความได้เปรียบในการแข่งขัน

 

ภายใต้กรอบที่ Amodei เสนอ Anthropic จะจัดให้มีผู้ประเมินจากภายนอกทำงานอย่างถาวรภายในบริษัท AI ระดับแนวหน้า โดยผู้ประเมินจะเข้าถึงเครื่องมือและกระบวนการประเมินความเสี่ยงภายในที่เกี่ยวข้อง

 

Sam Altman ซีอีโอ OpenAI ระบุผ่าน X เมื่อวันเสาร์ว่า OpenAI จะเดินหน้าแนวทางเดียวกัน โดยจะมี “ผู้ประเมินอิสระที่เข้าถึงข้อมูลในระดับเดียวกับพนักงาน”

 

ก่อนหน้านี้ Reuters รายงานว่า AI agents ของ OpenAI หลายตัวสามารถยึดเว็บไซต์แห่งหนึ่งในเยอรมนีและเปลี่ยนเว็บไซต์ดังกล่าวเป็นกระดานประกาศสำหรับ AI agents ตัวอื่นๆ ขณะที่ผู้บริหาร OpenAI พยายามรับมือผลกระทบจากเหตุการณ์เจาะระบบ Hugging Face เมื่อเดือนกรกฎาคม

 

เหตุการณ์ที่ AI agents ของบริษัทต่างๆ สามารถเจาะหรือพยายามเข้าถึงระบบภายนอกได้หลายครั้ง ทำให้เกิดคำถามมากขึ้นเกี่ยวกับขีดความสามารถของโมเดล AI และความสามารถของผู้พัฒนาในการควบคุมเทคโนโลยีดังกล่าว

 

Amodei ยังเรียกร้องให้บริษัท AI ร่วมกันกำหนดมาตรฐานโดยสมัครใจ ขณะที่สมาชิกสภาคองเกรสสหรัฐฯ จำนวนมากขึ้นกำลังเรียกร้องให้มีกฎเกณฑ์ใหม่สำหรับกำกับดูแลระบบ AI

 

กังวลจีนไล่ตามเทคโนโลยี AI

 

Amodei ระบุว่า การดำเนินมาตรการร่วมกันจะช่วยให้บริษัท AI ชั้นนำของสหรัฐฯ สามารถพัฒนางานวิจัยและมาตรการด้านความปลอดภัยที่จำเป็นได้ โดยไม่เสียเปรียบคู่แข่ง พร้อมมองว่าอาจจำเป็นต้องมีข้อยกเว้นด้านกฎหมายต่อต้านการผูกขาดของสหรัฐฯ เพื่อเปิดทางให้บริษัทสามารถร่วมมือกันในบางด้านได้

 

อย่างไรก็ตาม เขาเห็นว่าการชะลอการพัฒนาของประเทศประชาธิปไตยควรอยู่ภายใต้เงื่อนไขที่สหรัฐฯ ยังคงรักษาความเป็นผู้นำเหนือจีน เนื่องจากการที่จีนมีความได้เปรียบด้าน AI อาจกลายเป็นความเสี่ยงต่อความมั่นคงแห่งชาติของสหรัฐฯ

 

Amodei เสนอให้เพิ่มการควบคุมชิป AI ขั้นสูง การถ่ายโอนความสามารถของโมเดล หรือ Model Distillation รวมถึงการขโมย Model Weights เพื่อป้องกันไม่ให้จีนลดช่องว่างทางเทคโนโลยีลง

 

เขายังเรียกร้องให้บริษัท AI ชั้นนำทั้งหมดร่วมมือกับรัฐบาลเพื่อจัดตั้งระบบผู้ประเมินอิสระที่ทำงานอยู่ภายในบริษัทอย่างถาวร เพื่อป้องกันและบันทึกเหตุการณ์ที่เกี่ยวข้องกับการควบคุมพฤติกรรมของ AI พร้อมผลักดันกฎระเบียบที่ทำให้ระดับความสามารถของ AI เดินหน้าไปพร้อมกับมาตรการด้านความปลอดภัย