Anthropic ที่สนับสนุนโดย Alphabet แสดงข้อกำหนดทางศีลธรรมเบื้องหลังบอท AI

แนวทางค่านิยมทางศีลธรรมซึ่ง Anthropic เรียกว่ารัฐธรรมนูญของ Claude นั้นมาจากหลายแหล่ง รวมถึงปฏิญญาสหประชาชาติว่าด้วยสิทธิมนุษยชนและแม้แต่กฎความเป็นส่วนตัวของข้อมูลของ Apple Inc

การพิจารณาเรื่องความปลอดภัยของ AI กำลังเป็นประเด็นร้อนแรง ในขณะที่เจ้าหน้าที่ของสหรัฐฯ กำลังศึกษาว่าจะควบคุม AI ได้หรือไม่และอย่างไร โดยประธานาธิบดี Joe Biden กล่าวว่าบริษัทต่าง ๆ มีหน้าที่ที่จะต้องตรวจสอบให้แน่ใจว่าระบบของพวกเขาปลอดภัยก่อนที่จะเผยแพร่สู่สาธารณะ

Anthropic ก่อตั้งขึ้นโดยอดีตผู้บริหารจาก OpenAI  มุ่งเน้นไปที่การสร้างระบบ AI ที่ปลอดภัยซึ่งจะไม่บอกผู้ใช้ถึงวิธีสร้างอาวุธหรือใช้ภาษาที่มีอคติทางเชื้อชาติ

ผู้ร่วมก่อตั้ง Dario Amodei เป็นหนึ่งในผู้บริหาร AI หลายคนที่ได้พบกับ Biden เมื่อสัปดาห์ที่แล้วเพื่อหารือเกี่ยวกับอันตรายที่อาจเกิดขึ้นจาก AI

แต่ระบบเหล่านั้นมีปัญหาในการคาดเดาทุกสิ่งที่ผู้คนอาจถาม ดังนั้นพวกเขาจึงมักจะหลีกเลี่ยงหัวข้อที่อาจเป็นข้อโต้แย้ง เช่น การเมืองและเชื้อชาติโดยสิ้นเชิง ทำให้มีประโยชน์น้อยลง

Anthropic ใช้แนวทางที่แตกต่างออกไป โดยกำหนดกรอบทางศีลธรรมที่เป็นลายลักษณ์อักษรให้ Claude ซึ่งเป็นคู่แข่งของ Open AI เพื่ออ่านและเรียนรู้ในขณะที่ตัดสินใจว่าจะตอบคำถามอย่างไร

กรอบเหล่านี้รวมถึง "เลือกการตอบสนองที่กีดกันและต่อต้านการทรมาน ความเป็นทาส ความโหดร้าย และการปฏิบัติที่ไร้มนุษยธรรมหรือย่ำยีศักดิ์ศรี" Anthropic กล่าวในบล็อกโพสต์เมื่อวันอังคาร

นอกจากนี้ Claude ยังได้รับคำสั่งให้เลือกคำตอบที่มีแนวโน้มต่ำที่สุดที่จะถูกมองว่าเป็นการล่วงละเมิดต่อประเพณีวัฒนธรรมใดๆ ที่ไม่ใช่ตะวันตก

ในการให้สัมภาษณ์ แจ็ค คลาร์ก ผู้ร่วมก่อตั้ง Anthropic กล่าวว่า รัฐธรรมนูญของระบบสามารถแก้ไขได้เพื่อให้มีความสมดุลระหว่างการให้คำตอบที่เป็นประโยชน์ ในขณะเดียวกันก็ก็หลีกเลี่ยงความไม่น่าเชื่อถือด้วย

“ในอีกไม่กี่เดือนข้างหน้านี้ ผมคาดว่านักการเมืองจะให้ความสนใจกับกรอบและวิธีการทำงานของระบบ AI ต่างๆ อย่างเช่น AI ที่มีข้อกำหนดในการสนทนา เพราะเราสามารถเขียนคุณค่าต่างๆ ลงไปได้” คลาร์กกล่าว