
คิดมากไปก็เท่านั้น เมื่อการให้ AI คิดสั้นหรือยาวผลลัพธ์ก็ไม่ต่างกัน
ทีมวิจัย Zoom Communication พัฒนา Chain of Draft (COD) เทคนิคใหม่ที่ช่วยให้ AI ตอบเร็วขึ้นถึง 76% ลดการใช้โทเคน 92.4% แต่ยังคงความแม่นยำสูง!
ทีมวิจัย Zoom Communication ได้ออกมาเปิดเผยรายงานวิจัยเกี่ยวกับแนวคิดการให้ AI ใช้ Chain of Thought(COT) หรือการคิดก่อนตอบช่วยเพิ่มประสิทธิภาพการทำงานและการให้คำตอบ แต่จากผลการวิจัยล่าสุด พวกเขาพบว่าการใช้ COT ก็ไม่ได้ดีขนาดนั้น
ทีมงานได้พัฒนาเทคนิค Chain of Draft(COD) ที่ต่อยอดมาจาก COT อาศัยหลักการให้โมเดล AI ทำการระบุหลักแนวคิดก่อนให้คำตอบเช่นเดียวกัน แต่มีข้อแตกต่างคือพวกเขาระบุให้ AI คิดด้วยวิธีสั้นสุดเท่าที่เป็นไปได้ และให้อธิบานหลักการคิดให้สั้นและใช้คำน้อยลง
ในขั้นตอนการทดสอบพว่า ผลลัพธ์ที่ได้จาก COD มีความแม่นยำไม่ต่างจาก COT มากนัก ในด้านปัญหาเลขสำหรับเด็กประถมหรือการตอบคำถามทั่วไป แต่ช่วยประหยัดการใช้งานโทเคนจากเดิมลงจากเดิมถึง 92.4% ซึ่งจะช่วยลดต้นทุนการใช้งานของโมเดล AI ให้น้อยลงมาก
การใช้งานโทเคนน้อยลงย่อมสร้างประโยชน์แก่ผู้ใช้งานเช่นกัน นอกจากค่าใช้จ่ายในการใช้งานจะลดลง โมเดลยังสามารถทำง่านได้เร็วขึ้น จากการทดสอบ COD ช่วยให้ Claude 3.5 Sonnet เร็วกว่าเดิม 48% และทำให้ ChatGPT-4o เร็วขึ้นถึง 76% โดยยังรักษาระดับความแม่นยำเทียบเทาการใช้งาน COT ได้ดีเยี่ยม
ข้อจำกัดของวิธีการนี้คือ เมื่อต้องนำมาใช้งานควบคู่กับโมเดลขนาดเล็ก เช่น Qwen2.5- B หรือ Llama-B ที่มีฐานข้อมูลในระบบน้อยอาจทำงานได้ไม่มีประสิทธิภาพนัก แต่สำหรับโมเดลขนาดใหญ่จากฝั่งตะวันตก นี่อาจเป็นแนวทางให้พวกเขาสามารถใช้สู้กับ AI รุ่นใหม่อย่าง Deepseek ต่อไป







