FDA หาทางคุม AI เครื่องมือแพทย์ หลังอนุมัติแล้ว-แต่ยังเรียนรู้และเปลี่ยนได้!

สำนักงานคณะกรรมการอาหารและยาสหรัฐฯ (FDA) เปิดรับความเห็นเพื่อพัฒนาแนวทางกำกับ เครื่องมือแพทย์ที่ใช้ Generative AI หลังเทคโนโลยีเริ่มมีความสามารถแตกต่างจากเครื่องมือแพทย์แบบเดิม ทั้งการสร้างคำตอบที่ไม่เหมือนกันในแต่ละครั้ง การเรียนรู้จากข้อมูล และการเปลี่ยนแปลงประสิทธิภาพเมื่อถูกนำไปใช้งานจริง

 

ทำให้เกิดคำถามสำคัญว่า “การอนุมัติครั้งเดียว” ยังเพียงพอหรือไม่ หาก AI ที่ใช้งานในวันนี้ไม่เหมือนกับ AI ตัวที่เคยผ่านการประเมินในวันแรก

 

FDA ระบุเมื่อวันที่ 18 สิงหาคม 2569 ว่า กำลังเปิดรับความคิดเห็นต่อแนวทางกำกับ Generative AI-enabled medical devices ครอบคลุมตั้งแต่ การประเมินความเสี่ยงก่อนอนุมัติ การประเมินประสิทธิภาพ ไปจนถึงการติดตามหลังออกสู่ตลาด โดยยอมรับว่า Generative AI มีความเสี่ยงบางด้านแตกต่างจากซอฟต์แวร์และ AI เครื่องมือแพทย์แบบเดิม 

 

หนึ่งในแนวคิดที่ FDA เสนอ คือแทนที่จะประเมินเพียงว่า “อัลกอริทึมตัวนี้ผ่านหรือไม่” อาจต้องประเมิน ความสามารถหรือ Competency ของ AI คล้ายการประเมินแพทย์ 

 

โดยทดสอบว่า AI สามารถทำภารกิจทางการแพทย์ที่กำหนดได้ดีและปลอดภัยเพียงใด รวมถึงดูระดับความเสียหายที่อาจเกิดขึ้นหาก AI ให้คำตอบผิด ก่อนยืนยันผลด้วยข้อมูลทางคลินิก 

 

ปัญหาใหม่ “เครื่องมือที่อนุมัติแล้ว” อาจไม่ใช่เครื่องมือเดิม

ความท้าทายสำคัญของ AI ทางการแพทย์ คือ เครื่องมือแพทย์แบบดั้งเดิมมักมีคุณสมบัติค่อนข้างคงที่ เมื่อผู้ผลิตเปลี่ยนส่วนสำคัญจึงเข้าสู่กระบวนการประเมินการเปลี่ยนแปลง

 

แต่ AI บางประเภทสามารถถูกปรับปรุงโมเดลด้วยข้อมูลใหม่ หลังออกสู่ตลาดได้ ขณะที่ Generative AI ยังสามารถสร้างผลลัพธ์ที่แตกต่างกันแม้ได้รับข้อมูลใกล้เคียงกัน

 

จึงเกิดคำถามว่า หาก AI ผ่านการอนุมัติด้วยความแม่นยำระดับหนึ่ง แต่หลังใช้งานไปหลายเดือน โมเดลได้รับข้อมูลเพิ่มและถูกปรับเปลี่ยนจนพฤติกรรมต่างจากเดิม การอนุมัติเดิมควรครอบคลุมไปถึงจุดไหน และเมื่อใดควรต้องกลับมาประเมินใหม่

 

ก่อนหน้านี้ FDA พยายามแก้ปัญหานี้ด้วยแนวคิด Predetermined Change Control Plan หรือ PCCP เปิดทางให้ผู้ผลิตระบุไว้ตั้งแต่ตอนยื่นอนุมัติว่า ในอนาคตต้องการปรับ AI เรื่องใด จะเปลี่ยนอย่างไร จะตรวจสอบความปลอดภัยและประสิทธิภาพอย่างไร หากการเปลี่ยนแปลงยังอยู่ภายในกรอบที่ FDA อนุมัติไว้ ก็ไม่จำเป็นต้องยื่นขออนุมัติใหม่ทุกครั้ง 

 

แต่ Generative AI ทำให้โจทย์ซับซ้อนขึ้นไปอีก เพราะไม่ได้มีเพียงการอัปเดตโมเดลเป็นครั้งๆ แต่ยังมี ความแปรผันของคำตอบ การใช้ foundation model และ AI แบบ agentic ที่สามารถดำเนินการหลายขั้นตอนด้วยตัวเอง FDA จึงกำลังพิจารณารูปแบบการติดตามหลังออกสู่ตลาดตามระดับความเสี่ยงด้วย

 

.....

 

ทั้งนี้ สำนักข่าวรอยเตอร์  เคยรายงานเมื่อเดือนกุมภาพันธ์ 2569 ถึงปัญหาที่เกิดขึ้นกับ AI ในเครื่องมือแพทย์ที่ได้รับอนุญาตจาก FDA แล้ว โดยอ้างงานวิจัยที่พบว่า เครื่องมือแพทย์ AI 60 รายการเชื่อมโยงกับการเรียกคืนผลิตภัณฑ์ 182 ครั้ง และ 43% ของการเรียกคืนเกิดขึ้นภายในหนึ่งปีหลังได้รับอนุญาต 

 

นอกจากนี้ FDA ยังได้รับรายงานปัญหาจากอุปกรณ์ AI หลายประเภท เช่น ระบบติดตามหัวใจที่ถูกกล่าวหาว่าพลาดการตรวจจับจังหวะหัวใจผิดปกติ และระบบอัลตราซาวด์ที่ถูกกล่าวหาว่าระบุอวัยวะของทารกผิด เป็นต้น