หลอนจนได้เรื่อง Google ถอด Gemma จากการให้ข้อมูลเท็จเรื่องสว.

ถือเป็นข่าวร้ายสำหรับผู้ใช้งานหลายท่านเมื่อ Google ประกาศถอด Gemma ออกจากการเข้าถึงผ่าน Google AI studio อย่างถาวร โดยมีสาเหตุมาจากการที่ Marsha Blackburn สมาชิกวุฒิสภาของสหรัฐฯ อ้างว่าโมเดลได้ชี้แจงข้อมูลเท็จเกี่ยวกับตัวเธอซึ่งไม่เป็นความจริง

เดิมที Gemma เป็นโมเดลขนาดเล็กที่ถูกออกแบบให้ทำงานอย่างมีประสิทธิภาพในฮาร์ดแวร์ของผู้บริโภคโดยไม่ต้องผ่านเซิร์ฟเวอร์ จากเดิม Gemini ต้องประมวลผลผ่านซุปเปอร์คอมพิวเตอร์ขนาดใหญ่ Gemma สามารถทำงานโดยอาศัยการ์ดจอระดับสูงแค่ใบเดียว แต่ด้วยความที่เป็นโมเดลขนาดเล็กจึงไม่เหมาะต่อการใช้งานแบบ AI Chatbot ทั่วไป

ปัญหาเกิดขึ้นเมื่อทางสว.สหรัฐฯสอบถามข้อมูลของตัวเองกับ Gemma แล้วโมเดลเกิดอาการหลอนจนทำให้คำตอบว่า เธอมีความสัมพันธ์ทางเพศกับตำรวจของรัฐ และใช้อำนาจกดดันเจ้าหน้าที่ระหว่างการเลือกตั้งในปี 1987 ซึ่งไม่มีข้อมูล่วนไหนเลยที่ตรงกับข้อเท็จจริง แม้แต่ปีที่เลือกตั้งที่ต้องเป็นปี 1998

สิ่งนี้สร้างความไม่พอใจและกลายเป็นประเด็นทางการเมือง เมื่อทางสว.สหรัฐฯได้หยิบหัวข้อว่า AI และบริษัทผู้พัฒนามีอคติทางการเมืองกับบุคคลที่อยู่ฝ่ายอนุรักษ์นิยม และข้อมูลที่ได้ไม่ใช่เพียงอาการหลอนของ AI ทั่วไป แต่เป็นการใส่ร้ายที่อาจก่อให้เกิดความเข้าใจผิดต่อชื่อเสียง

ทางด้าน Google ออกมาชี้แจงและเน้นย้ำว่า Gemma เป็นโมเดลขนาดย่อส่วนที่ไม่เหมาะสำหรับผู้ใช้งานทั่วไป โดยเฉพาะการค้นหาข้อมูลแบบเรียลไทม์บนเว็บไซต์ และเพื่อแก้ปัญหาที่เกิดขึ้น บริษัทจึงได้ถอด Gemma ออกจากการเข้าถึงผ่าน Google AI studio แม้จะยังสามารถเข้าถึงผ่าน API ได้อยู่ก็ตาม