บริษัทบอกว่ากลุ่มหลักของแคมเปญนี้เป็นคนที่เกี่ยวข้องกับ Moonshot AI บริษัทจีนที่ทำ Kimi แต่ก็ยอมรับว่ายังไม่แน่ใจว่าทุกคนที่เห็นมาจากกลุ่มเดียวกัน
เกิดอะไรขึ้น
- เริ่มเห็นความเคลื่อนไหวตั้งแต่ 1 ก.ค. ช่วงแรกยังมีไม่มาก
- วันที่ 24 ถึง 25 ก.ค. พุ่งขึ้นเป็นคำขอ 16,000 ครั้ง จากผู้ใช้เกิน 4,000 บัญชี
- พอตามต่อก็เจอรูปแบบคำสั่งแบบเดียวกันในกลุ่มผู้ใช้กว่า 15,000 บัญชี
- บริษัทหยุดแคมเปญได้หมดเมื่อ 28 ก.ค. แต่เพิ่งเปิดเผยตอนนี้ หลังตรวจขอบเขตและวางระบบกันไว้แล้ว
เขาทำกันยังไง
- ไม่ได้เจาะการเข้ารหัส ไม่ได้เจาะฐานข้อมูล และไม่ได้เข้าถึงแชทที่ผู้ใช้เก็บไว้
- ใช้วิธีหลอกล่อโมเดลให้ส่วนเหตุผลที่ซ่อนอยู่โผล่ออกมาให้คนขอเห็น ซึ่งผิดเงื่อนไขการใช้งาน
- วิธีหนึ่งคือก๊อปเหตุผลที่เข้ารหัสจากแชทหนึ่ง ไปขอให้โมเดลในอีกแชทถอดรหัสแล้วเขียนออกมา
- นักวิจัยความปลอดภัยภายนอกก็แจ้งช่องโหว่ทำนองเดียวกันเข้ามา บริษัทตรวจแล้วยืนยันว่ามีจริง
- OpenAI บอกว่าปัญหาแบบนี้ไม่ได้เกิดกับโมเดลของตัวเองเท่านั้น
OpenAI แก้ยังไง
- แบนหรือจำกัดบัญชีปลอม แล้วคุมการสมัครกับระบบหลังบ้านให้เข้มขึ้น
- ปิดช่องที่คนซึ่งถือเหตุผลเข้ารหัสของคนอื่นอยู่แล้ว เอามาเล่นซ้ำเพื่อถอดเนื้อหาออกมาได้
- เพิ่มการตรวจข้อความที่สตรีมออกไป ถ้าดูเหมือนส่วนเหตุผลจะหลุดก็กักไว้ก่อน
- ประสานกับผู้ให้บริการภายนอก เพื่อปิดบัญชีที่ย้ายไปทำต่อผ่านช่องทางอื่น
- แชร์ข้อมูลให้บริษัทเอไออื่นผ่าน Frontier Model Forum และช่องทางของรัฐ
ทำไมเรื่องนี้ใหญ่
- บริษัทบอกว่าเหตุผลที่ดูดออกไปเอาไปเทรนโมเดลอื่นได้ โดยไม่มีระบบกันพลาดของต้นฉบับติดไปด้วย
- ถ้าทำในปริมาณมาก ก็เท่ากับยกความสามารถไปได้โดยไม่ต้องลงทุนเรื่องความปลอดภัยเท่ากัน
- ปลาย ก.ค. ที่ปรึกษาด้านวิทยาศาสตร์ของทรัมป์ก็เคยกล่าวหาว่า Kimi K3 กลั่นมาจากโมเดลของ Anthropic
- เว็บข่าว The Register ติดต่อ Moonshot แล้ว แต่ตอนลงข่าวยังไม่ได้คำตอบ
- สื่อเดียวกันก็แซวว่า OpenAI เองก็โดนวิจารณ์มานานเรื่องเอาข้อมูลจากเว็บไปเทรนโมเดล
สรุป
ช่วงนี้บริษัทเอไอสหรัฐพูดเรื่องการกลั่นโมเดลถี่ขึ้นเรื่อย ๆ และเริ่มชี้ชื่อบริษัทจีนตรง ๆ คำถามที่คนถามต่อคือเส้นแบ่งระหว่างการเรียนรู้จากผลลัพธ์ของโมเดลอื่น กับการลอกกันแบบผิดกติกา จะถูกขีดไว้ตรงไหน
แหล่ง: OpenAI · 30 ก.ย. 2026