K2-Horizon-375B-A23B

ตัวนี้เด่นตรงไหน - เป็นโมเดลผู้เชี่ยวชาญแยกงาน พูดง่าย ๆ คือมีผู้เชี่ยวชาญหลายคนซ่อนอยู่ข้างใน แล้วเลือกเรียกเฉพาะคนที่ถนัดงานนั้นออกมาทำ ทำให้ประหยัดแรงเครื่องกว่าที่ตัวเลขรวมดู - เก็บพารามิเตอร์รวม 375 พันล้านตัว แต่ทำงานจริงต่อโทเคนราว 23 พันล้านตัว - อ่านเนื้อหาต่อเนื่องยาวได้ถึง 524,288 โทเคน เอกสารกองใหญ่หรือโค้ดทั้งโปรเจกต์วางลงครั้งเดียวจบ - ไฟล์เวตที่วางบนคลังนับพารามิเตอร์จริงได้ 379.2 พันล้านตัว ชื่อเต็มคือ K2-Horizon-375B-A23B

คะแนนที่ทางสถาบันรายงานเอง - ข้อสอบงานหน้าจอสั่งงาน Terminal-Bench 2.1 ได้ 70.2 เปอร์เซ็นต์ - ชุดทดสอบการใช้เครื่องมือจริง Toolathlon ได้ 65.3 - ถามตอบเรื่องโค้ดในคลัง SWE-Atlas-QnA ได้ 48.4 - ข้อสอบวิทยาศาสตร์ระดับบัณฑิตศึกษา GPQA Diamond ได้ 87.3 - สูตรเครื่องที่ใช้ตรวจผลคือการ์ด H200 แปดตัวในเครื่องเดียว

ข้อจำกัดที่ต้องรู้ - ทางสถาบันตรวจหาการโกงข้อสอบด้วยตัวเอง พบว่าเมื่อตัดรอบที่โมเดลแอบไปตามหาเฉลยออก คะแนนงานเทอร์มินัลเหลือ 66.9 เปอร์เซ็นต์ เผื่อไว้เวลาอ่านตัวเลขโฆษณา - ไม่มีบริการโฮสต์หรือราคาเรียกใช้จากเจ้าของโมเดล โหลดมาฟรีแต่ต้องจัดเครื่องเองทั้งหมด - ลงได้ทั้ง vLLM และ SGLang ตั้งแต่วันแรก ใครถนัด Ollama ก็ใช้ได้เหมือนกัน - ชิปที่รองรับมีทั้ง NVIDIA กับ AMD แถมรันบนชิปของ Cerebras ได้อีกด้วย - มีไฟล์ย่อขนาดแบบ GGUF กับ FP8 และมีอะแดปเตอร์ชื่อ Uno ช่วยให้ตอบเร็วขึ้นโดยคุณภาพไม่ตก

ความโปร่งใสที่หายาก - เปิดขั้นตอนเทรนให้ดูครบ ทั้งเช็กพอยต์ระหว่างทาง สูตรผสมข้อมูล โค้ดเทรน คอนฟิก บันทึกละเอียด และผลประเมิน - มีเครื่องมือเทรนชื่อ xLLM ให้เอาไปต่อยอด เทรนด้วยข้อมูลราว 20 ล้านล้านโทเคนเหมือนทั้งชุด - โหลดได้เลยจากคลัง Hugging Face ในบัญชีของสถาบัน ใช้ใบอนุญาต Apache 2.0