ปล่อยอะไรออกมาบ้าง
- DeepInfer เป็นเครื่องยนต์ที่คอยรันโมเดลตอนมีคนส่งคำถามเข้ามา หน้าที่หลักคือทำให้ตอบได้เร็วและรับคนได้เยอะในเวลาเดียวกัน
- ตอนนี้รองรับโมเดลเดียวคือ DeepSeek V4.1 Flash รุ่น 1017 ที่ออกเมื่อสัปดาห์ก่อน
- ใช้ได้กับการ์ดจอ NVIDIA ตระกูล Blackwell และชิป Ascend 950 ของ Huawei
- ใช้สัญญาอนุญาต Apache 2.0 เอาไปใช้ แก้ต่อ หรือใช้ในงานเชิงพาณิชย์ได้
- DeepSeek บอกว่าตอนแรกสร้างต่อยอดจาก vLLM ซึ่งเป็นระบบรันโมเดลยอดนิยมแบบโอเพนซอร์ส และหยิบแนวคิดจาก SGLang กับ TensorRT-LLM มาใช้ด้วย
- เปิดพร้อมกับ deepseek-recipe ชุดโค้ดที่แปลงคำขอแบบต่างๆ ให้เป็นข้อความที่โมเดลอ่านได้ เพื่อให้คนที่ตั้งบริการเองได้ผลตรงกับ API ของ DeepSeek
ของที่ยังไม่ได้ให้มา
- รอบนี้เป็นแบบรันงานเป็นชุดบนเครื่องตัวเอง ยังไม่ใช่บริการพร้อมเปิดให้คนเข้ามาใช้ทันที
- ระบบเก็บความจำระหว่างคุย (KV cache) ยังไม่ได้ใส่มา
- การแยกเครื่องอ่านคำถามกับเครื่องเขียนคำตอบออกจากกัน DeepSeek บอกว่าทำไว้เกือบครบแล้วแต่ยังไม่ปล่อย
- ตัวกระจายงานไปหลายชุดเครื่องก็ยังไม่มี ต้องทำเองถ้าจะใช้งานจริงจัง
ตัวเลขที่ DeepSeek โชว์
- ฝั่งอ่านคำถาม ทดสอบบนการ์ด 4 ใบ ทำได้ราว 89,000 โทเคนต่อวินาทีต่อการ์ดเมื่ออัดงานเต็มที่
- ฝั่งเขียนคำตอบ ทดสอบบนการ์ด 64 ใบ ทำได้ราว 26,000 โทเคนต่อวินาทีต่อการ์ด โดยแต่ละคนยังได้คำตอบราว 100 โทเคนต่อวินาที
- ถ้าลดจำนวนคนลง แต่ละคนได้คำตอบเร็วขึ้นถึงราว 325 โทเคนต่อวินาที
- ใช้วิธีเดาคำล่วงหน้าแล้วค่อยตรวจ ช่วยให้เขียนคำตอบเร็วขึ้น
- มีโหมดที่ถามซ้ำแล้วได้คำตอบเหมือนเดิมทุกครั้ง แต่ตอนนี้ใช้ได้เฉพาะบน NVIDIA
- ตัวเลขทั้งหมดนี้ DeepSeek วัดเอง ยังไม่มีคนนอกทดสอบซ้ำ
ทำไมเรื่องนี้น่าสนใจ
- ปกติบริษัท AI ใหญ่เปิดแค่ตัวโมเดลให้โหลด แต่เก็บระบบที่ใช้รันจริงไว้เป็นความลับ เพราะเป็นตัวกำหนดว่าต้นทุนต่อคำตอบถูกแค่ไหน
- การรองรับชิป Huawei ตั้งแต่วันแรก แปลว่าบริษัทจีนที่ซื้อการ์ด NVIDIA รุ่นใหม่ไม่ได้ ก็มีทางรัน DeepSeek ได้เต็มสปีดกว่าเดิม
- โค้ดนี้มาหลังสหรัฐฯ เปิดคำสั่งถอด DeepSeek ออกจากระบบไอทีของหน่วยงานรัฐพลเรือนแค่วันเดียว
สรุป
DeepSeek เลือกแจกของที่บริษัทอื่นมักเก็บไว้ คนที่อยากรันโมเดลเองได้ประโยชน์เต็มๆ แต่จะเอาไปเปิดบริการจริงยังต้องประกอบชิ้นส่วนที่ขาดเองอีกหลายอย่าง
แหล่ง: DeepSeek บน GitHub (DeepInfer · deepseek-recipe) · 20 ต.ค. 2026