TorchNeuron ทำอะไร
- PyTorch เป็นชุดเครื่องมือเขียนเอไอที่คนใช้มากที่สุด Amazon อ้างว่านักวิจัยและนักพัฒนาเอไอราว 85% เขียนด้วยตัวนี้
- เดิมทีถ้าจะย้ายโค้ดจากการ์ดจอ NVIDIA ไปชิปอื่น ต้องแก้และทดสอบใหม่หลายเดือน
- TorchNeuron เสียบเข้าช่องที่ PyTorch เตรียมไว้ให้ฮาร์ดแวร์ใหม่มาต่อ เครื่องมือเดิมที่ใช้ทดสอบ หาบั๊ก และขยายงาน จึงใช้บนชิป Trainium ได้ทันที
- ในเอกสารของ AWS บอกว่าแค่เปลี่ยนคำสั่งย้ายงานจาก cuda เป็น neuron
- รองรับทั้งการรันทีละคำสั่งแบบปกติ การคอมไพล์ให้เร็วขึ้น และการเทรนกระจายหลายชิป
- ใช้ได้กับชิป Trainium2 และ Trainium3
เปิดให้ใช้เมื่อไร
- Amazon จะเปิดโค้ดให้ทุกคนเอาไปใช้ฟรีในวันที่ 20 ต.ค. ที่งานประชุมนักพัฒนา PyTorch ในอเมริกา
- ไลเซนส์เป็นแบบ Apache 2.0 ซึ่งเอาไปใช้ทำธุรกิจได้
- ก่อนหน้านี้ TorchNeuron เปิดทดลองแบบปิดมาตั้งแต่ ธ.ค. 2025
- AWS ประกาศแล้วว่าจะเลิกใช้วิธีเก่า เวอร์ชัน PyTorch 2.9 เป็นรุ่นสุดท้ายที่ใช้แบบเดิม ตั้งแต่ 2.10 ขึ้นไปจะใช้ TorchNeuron
ใครใช้แล้วบ้าง
- Colin Brace รองประธานฝ่ายซอฟต์แวร์ของ Annapurna Labs หน่วยทำชิปของ Amazon บอก Reuters ว่ามีลูกค้ารายแรก ๆ ใช้อยู่แล้วกว่า 30 ราย และการย้ายมาใช้ชิป Amazon ช่วยประหยัดเงินได้มาก
- ตัวอย่างที่ Amazon ยกมามี Cartesia บริษัทเอไอเสียง ที่ย้ายระบบตอบเสียงมาได้โดยแทบไม่แก้โค้ด
- สถาบัน Lieber ซึ่งวิจัยยารักษาโรคทางจิตเวช ใช้ทดลองโมเดลด้านชีววิทยาและเคมีบนชิป Trainium
- Hugging Face เพิ่มการรองรับชิป Trainium ในเครื่องมือของตัวเองแล้ว โดยไม่ต้องใช้โค้ดเฉพาะของ Amazon
Amazon ทำอะไรเพิ่มอีก
- Amazon บอกว่าทดสอบ TorchNeuron กับโมเดลหลายแสนตัวทุกครั้งที่ออกเวอร์ชันใหม่
- ส่งโค้ดกลับเข้า PyTorch ตัวหลัก เพื่อลบส่วนที่ผูกกับชิปเจ้าใดเจ้าหนึ่งออก
- เปิดโค้ดชุดคำสั่งเร่งความเร็วทั้งหมดของตัวเอง และช่วยพัฒนา vLLM เครื่องมือยอดนิยมที่ใช้รันโมเดลให้ตอบเร็ว
ทำไมเรื่องนี้สำคัญ
- NVIDIA ใช้เวลากว่าสิบปีสร้าง CUDA ซอฟต์แวร์ที่ทำให้โค้ด PyTorch รันบนการ์ดจอได้ดี นี่คือเหตุผลหลักที่คนย้ายไปชิปอื่นยาก
- ถ้าการย้ายชิปไม่ต้องเสียเวลาแก้โค้ด เจ้าของชิปทุกเจ้าก็ต้องแข่งกันที่ราคาและความเร็วจริง
- Reuters รายงานว่า Google ซึ่งมีชิปของตัวเองเหมือนกัน ก็กำลังทำเครื่องมือ PyTorch ให้ดีขึ้นเพื่อดึงนักพัฒนาเช่นกัน
- ธุรกิจชิปของ Amazon เองมีรายได้เกิน 2.5 หมื่นล้านดอลลาร์ต่อปีแล้ว ตามตัวเลขที่บริษัทเปิดเผย
ยังไม่รู้อะไรบ้าง
- Amazon ยังไม่ได้เปิดตัวเลขว่าโค้ดเดิมรันบน Trainium เร็วหรือถูกกว่าการ์ดจอ NVIDIA แค่ไหน
- ที่ทดลองให้ดูคือเทรนโมเดลแบบเดียวกันบนชิปสองแบบแล้วได้ผลการเรียนรู้เท่ากัน ยังไม่ใช่การวัดความเร็ว
- ต้องรอให้คนนอกลองโค้ดจริงหลังปล่อยโอเพนซอร์สวันพรุ่งนี้
สรุป
Amazon รู้ดีว่าชิปถูกอย่างเดียวไม่พอ ถ้านักพัฒนายังต้องเสียเวลาเป็นเดือนเพื่อย้ายโค้ด TorchNeuron จึงพยายามทำให้การลอง Trainium ง่ายเท่ากับเปลี่ยนการตั้งค่าบรรทัดเดียว ถ้าได้ผลจริงตามที่อ้าง ข้อได้เปรียบเรื่องซอฟต์แวร์ของ NVIDIA จะบางลงอีกนิด แต่ต้องรอดูตัวเลขความเร็วกับราคาจากคนใช้จริงก่อน
แหล่ง: Amazon (About Amazon และเอกสาร AWS Neuron) · Reuters · 19 ต.ค. 2026