เกิดอะไรขึ้น
- Anthropic ประกาศความร่วมมือกับ Accenture ให้ทำหน้าที่ผู้ประเมินอิสระแบบ embedded evaluation คือการส่งคนจากภายนอกเข้าไปนั่งทำงานในบริษัท AI โดยได้สิทธิ์ใกล้เคียงพนักงาน (Anthropic)
- ผู้ประเมินดูโมเดลได้ตั้งแต่ช่วงกำลังเทรน ตามรอบการตัดสินใจเรื่องสร้างและปล่อยใช้จริง คุยกับพนักงานได้ ยืนยันว่าคำมั่นความปลอดภัยถูกทำจริง รวมถึงรายงานเหตุการณ์ผิดปกติออกมา (Anthropic)
- งานครอบคลุม red-team คือการลองโจมตีโมเดลเพื่อหาช่องโหว่ การประเมิน alignment หรือว่าโมเดลยังเดินตามเป้าหมายที่ตั้งไว้ และการทดสอบระบบป้องกันของโมเดล (Anthropic)
- Faculty ธุรกิจ AI เฉพาะทางของ Accenture เป็นผู้นำทีมทำงานส่วนนี้ (Anthropic)
ตัวเลขและไทม์ไลน์ที่ต้องรู้
- แต่ละฝ่ายคาดว่าจะลงทุนอย่างน้อย 1 พันล้านดอลลาร์ใน 5 ปีข้างหน้าเพื่อสร้างความสามารถด้านการประเมินผล สื่อหลายสำนักสรุปตัวเลขรวมเป็นราว 2 พันล้านดอลลาร์ (Anthropic) (Reuters)
- ระยะแรก Anthropic จ่ายเงินทุนการทำงานของ Accenture โดยตรง ส่วนระยะยาวบริษัทอยากเห็นกองทุนร่วมหรือเงินภาครัฐมารับหน้าที่นี้แทน แต่โครงสร้างแบบนั้นยังไม่มีอยู่จริง (Anthropic)
- หุ้น Accenture ขยับขึ้นราว 7% ในช่วงซื้อขายหลังปิดตลาดเมื่อข่าวออก (Reuters)
อย่าเข้าใจผิด
- ไม่ใช่ดีลซื้อกิจการ ไม่มีใครซื้อกิจการใคร นี่คือการลงทุนสร้างความสามารถด้านการประเมินผลในระยะ 5 ปี (Anthropic)
- ไม่ใช่การเปิดตัวโมเดลใหม่หรือผลิตภัณฑ์ใหม่ เป็นความเคลื่อนไหวด้านนโยบายความปลอดภัยล้วน ๆ (Anthropic)
- ไม่ใช่สัญญาผูกขาด Anthropic ยังคุยและทดลองงานกับผู้ประเมินรายอื่นเช่น METR ส่วน Accenture ก็ทำงานกับผู้พัฒนา AI รายอื่นได้ (Anthropic)
- ความรับผิดชอบความปลอดภัยของโมเดลยังเป็นของ Anthropic เหมือนเดิม ผู้ประเมินทำให้เช็กย้อนกลับได้ง่ายขึ้น ไม่ได้ช่วยแบ่งเบาความรับผิด (Anthropic)
ใครเกี่ยวข้อง
- Dario Amodei ซีอีโอของ Anthropic เคยเสนอให้ห้องแล็บ AI ชั้นแนวหน้าฝังผู้ประเมินภายนอกไว้ในองค์กร ครั้งนี้คือบริษัทของเขาลงมือทำเอง (Anthropic)
- METR ผู้ประเมินอิสระอีกราย อยู่ในบทสนทนาและการทดลองทำงานกับ Anthropic ด้วยเช่นกัน (Anthropic)
สรุป
บริษัททำ AI ยอมจ่ายเงินระดับพันล้านดอลลาร์ให้คนภายนอกเข้ามาจับตาดูงานตัวเอง เท่ากับยอมรับว่าคำสัญญาเรื่อง AI ปลอดภัยต้องพิสูจน์ให้คนอื่นเห็น ไม่ใช่ให้เราเชื่อเอาเปล่า ๆ
แหล่ง: Anthropic · 18 ก.ย. 2026