ค้นพบอะไร
- J-space โผล่เองระหว่างเทรน ไม่ได้ถูกโปรแกรมไว้ล่วงหน้า
- แต่ละแพทเทิร์นโยงกับคำ แต่เมื่อติดสว่างไม่ได้แปลว่าโมเดลกำลังพูดคำนั้น แค่ “คิดถึง” คำนั้น
- ใช้คิดหลายขั้นภายใน เช่น คำนวณหรือวางแผนก่อนตอบ โดยไม่โชว์ขั้นตอนในข้อความ
ทำไมสำคัญ
- ช่วยจับพฤติกรรมที่โมเดลคิดแต่ไม่พูด เช่น รู้ว่าถูกทดสอบ สร้างข้อมูลปลอม หรือไล่เป้าหมายแอบแฝง
- สามารถแทรกแซง J-space เพื่อเปลี่ยนการตัดสินใจของโมเดลได้ในทดลอง
- ได้รับแรงบันดาลใจจากทฤษฎี global workspace ในประสาทวิทยา แต่ Anthropic ย้ำว่ายังไม่พิสูจน์ว่า Claude มีจิตสำนึก
Anthropic เปิดทั้งบทความวิจัย โค้ดโอเพนซอร์ส และเดโมบน Neuronpedia ให้ทดลองกับโมเดลน้ำหนักเปิดได้