Alex Turner

Alex 目前致力于将行为不变量融入模型。此前，他提出并证明了趋向权力定理，共同提出了人类价值形成的碎片理论，并提出通过可达效用保持方法来惩罚负面副作用。

他在以往项目中的代表性成果：

• MATS 3.0：通过机械可解释性理解并控制迷宫求解智能体——引入了如今广泛使用的“引导向量”技术
• MATS 3.1 延伸项目：通过添加激活向量引导 GPT-2-XL
• MATS 4.0：通过对比式激活添加引导 Llama-2
• MATS 5.0：用引导向量无监督地发现模型行为
• MATS 6.0：梯度路由
• MATS 7.0：遗忘与蒸馏，让稳健遗忘成为现实
• MATS 8.0：输出监督可能掩盖思维链
• MATS 9.0：评估合作性或可成为可扩展的评估投机缓解方法

​