我欢迎学员在“理解并掌控后训练如何塑造与对齐相关的行为”这一广泛领域内自主选题。我会在项目开始时介绍一些想法,学员也可以提出自己的选题;我们再一起判断哪些方向最有前景。
未来可能开展的项目:
我过去参与过的相关项目:
Standard (1-2 hours of weekly 1:1s)
London
Indifferent
Strong preference
Josh 是 Google DeepMind AGI 安全与对齐团队的研究科学家,目前从事后训练科学和对齐压力测试。此前,他在 Max Tegmark 的团队攻读博士,研究机制可解释性。