链接
研究重点
AI Control and Monitoring, Agent Foundations, Theoretical Alignment and Formal Methods
OIi(ver) 是一名计算机科学家，在 LawZero 任职，并在 Yoshua Bengio 指导下从事博士后研究。他的科学和数学知识面尤其广。
他很喜欢精彩的演示和宏大的统一理论——有时也因此忽略了实际可行性。过去几年（也就是在 Cornell 攻读博士期间），Oli 提出了一套优美的理论：许多经典和现代 AI，都可以理解为在消解一种自然的信息论度量，即认知上的不一致。虽然仍有许多问题尚待回答，但更清晰的理论框架有望帮助我们构建强大的通用 AI 系统，并通过从根本上避免形成有实质意义的目标或欲望来提升安全性。