Alexis Carlier, Zainab Ali Majid

构建贴近现实的防御性网络安全基准。Asymmetric Security 会应对真实网络事件,因此掌握着公开领域中无法获取的数据。我们希望与 MATS 学员合作,利用这些真实事件构建实用基准。

研究小组概览

构建贴近现实的防御性网络安全基准

​

现有网络安全基准不够贴近现实,很少测试模型在真实安全场景中的行为。由于大多数相关数据并不公开,这在网络安全领域尤其具有挑战性。

​

Asymmetric Security 会应对真实网络事件,因此掌握着公开领域中无法获取的数据。我们希望与 MATS 学员合作,利用这些真实事件构建贴近现实的基准。

项目期间的工作地点:

SF Bay Area

导师

Alexis Carlier
Asymmetric Security
,
联合创始人兼首席执行官
Policy and Governance
Capability and Propensity Evaluations
AI 系统安全

Alexis 是 Asymmetric Security 的联合创始人兼首席执行官。此前,他曾参加 RAND 的 AI 安全项目,并是 GovAI 创始团队成员。

阅读更多
Zainab Ali Majid (Zainab)
Asymmetric Security
,
联合创始人
Capability and Propensity Evaluations
AI 系统安全

Zainab 是 Asymmetric Security 的联合创始人。此前,她曾在 Stroz Friedberg 担任网络安全分析师,调查了过去十年中一些影响重大的网络安全事件,例如 Cambridge Analytica 事件。她还曾在 NeurIPS 发表关于 AI 网络安全评估的研究。Zainab 拥有牛津大学物理学硕士学位。

阅读更多

我们希望招收的学员

必备条件:

  • 具备实施 AI 模型评估的经验。

​

优先考虑:

  • 至少一年专业软件工程经验。
  • 对 AI 网络安全有浓厚兴趣。

项目遴选

我们会确定项目方向,学员在具体执行策略上有很大自主空间。