Dave Banerjee

随着政府采用越来越强大的 AI,我的研究方向关注如何保留制衡机制。学员将探讨国会如何监督因 AI 而加速运作的行政部门(例如借助保护隐私的 AI 审计工具),以及如何为政府采用 AI 勾勒积极可行的愿景。项目通常会形成公开报告,有时也会直接与政策制定者及其他相关人士交流。

研究小组概览

  1. 以保护隐私的方式自动监督行政部门。 国会的两项核心职能是制定法律和监督行政部门。随着行政机构部署能力越来越强的 AI 系统,国会监督工作很可能会逐渐跟不上:机构行动更快,产生的决策和记录也远超人工审查能力。阻碍深入监督的常见理由与保密有关,例如机密信息、审议过程和行政特权;保护隐私的 AI 审计工具正有望消除这类障碍。本项目将提出如何利用这类工具自动开展行政监督。学员会:(1) 访谈现任及前任美国政府监督岗位人员,例如监察长办公室、政府问责局和国会委员会工作人员,梳理当前监督工作的实际运作方式(我可以协助联系访谈对象);(2) 撰写改革建议报告,同时考虑真正实现 AGI 的情境,以及 AI 仅自动化监督流程部分环节的过渡情境;(3) 与相关人士交流并推动这些想法。
  2. 为行政部门使用 AI 提出积极方案。 行政部门采用 AI 的方式可能适得其反,甚至带来危险。这个项目不只罗列可能出现的问题,还要撰写一份“方案 A”报告,阐明行政部门应如何使用 AI。预计会探讨依法行事的 AI、政府部署的 AI 系统应具备的特性、AI 支持的举报机制,以及行政部门与国会之间的算力平衡等问题。学员将梳理现有提案,把积极愿景转化为具体的制度和技术建议,并撰写公开报告。
  3. 自主选题。 如果方向契合,我也愿意指导学员开展相邻领域的自主项目,例如 AI 推动权力集中、制度韧性或 AI 安全。
导师指导方式:

Standard (1-2 hours of weekly 1:1s)

项目期间的工作地点:

Washington, D.C.

伦敦办公偏好:

Indifferent

伯克利办公偏好:

Weak preference

导师

Dave Banerjee
IAPS
,
研究助理
Policy and Governance
AI 系统安全
AI 技术治理
结构性风险与社会动态

Dave 是 Institute for AI Policy and Strategy(IAPS)的研究员,致力于降低权力过度集中的风险。近期,他在思考如何为 AGI 时代完善制衡机制、如何自动监督政府部署的 AI,以及如何塑造政府所用 AI 系统的特性。他此前的工作包括分析前沿 AI 模型可能存在的隐秘忠诚倾向,并制定相应的安全标准。他曾任 ERA 研究经理,也做过安全工程师。Dave 拥有 Columbia University 计算机科学学士学位,专攻密码学、逆向工程和机器学习。

阅读更多
Onni Aarne
IAPS
,
高级研究员
Policy and Governance
AI 技术治理
结构性风险与社会动态

Onni Aarne 是 Institute for AI Policy and Strategy(IAPS)的算力政策研究负责人,并正在 IAPS 筹建新的机构韧性研究方向。

​

Onni 自 2022 年起研究算力政策,最为人熟知的是他在硬件支持的机制方面的工作,包括位置验证和 flexHEGs。近期,他还研究了 AI 完整性及其他应对权力过度集中的干预措施。

​

他拥有 University of Helsinki 计算机科学学士学位和数据科学硕士学位。

阅读更多

我们希望招收的学员

  • Strong conceptual reasoning
  • Strong writer (or at least has the potential to become one)
  • Highly motivated to learn and self-improve
  • Good organizational skills. Doesn't drop balls.

项目遴选