Gabriel Kulp

本项目将研究 GPU 侧信道攻击,探索如何从中获取模型使用情况的信息。例如,可以通过无线电信号、功耗波动或声学特征等观察 MOE 模型每次前向传播调用了哪些专家,再据此推测模型生成了哪些 token。

研究小组概览

我们会根据团队成员各自的兴趣和技能共同确定研究课题。总体而言,我们希望展示信息如何以意想不到的方式从 GPU 泄露出去,重点关注提示词 token、回复 token 或模型权重被窃取的风险。我们也有兴趣训练模型主动诱发信息泄露,使侧信道变成隐蔽通信渠道。研究既会覆盖常规硬件和软件技术栈,也会涉及加固后的技术栈;更偏好防御方向的学员可以研究硬件或软件层面的对策。

实验环境将使用前沿数据中心中的 GPU,并连接多种传感器,包括电源上的示波器和靠近 GPU 芯片的电磁探头。这些传感器及其他设备都可以通过软件从同一个 Jupyter 笔记本访问;该笔记本同时运行 GPU 推理和训练任务,因此能够轻松将传感器读数与代码执行、性能计数器和内置传感器(如 nvidia-smi)关联起来。

项目期间的工作地点:

Washington, D.C.

导师

Gabriel Kulp
RAND
,
执行主任
AI 系统安全
AI 技术治理

Gabriel works with RAND on hands-on projects to build and test prototypes of secure compute infrastructure. He focuses on how to secure the most sensitive AI data centers against the most sophisticated current and future threats. Gabriel has also worked on hardware-enabled governance mechanisms (HEMs, at the intersection of GPU export control and hardware security) and on technical verification of agreements on the development and use of AI systems. He holds a master's degree in computer science and is pursuing a PhD in AI.

阅读更多

我们希望招收的学员

请注意:只要你愿意努力、快速学习,并能通过其他经历证明自己的能力出众,就不要求具备硬件经验。如果不确定是否符合条件,我们鼓励你申请!

​

我们会提供很高的自主空间,并开放一套少见的工具和设备组合,方便你上手使用。相应地,我们希望你有较强的自我驱动力、求知欲和远大目标。本项目要求你能够快速开展实验、检验假设并及时迭代。

​

可能适用的技能背景示例:

  • 机器学习:熟悉 LLM 架构,尤其是混合专家模型;能为特殊类型的数据构建分类、回归和生成模型。
  • 数学:掌握相关性和互信息的统计检验方法。
  • 电气工程:了解信号处理、传输线、天线与无线电、开关电源。
  • 硬件:熟悉 GPU 架构(存储与算力)、PCIe 流量、矩阵乘法电路、动态频率调节。

​

必备:曾用 PyTorch 训练或微调过 Transformer 语言模型(玩具模型和跟随教程完成的项目也可以);了解电压、电流、晶体管等基础电子概念;有研究论文写作经验,课程作业也算。

​

加分项:熟悉 LaTeX、PyTorch 内部机制、CUDA/OpenCL、GPU 架构、芯片设计、示波器、信号处理或电气工程。

项目遴选

我们会从一组备选项目中,由团队根据成员各自的兴趣和技能共同决定研究方向。导师会介绍示例课题,学员可以在此基础上调整并重新提出方案。研究问题、假设和测试计划明确并达成一致后,学员就会开始具体研究。我们鼓励尽早验证想法;如果方向行不通,就及时转向备用方案。