R.04 · 记忆治理 · 2021
机器遗忘
Machine Unlearning
Lucas Bourtoule, Varun Chandrasekaran, Christopher A. Choquette-Choo, Hengrui Jia, Adelin Travers, Baiwu Zhang, David Lie, Nicolas Papernot · IEEE Symposium on Security and Privacy 2021
摘要
模型一旦以某人的数据进行训练，便可能记住这些数据，而消除其影响极为困难。作者提出 SISA 训练方法：在训练阶段限制单个数据点的影响范围，从而加速响应删除请求的“遗忘”过程。
评注消除模型已吸收的信息代价高昂且难以彻底；而删除保存于模型之外的记录，则可以完整执行并加以核验。