Learning with Recoverable Forgetting阅读心得

一、研究背景

        终身学习的目标是在不忘记先前获得的知识的情况下学习一系列任务。然而，由于隐私或版权的原因，所涉及的培训数据可能不是终身合法的。例如，在实际场景中，模型所有者可能希望不时地启用或禁用对特定任务或特定示例的知识。不幸的是，这种对知识转移的灵活控制在以前的增量或递减学习方法中被很大程度上被忽视了，即使是在问题设置水平上。

二、解决的问题

        在原文中，作者探索了一种新的学习方案，称为学习与可恢复遗忘(LIRF)，它明确地处理任务或样本特定的知识去除和恢复。具体来说，LIRF引入了两种创新方案，即知识存储和提取，它们允许将用户指定的知识从预先训练过的网络中分离出来，并在必要时将其注入回来。在知识存储过程中，从目标网络中提取指定的知识并存储在存储模块中，同时保留目标网络的不敏感或一般知识。

三、创新

（1）作者介绍了一种新颖而实用的终身学习设置，可恢复遗忘

（2）原文提出了Learning with Recoverable Forgetting也就是LIRF，这个工作很具有开创性，对后续的工作都有一些启发。

四、文章内容

1.introduction

        终身学习在广泛的领域得到应用，是一项长期的研究任务。它的主要目标是更新网络以适应新的数据，比如新的实例或来自新类的样本，而不忘记对过去数据的学习知识。相反，在某些情况下，由于隐私或版权问题，我们希望故意忘记或删除模型存储的特定知识。这项被称为机器遗忘的任务，由于其实用价值，也受到了行业和研究界越来越多的关注。

        之前对机器遗忘的尝试主要集中在永久删除特定的知识上，这意味着一旦被删除，就不可能恢复这些知识。在这篇文章中，作者探索了一种新的学习场景，它明确地允许从预先训练过的网络中提取的知识被存储下来，并在需要时被注入到模型中。

       图1  LIRF图

        当请求删除指定的知识时，表示为Dr(保留Dr)，由于IP等问题，LIRF将这些知识从预先训练过的原始网络中分离出来，存储在一个存储模块中；然后将提取Dr的剩余网络表示为目标网络。当IP问题得到解决，模型所有者要求恢复知识或重新启用Dr时，LIRF会撤回存储的知识，并将其与目标网络合并，以生成恢复网络。

2.Related Work

（1）Life-long Learning

        Life-long/online/incremental learning 能够终生学习、保留和传递知识，一直是[1,2,3]许多领域的一个长期研究领域。与目前关于终身学习的研究不同，我们提出了更灵活的学习方案，它能够同时处理数据的添加和删除案例.

（2）Knowledge Transfer

       知识转移的目的是将knowledge从网络转移到网络，作者主要讨论了knowledge distillation过程中的相关工作[4,5,6]。作者首次作出了对knowledge进行过滤和存储

（3）Machine Unlearning

        用户应该拥有访问和删除他们共享到网络上数据的权利, 这是多数数据安全法和隐私保护法中规定的权利.不过现实是这个权利通常不能得到保障, 而在AI时代, 机器学习的广泛应用更是加剧了这个问题, 因为一个用数据训练好的模型会记住相关数据. 此外一些成功的模型攻击技术也会泄露模型中的数据导致用户隐私泄露的风险, 因此模型遗忘是一个必要的需求
 

四、reference

[1] Wu, C., Herranz, L., Liu, X., Wang, Y., van de Weijer, J., Raducanu, B.: Memory replay gans: Learning to generate new categories without forgetting. In: Conference and Workshop on Neural Information Processing Systems (2018)

[2] Shmelkov, K., Schmid, C., Alahari, K.: Incremental learning of object detectors without catastrophic forgetting. IEEE International Conference on Computer Vision pp. 3420–3429 (2017)

[3]  Liu, H., Yang, Y., Wang, X.: Overcoming catastrophic forgetting in graph neural networks. In: AAAI Conference on Artificial Intelligence (2021)

[4] Hinton, G.E., Vinyals, O., Dean, J.: Distilling the knowledge in a neural network. Neural Information Processing Systems (2015)

[5] Han, X., Song, X., Yao, Y., Xu, X.S., Nie, L.: Neural compatibility modeling with probabilistic knowledge distillation. IEEE Transactions on Image Processing 29, 871–882 (2020)

[6] Yang, Y., Qiu, J., Song, M., Tao, D., Wang, X.: Distilling knowledge from graph convolutional networks. In: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (2020)