七月 18, 2022

VQ-VAE

VAE 先让我们简单地看一下 VQGAN+CLIP 的效果。这是 2021 年开源的一套自然语言+视觉处理的结合实...

三月 06, 2022

knowledge in distillation

今天这一篇我们主要介绍三种基于不同知识的知识蒸馏方法的技术概括。 Response-based knowledge 这也是最常见,最容易理解的知识蒸馏: ...

二月 28, 2022

知识蒸馏调研

生活本来沉闷,但跑起来就会有风。 Knowledge Distillation: A Survey :这篇文章系统性的总结了关于知识蒸馏技术目前的所有发...

二月 05, 2022

DLG的代码实现

上一章我们简单地说明了\(Deep \ Leakage \ from \ Gradients\)具体是利用什么方法实现的攻击,是一个非常简单清晰的思路,那...

二月 02, 2022

深度神经网络中的梯度泄露问题

寒假摸鱼摸久了,才想起来年初是要找学姐交差的,要是再没有进展,估计明年的论文就没戏了。遂起身,爬下床,打开电脑开始看论文。 过年这几天虽然没少玩,但是也没...

一月 14, 2022

深度学习中的对抗性攻击与防御

今天我们来看一篇关于深度学习过程中的对抗性攻击与防御的文章。Research:Artifificial Intelligence—Feature Arti...

十一月 16, 2021

Machine Learning

初识深度学习