0

我试着理解这篇文章

https://distill.pub/2017/feature-visualization/ 我也尝试进入代码 https://github.com/tensorflow/lucid 并查看其他文章和视频

而且我仍然不明白我们如何根据某个神经元来优化输入噪声图像?或根据层...当我们尝试优化并查看仅对我们感兴趣的神经元/层的效果时,我们如何“忽略”其他神经元?我们怎么说“好的,生成这个优化神经元/层激活的图像”?这些生成的图像(表示)如何受到其他神经元的影响(我们可以操纵它们吗?如果可以,如何选择其他神经元的影响级别?如果可以,如果我们可以调整前一层中的每个神经元并看到新的表示,我们如何理解某些东西每次)?输入的乘法权重和这种优化之间有什么区别?有人可以分享有关它的信息吗?

ps 抱歉读了很久和“神经元”这个词

4

1 回答 1

0

好的,这是我找到的 https://github.com/greentfrapp/lucent https://github.com/Mayukhdeb/torch-dreams

如果我在 pytorch 中理解正确,这更容易实现,因为 register_backward_hook 函数为您提供了检索层输出的简单方法......

于 2021-12-27T13:03:17.347 回答