关于在 torch.no_grad() 中使用 .grad 的问题
我写了一些玩具示例来理解 torch.no_grad() 的工作原理: # example 1 import torch a = torch.randn(10, 5, requires_grad = True) z = a * 3 l = z …
反向传播整体误差图,斜率非常小……这正常吗?
我正在使用反向传播算法训练神经网络,这是总体错误图表: ( I' m 通过以下公式计算总体误差: http://www.colinfahey.com/neural_network_with_back_…
来自具有非常随机输入网络的 ANN 的结果
最初,我在 Matlab 中实现了一个反向传播网络,并将其用于 XOR。但是,现在我使用以下输入/目标组合来使用同一网络。 输入 = [0 0; 0 1; 1000 0; 1 1]…
Matlab 中的神经网络反向传播发生了什么
我是MATLAB新手,我想验证C语言中的在线反向传播(BP)代码。我需要测试代码是否与相同的网络设置完全相同。网络设置为原始BP(对于XOR问题)2个输入…
Silva 和 Almeida 的反向传播算法中 u 和 d 的合适值是多少?
Silva 和 Almeida 的算法通过为每个权重引入单独的自适应学习率来改进现有的反向传播算法。新学习率的值计算如下: 我读到常量 u 和 d 设置为 u > 1 …
具有模糊聚类神经网络的贝叶斯信念网络/系统
许多研究认为人工神经网络 (ANN) 可以 提高入侵检测系统(IDS)的性能 与传统方法相比。然而对于基于 ANN 的 IDS, 检测精度,特别是对于低频攻击,…
在神经网络中进行自适应学习率时使用哪个乘法和加法因子?
我是神经网络的新手,为了掌握这个问题,我实现了一个基本的前馈 MLP,目前我通过反向传播对其进行训练。我知道有更复杂和更好的方法可以做到这一点,…