function?net?=?cnnapplygrads（net?opts）
????for?l?=?2?:?numel（net.layers）
????????if?strcmp（net.layers{l}.type?‘c‘）
????????????for?j?=?1?:?numel（net.layers{l}.a）
????????????????for?ii?=?1?:?numel（net.layers{l?-?1}.a）
????????????????????%?這里沒什么好說的，就是普通的權(quán)值更新的公式：W_new?=?W_old?-?alpha?*?de/dW（誤差對權(quán)值導(dǎo)數(shù)）?
????????????????????net.layers{l}.k{ii}{j}?=?net.layers{l}.k{ii}{j}?-?opts.alpha?*?net.layers{l}.dk{ii}{j};
????????????????end
????????????????net.layers{l}.b{j}?=?net.layers{l}.b{j}?-?opts.alpha?*?net.layers{l}.db{j};
????????????end
????????end
????end

????net.ffW?=?net.ffW?-?opts.alpha?*?net.dffW;
????net.ffb?=?net.ffb?-?opts.alpha?*?net.dffb;
end