云南網站推廣公司的文案可以自動設計優化方法中的權重更新規則

       云南網站推廣公司要成功訓練一個深度學習模型，選擇一個適當的優化方法是非常重要的。雖然隨機梯度下降法（SGD）通常可以一上手就發揮出不錯的效果，不過Adam和Adagrad這樣更先進的方法可以運行得更快，尤其是在訓練非常深的網絡時。

       然而，為深度學習設計優化方法是一件非常困難的事情，因為優化問題的本質是非凸問題。在這篇論文中，谷歌大腦的研究員們討論了一種方案，它可以自動設計優化方法中的權重更新規則，尤其是對于深度學習架構。
       云南網站推廣這個方案的重點是使用了一個RNN結構的控制器，這個控制器可以給優化器生成權重更新方程。這個RNN結構的控制器是通過強化學習的方式訓練的，一個具體的網絡結構用它生成的更新規則進行同樣次數的訓練后，可以把模型準確率大化。