궤도

6.1 매개변수 갱신 https://github.com/HyunJiLim0406/Practice/blob/master/deep-learning/6_1_%EB%A7%A4%EA%B0%9C%EB%B3%80%EC%88%98_%EA%B0%B1%EC%8B%A0.ipynb HyunJiLim0406/Practice Contribute to HyunJiLim0406/Practice development by creating an account on GitHub. github.com 확률적 경사 하강법(SGD) : 미리 정해둔 학습률만큼 이동함. 일정한 방향만 이동하겠다 -> 비등방성 함수에서는 탐색 경로가 비효율적 모멘텀 : v 변수를 추가. 기울기 방향으로 학습률이 가속되도록 조정. 바닥을 구르는 경로 형성 AdaGr..