Attention please

2022.09.30 - [딥러닝] - 옵티마이저(optimizer) - NAG 옵티마이저(optimizer) - NAG 2022.09.30 - [딥러닝] - 옵티마이저(optimizer) - Momentum 옵티마이저(optimizer) - Momentum 2022.09.29 - [딥러닝] - 옵티마이저(optimizer) - SGD 옵티마이저(optimizer) - SGD 옵티마이저란 model을 학습.. smcho1201.tistory.com 지금까지 알아보았던 Momentum과 NAG는 기존의 SGD에서 관성을 적용시키는 방식으로 접근을 한 기법이였습니다. 하지만 이번에 알아볼 AdaGrad기법은 관성으로 접근하는 것이 아닌 learning rate를 조절하는 것으로 접근하는 기법입니다. AdaGr..