일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | |
7 | 8 | 9 | 10 | 11 | 12 | 13 |
14 | 15 | 16 | 17 | 18 | 19 | 20 |
21 | 22 | 23 | 24 | 25 | 26 | 27 |
28 | 29 | 30 | 31 |
Tags
- 옵티마이저
- 알고리즘
- object detection
- cnn
- 논문 리뷰
- programmers
- 프로그래머스
- Paper Review
- 딥러닝
- 인공지능
- 코드구현
- Ai
- 파이토치
- Segmentation
- 파이썬
- ViT
- pytorch
- 머신러닝
- Computer Vision
- 코딩테스트
- opencv
- transformer
- Convolution
- Semantic Segmentation
- 논문
- Python
- 논문구현
- optimizer
- 논문리뷰
- Self-supervised
Archives
- Today
- Total
목록local minimum (1)
Attention please
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/zjchA/btrNpKoV0KY/PyKDn1xZEkN2DjqSHVhJz0/img.png)
2022.09.29 - [딥러닝] - 옵티마이저(optimizer) - SGD 옵티마이저(optimizer) - SGD 옵티마이저란 model을 학습시키기 위해 설정해주어야 하는 작업입니다. SGD를 제외한 옵티마이저들은 모두 SGD의 응용으로 만들어졌습니다. optimizer에 대해 쉽게 설명하자면 산을 한걸음 한걸음 smcho1201.tistory.com 지난 글에서는 모든 optimizer의 기초가 되는 SGD에 대해 설명하였습니다. 이번에는 SGD의 문제점 중 local minimum에 빠지는 문제를 해결하기 위해 고안된 Momentum 기법에 대해 알아보겠습니다. Momentum 위에서 말했던 것처럼 momentum은 SGD의 local minimum에 빠져버리는 문제를 해결하기 위해 생겨난 기..
딥러닝/DNN
2022. 9. 30. 00:17