일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | |
7 | 8 | 9 | 10 | 11 | 12 | 13 |
14 | 15 | 16 | 17 | 18 | 19 | 20 |
21 | 22 | 23 | 24 | 25 | 26 | 27 |
28 | 29 | 30 | 31 |
- 코드구현
- 프로그래머스
- Semantic Segmentation
- 딥러닝
- opencv
- 논문구현
- Ai
- programmers
- 알고리즘
- object detection
- 옵티마이저
- 파이썬
- Segmentation
- Self-supervised
- 코딩테스트
- 파이토치
- Paper Review
- ViT
- 논문
- 논문 리뷰
- optimizer
- 논문리뷰
- 머신러닝
- transformer
- Convolution
- Computer Vision
- Python
- 인공지능
- pytorch
- cnn
- Today
- Total
목록딥러닝 (53)
Attention please
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/OEqTd/btrUVjp5kbt/n8jesLxvdIWlLlouqgz1Pk/img.png)
이번에 리뷰할 논문은 "Densely Connected Convolutional Networks" 이다. CNN 모델의 성능을 높이기 위해 가장 직접적인 방법은 층의 깊이를 늘리는 것이다. 하지만 단순히 층이 깊어지기만 하면 vanishing gradient와 같은 문제들이 발생하게 되는데 이러한 문제들을 해결하기 위해 앞부분과 뒷부분을 short path로 연결해주는 ResNet과 같은 모델들이 제안되었다. DenseNet 역시 앞부분과 뒷부분을 연결해준다는 점을 사용하여 접근하였다. Connectivity 1. ResNet DenseNet 역시 앞부분과 뒷부분을 연결해주는데 그 방식이 ResNet과 차이가 있다. ResNet의 방식은 입력값과 출력값을 skip connection에 의해 더해준다. 이..
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/A76iv/btrUOLA4AQ7/0p9HCY1ZCwK4bEGb6yUSTk/img.png)
이번에 리뷰할 논문은 "Xception: Deep Learning with Depthwise Separable Convolutions " 이다. 구글에서 2014년에 GoogLeNet이라는 모델을 제시하였고 이때 Inception module이라는 개념이 등장하였다. Xception은 이 Inception module을 기반으로 만들어진 모델이며, "Extreme Inception" 의 줄임말이다. Inception Module 본 논문은 Inception v3 로부터 Xception 모델까지 가는 과정을 담고 있다. Inception v1 (GoogLeNet)과는 약간의 차이가 있는데 구조는 다음과 같다. Inception v1 과 다른점은 5x5 Convolution 층을 3x3 Convolution..
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/d4jNuD/btrTACMQmbb/54chDZ6fRSZDyLysKfcK80/img.png)
What Experiment? 영역 분할(segmentation) 딥러닝 모델은 의료영상에서 많이 쓰이며 또 발전해왔다. 의료영상은 질환에 따라 영상의 종류와 feature가 전부 다르며, 딥러닝 모델 역시 영역 분할을 위해 개발된 다양한 모델들이 존재한다. 하지만 새로운 의료영상이 주어졌을 때 어떤 딥러닝 모델이 적합할지 선택할 때 어려움을 겪을 수 있다. 이러한 문제를 해결하고자 여러 종류의 의료영상에 대해 다양한 딥러닝 모델로 실험을 하여 성능을 비교하였다. Dataset 의료영상에서 병변 영역을 검출할 때 가장 중요한 것은 의료영상의 종류이다. 어떤 종류의 영상인지에 따라 feature가 다르기 때문에 이는 모델 성능에 직접적으로 영향을 미친다. 이미 다양한 의료영상들이 나와있으며 이번 실험을 위..
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/uPxwX/btrThHmdImj/KMWtlhcF45vbJzKQR4q4T0/img.png)
2022.12.10 - [딥러닝/CNN] - [딥러닝] Max Pooling의 원리, 합성곱층과 max pooling층의 차이 Max Pooling 2022.12.09 - [딥러닝/CNN] - 텐서의 합성곱 텐서의 합성곱 2022.12.09 - [딥러닝/CNN] - 이미지와 텐서, 전치(transpose) 이미지와 텐서, 전치(transpose) CNN(합성곱 신경망) 앞으로 다룰 CNN - Convolution Neural Network smcho1201.tistory.com 지난 글에서는 CNN을 구성하는 요소 중 2가지, convolution층과 max pooling층의 역할과 차이점에 대해 알아보았다. 이번 글에서는 4차원 텐서를 다루어야하는 CNN인 만큼 들어가는 코드가 복잡해지고 시간비용이 늘..
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/JIQnn/btrTh6lDVVq/72fgTdtznIfzKNXzu1zdi1/img.png)
2022.12.09 - [딥러닝/CNN] - 텐서의 합성곱 텐서의 합성곱 2022.12.09 - [딥러닝/CNN] - 이미지와 텐서, 전치(transpose) 이미지와 텐서, 전치(transpose) CNN(합성곱 신경망) 앞으로 다룰 CNN - Convolution Neural Network 은 컴퓨터 비전 즉 이미지를 처리하는데 특화되어있다 smcho1201.tistory.com 합성곱 신경망(CNN)을 구성하는 요소는 총 3가지가 있다. Affine - ReLu - Affine - softmax - CrossEntropy 합성곱층(Convolution) max pooling 저번 글에서는 위 3가지 요소중 합성곱층에 대해 알아보았으며, 이번 글에서는 max pooling에 대해 알아보자. Max P..
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/0JuTQ/btrTgAVFgeW/WjikmtxpAQhFZ7h9S4ueIK/img.png)
2022.12.09 - [딥러닝/CNN] - 이미지와 텐서, 전치(transpose) 이미지와 텐서, 전치(transpose) CNN(합성곱 신경망) 앞으로 다룰 CNN - Convolution Neural Network 은 컴퓨터 비전 즉 이미지를 처리하는데 특화되어있다. 즉, 이미지를 학습을 한다는 것인데 컴퓨터에 학습시키기 위해서는 데이터를 수 smcho1201.tistory.com 저번 글에서는 학습을 할 이미지가 텐서로 구성됨을 보였으며, 학습을 위한 전처리 방법 중 하나인 전치(transpose)에 대해 알아보았다. 이번 글에서는 CNN의 핵심이라 할 수 있는 합성곱이 어떻게 이루어지는지 알아보자. 합성곱(Convolution)이란 무엇인가? 앞에서 다루었던 Affine층으로 이루어진 full..