Attention please

이번에 리뷰할 논문은 Pyramid Vision Transformer 입니다. https://paperswithcode.com/method/pvt Papers with Code - PVT Explained PVT, or Pyramid Vision Transformer, is a type of vision transformer that utilizes a pyramid structure to make it an effective backbone for dense prediction tasks. Specifically it allows for more fine-grained inputs (4 x 4 pixels per patch) to be used, whil paperswithcode.com CNN 기반 ..

이번에 리뷰할 논문은 SSformer: A Lightweight Transformer for Semantic Segmentation 입니다. https://paperswithcode.com/paper/ssformer-a-lightweight-transformer-for Papers with Code - SSformer: A Lightweight Transformer for Semantic Segmentation Implemented in one code library. paperswithcode.com 2017년도에 NLP분야에서 transformer 모델이 출시된 이후 많은 변화가 있었습니다. computer vision 역시 마찬가지였으며, 자연어에 특화된 transformer를 변형하여 CV에서 사..

이번에 리뷰할 논문은 Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 입니다. https://paperswithcode.com/paper/swin-transformer-hierarchical-vision Papers with Code - Swin Transformer: Hierarchical Vision Transformer using Shifted Windows #2 best model for Image Classification on OmniBenchmark (Average Top-1 Accuracy metric) paperswithcode.com 2017년도에 transformer 모델이 등장하면서 NLP 분야에서 큰 ..

이번에 리뷰할 논문은 AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE 입니다. https://paperswithcode.com/paper/an-image-is-worth-16x16-words-transformers-1 Papers with Code - An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale 🏆 SOTA for Out-of-Distribution Generalization on ImageNet-W (IN-W Gap metric) paperswithcode.com ViT를 이해하기 위해서는 기본적으로 transformer에 대한 ..

What Experiment? 영역 분할(segmentation) 딥러닝 모델은 의료영상에서 많이 쓰이며 또 발전해왔다. 의료영상은 질환에 따라 영상의 종류와 feature가 전부 다르며, 딥러닝 모델 역시 영역 분할을 위해 개발된 다양한 모델들이 존재한다. 하지만 새로운 의료영상이 주어졌을 때 어떤 딥러닝 모델이 적합할지 선택할 때 어려움을 겪을 수 있다. 이러한 문제를 해결하고자 여러 종류의 의료영상에 대해 다양한 딥러닝 모델로 실험을 하여 성능을 비교하였다. Dataset 의료영상에서 병변 영역을 검출할 때 가장 중요한 것은 의료영상의 종류이다. 어떤 종류의 영상인지에 따라 feature가 다르기 때문에 이는 모델 성능에 직접적으로 영향을 미친다. 이미 다양한 의료영상들이 나와있으며 이번 실험을 위..