Attention please

이번에 리뷰할 논문은 Neural Discrete Representation Learning 입니다.https://arxiv.org/abs/1711.00937 Neural Discrete Representation LearningLearning useful representations without supervision remains a key challenge in machine learning. In this paper, we propose a simple yet powerful generative model that learns such discrete representations. Our model, the Vector Quantised-Variational AutoEncarxiv.org     ..

이번에 리뷰할 논문은 FCN-Transformer Feature Fusion for Polyp Segmentation 입니다. https://paperswithcode.com/paper/fcn-transformer-feature-fusion-for-polyp Papers with Code - FCN-Transformer Feature Fusion for Polyp Segmentation #5 best model for Medical Image Segmentation on Kvasir-SEG (mean Dice metric) paperswithcode.com 본 논문에서 제안하는 FCBFormer모델은 대장 내시경(Colonoscopy) 영상의 대장암(colorectal cancer) 부분의 영역을 검출하..

이번에 리뷰할 논문은 Pyramid Vision Transformer 입니다. https://paperswithcode.com/method/pvt Papers with Code - PVT Explained PVT, or Pyramid Vision Transformer, is a type of vision transformer that utilizes a pyramid structure to make it an effective backbone for dense prediction tasks. Specifically it allows for more fine-grained inputs (4 x 4 pixels per patch) to be used, whil paperswithcode.com CNN 기반 ..

이번에 리뷰할 논문은 Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 입니다. https://paperswithcode.com/paper/swin-transformer-hierarchical-vision Papers with Code - Swin Transformer: Hierarchical Vision Transformer using Shifted Windows #2 best model for Image Classification on OmniBenchmark (Average Top-1 Accuracy metric) paperswithcode.com 2017년도에 transformer 모델이 등장하면서 NLP 분야에서 큰 ..

이번에 리뷰할 논문은 A Method for Detection of Small Moving Objects in UAV Videos 입니다. https://paperswithcode.com/paper/a-method-for-detection-of-small-moving Papers with Code - A Method for Detection of Small Moving Objects in UAV Videos 🏆 SOTA for Small Object Detection on Bee4Exp Honeybee Detection (Average F1 metric) paperswithcode.com Object detection의 경우 많은 발전들이 있었습니다. R-CNN, YOLO와 같은 CNN 기반 object..

이번에 리뷰할 논문은 "MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications" 이다. MobileNet은 말 그대로 모바일 기기에서 동작할 수 있도록 성능 저하를 최소화하면서 모델을 크게 경량화하는 것을 목표로 하였다. 2017년도 당시 사용되는 CNN 모델들은 분명 성능은 좋았지만 모델의 size가 너무 커진다는 단점이 있었다. 물론 데이터 센터와 같이 고성능의 환경에서는 무리없이 돌아가겠지만 문제는 모바일과 같이 고성능이 아닌 환경에서는 돌아가지도 않는다는 것이다. 즉 본 논문의 핵심은 파라미터를 줄이는데에 있었고 이를 위해 사용한 기법이 크게 3가지가 있다. Depthwise Separable Convol..