논문 리뷰 Paper Review 6

[논문 리뷰] Discriminative Unsupervised Feature Learning with Exemplar Convolutional Neural Networks (2015, IEEE TPAMI, Exemplar-CNN)

Paper: https://arxiv.org/pdf/1406.6909  Introduction이 논문에서 Self-supervised learning을 (아마도) 최초로 도입했다.Unsupervised Learning을 다루는 논문들이 늘 얘기하는 문제(Labeled Dataset을 구축하는 게 어렵다.)를 극복하고자 Unlabeled Dataset으로 CNN을 사전 학습 시키는 방법을 제안한다.  MethodCreate Surrogate Training DataExemplar-CNN 학습을 위해 어떤식으로 Input-Output을 구성했는지 확인해보겠다. 먼저, Figure 1과 같이 Unlabeled Dataset내 Images로부터 객체가 포함된 Patch를 N개 추출한다.(정확히는, Gradien..

[논문 리뷰] DiffusionAD: Norm-guided One-step Denoising Diffusion for Anomaly Detection (2023)

Paper: https://arxiv.org/abs/2303.08730 DiffusionAD: Norm-guided One-step Denoising Diffusion for Anomaly Detection Anomaly detection has garnered extensive applications in real industrial manufacturing due to its remarkable effectiveness and efficiency. However, previous generative-based models have been limited by suboptimal reconstruction quality, hampering their ove arxiv.org Introduction 해당..

[논문 리뷰] Causal Attention for Vision-Language Tasks (CVPR, 2021)

Paper: https://openaccess.thecvf.com/content/CVPR2021/papers/Yang_Causal_Attention_for_Vision-Language_Tasks_CVPR_2021_paper.pdf Supplementary Material: https://openaccess.thecvf.com/content/CVPR2021/supplemental/Yang_Causal_Attention_for_CVPR_2021_supplemental.pdf Introduction Attention Mechanism을 활용한 모델을 Large-scale Dataset에 훈련시킨 연구들이 Vision-Language Tasks에 훌륭한 성능을 보이고 있다. 하지만, Attention 기반의 V..

[논문 리뷰] Show and Tell: A Neural Image Caption Generator (CVPR, 2015)

Title: Show and Tell: A Neural Image Caption Generator (CVPR, 2015) 최근 Causal Inference에 관심이 많이 가서, CVPR 2022에 게재된 Show, Deconfound and Tell: Image Captioning with Causal Inference 라는 페이퍼의 레퍼런스를 훑어보다 읽게 됐다. Introduction Image Captioning(IC) 분야는 이름 그대로 이미지를 입력받아 해당 이미지를 설명하는 문장을 생성하는 태스크다. 일반적으로, 우리가 컴퓨터 비전 분야의 대표적인 태스크 하면 떠올리는 image classification, object detection 보다 어려운 작업이라고 할 수 있다. 주어진 이미지에서..

[논문 리뷰] CutPaste: Self-Supervised Learning for Anomaly Detection and Localization

Title: CutPaste: Self-Supervised Learning for Anomaly Detection and Localization (CVPR, 2021) Anomalous data를 활용하지 않고, 이미지에서 Unknown Anomalous 패턴을 감지하는 모델을 구축한 모델을 제시. 논문에서는 2-stage 프레임워크를 구축해 normal data를 훈련해 이상 탐지를 수행한다. 이 때, Self-supervsied learning에 자르고 붙이는 이미지 데이터 증강 기법을 활용한다. Introduction 이상 감지는 제조, 의료, CCTV등 다양한 분야에서 활용된다. 비전 분야에서, 이상 감지 문제와 관련된 연구는 대부분 지도 학습(supervised learning)으로 접근하지 않..

[논문 리뷰] Unsupervised Anomaly Detection with Generative Adversarial Networks to Guide Marker Discovery(AnoGAN)

개요 Title : Unsupervised Anomaly Detection with Generative Adversarial Networks to Guide Marker Discovery, (Information Processing in Medical Imaging(IPMI), 2017) Introduction Method Experiment Result Conclusion Introduction 의료 이미지를 보고 단순히, 건강함 or 질병 보유(0 or 1)를 나타내는 것보다 어느 부분이 이상한 지를 짚어주는 것이 훨씬 많은 정보를 제공 Unsupervised Learning 데이터 불균형 문제 : 의료나 제조 현장에는 Normal 데이터는 많지만, Abnormal 데이터는 적음 Annotation ..