• 목록

<발표 후기>
5월 2일 (목)
세션 : B4. 비즈니스 애널리틱스 분야 (2)
제목 : Out-of-Distribution Detection and Out-of-Model Scope Detection in Outdoor Object Detection

이번 산업공학회는 여수에서 진행되었다. 발표 요약은 다음과 같이 할 수 있겠다. 이번 연구는 야외에서 촬영된 CCTV 데이터에 대해서 어떻게 하면 여러 환경 변화 요인에도 강건한 객체 탐지를 할 수 있을까에 초점을 맞추게 되었다. 기존에 pretrained되어 있는 모델은 MSCOCO나 Pascal VOC와 같은 다량의 정제된 데이터로만 훈련되어 저장된 경우가 대부분인데 실제 환경에서 수집된 데이터들은 여러 noise가 섞인 경우가 더 많을 것이다. 이때 모델을 테스트 하거나 실제 운영 환경에서 모델에 입력되는 데이터가 훈련  데이터의 분포와 크게 다르거나 학습 시에는 보지 못했던 class label을 가질 경우, 이를 Out of Distribution 데이터로 정의하는 OOD Detection 연구 분야가 있다. 하지만 OOD Detection에는 모델 자체의 성능은 고려하지 않고, 오로지 데이터를 중점으로 식별하기 때문에 여러 모호한 경우가 발생하며 따라서 훈련 시에 데이터가 등장한 적이 있는지만 고려할 것이 아니라 모델의 성능, 모델이 데이터에 대해 어디까지 정확히 탐지 가능한지에 대한 boudnary를 추가적으로 함께 고려해야 한다는 Out of Model Scope 개념을 OOD개념과 함께 Object Detection에 적용해보고자 하였다. 결과적으로 OOD 데이터 이지만 OMS가 아닌 경우도 존재하고, OOD 데이터가 아니지만 모델이 잘 예측하지 못하는 OMS 데이터로 분류되는 경우가 발생하는 것을 실험적을 확인하였으며, 이에 대한 데이터 후처리 연구를 다음 연구에서 진행해보고자 한다.


<청취 후기>
5월 2일 (목)
세션 : C4. 비즈니스 애널리틱스 분야 (3)
제목 : 딥러닝 모델 경량화를 위한 중요 노드 선정 방법 (김정현, 아주대학교)

해당 발표는 여러 모델 경량화 기법들 중 Pruning에 초점을 맞추어 어떻게 중요 노드를 선정할 지에 초점이 맞추어져 있습니다. 데이터에 대한 노드의 출력값들을 비교해서 중요한 노드를 선정할 수 있다는 motivation을 가지고 중요하지 않은 노드는 제거해서 경량화를 진행하셨습니다. 중요한 노드는 데이터를 잘 변별할 수 있는 노드로 출력값에 varilability가 큰 노드를 중요 노드로 정의하였습니다. 또한, SVM을 활용하여 서포트 벡터 즉, 분류 경계에 있는 샘플을 hard 샘플로 지정하였으며, 최종적으로 노드 varilability와 서포트 벡터를 활용하여 중요 노드를 선정하고 hard와 easy샘플을 선별하여 효율적인 fine tuning으로 경량화를 진행하셨습니다. 이전에 경량화 연구를 잠깐 한 적이 있어 매우 흥미롭게 들을 수 있었고, 간단한 개념에서부터 착안한 굉장히 좋은 아이디어라고 느껴졌습니다. 또, 발표 스킬이 너무 좋으셔서 본받을 수 있는 시간을 가지게 되었습니다.