• 목록

<학회 후기>

2024 10월 시애틀에서 19일~23일까지 개최되는 Informs 학회에 참석하였다. 학회를 가서 느꼈던 점은 크게 3가지이다. 1. 통계학 공부에 대한 심화적인 공부가 필요함을 느꼈다. 학회에서 갔을 때 다소 놀랐던 점은 한 층이 전부 Optimization으로만 구성되어 있었다. 기존에 학교에서 스터디를 진행할 때는 모델의 아키텍쳐 위주로 공부를 하였다. 그런데, 학회에서는 대부분이 수식 기반의 모델링을 위주로 발표가 진행되었다. 통계적 지식이 부족하여서 솔직히 이해하는데 어려움이 많았다. 강의를 듣고, 질문이 활발히 오가는 것을 보면서 기본적인 통계 및 최적화에 대한 공부가 필요하다고 생각했다. 2. 도메인 및 데이터에 따라서 적절한 모델을 사용해야 한다는 것을 다시 한번 느꼈다. 물류, 에너지, 제조 등 다양한 분야에 AI를 적용하는 발표들을 들었다. 도메인에 있는 데이터에 따라서 모델을 새롭게 설계한 연구도 보았고, 나이브한 모델을 적용함에도 불구하고 그들이 어려움을 겪는 문제를 정확하고, 효율적으로 해결해내는 연구들도 들었다. 마치 닭 잡는데 소 잡는 칼을 사용하지 않고, 닭의 특징을 정확히 이해하고, 닭 잡는 칼을 사용하는 것 같았다. 도메인과, 모델에 대한 정확한 이해가 굉장히 중요하다는 것을 다시 한번 느낄 수 있었다. 3. 발표를 들으면서 나 또한 언젠가는 해외 학회에서 꼭 발표를 해야겠다고 다짐했다. 학회에서 자신이 연구했던 것을 영어로 유창하게 발표하는 사람들을 보면서 정말 대단하고 막연한 동경이 들었다. 다음에도 해외 학회를 갈 기회가 온다면 발표자로 가야겠다고 생각했다.

<청취 후기>
10/20
Spatio-Temporal Offshore Wind Energy Forecasting over Space, Time, and Heig
Ahmed Aziz Ezzat, Department of Industrial & Systems Engineering, Rutgers University, Piscataway, NJ, United States, Feng Ye, Xinxi Zhang, Michael Stein
풍력 에너지를 확보하기 위해 기존 연구에서는 풍력 터빈의 위치와 시간만을 고려하여 풍력 에너지에 대한 예측을 수행하였다. 그러나 이러한 기존 연구는 풍력 터빈의 위치에 따른 풍속의 영향을 간과하였다. 따라서 본 발표는 여러 높이에서의 지역 풍속 간의 복잡한 종속성을 충분히 모델링할 수 있는 다변량, 비정상(nonstationary), 상태 의존적 커널을 갖춘 다중 출력 시공간 모델을 제안하였다. 연속적인 날씨 이미지 데이터를 입력 데이터로 사용하고, CNN, Transformer 기반 딥러닝 모델을 통해 다층 커널 매개변수를 학습하였다. 연속적인 날씨 이미지 데이터를 활용하여 풍력 에너지를 예측하는 것이 흥미로웠고, 도메인 지식이 데이터 분석을 할 때 굉장히 중요하다는 것을 다시 한번 느낄 수 있었다.

10/21
Large Scale Events
Selin Tosun, Amazon, Seattle, WA, United States, Jin Ye, Leah Riley
배송에 관련해서 짧은 시간 내에 대량의 수요가 발생하는 대규모 이벤트(Large Scale Events, LSE)가 발생한다. 이런 대규모 이벤트를 예측 및 처리하는 방법은 사람들이 직접 처리하였으며, 일부 매우 큰 LSE는 해결되지 못했다. Anomaly Detection 기반의 모델들은 데이터의 비선형 패턴을 파악하지 못하여서 LSE를 제대로 예측하기 어려웠다. 아마존에서는 이 문제를 해결하기 위해 XGBoost 모델을 사용하여 환경 요인과 그에 따른 손실을 파악하여 LSE를 사람이 아닌 모델이 자동으로 탐지하였다. 전체 이벤트 중 83% 이상을 정확하고 즉각적으로 감지하였다. 문제 해결을 위해 XGBoost와 같은 다소 나이브할 수 있는 모델을 사용하여 좋은 결과를 얻어올 수 있는 것을 보면서, 최신 모델만을 따라갈 것이 아니라, 각 딥러닝, 머신러닝 기법들의 특성을 정확히 알고, 적재적소에 사용해야겠다고 생각했다. 

10/21
Power Demand Classification Using Pso-Based Ensemble Method
R. J. Kuo, National Taiwan University of Science and Technology, Taipei, Taiwan, Zhen-Xuan Xu
시계열 분류 성능을 향상하기 위해 본 발표자는 MiniRocket을 활용하여 시계열에서 feature extraction을 수행한 후, 랜덤 포레스트(RF), XGBoost, LightGBM과 같은 해석 가능한 모델로 분류하는 앙상블 학습 방법에 입자 군집 최적화(PSO) 알고리즘을 적용하였다. 이탈리아 전력 수요 데이터를 이용하여 Accuracy, Precision, Recall, F1-Score기준으로MLP, SVM, RF, XGBoost, LightGBM과 비교 평가를 수행하였ᄃᆞ. 또한, PSO 알고리즘을 적용한 경우와 그렇지 않은 경우의 RF, XGBoost, LightGBM 모델에 대한 평가도 진행하였다. PSO는 입자 군집 최적화 알고리즘으로 여러 모델을 결합하고 최적의 조합을 찾는 방식을 찾는다. 앙상블 학습 시 PSO를 사용하여 최적의 모델 구성 및 가중치를 찾는 것이 직관적으로도 효과적으로 보인다. 다만 MiniRocket를 사용하여 계산 복잡성을 줄이려고 하였으나, 여전히 PSO 기반 앙상블 학습으로 인한 계산 복잡성 문제를 해결하지 못한 것 같다. 계산 복잡성을 고려한 다른 알고리즘에 대한 탐색이 필요해 보인다.