• 목록

[일시]
2024.12.30

[세미나 주제]
Multivariate Time Series Forecasting

[발표자]
백승준

[요약]
본 발표는 Multivariate Time Series Forecasting의 두 가지 유형 및 trade off, 그에 대한 보완책을 다룬다. Multivariate Time Series Forecasting의 학습 방법에 따라 Channel Dependent(CD) 전략과 Channel Independent(CI) 전략으로 나뉜다. CD 전략은 다변량 시계열에서 채널(또는 변수)들이 상호 의존적이라고 가정하고 각 채널 간의 관계를 학습 및 고려하여 예측을 수행한다. 반면, CI 전략은 각 채널(변수)이 독립적이라고 가정하며 각 채널을 별도의 시계열로 간주하고, 각 채널의 미래 값을 독립적으로 학습 및 예측을 수행한다. 일반적으로 채널간의 관계성을 보는 CD 기반의 모델들(FEDformer, Autoformer, Informer... etc)이 채널간의 관계성을 고려하지 않는 CI 기반 모델들에 비해 우수할 것이라고 생각하지만, 실제로는 그러지 않다. 그 이유는  현실 세계에는 Data의 Distribution Shift가 발생하는 데이터들이 많은데, CD 전략은 CI 전략에 비해
Distribution Shift 문제에 강건하지 못하기 때문이다. CD 전략은 CI 전략에 비해모델이 Data에 적합되는 능력(Capacity)은 우수하지만 분포 이동 문제에 강건(Robustness)하지 못하다. 반면 CI 전략은 분포 이동이 발생해도 강건하게 예측을 수행하지만, CD 전략에 비해 Data의 복잡한 패턴을 잘 학습하지 못한다. 이러한 Cpacity와 Robustenss의 Trade-Off를 U-Mixer는 2가징 방법을 통해 보완한다. U-Mixer는 Unet 구조로 Encoder, Decoder와 MLP-Mixer를 이용하여 채널간의 관계성을 고려(Capacity)하는 동시에  채널의 Auto correlation 이용하여 Distribution Shift가 발생한 경우 이를 반영하여(Robustness) 예측을 수행하도록 하였다.

[관련 논문]
- Are Transformers Effective for Time Series Forecasting?
- The Capacity and Robustness Trade-off: Revisiting the Channel Independent Strategy for Multivariate Time Series Forecasting
- U-Mixer: An Unet-Mixer Architecture with Stationarity Correction for TimeSeries Forecasting