[20240807 특별세미나] TSMixer: An All-MLP Architecture for Time Series Fore…
페이지 정보
본문
[일시]
2024.08.07
[세미나 주제]
TSMixer: An All-MLP Architecture for Time Series Forecasting
[발표자]
정화용
[요약]
본 발표는 multivariate time-series forecasting을 RNN, attention-based 방법론이 아닌 MLP를 기반으로 접근해 각 변량의 temporal pattern, 변량간 관계성 2가지를 분리하여 학습하는 구조를 제안한다. 다변량 시계열 예측을 위해서는 temporal pattern, cross-variate information, auxiliary information 총 3가지 측면을 고려해야 한다. 다만, 다수의 최신 다변량 시계열 모델들은 상관관계가 희박하거나 존재하지 않는 변량임에도 불구하고 최종 예측하고자 하는 target variate에 영향을 미치도록 설계되어 있어 과적합 문제가 다수 발생하게 된다. 따라서, 본 논문은 patternic 한 각 변량의 temporal한 value들을 linear model로 표현할 수 있음을 증명하며, 간단한 구조임에도 불구하고 RNN, attention-based 모델 대비 성능과 속도측면 모두에서 강점을 보이는 MLP 기반의 모델을 제안한다. 특히, 각 3가지 측면을 순차적으로 적용하는 TMix-Only, TSMixer, TSMixer-Ext 를 제안하여 각 요소가 다변량 시계열 예측에 유의미한 정보인지 또한 증명했다.
[관련 논문]
- TSMixer: An All-MLP Architecture for Time Series Forecasting
2024.08.07
[세미나 주제]
TSMixer: An All-MLP Architecture for Time Series Forecasting
[발표자]
정화용
[요약]
본 발표는 multivariate time-series forecasting을 RNN, attention-based 방법론이 아닌 MLP를 기반으로 접근해 각 변량의 temporal pattern, 변량간 관계성 2가지를 분리하여 학습하는 구조를 제안한다. 다변량 시계열 예측을 위해서는 temporal pattern, cross-variate information, auxiliary information 총 3가지 측면을 고려해야 한다. 다만, 다수의 최신 다변량 시계열 모델들은 상관관계가 희박하거나 존재하지 않는 변량임에도 불구하고 최종 예측하고자 하는 target variate에 영향을 미치도록 설계되어 있어 과적합 문제가 다수 발생하게 된다. 따라서, 본 논문은 patternic 한 각 변량의 temporal한 value들을 linear model로 표현할 수 있음을 증명하며, 간단한 구조임에도 불구하고 RNN, attention-based 모델 대비 성능과 속도측면 모두에서 강점을 보이는 MLP 기반의 모델을 제안한다. 특히, 각 3가지 측면을 순차적으로 적용하는 TMix-Only, TSMixer, TSMixer-Ext 를 제안하여 각 요소가 다변량 시계열 예측에 유의미한 정보인지 또한 증명했다.
[관련 논문]
- TSMixer: An All-MLP Architecture for Time Series Forecasting
첨부파일
-
TSMixer.pdf (1.1M)
DATE : 2024-08-08 11:13:39 -
TSMixer_정화용.pdf (2.3M)
DATE : 2024-08-08 11:13:39
- 이전글[20240814 특별세미나] TimeMixer: Decomposable Multiscale Mixing for Time Series Forecasting 24.08.19
- 다음글[20240717 특별세미나] SOFTS: Efficient Multivariate Time Series Forecasting with Series-Core Fusion 24.07.18
댓글목록
등록된 댓글이 없습니다.