• 목록

<청취 후기>
세션: SC67 AI and Machine Learning for Modeling, Prediction, and Decision Making in Healthcare
제목: A Self-Supervised Self-Corrected Masked Autoencoder with Brain Tumor Applications
본 연구는 MRI 기반 뇌종양 분석의 정확도를 향상시키기 위해 자기지도(self-supervised) 및 자기교정(self-corrected) 학습을 결합한 Masked Autoencoder 구조를 제안하였다. 뇌종양은 환자 간 이질성이 크고 biopsy를 통한 정밀 데이터 확보가 제한적이라는 점에서 고해상도 모델 학습이 어렵다. 이를 해결하기 위해, 본 연구는 비침습적 영상(MRI)과 제한된 생검 데이터(침습적 영상)를 결합하여 high-fidelity 병변 재현을 달성하고자 했다. 전체 구조로는 Self-Attention 메커니즘과 추가 약지도(weakly-supervised) 학습을 통한 MRI 영상 복원 모델을 기준으로 biopsy 영상을 활용한 downstream fine-tuning를 제안했다. 의료 영상의 불완전성과 데이터 불균형 문제를 동시에 해결하려는 접근으로, 병리 기반 AI 연구와의 접점에서도 많은 영감을 얻을 수 있었다.

세션: MB68: Evaluation and Scalability of LLM Prompting
제목: Past Experience Accelerates LLM Reasoning
본 연구는 대규모 언어모델(LLM)의 추론 속도와 효율성을 개선하기 위한 SpeedupLLM을 제안하였다. 기존 LLM은 동일하거나 유사한 문제를 반복적으로 처리할 때에도 항상 동일한 수준의 연산 자원을 사용하며, 이는 인간의 경험 학습과는 대조 된다. 본 연구는 LLM이 과거의 유사 문제로부터 얻은 추론 경험을 메모리 형태로 저장하고, 문제의 구조적 유사도(Task Similarity)에 따라 adaptive compute budget을 조정하는 방식을 도입하였다. 이 접근은 같은 문제를 더 빠르게 푸는 AI라는 개념을 수학적으로 정립했다는 점에서 인상적이었으며, 특히 내가 연구중인 효율적 학습 및 경량화 연구 측면에서도 새로운 접근이라 느껴졌다. 다만, 매번 새로운 연산을 진행하는 기존 방식과, 반복적인 질문에 대한 답변 방식을 memory에 저장해두는 것 중 어느쪽이 더 computational efficiency 측면에서의 강점이 있을지는 보다 실험적으로 증명되어야 할것으로 느꼈다.

<발표 후기>
이번 발표에서는 간헐적이고 불규칙한 수요 패턴을 다루기 위한 불확실성 기반 예측 모델링에 대해 다루었다. 온라인 소매 데이터는 판매가 전혀 없는 기간과 갑작스러운 급등이 반복되는 특징을 보이는데, 이는 전통적인 평균제곱오차(MSE) 기반 손실함수로는 적절히 대응하기 어렵다. 이를 해결하기 위해 본 연구에서는 확률적 손실(Probabilistic Loss)과 이상치에 강한 손실(Robust Loss)을 결합한 하이브리드 손실 구조를 제안하였다. 이 구조는 데이터의 불확실성을 반영해 손실 가중치를 동적으로 조정하고, 모델의 신뢰 수준에 따라 학습률을 자동으로 조절함으로써 예측의 안정성과 적응성을 동시에 높이는 것을 목표로 한다. 실험 결과 제안된 접근법을 N-BEATS와 N-HiTS 모델에 적용했을 때 전통적인 MSE나 MAE 대비 예측 오차가 유의하게 감소했으며, 특히 간헐적 수요 구간에서도 안정적인 추세 예측 성능을 보였다. 또한 불확실성 기반 동적 학습률 조정은 모델의 과적합을 완화하고 학습 효율을 향상시키는 효과를 보였다. 후속 연구로는 다변량 시계열 데이터 확장과 보다 다양한 불확실성 추정 기법 적용을 추진할 계획이다.