• 목록

<학회 후기>
미국 시애틀에서 19일부터 23일까지 개최된 informs 학회에 참석해 수많은 발표를 듣고 다양한 경험을 할 수 있었다. 교수님께서 좋은 기회를 주셔서 처음 해외 학회를 참석할 수 있어 열심히 듣고 소통해보겠다는 다짐으로 학회를 준비하게 되었다. 첫날은 Data Mining에 관련된 발표로 구성되어 그와 관련된 주제로 진행된 발표들이 다양하게 준비되었고, 20일 일요일부터는 두 개의 건물에서 다양한 주제를 기반으로 많은 발표들이 동시에 진행되어 각자 관심있는 주제를 찾아 다니며 발표를 들어볼 수 있었다. 개인적으로 상당히 인상적이었던 점은 학회장 주변에서 서로 다른 지역에서 온 다른 사람들이 networking하는 모습 자체가 개방적으로 누구나 대화에 참여하고 교류하는 모습이었다. 국내 학회에서 보았던 모습과는 상당히 다르게 넓은 폭으로 교류하는 모습을 볼 수 있었으며, 세션 발표에서도 적극적으로 질문하고 더 좋은 아이디어를 발견하는 모습에 나 또한 새로운 자극을 받을 수 있었다. 특히 나는 AI 분야의 발표들을 위주로 청취하게 되었는데도 불구하고 정말 다양한 분야에서 AI를 적용해 연구를 진행하고, 더 나은 기법에 대해 고민하고 있는 모습을 보면서 전공자라고 안주하기 보다는 더 원론적인 문제를 바라보고 근본적인 방식에서 제안할 수 있는 사람이 되어야겠다고 다짐하게 되었다. 세션 발표를 들으며 사실 개인 연구 주제로 삼고 있는 분야에 정확하게 들어맞는 주제의 발표는 찾기 어려웠던 점이 조금은 아쉬웠지만, 그러한 부분은 정확하게 주제와 들어맞지 않더라도 추후에 연구에 적용할 수 있는 분야는 어떤 것이 있을까 하고 생각을 하며 발전적인 방향에서 발표를 선택해서 들어볼 수 있었는데, 그렇게 듣게 되었던 optimization 분야의 발표들이 NAS에서의 탐색을 개선할 수 있는 가장 근본적인 부분을 고민하게 한 발표를 들을 수 있어 기억에 많이 남는다. 마무리하며 그동안 교수님께 전해듣기만 했던 해외 학회를 처음 경험하면서 다양한 사람들을 만나고 많은 주제의 발표들을 접할 수 있었고, 이를 통해 내가 진행하고 있는 연구, 논문, 그리고 나의 발표에 대해서 생각해볼 수 있는 좋은 기회가 되었다. 많은 걸 배우고 생각할 수 있는 좋은 기회를 주신 교수님께 진심으로 감사드리며 후기를 마무리한다.

<청취 후기>
DMDA Parallel Session A2) Optimization Over Trained Neural Networks: Taking a Relaxing Walk
해당 발표는 기존에 사용되었던 수학적 최적화가 훈련된 깊은 신경망에 사용되는데 있어 한계를 보인 점에 대해서 이러한 문제를 완화할 수 있는 방식론에 대해 소개한다. 소개하는 방식론에서는 지역 탐색의 각 단계에서 Mixed Integer Linear Programming 대신 Linear Programming을 활용한 휴리스틱 방식을 사용한다. 이러한 전략을 통해 접근했을 때 기존의 방식에 비해 계산 효율성이 높게 작용할 수 있음을 소개한다. 개인 연구로 보고 있는 NAS 분야에서 현재는 탐색 과정 중에 학습된 모델을 어떻게 활용할 수 있을까에 대해 최근에 고민하고 있던 중에 아직 나이브한 면이 없지 않지만, 관심이 생겨 청취하게 되었다. 개인적인 의견으로는 여전히 한계점이 분명히 존재하는 방식으로 직접 적용되기에 어려울 수는 있지만, 이런 근본적인 문제에 대해 바라보고자 하는 노력이 있어야 한다고 생각하며 의의가 있다고 생각했다.

SB66 A Multi-Objective Neural Architecture Search Framework for Optimizing Spiking Neural Networks Using NSGA-2
이번 학회에서 NAS를 직접적으로 다루는 발표는 해당 발표가 유일했기 때문에 꼭 듣고 싶었던 주제였다. 해당 발표에서는 Spiking Neural Network에 대한 탐색을 다루고 있어 기초적인 지식은 조금 부족했지만 NAS의 기법 자체에 집중해서 보자는 생각으로 발표를 들었다. 제안하는 NAS의 기법은 기존에 ANN에서 사용되었던 NAS 기법을 그대로 SNN에 적용하면서 발생했던 정확도와 모델 크기에 대한 문제를 완화할 수 있는 최적의 아키텍쳐를 탐색하는 것을 목표로 한다. 최근 NAS에서도 zero-shot 기반의 접근 방식들이 많이 제안되는 것을 연구 트렌드로 알 수 있었는데, 해당 방식론에서도 모델에 대한 scoring function을 통해서 네트워크를 탐색하면서 탐색 시간을 줄이는 성과를 확인할 수 있었다. 이때의 제안하는 scoring function이 spike neural network의 특성을 잘 이해함으로써 양질의 네트워크를 탐색할 수 있다는 점이 큰 장점으로 보였으며, 문제의 본질을 잘 찾은 연구였다고 생각이 되었다. 조금 다르더라도 비슷한 주제에 대해 기법적으로 고민하는 발표를 들을 수 있어 인상적이었고, 기억에 남았다.

ME62 Measuring the Efficacy of Amazon’s Recommendation System
해당 발표는 아마존이 셀러들에게 제공하고 있는 추천 시스템의 동작 방식과 이 추천 시스템이 어떻게 사용자에게제공되는 지에 대한 내용으로 개인 연구 주제와는 직접 관련이 없지만, 어떻게 보면 AI를 사용한 시스템에 직접 일반 사용자에게 가까운 사례라고 생각하여 듣게 되었다. 해당 발표에서 설명하고 있는 추천 시스템은 아마존 시스템 상에서 셀러들에게 어떤 방식을 광고를 하고 할인을 할 지에 대한 추천을 제공하는 내용으로 셀러들이 선택할 수 있는 옵션에 대해서 아마존이 어떻게 제공하고 있는지, 그리고 그 추천 내용을 어느정도로 신뢰할 수 있을지에 대한 부분을 다루는 내용이 포함되어 있었다. 사실 기법적인 부분에서는 상당히 간단한 linear regression 구조를 기반으로 이들이 설계한 scoring function을 활용하는 내용이 주를 이뤘고, 인상적이었던 부분은 이러한 분석에 대한 정보를 생각보다 많은 셀러들이 적극적으로 사용하면서 판매 수익을 올릴 수 있었다는 점이었다.