• 목록

[일시] 2024.09.23

[세미나 주제] Backpropagation and neural network

[발표자] 고예진

[요약]

해당 강의는 딥러닝에서 중요한 개념 중 하나인 Backpropagation 과 neural network의 기초에 대한 내용을 다루고 있습니다.
강의에서 다루고 있는 주요 개념은 다음과 같습니다.

Forward Propagation :
입력 데이터가 네트워크를 통과할 때 연속적인 계층을 지나면서 출력값이 계산되는 과정입니다. 각 계층의 출력값은 다음 계층의 입력으로 사용됩니다.
각 뉴런은 입력에 가중치를 곱하고, 이 합을 활성화 함수에 통과시켜 비선형 변환을 합니다.

Backpropagation :
신경망의 학습 과정에서 중요한 부분으로, chain rule을 사용하여 손실 함수의 기울기를 계산하고, 이를 통해 각 가중치를 업데이트합니다.
역전파는 각 계층의 gradient를 계산하고, 이를 사용해 가중치의 방향을 조정합니다. 이 과정에서 gradient descent와 같은 최적화 알고리즘이 사용됩니다.

Neural Networks의 기본 구조 :
Neural Networks는 layer로 구성된 모델이며 각 layer는 노드(node) 또는 뉴런(neuron)으로 이루어져 있습니다.
각 뉴런은 이전 계층의 입력을 받아 비선형 활성화 함수(activation function)를 통해 처리된 값을 출력합니다.
각 계층 사이에서는 가중치(weight)가 적용되며, 가중치는 학습을 통해 업데이트됩니다.


[녹화 영상 링크]
https://us02web.zoom.us/rec/share/cK-V3WuzLHx9X4ts42Z_hokuBQ4woG3sYARyAtHQqO_dkdTQl6RjDBMg1GedSvKH.C_zFms63rmSXO0hX?startTime=1727091486000