최초작성일:2016.6.20 아래의 그림에 대해, 점선안에 있는 관계도가 있다고 가정하자.(뉴럴네트워크에서는, 사람의 신경 구조와 같이, 자극의 입력에 대한 출력 덩어리를 뉴런이라고 부른다.) 여기서는 세개의 입력에 대해서, 세개의 가중치를 적용한 뒤에 하나의 출력을 내 보낸다.이와 같은 구조에서의 "최소 평균 제곱법" 에 대한 알고리즘의 유도를 여기서 해 보려고 한다.(내가 공부하면서 정리한 것이므로, 뭔가 부족 할 수도 있다... ) 우선 학습 가중치를 갱신하기 위한 수식을 작성한다. 위와같이 가중치의 변화량은 현재(t)의 가중치w 에 한스텝 전(t-1)의 가중치 w를 빼 주는 것과 같다. 가중치를 조절하기 위해서 경사하강법을 이용해서 수식을 유도한다.우리가 원하는 것은, 총 평균 제곱의 합을 최소하..