1. coefficient의 부호에 따른 모양
(1) 양수일때
양수일때는 우상 그래프가 만들어진다
a가 클수록 점점더 경사가 가팔라 진다
a가 커질수록 보라색 ->붉은색 이 된다.
(2) 음수일때
음수일때는 좌상그래프가 만들어진다
a가 작을수록 (절댓값은 클수록) 가팔라진다
a가 작아질수록 (절댓값은 커질수록) 보라색->빨간색이 된다.
2. bias의 부호에 따른 모양
(1) 양수일때
bias가 양수이면 왼쪽으로 이동한다.
bias가 커질수록 왼쪽으로 이동한다.
즉 bias가 커질수록 보라색 -> 빨간색으로 이동한다.
(2) 음수일때
bias가 음수이면 오른쪽으로 이동한다.
bias가 작아질수록 오른쪽으로 이동한다.
즉 bias가 작아질수록 보라색 -> 빨간색으로 이동한다.
3. bias만 그래프의 이동에 영향을 미치는 것은 아니다.
2에서 bias가 변할 때 그래프가 평행이동 하였는데, 이는 coefficient가 일정할때만 해당된다.
왜냐하면 시그모이드 함수의 식은 아래와 같다.
이때 그래프의 이동에 해당하는 빨간색 부분이 (세타0/세타1) 형태이기 때문에 세타1(coefficient)를 나눈만큼 그래프가 이동한다.
즉 a=0.5일때 b가 -3~+3 변한 그래프와, a=1일때 b가 -6~+6 변한 그래프가 이동한 거리는 아래와 같이 같다.
또한 a=5일때 b가 -30~+30 변한 그래프와, a=100일때 b가 -600~+600 변한 그래프가 이동한 거리는 아래와 같이 같다.
4. 학습되는 과정
(1) 일반적인 경우
기울기를 책임지는 세타1은 커지고, 세타0은 적절한 값을 찾아서 바뀐다.
아래의 사진과 같이 학습하면서 보라색 -> 빨간색으로 바뀐다
(2) 노이즈가 있을 경우 아래와 같이 파동이 생긴다.
* 출처 : 패스트캠퍼스 수학적으로 접근하는 딥러닝 올인원 패키지 Online.