반응형
Notice
Recent Posts
Recent Comments
Link
안 쓰던 블로그
logistic regression back propagation derivative (로지스틱 회귀의 역전파 미분 유도 과정) 본문
머신러닝/머신러닝
logistic regression back propagation derivative (로지스틱 회귀의 역전파 미분 유도 과정)
proqk 2021. 8. 21. 16:16반응형
logistic regression back propagation derivative
로지스틱 회귀 역전파 미분 유도
로지스틱 회귀 역전파를 구하면 다음과 같다
$$da=-\frac{y}{a}+\frac{1-y}{1-a}$$
$$dz=a-y$$
$$dw=dz x$$
$$db=dz$$
$x$ 는 고정값이므로 $dx$ 를 구하지 않는다
검은색 식은 순전파 때의 식
1. $\frac{\partial L}{\partial a}$ 구하기
2. $\frac{\partial a}{\partial z}$ 구하기
3. $\frac{\partial L}{\partial z}$ 구하기
반응형
'머신러닝 > 머신러닝' 카테고리의 다른 글
[헷갈리는 개념 정리1] steps_per_epoch 값 정하기 (0) | 2021.09.03 |
---|---|
역 드롭아웃 inverted dropout 구현 시 추가 값을 곱하는 이유 (0) | 2021.08.31 |
Transfer Learning과 함께 Image augmentation을 사용 가능할까? (0) | 2021.08.13 |
퍼셉트론, 신경망, 활성화 함수, 선형/비선형 기본 개념 정리 (0) | 2021.07.22 |
사전 훈련된 CNN 사용하기 (Using a pretrained CNN) (0) | 2021.07.16 |
Comments