교수님 강의중에, 그래디언트를 계산한 후에 계산된 그래디언트를 유닛벡터 형태로 만들기 위해서 |𝑓′𝐱| 를 나눠주는데, 이 형태는 원래의 그래디언트 알고리즘보다는 Adagrad 형태에 가깝다고 보는데, 제가 잘못 알고 있는건가요?? 원래의 그래디언트 디센트 방식도 계산된 편미분 벡터를 바로 이용하는게 아니라 편미분 벡터의 절대값으로 나눠주나요??
교수님 강의중에, 그래디언트를 계산한 후에 계산된 그래디언트를 유닛벡터 형태로 만들기 위해서 |𝑓′𝐱| 를 나눠주는데, 이 형태는 원래의 그래디언트 알고리즘보다는 Adagrad 형태에 가깝다고 보는데, 제가 잘못 알고 있는건가요?? 원래의 그래디언트 디센트 방식도 계산된 편미분 벡터를 바로 이용하는게 아니라 편미분 벡터의 절대값으로 나눠주나요??
comment