[ML] 자동 미분(Autograd)
·
AI/ML
경사 하강법 코드를 보면 requires_grad=True, backward() 등이 나옵니다. 이는 파이토치에서 제공하고 있는 자동 미분(Autograd) 기능을 수행하고 있는 것입니다. 파이토치의 학습 과정을 보다 더 잘 이해하기 위해서 자동 미분에 대해서 이해해봅시다. 1. 자동 미분(Autograd) 실습하기 자동 미분에 대해서 실습을 통해 이해해봅시다. 임의로 라는 식을 세워보고, w에 대해 미분해보겠습니다. import torch 값이 2인 임의의 스칼라 텐서 w를 선언합니다. 이때 required_grad를 True로 설정합니다. 이는 이 텐서에 대한 기울기를 저장하겠다는 의미입니다. 뒤에서 보겠지만, 이렇게 하면 w.grad에 w에 대한 미분값이 저장됩니다. w = torch.tensor(..
doocong22
'AutoGrad' 태그의 글 목록