torch.log_softmax

 

 

torch.log_softmax 함수는 softmax 함수에 log를 취한 것과 같다. softmax와 Log 두 연산을 따로 수행하는 것보다 log_softmax를 통해 한번에 수행하는 것이 더 빠르고 수치적으로 안정적이라고 한다. 

 

위 코드를 보면 랜덤으로 생성한 3x5 텐서 x에 softmax를 취하고 log를 취한 결과나, log_softmax를 취한 결과나 동일하다는 것을 알 수 있다. 

정리하면 log_softmax는 다중분류 문제에서 logit에 softmax 취한 다음 0과 1사이의 확률로 변환하는 함수이다.