소프트맥스 함수

1. 정의

• 뉴런 출력값에 대해 class 분류를 위하여 마지막 단계에서 출력값에 대한 정규화 해주는 함수
• 데이터를 분류 시 사용하는 활성함수가 소프트맥스 함수
• [특징] 출력값은 0에서 1.0, 출력 총합 : 1

 

2. 수식, 주의사항

가. 수식

• n : 출력층의 뉴런 수
• yk : k번째 출력
• exp : 지수함수

나. 주의사항

• 지수함수로 되어 있어 오버플로우(무한대 값 발생 가능) 문제가 발생 할 수 있음
• 오버플로우를 해결하기 위해 개선한 식

- 데이터를 분류하고자 할때 모든 입력 신호로부터 영향을 받으므로 사용하는 활성함수가 소프트맥스 함수임.