활성함수에 대한 고찰 (Consideration for Activation function)

소개글

활성함수에 대한 고찰 (Consideration for Activation function)에 대한 보고서 자료입니다.

목차

Ⅰ.서론

Ⅱ.본론
　1. Prove that a sigmoid function is nonlinear
　2. Activation function's one-dimensional differentiation
　3. Activation function's definition and role

Ⅲ.결론

본문내용

로 출력한다.
경사 함수 : 경사 함수를 활성화 함수로 사용하면 NET값이 0보다 작은 경우에는 뉴런의 출력이 0이지만, NET값이 0보다 크거나 같은 경우에는 항등 함수와 마찬가지로 NET값이 그대로 출력된다. NET값이 0보다 크면 경사에 비례하여 출력값을 결정한다.
계단 함수 : 계단 함수를 활성화 함수로 사용하면 NET값이 임계치보다 작은 경우에는 뉴런의 출력이 0이며, NET값이 임계치보다 크거나 같은 경우에는 뉴런의 출력이 1이다. 즉 계단 함수는 바이너리 함수처럼 0 or 1의 값을 출력한다.
시그모이드 함수: 시그모이드 함수를 활성화 함수로 사용하면 뉴런의 출력은 0에서 1의 값이 된다. 시그모이드 함수는 수렴을 하기 때문에 NET값의 증폭을 막아준다.
가우시안 함수: NET값이 일정 범위에 있을 경우에 출력을 한다. [4]
Ⅲ.결론
위와 같은 조사를 통해 활성화 함수에 대한 이해와 함께 좀 더 심화된 예로써 응용된 활성화 함수를 배울 수 있었다. 그래서 수업시간에 배운 뉴런의 구조와 역할에 대해 한 발짝 더 다가갈 수 있는 계기가 되었다.
참고문헌
[1] 선형방정식 위키백과사전 http://ko.wikipedia.org/wiki/%EC%9D%BC%EC%B0%A8_%EB%B0%A9%EC%A0%95%EC%8B%9D
[2] 오창석, 뉴로컴퓨터개론, 내하출판사, pp.83-103, 2000.
[3] 단조증가함수 http://blog.naver.com/hangso80?Redirect=Log&logNo=120060799737
[4] 오창석, 뉴로컴퓨터개론, 내하출판사, pp.83-103, 2000.

키워드

인공지능,   활성함수,   Consideration for Activation function,   함수