ReLU

From CS Wiki
Revision as of 05:48, 26 October 2019 by PE가즈아 (talk | contribs)
ReLU(Rectified Linear Unit), 릴루 또는 렐루라고도 한다.

개요

  • 음수 값은 무시하여 0으로 취하고, 양수 값은 그대로 취하는 활성화 함수

종류

Relu.jpg

  • ReLU
  • Leaky ReLU
  • ELU(Exponential linear Unit)