摘要: 提出一种新型校正激活函数的改进, 该新型校正激活函数带有一个可变参数, 使用对数函数对正区域的梯度进行矫正, 解决了预测准确率较低的问题. 改进的激活函数使用两个不同参数分别控制正区域和负区域的梯度. 通过对两个不同数据集进行仿真实验的结果表明, 新提出的两种方法效果均好于原始的修正线性单元, 带有两
个参数的改进使验证错误率分别降低了0.14%和5.33%.
中图分类号:
王多民, 刘淑芬. 一种使用log函数的新型修正激活单元LogReLU[J]. 吉林大学学报(理学版), 2017, 55(03): 617-622.
WANG Duomin, LIU Shufen. LogReLU: A New Rectified Activation Unit Using Log Funcion[J]. Journal of Jilin University Science Edition, 2017, 55(03): 617-622.