笔趣阁

第592章 积极反馈的老师Relu函数（第1页）

故事比喻：只有积极反馈的老师（re露

函数）

在一所小学里，有一位特别的数学老师——小张老师，他的教学方式很独特：

1。

如果学生答对了题目，他就会大声表扬：“很好！继续加油！”

2。

如果学生答错了，他什么都不说，不批评也不惩罚，就像没听见一样。

这个老师的教学方式就像

re露（修正线性单元）激活函数——它只保留正面的信息（正值），对负面的信息（负值）完全忽略。

re露

的数学规则

re露

函数的公式是：

简单来说：

?

输入是正数（好消息）→

保留！

?

输入是负数（坏消息）→

直接归零！

这就像小张老师的教学方式，学生回答正确（正反馈），他给予鼓励；学生回答错误（负反馈），他不做任何反应，不给负面打击。

另一种比喻：运动员的训练（re露

只关注正面成长）

想象一位跑步训练的运动员，他每天都记录自己的跑步成绩：

1。

如果今天比昨天跑得快了（进步了），他就把这次成绩记录下来。

2。

如果今天比昨天慢了（退步了），他就忽略这次成绩，不让它影响心态。

这个训练方法就像

re露，它专注于“有用的进步”，而不会让负面的信息拖后腿。

为什么

ai

需要