-3。7。
?
你放进去
1000,它输出的仍然是
1000。
它不修改、不变换、不加工数据,只是简单地把原始信息传递出去,就像真实之镜一样,忠实地反映输入的内容。
故事拓展:恒等函数的魔法作用
在神经网络中,有许多复杂的激活函数(如
re露、sigid、tanh),它们会对输入数据进行某种非线性变换,比如抑制负值或归一化输出。
但在某些情况下,我们希望信息原封不动地传递,不做任何调整,这时候就会使用恒等函数。
比如:
1。
线性回归——在输出层,我们常用恒等函数,因为回归的目标是预测连续数值,我们不希望对其进行变换。
2。
残差网络(res)——某些深度神经网络为了避免信息损失,会使用“跳跃连接”(skip
connection),其中恒等函数就充当了数据的直通通道,确保信息能够无损传递到后续层。
总结
1。
真实之镜
=
恒等函数,输入什么,输出就是什么。
2。
透明管道
=
恒等函数,信息不加工,直接原封不动传递。
3。
神经网络中的作用:当我们不希望对数据进行变换时,就会使用恒等函数,让信息自由流动。
所以,恒等函数的作用虽然简单,但在数学和深度学习中,它就像一条纯净无瑕的魔法通道,确保数据不受干扰地传递到下一步!
故事比喻:回归问题中恒等函数的作用
故事背景:魔法师的信使
在魔法大陆的预言之都,住着一位着名的魔法师——艾尔法。他擅长用水晶球预测未来,比如明天的粮价、下周的温度、国王的税收等。
不过,艾尔法有一个重要的助手——信使瑞克。瑞克的任务很简单:他不修改、不扭曲,也不干涉任何信息,而是忠实地将艾尔法的预测结果送到国王手里。
国王问:“明天的粮价是多少?”
艾尔法计算后告诉瑞克:“27