翟晓鹰 作品

第599章 回归问题用恒等函数

故事比喻:回归问题的本质

故事背景:魔法师的预言术

在魔法大陆上,有一位着名的预言家——艾尔法大师。他的魔法水晶球能够预测未来,比如明天的天气、市场的粮价、战马的速度等。

但这个水晶球并不是直接告诉他答案,而是根据过去的数据进行推算。艾尔法的任务就是通过观察过去的数据,找到规律,并用它来预测未来。

这个过程,就像我们在现实世界中使用回归分析来预测数值型结果,比如:

? 天气预报(预测气温)

? 房价预测(基于面积、地段等)

? 销售额预测(基于广告投入)

第一步:收集历史数据(训练数据)

一天,艾尔法大师想要预测明天市场上粮食的价格。他开始翻阅自己的魔法日志,发现了以下记录:

过去的天气(温度) 市场粮价(金币)

10°c 15

12°c 18

15°c 21

18°c 25

20°c 28

他发现粮价和温度之间似乎有某种关系——温度越高,粮价也越高。

第二步:发现规律(拟合回归模型)

艾尔法大师试着在魔法水晶球上画出这些数据点,并用一条魔法曲线连接它们。

这条魔法曲线,就是回归分析中的“回归线”,它可以帮助他预测未来。

经过测算,他发现:

这意味着:

? 如果温度是 10°c,粮价 ≈ 1.5 x 10 + 3 = 15(符合历史数据)。

? 如果温度是 20°c,粮价 ≈ 1.5 x 20 + 3 = 28(也符合历史数据)。

现在,他可以用这个公式预测未来!

第三步:预测未来(回归预测)

第二天早上,艾尔法大师的魔法仪器显示,今天的温度将达到 16°c。

他立刻用自己的公式计算:

于是,他向城镇的商人们宣布:“今天市场上的粮价大约是 27 枚金币!”

果然,到了市场,粮价确实在 26-28 枚金币 之间,和他的预测十分接近!

这就是回归分析的核心思想——基于历史数据找出规律,并用它来预测未来数值!

比喻:回归分析就像画一条“魔法轨迹”

1. 过去的数据 = 魔法师的历史日志(数据集)。

2. 回归分析 = 画出魔法轨迹,找到历史数据的趋势(拟合模型)。

3. 回归方程 = 预测未来的魔法公式(数学模型)。

4. 预测新数据 = 用魔法公式计算未来的情况(输入新数据,得出预测值)。

就像艾尔法大师一样,我们可以用回归模型来分析现实世界的趋势,无论是天气、经济,还是商业预测,回归分析都是一种强大的魔法工具!

故事比喻:恒等函数的本质

故事背景:魔法城的镜子法则

在魔法大陆的镜之城,有一座神奇的大厅,里面摆放着**“真实之镜”。这面镜子不同于普通的魔法镜,它不会扭曲形象,也不会美化或丑化任何东西,而是完全忠实地反映你本来的样子**。

无论谁站在镜子前,看到的都是自己最真实的形象——高就是高,矮就是矮,胖就是胖,瘦就是瘦。

这面镜子,就像数学中的恒等函数(identity fun),它的作用是:

无论你输入什么,它都会原封不动地返回相同的值。

比喻:恒等函数 = 透明管道

你可以把恒等函数想象成一个透明管道:

? 你放进去 5,它输出的还是 5。

? 你放进去 -3.7,它输出的还是 -3.7。

? 你放进去 1000,它输出的仍然是 1000。

它不修改、不变换、不加工数据,只是简单地把原始信息传递出去,就像真实之镜一样,忠实地反映输入的内容。

故事拓展:恒等函数的魔法作用

在神经网络中,有许多复杂的激活函数(如 reLu、sigoid、tanh),它们会对输入数据进行某种非线性变换,比如抑制负值或归一化输出。

但在某些情况下,我们希望信息原封不动地传递,不做任何调整,这时候就会使用恒等函数。

比如:

1. 线性回归——在输出层,我们常用恒等函数,因为回归的目标是预测连续数值,我们不希望对其进行变换。

2. 残差网络(res)——某些深度神经网络为了避免信息损失,会使用“跳跃连接”(skip e),其中恒等函数就充当了数据的直通通道,确保信息能够无损传递到后续层。

总结

1. 真实之镜 = 恒等函数,输入什么,输出就是什么。

2. 透明管道 = 恒等函数,信息不加工,直接原封不动传递。

3. 神经网络中的作用:当我们不希望对数据进行变换时,就会使用恒等函数,让信息自由流动。

所以,恒等函数的作用虽然简单,但在数学和深度学习中,它就像一条纯净无瑕的魔法通道,确保数据不受干扰地传递到下一步!

故事比喻:回归问题中恒等函数的作用

故事背景:魔法师的信使

在魔法大陆的预言之都,住着一位着名的魔法师——艾尔法。他擅长用水晶球预测未来,比如明天的粮价、下周的温度、国王的税收等。

不过,艾尔法有一个重要的助手——信使瑞克。瑞克的任务很简单:他不修改、不扭曲,也不干涉任何信息,而是忠实地将艾尔法的预测结果送到国王手里。

国王问:“明天的粮价是多少?”

艾尔法计算后告诉瑞克:“27 枚金币。”

瑞克不加任何加工,直接告诉国王:“27 枚金币。”

这个信使瑞克的工作方式,就像数学中的恒等函数(identity fun):

无论输入是什么,输出都是一样的,不做任何调整。

比喻:回归问题中的恒等函数 = 透明传输

回归问题的目标是预测一个连续的数值(比如房价、温度、销售额)。在神经网络的输出层,我们通常使用恒等函数,因为我们希望预测出的数值保持原样,而不是被改变或限制。

想象你有一个透明管道,用来传输数字:

? 你放进去 27,它输出的还是 27。

? 你放进去 100.5,它输出的还是 100.5。

? 你放进去 -3.7,它输出的仍然是 -3.7。

这个透明管道就像恒等函数,它让预测值直接流向输出层,不做任何变换。

为什么回归问题需要恒等函数?

在神经网络中,我们通常会在隐藏层使用非线性激活函数(比如 reLu、sigoid、tanh)来学习复杂的关系。但在回归任务的输出层,我们不需要对最终结果进行非线性变换。

比如:

? 如果我们用 sigoid 作为输出激活函数,所有预测值都会被压缩到 0 到 1 之间,这在二分类问题(如猫 vs. 狗)是合理的,但在回归问题(如预测房价)中就不合适了。

? 如果我们用 tanh 作为输出激活函数,所有预测值都会被限制在 -1 到 1 之间,这也不适用于回归问题。

? 但使用恒等函数,预测值不会被改变,网络可以自由地输出任何数值,这才符合回归任务的需求!

故事总结:回归任务中的恒等函数 = 真实的信使

1. 艾尔法魔法师 = 神经网络,负责计算和预测数值。

2. 信使瑞克 = 恒等函数,不改变信息,直接传递结果。

3. 国王 = 真实世界,需要接收真实的预测值,不希望收到变形的数据。

4. 透明管道 = 恒等函数的作用,确保预测值不受干扰地传输到最终输出。

所以,在回归问题中,我们用恒等函数作为输出层的激活函数,因为它就像一个忠实的信使,保证预测值不被篡改,直接送达目标!