回归估计标准误差公式一般写作 S = sqrt(SSE / (n - p)),其中 SSE 是残差平方和,n 是样本量,p 是模型估计的参数个数。简单线性回归只有一个自变量和一个截距,参数个数 p 等于 2,常用公式为 S = sqrt(Σ(y_i - ŷ_i)^2 / (n - 2))。多元线性回归有 k 个自变量和一个截距,参数个数 p 等于 k + 1,常用公式为 S = sqrt(Σ(y_i - ŷ_i)^2 / (n - k - 1))。这个数值用来描述观测值围绕回归拟合值的平均波动尺度,数值越小,说明回归模型对样本点的贴合程度越高,数值越大,说明观测值围绕拟合值的分散程度更高。
公式核心组成
| 符号 | 含义 | 说明 |
|---|---|---|
| S | 回归估计标准误差 | 回归模型拟合值与观测值之间平均波动尺度 |
| SSE | 残差平方和 | Σ(y_i - ŷ_i)^2,即所有观测值与拟合值差值的平方和 |
| y_i | 观测值 | 第 i 个样本的实际取值 |
| ŷ_i | 拟合值 | 回归模型预测得到的第 i 个样本取值 |
| n | 样本量 | 参与回归计算的样本数量 |
| p | 参数个数 | 模型中估计出来的参数数量,包含截距 |
| k | 自变量个数 | 多元回归中的解释变量数量 |
常用计算步骤
- 建立回归模型,得到每个样本的拟合值 ŷ_i。
- 计算每个样本的残差 e_i = y_i - ŷ_i。
- 将每个残差平方,得到 e_i^2。
- 把所有残差平方相加,得到残差平方和 SSE = Σ(y_i - ŷ_i)^2。
- 确定模型参数个数 p,简单线性回归通常 p = 2,多元线性回归通常 p = k + 1。
- 计算自由度 df = n - p。
- 用残差平方和除以自由度,再开平方,得到回归估计标准误差公式的计算结果。
不同模型中的表达形式
简单线性回归:
S = sqrt(Σ(y_i - ŷ_i)^2 / (n - 2))
多元线性回归:
S = sqrt(Σ(y_i - ŷ_i)^2 / (n - k - 1))
也可以写成统一形式:
S = sqrt(SSE / df)
其中 df 表示回归模型中的残差自由度。样本量较大时,自由度校正会让回归估计标准误差公式更贴近模型估计的精度口径。
与拟合优度的关系
在已有总离差平方和 SST 和决定系数 R² 时,也可以用如下方式计算:
S = sqrt(SST × (1 - R²) / (n - p))
其中 SST = Σ(y_i - ȳ)^2。这个形式说明回归估计标准误差公式既可以用残差平方和计算,也可以借助总离差平方和与拟合优度关系进行换算。
【常见问题】
问题1 回归估计标准误差公式是什么
回答1 回归估计标准误差公式常用为 S = sqrt(SSE / (n - p)),简单线性回归中可写成 S = sqrt(Σ(y_i - ŷ_i)^2 / (n - 2)),多元线性回归中可写成 S = sqrt(Σ(y_i - ŷ_i)^2 / (n - k - 1))。
问题2 计算回归估计标准误差公式需要哪些数据
回答2 计算回归估计标准误差公式需要观测值、拟合值、样本量和参数个数。先把观测值减去拟合值得到残差,再将残差平方求和得到 SSE,最后按回归估计标准误差公式用 SSE 除以自由度并开平方。
问题3 回归估计标准误差公式中的自由度怎么确定
回答3 回归估计标准误差公式中的自由度由样本量减去参数个数得到。简单线性回归有截距和斜率两个参数,自由度常用 n - 2;多元线性回归有 k 个自变量和一个截距,自由度常用 n - k - 1。
问题4 回归估计标准误差公式和均方误差怎么区分
回答4 回归估计标准误差公式通常使用残差平方和除以自由度后再开平方,均方误差通常使用残差平方和除以样本量后再开平方。两者都围绕残差波动进行计算,但回归估计标准误差公式更常用在回归模型参数估计和自由度校正场景中。
免责声明:本内容用于统计学公式学习与计算思路参考,实际使用时可结合样本数量、模型结构和分析目标选择合适表达形式。


