如何用Python徒手写线性回归

下面是如何用Python徒手写线性回归的完整攻略：

1. 什么是线性回归

线性回归是一种广泛使用的统计方法，用于预测一个变量和一个或多个变量之间的关系。它主要用于建立一条直线来拟合数据点，以描述它们之间的关系。线性回归的公式为：

$y = mx + c$

其中，$y$ 是因变量，$x$ 是自变量，$m$ 是斜率，$c$ 是截距。

2. 准备数据

在实现线性回归前，需要准备一组数据集。作为示例，我们可以使用 scikit-learn 提供的波士顿房价数据集。

from sklearn.datasets import load_boston
boston = load_boston()
X = boston.data[:, 5] # 我们只取一列数据作为自变量
y = boston.target

3. 绘制散点图

在进行线性回归之前，我们需要先了解数据之间的关系。我们可以绘制一个散点图来观察两个变量之间的关系。

import matplotlib.pyplot as plt
plt.scatter(X, y)
plt.xlabel('Number of rooms')
plt.ylabel('House price')
plt.show()

4. 编写线性回归函数

对于这组数据，我们可以使用最小二乘法来实现线性回归。最小二乘法基于最小化残差平方和的原理。代码如下：

def linear_regression(X, y):
    n = len(X)
    x_mean, y_mean = sum(X) / n, sum(y) / n
    numerator, denominator = 0, 0
    for i in range(n):
        numerator += (X[i] - x_mean) * (y[i] - y_mean)
        denominator += (X[i] - x_mean) ** 2
    m = numerator / denominator
    c = y_mean - m * x_mean
    return m, c

5. 进行线性回归

现在我们可以使用上面编写的线性回归函数来拟合数据了。

m, c = linear_regression(X, y)
print('斜率 m =', m)
print('截距 c =', c)

6. 绘制拟合直线

我们可以使用拟合方程 $y = mx + c$，绘制一条直线来展示数据之间的拟合程度。

plt.scatter(X, y)
plt.plot([min(X), max(X)], [c + m * min(X), c + m * max(X)], 'r')
plt.xlabel('Number of rooms')
plt.ylabel('House price')
plt.show()

7. 预测结果

使用拟合出的直线，我们可以预测出其他自变量对应的因变量值。

x_test = 6.5 # 假设有一栋房子有 6.5 间卧室
y_pred = m * x_test + c
print('房价预测值：', y_pred)

以上就是如何用Python徒手写线性回归的完整攻略了。另外，我们还可以使用其他方法来实现线性回归，例如梯度下降法等。