线性回归算法（Java）

 

 

手动实现线性回归（梯度下降法）

public class LinearRegressionGD {
    private double learningRate;
    private int iterations;
    private double slope;
    private double intercept;

    public LinearRegressionGD(double learningRate, int iterations) {
        this.learningRate = learningRate;
        this.iterations = iterations;
        this.slope = 0;
        this.intercept = 0;
    }

    public void fit(double[] x, double[] y) {
        int n = x.length;

        for (int i = 0; i < iterations; i++) {
            double slopeGradient = 0;
            double interceptGradient = 0;

            // 计算梯度
            for (int j = 0; j < n; j++) {
                double prediction = slope * x[j] + intercept;
                slopeGradient += - (2.0 / n) * x[j] * (y[j] - prediction);
                interceptGradient += - (2.0 / n) * (y[j] - prediction);
            }

            // 更新参数
            slope -= learningRate * slopeGradient;
            intercept -= learningRate * interceptGradient;
        }
    }

    public double predict(double x) {
        return slope * x + intercept;
    }

    public static void main(String[] args) {
        double[] x = {1, 2, 3, 4, 5};
        double[] y = {50, 55, 65, 70, 85};

        LinearRegressionGD model = new LinearRegressionGD(0.01, 1000); // 设置学习率和迭代次数
        model.fit(x, y);

        double predictedScore = model.predict(6); // 预测学习时间为6小时时的考试成绩
        System.out.println("预测的考试成绩: " + predictedScore);
    }
}

代码解析

1. 构造函数：初始化学习率和迭代次数。
2. fit 方法：使用梯度下降法更新斜率和截距。predict 方法：根据学习到的斜率和截距进行预测。
   • 计算当前预测值与实际值之间的误差，并根据误差计算梯度。
   • 通过梯度调整斜率和截距。
4. main 方法：创建数据集，实例化模型，训练模型，并进行预测。

参数设置

• learningRate：控制每次更新的步长。较小的学习率可能导致收敛速度慢，而较大的学习率可能导致不收敛。
• iterations：指定训练模型的轮数。过少的迭代可能导致模型未收敛，过多的迭代则可能导致过拟合。

通过这种手动实现的方式，你可以灵活地控制学习率和迭代次数，以优化模型的性能。