Есть ли эквивалентная функция для anova.lm() в Java?

Вы очень неправильно понимаете ANOVA в случае, когда сравниваете две регрессии. Это не дисперсионный анализ в смысле oneWayAnova. Эквивалентом onewayAnova в R является функция aov. С другой стороны, функция anova реализует множество тестов для сравнения моделей, а название anova, мягко говоря, сбивает с толку...

Если вы сравниваете две регрессионные модели, вы хотите провести F-тест суммы квадратов. То, что вы делаете в своем коде, представляет собой односторонний ANOVA, чтобы увидеть, значительно ли различаются два набора параметров регрессии. Это не то, что вы хотите сделать, но это именно то, что делает ваш код JAVA.

Для того, чтобы рассчитать правильный F-тест, вам необходимо сделать следующее:

1. рассчитать MSE для наибольшей модели путем деления остаточной суммы квадратов (RSS) на степени свободы (df) (в таблице R: 0,77053/6

2. рассчитать MSEdifference путем вычитания RSS обеих моделей (результат — «Сумма квадратов» в таблице R), вычитания df для обеих моделей (результат — «Df» в таблице R) и разделить эти числа.

3. Разделите 2 на 1, и вы получите значение F.

4. вычислить p-значение, используя значение F в 3 и для df разность df в числителе и df наибольшей модели в знаменателе.

Насколько я знаю, класс OLSMultipleLinearRegression не имеет удобных методов для извлечения количества степеней свободы, поэтому в Java это сделать не так просто. Вам придется вычислить df вручную, а затем использовать класс FDistribution для вычисления значения p.

eg:

OLSMultipleLinearRegression regr = new OLSMultipleLinearRegression();
regr.newSampleData(y, x);
double SSR1 = regr.calculateResidualSumOfSquares();
double df1 = y.length - (x[0].length + 1); 
    //df = n - number of coefficients, including intercept

regr.newSampleData(y, xb);
double SSR2 = regr.calculateResidualSumOfSquares();
double df2 = y.length - (xb[0].length + 1);

double MSE = SSR2/df2; // EDIT: You need the biggest model here!
double MSEdiff = Math.abs ((SSR2 - SSR1) / (df2 - df1));
double dfdiff = Math.abs(df2 - df1);

double Fval = MSEdiff / MSE;

FDistribution Fdist = new FDistribution(dfdiff, df2);
double pval = 1 - Fdist.cumulativeProbability(Fval);

Теперь и значение F, и значение p должны быть именно такими, какие вы видите в таблице anova() для R. df1 и df2 — это столбцы Res.Df в таблице R, разница должна быть Df в таблице R, а MSEdiff должно быть то же самое, что и Sum of Sq., разделенное на Df из таблицы R.

Отказ от ответственности: я плохой программист JAVA, поэтому приведенный выше код является более концептуальным, чем фактический код. Пожалуйста, ищите опечатки или глупые ошибки и проверяйте документацию по классу FDistribution, который я использовал здесь:

https://commons.apache.org/proper/commons-math/apidocs/org/apache/commons/math3/distribution/FDistribution.html#cumulativeProbability%28double%29

И теперь вы знаете, почему статистики используют R вместо Java ;-)

РЕДАКТИРОВАТЬ: FDistribution, используемый в приведенном выше коде, является классом

org.apache.commons.math3.distribution.FDistribution

В JSci также есть FDistribution:

JSci.maths.statistics.FDistribution

Если вы используете его, последняя часть кода станет:

FDistribution Fdist = new FDistribution(dfdiff, df2);
double pval = 1 - Fdist.cumulative(Fval);

В зависимости от конкретной реализации совокупные вероятности могут незначительно отличаться. Я, увы, понятия не имею о разнице и/или о том, кому из них можно доверять лучше.

Проблема в том, что методы, которые вы сравниваете, не делают то же самое.

anova() в R фактически выполняет тест отношения правдоподобия, чтобы проверить, соответствует ли ваша вторая модель значительно улучшается за счет добавления новой переменной: дополнительная информация в ответе здесь

anova(fit, fit2,test="Chisq")
#p: 0.788

#or manually:
df.diff = fit$df.residual - fit2$df.residual
vals <- (sum(residuals(fit)^2) - sum(residuals(fit2)^2))/sum(residuals(fit2)^2) * fit2$df.residual 
pchisq(vals, df.diff, lower.tail = FALSE)
#p: 0.7879634

так что вы можете использовать тот же подход в java. Короткий поиск в Google дал мне реализацию pchisq в java здесь (обратите внимание, что команда lower.tail=FALSE аналогична команде 1-pchisq(lower.tail=TRUE), поэтому нам эта опция не нужна).

Это позволяет нам сделать следующее

public void regressionRun(){
OLSMultipleLinearRegression regr = new OLSMultipleLinearRegression();
OLSMultipleLinearRegression regr2 = new OLSMultipleLinearRegression();

double[] y = new double[] { -0.48812477, 0.33458213, -0.52754476,
        -0.79863471, -0.68544309, -0.12970239, 0.02355622, -0.31890850,
        0.34725819, 0.08108851 };
double[][] x = new double[10][];
double[][] x2 = new double[10][];
x[0] = new double[] { 1, 0 };
x[1] = new double[] { 0, 0 };
x[2] = new double[] { 1, 0 };
x[3] = new double[] { 2, 1 };
x[4] = new double[] { 0, 1 };
x[5] = new double[] { 0, 0 };
x[6] = new double[] { 1, 0 };
x[7] = new double[] { 0, 0 };
x[8] = new double[] { 1, 0 };
x[9] = new double[] { 0, 0 };
//
x2[0] = new double[] { 1, 0, 0 };
x2[1] = new double[] { 0, 0, 0 };
x2[2] = new double[] { 1, 0, 0 };
x2[3] = new double[] { 2, 1, 2 };
x2[4] = new double[] { 0, 1, 0 };
x2[5] = new double[] { 0, 0, 0 };
x2[6] = new double[] { 1, 0, 0 };
x2[7] = new double[] { 0, 0, 0 };
x2[8] = new double[] { 1, 0, 0 };
x2[9] = new double[] { 0, 0, 0 };

regr.newSampleData(y, x);
double[] b = regr.estimateResiduals();

regr2.newSampleData(y, x2);
double[] b2 = regr2.estimateResiduals();

//calculate sum of squares
double sumsq_b = 0;
double sumsq_b2 = 0;
for (double res : b){
    sumsq_b += res**2;
}
for (double res : b2){
    sumsq_b2 += res**2;
}
//calculate degrees of freedom
int df_b = y.length-(x[0].length+1);
int df_b2 = y.length-(x2[0].length+1);

double vals = (sumsq_b-sumsq_b2)/sumsq_b2*df_b2;

double pvalue = 1-pchisq(vals,df_b-df_b2);
System.out.println(pvalue);
}
//0.7879633810167291