Расчет коэффициентов множественной линейной регрессии
Данные наблюдений и соответствующие коэффициенты в матричной форме выглядят следующим образом:
.
Здесьмерный вектор-столбец наблюдений зависимой переменной; матрица размерности, в которойтая строка представляет наблюдение вектора значений независимых переменных; единица соответствует переменной при свободном члене; вектор-столбец размерности параметров уравнения регрессии; вектор-столбец размерности отклонений выборочных (реальных) значений зависимой переменной от значений, получаемых по уравнению регрессии
. (10)
Функция в матричной форме представима как произведение вектор-строки на вектор-столбец. Вектор-столбец может быть в свою очередь представлен в следующем виде:
. (11)
Отсюда:
Здесь векторы и матрицы, транспонированные к соответственно. При выводе формулы использовались следующие известные соотношения линейной алгебры:
Необходимым условием экстремума функции является равенство нулю ее частных производных по всем параметрам. Вектор-столбец частных производных в матричном виде выглядит следующим образом:
. (12)
Рассмотрим более подробно нахождение. Очевидно, что
.
от не зависит, следовательно, .
Обозначим вектор-столбец размерности через. Тогда, где соответствующий элемент вектора. Поэтому .
Обозначим матрицу размерности через. Тогда
.
Следовательно, частная производная .
В результате имеем .
Следовательно, формула (12) справедлива. Приравняв к нулю, получаем:
