Методология научных исследований

    Лежандр предложил выбирать значения неизвестных  постоянных так, чтобы сумма квадратов  отклонений имела бы минимум.  В  этом случае отклонения, исходя из (42), можно записать в виде:

            (43)

    Условие минимума суммы квадратов отклонений будет, как известно, выполняется при обращении в ноль частных производных, Эти условия дают следующие, так называемые, нормальные уравнения:

            (44)

    Число нормальных уравнений теперь в точности равно числу неизвестных так, что они определяются единственным образом, путем решения системы (44).

    Правило получения нормальных уравнений  следующее: для составления первого  нормального уравнения нужно  каждое условное уравнение (42) умножить на коэффициент A при первой неизвестной a и полученные уравнения сложить; второе нормальное уравнение получается также в результате сложения всех условных уравнений, умноженных предварительно на коэффициент B при b; третье нормальное уравнение получается путем умножения условных уравнений на коэффициент C при c и их сложением и т. д., если принят многочлен более высокого порядка.

    Далее решается система из трех нормальных алгебраических уравнений, и находятся  значения a, b, c, которые подставляются в выражение принятой исходной зависимости (41). Это выражение со значениями постоянных величин и является эмпирической формулой.

     Пример. Применение метода наименьших квадратов продемонстрируем на примере выявления функциональной зависимости скорости быстрого течения реки V от ее глубины h, т. е. V=f(h). Данные измерения приведены в таблице 2, графы 2, 3. Расчеты выполняются вручную.  
 
 
 
 
 
 
 
 
 
 

Таблица 2 – Данные измерений и вычисленные значения по демонстрации метода наименьших квадратов

№ наблюдения	h, м	V, м/с	Vв,  м/с	м/с	м/с
1	2	3	4	5	6
1	0	3,1905	3,1950	0,0000	0,0
2	0,1	3,2299	3,2317	0,0013	0,0000324
3	0,2	3,2932	3,2530	0,0002	0,00000004
4	0,3	3,2611	3,2590	0,0021	0,00000441
5	0,4	3,2516	3,2497	0,0019	0,00000361
6	0,5	3,2882	3,2251	0,0031	0,00000961
7	0,6	3,1807	3,1851	0,0044	0,00001936
8	0,7	3,1266	3,1299	0,0033	0,00001089
9	0,8	3,0594	3,0594	0,0000	0,0
10	0,9	2,9759	2,9735	0,0024	0,00000576

    Данные  измерения в виде точек наносятся  на масштабную сетку прямоугольных  координат, которые соединяются  ломаной кривой. В результате, получаем график невыравненой экспериментальной  зависимости (рисунок 6).

    

    Рисунок 6 — График экспериментальной зависимости, полученный методом наименьших квадратов.

    По  характеру этой кривой из справочника  выбираем теоретическую кривую и  ее уравнение, наиболее схожее с экспериментальной  кривой. Такой кривой является квадратическая парабола.  

            (45)

    В уравнение (45) подставляем экспериментальные значения h и b, и получаем систему условных уравнений:

            (46)

    сложив  которые, получаем нормальное алгебраическое уравнение

            (47)

    Затем каждое условно уравнение системы (46) умножаем на коэффициент при b и получаем вторую систему уравнений:

            (48)

    сложив  которые находим второе алгебраическое уравнение 

            (49)

    Затем каждое уравнение системы (48) умножаем на коэффициент при c и получаем третью систему уравнений:

            (50)

    и третье нормальное алгебраическое уравнение

            (51)

    Таким образом, получаем систему из трех нормальных алгебраических уравнений с округлением  численных значений:

            (52)

    Решая систему обычным способом, находим

          

    Подставив значения a, b, c в исходное уравнение (45), имеем искомое выражение зависимости скорости течения реки от ее глубины

        (53)

    Подставляя  в (53) значение h из таблицы 2, вычисляем значения скорости реки:

          

    которые занесем в колонку 4 таблицы 2 и нанесем в виде точек «х» на график. Вычисленные точки соединяем выровненной плавной кривой, так как они лежат строго на ней.

    Необходимо  оценить достоверность аппроксимации  экспериментальных результатов. Для  этого используются оценивающие  показатели: среднеквадратическое отклонение вычисленных значений скорости от экспериментальных и коэффициент корреляции

    Отклонения  указанных скоростей  заносим в 5-ю колонку таблицы 2. Подставив их значения в формулу среднего квадратического отклонения, находим

            

    Значение  среднего квадратического отклонения небольшое, что свидетельствует  о высокой достоверности аппроксимации  экспериментальных результатов  уравнением квадратической параболы.

    Теперь  вычислим значение коэффициента корреляции по формуле

            (54)

    Для того чтобы подставить необходимые  значения в формулу (54), предварительно выполним вычисления по глубинам реки. Задавшись абсолютной погрешностью измерения глубины реки мерной линейкой равной 1 см (одно деление), получим

    

    где h_np — показания прибора (мерной линейки);

    h_g — действительное значение, полученное как среднее арифметическое измерения одной и той же глубины.

    При этом принимаем, что для всех 10 измерений  погрешность одинакова. Тогда  В этом случае среднее квадратическое отклонение измерений глубины реки

    

    Подставив значения в (54), получим Такое значение r свидетельствует об хорошей корреляции между переменными и Значения показателей и r в данном примере подтверждают высокую достоверность аппроксимации экспериментальных результатов уравнением квадратической параболы. Как следует из приведенного примера обработка экспериментальных данных методом наименьших квадратов в ручную весьма трудоемка даже при малом числе наблюдений. Она значительно облегчается при использовании ЭВМ, правда при этом механизм метода остается неясен. 
 
 
 
 

    4. Теоретические основы  корреляционно –  регрессионного анализа

    Корреляционно-регрессивный анализ включает в себя: оценку степени взаимосвязи случайных величин Y (функция, отклик) и Х (аргумент, фактор) с помощью коэффициента корреляции; выбор уравнения регрессии и определение его параметров; оценку достоверности и адекватности аппроксимации результатов наблюдений.

    Требуется установить зависимость исследуемой  случайной величины Y от одной X (Y=f(Х)) или нескольких Х₁, Х₂ … Х_n (Y=f(X₁,X₂…X_n)) случайных величин.  В этом случае случайные величины Y и Х могут быть связаны либо функциональной зависимостью, либо корреляционной, либо быть независимыми.

    Функциональная зависимость реализуется когда каждому значению аргумента Х соответствует одно значение отклика Y. Однако такая зависимость на практике существует редко, так как одна или обе величины подвержены воздействию случайных факторов, подчас трудно учитываемых. В этом случае возникает статистическая зависимость, для которой изменение одной величины влечет за собой изменение распределения другой величины. Такая зависимость называется корреляционной. Часто при корреляционной зависимости одному значению Х соответствует несколько значений Y. При этом определяется условное среднее значение и рассматривается регрессионная зависимость случайной переменной как функция от , т. е. =f(х). Это уравнение называется выборочным уравнением регрессии Y от Х, функция f(Х) называется выборочной регрессией Y от Х и ее график – выборочной линией регрессии Y от Х. Поскольку на практике при определении экспериментальных зависимостей  исследуемых величин (процессов), имеем дело с ограниченными выборками (ограниченным числом наблюдений) по отношению к генеральным (абстрактным, бесконечным) совокупностям, то слово «выборочные» опускается, при этом подразумеваются выборочные характеристики, совокупности, параметры.

    Чтобы предварительно определить наличие  корреляционной (регрессионной) связи  между Х и Y, данные наблюдений наносятся в виде точек на масштабную сетку и строится так называемое корреляционное поле, например, как показано на рисунке 7.

    

    Рисунок 7 — Характер корреляционного поля:

    а — имеется связь между Х и Y; б — не имеется связи между Х и Y

    Из  рисунка 7, а видно, что экспериментальные данные имеют определенную связь между Х и Y, а из рисунка 7, б видно, что такой связи нет. По форме корреляционного поля можно ориентировочно судить о форме графика, характеризующего прямолинейную или криволинейную зависимости, что позволяет выбрать вид аппроксимирующего уравнения регрессии.

    Если  для каждого значения определить среднее значение и для каждого определить , то можно получить ломаную линию, называемую экспериментальной регрессионной зависимостью.

    Наличие ломаной линии объясняется погрешностями  измерения величин Х и Y, недостаточным количеством наблюдений, физической сущностью исследуемого процесса и др. Ломаную линию нужно выпрямить. Для этого по усредненным точкам  и следует провести плавную кривую, равноудаленную от этих точек, которая будет называться линией теоретической регрессионной зависимости, как показано на рисунке 7, а, но не уточненная обработкой экспериментальных данных.

    Регрессия может быть: линейной и нелинейной (криволинейной), однофакторной (парной), многофакторной (множественной).

    Простая линейная, парная регрессия отражает связь зависимости признаков  Y от Х, найденная по выборке пар опытов n, она описывается уравнением прямой линии

          Y = а + ρх, или Y = а + bх, 

    где ρ — выборочный коэффициент регрессии.

    Если  данные наблюдаются по одному разу, то группировать их нет необходимости, и в этом случае нет необходимости  использовать понятие условного среднего. Параметры уравнения прямой ρ и а определяются по данным выборки методом наименьших квадратов, сущность которого сводится к минимальной сумме квадратов отклонений между экспериментальными данными и вычислениями (теоретическими) данными регрессии. Поскольку неизвестных два, то составляется система линейных уравнений, относительно ρ и а. Решив эту систему, находим выражения искомых параметров:

           ; (5.)

            (56)

    или

           . (57)

    При большом числе наблюдений одни и  те же значения величин могут повторяться  несколько раз, т. е. одна и та же пара чисел (Х, Y) может повторяться n раз. В этом случае данные наблюдений целесообразно для дальнейших расчетов группировать по частотам n_х, n_у, n_ху. Все сгруппированные данные записываются в виде корреляционной таблицы. Под частотой понимается суммарное число наблюдений с одинаковыми значениями. Сумма всех частот представляет собой общее число наблюдений n. Очевидно, что

    При упорядоченных (сгруппированных) данных в виде корреляционной таблицы выборочное уравнение прямой линии регрессии  имеет вид

           _, (58)

    где , — выборочные средние;

      , — выборочные средние квадратические отклонения x и y;

      — выборочный коэффициент корреляции.

    Опуская слово «выборочные» для экспериментальных  данных  и тильды над параметрами  выражения (58), уравнение прямой регрессии  имеет вид

           . (59)

    Критерием близости корелляционной зависимости  между Х и Y к линейной функциональной зависимости является коэффициент корреляции , который равен произведению выборочного коэффициента регрессии ρ на отношение дисперсий , т. е. . Выборочный коэффициент корреляции является статистической оценкой коэффициента корреляции генеральной совокупности и поэтому также служит мерой линейной связи между величинами Y и Х.