Задача построения одномерной линейной регрессионной модели «доза—эффект» сводится к вычислению значений коэффициентов уравнения. Впервые в отечественной литературе для решения этой задачи В.Б. Прозоровским и соавт. (1962) было предложено использование метода наименьших квадратов. Для последующего анализа его достоинств и недостатков мы сочли необходимым показать его применение в алгоритмическом виде, удобном для статистической обработки и программной реализации на ЭВМ.

В математической статистике регрессией называется зависимость среднего значения (непостоянная функция) какой-либо величины от значений некоторой другой величины или от значений нескольких величин. Регрессионная модель показывает, насколько в среднем изменяется зависимая переменная у (вероятность эффекта) при изменении независимой переменной х (испытанных доз).
Параметры линейной регрессионной модели ук = а + bх, определяющей значение y, при использовании п пар значений х и у.

Если ts (вычисленное значение) больше f (табличное) при степени свободы f=n- 2 и вероятности ошибки Р = 0,10) (критерий односторонний, см. Приложение, табл. 1), то коэффициент b признается значимым. Этот уровень вероягносги нулевой гипотезы считается достаточным для принятия решения о значимости отличия коэффициента b от нуля.

В случае, когда дисперсия а2 неизвестна, оценку адекватности (достоверности) модели «доза—эффект» можно произвести но однофакторному дисперсионному анализу.
Самый узкий доверительный интервал имеют значения, находящиеся в середине исследуемого диапазона доз, т. е. близкие к ED50. По мере удаления от среднего значения доверительный интервал искомой величины увеличивается.

Сравнивая формулы, нетрудно заметить, что величина S2 является фактором гетерогенности Н.
Кроме того, совершенно ясно, что доверительные интервалы, найденные по формуле, характеризуют варьирование заданной величины только по причине точности прохождения прямой линии между точками исходных данных и не имеют никакого отношения к условию нормальности функции эффективности, которое основано на соответствии частот эффектов (пробитов) квантилям функции нормального распределения.

Таким образом, применение метода наименьших квадратов для решения задач пробит-анализа в свою очередь привело к возникновению ряда новых проблем.
Во-первых, приведенный алгоритм построения линейной регрессионной модели «доза—эффект» по имеющимся исходным данным позволяет находить только величины вероятностей эффекта и их доверительные интервалы. Найти величину средпеэффективной дозы, а тем более ее доверительные интервалы по этой модели в принципе невозможно.

Для устранения несоответствий, возникающих по причине ортогональности линейной регрессионной модели, можно было бы использовать в качестве независимой переменной величины частот эффектов преобразованные в квантили функции нормального распределения (Zi) и строить модель вида: EDi = ED50 + S FD50 *Zi, в которой среднеэффективная доза при Zi = 0 (что соответствует 50 %) и другие категории эффективных доз определяются явно. Однако в этом случае частоты эффектов, найденные на малых выборках (по 6—10 наблюдений) будут иметь большой доверительный интервал (погрешность). Это приведет к еше большей неопределенности линейной регрессионной модели. Одновременно искажается логическое соотношение между зависимой и независимой переменными, т. е. устанавливается зависимость лозы от эффекта, что не имеет биологического смысла.

- Читать далее "Требования для проведения регрессивного анализа. Методы проведения линейного регрессивного анализа"