Для адекватного проведения регрессионного анализа необходимо, чтобы оба признака в равной мере обладали случайной вариацией. Как отмечено в работе П.Ф. Рокицкого (1973), в биологических исследованиях возможны случаи, когда из двух изучаемых признаков только один свободно варьирует, значения же второго признака являются строго фиксированными. В таких ситуациях возможна только односторонняя регрессия. В случае зависимости «дом—эффект» свободно варьируют только значения эффектов, а значения доз являются строго фиксированными, поэтому по рассмотренным причинам применение для расчета средне эффективных доз моделей вида является невозможным.

Во-вторых, классическая схема линейного регрессионного анализа основана на предположении о том, что все исходные данные, содержащиеся в матрице переменной х (дозы), соответствуют истинным значениям и не содержат ошибок.

В экспериментальной практике дозы, как правило, измеряют с ошибками, иногда весьма значительными. Так, еще в работах М.А. Великанова (1962) и В.П Бородюк (1970) показано, чго ошибки независимых переменных приводят к существенному уменьшению коэффициента корреляции, коэффициента b и к конечном счете — к снижению достоверности самой линейной регрессионной модели.

В-третьих, нельзя обойти вниманием и тот факт, что статистическая оценка линейности регрессионной модели не является однозначной оценкой нормальности зависимости «доза—эффект». Напомним, что функция эффективности и коэффициент b модели при нормальном распределении эффективных доз могут находиться только в определенном диапазоне числовых значений. Например, при малом угле наклона прямой «доза—эффект» к оси абсцисс даже в случае абсолютно линейного расположения точек на графике нормальности функции эффективности может и не наблюдаться по причине большого значения коэффициента вариации. Обоснованность данного положения покажем на следующем гипотетическом примере.

По методу наименьших квадратов построена линейная регрессионная модель «доза—эффект», определены значения показателей ее адекватности и величины среднеэффективных доз, вычисленные по пробит-методу Литчфилда—Вилкоксона по дозам и логарифмам доз.

Анализ данных показывает, что, несмотря па статистически подтверждаемое наличие линейной зависимости «доза—эффект», интерпретировать результаты расчета среднеэффективпой дозы как надежные нельзя по причине больших значений коэффициентов вариаций. Они существенно превышают критическое значение коэффициента вариации, равное 33 % для нормального и логарифмически нормального распределения.

В данном случае нарушается правило «трех сигм» как одно из фундаментальных положений теории вероятностей. Правило «трех сигм» вытекает из того положения, что трехсигмовые границы принимаются за границы практически предельных возможных значений нормально распределенной случайной величины. Если случайная величина имеет нормальное распределение, го отклонение этой величины от математического ожидания по абсолютной величине не превосходит утроенного среднеквадратического отклонения с вероятностью Р = 0,0025. На этом основании по данному критерию можно косвенно определить соответствие любой случайной величины и в частности функции эффективности, нормальному закону. Так, в работе Е.Н. Львовского (1982) прямо указывается, что если коэффициент вариации превосходит значение 33 %, то распределение случайной величины, определенное по совокупности экспериментальных наблюдений, отличается от нормального закона.

Следовательно, применение линейной регрессионной модели не является адекватным решением проблемы оценки зависимости «доза-эффект». Модификация пробит-анализа в методе Финни еще больше усугубила этот путь оценки зависимости «доза— эффект».

- Читать далее "Метод Финни. Преимущества и недостатки метода Финни"