Особенности использования информации по Шеннону в задачах, связанных с линейной регрессией

В статье рассматривается использование количества информации по Шеннону (SIQ) в задачах, связанных с линейной регрессией. Показано, что SIQ, содержащееся в компонентах отклика относительно стохастических параметров, выражается через информационную матрицу Фишера, является выпуклым функционалом на множестве компонент отклика и при достаточно большом масштабе параметров эквивалентно использованию D-критерия в задачах планирования эксперимента. Определено SIQ относительно постоянных параметров регрессии. Рассмотрена альтернативная постановка задачи оптимального планирования эксперимента (OEP) и проанализирована ее связь c традиционной постановкой. Рассмотрена задача информационного упорядочивания данных при использовании регрессии на базис главных компонент. Предложены алгоритмы, учитывающие ценность информации при наличии частичных пропусков данных.