Details

Title: Особенности использования информации по Шеннону в задачах, связанных с линейной регрессией // Научно-технические ведомости Санкт-Петербургского государственного политехнического университета. Сер.: Физико-математические науки. – 2019. – С. 164-176
Creators: Пичугин Ю. А.
Imprint: 2019
Collection: Общая коллекция
Subjects: Математика; Теория вероятностей; линейная регрессия; математические задачи; стохастические параметры; информация Шеннона; Шеннона информация; энтропия (математика); информационные матрицы; linear regression; math problems; stochastic parameters; Shannon information; number of information; entropy (mathematics); information matrices; information Shannon
UDC: 519.21
LBC: 22.171
Document type: Article, report
File type: PDF
Language: Russian
DOI: 10.18721/JPM.12314
Rights: Свободный доступ из сети Интернет (чтение, печать, копирование)
Record key: RU\SPSTU\edoc\61976

Allowed Actions: Read Download (2.4 Mb)

Group: Anonymous

Network: Internet

Annotation

В статье рассматривается использование количества информации по Шеннону (SIQ) в задачах, связанных с линейной регрессией. Показано, что SIQ, содержащееся в компонентах отклика относительно стохастических параметров, выражается через информационную матрицу Фишера, является выпуклым функционалом на множестве компонент отклика и при достаточно большом масштабе параметров эквивалентно использованию D-критерия в задачах планирования эксперимента. Определено SIQ относительно постоянных параметров регрессии. Рассмотрена альтернативная постановка задачи оптимального планирования эксперимента (OEP) и проанализирована ее связь c традиционной постановкой. Рассмотрена задача информационного упорядочивания данных при использовании регрессии на базис главных компонент. Предложены алгоритмы, учитывающие ценность информации при наличии частичных пропусков данных.

The article discusses the use of the Shannon information quantity (SIQ) in the tasks associated with linear regression. It has been shown that the SIQ contained in the response components with respect to stochastic parameters is expressed through the Fisher information matrix, is a convex functional on the set of response components, and is equivalent to the use of the D-criterion in the problems of planning the experiment at a sufficiently large scale of parameters. The SIQ relatively constant regression parameters were determined. An alternative formulation of the optimal experiment planning (OEP) problem was considered and its relation to the traditional formulation was analyzed. The problem of information ordering of data using regression on the basis of principal components was considered. Some algorithms taking into account the value of information in the presence of partial data gaps were proposed.

Document access rights

Network User group Action
ILC SPbPU Local Network All Read Print Download
-> Internet All Read Print Download

Usage statistics

stat Access count: 295
Last 30 days: 17
Detailed usage statistics