Abstract

In this paper, we describe an efficient decomposition algorithm for parameter estimation of linear dynamical systems with the state-space formulation which contain a “drive” term as a free, unknown system parameter. The dynamical system can be viewed as a natural extension from the discrete-state hidden Markov model to its continuous-state counterpart. The focus of this paper is on unified techniques for efficient estimation of the parameters of such a model. The Expectation-Maximization (EM) algorithm is developed, in conjunction with the conventional Kalman smoothing estimators, for estimating the system parameters by maximum likelihood. The algorithm developed is applicable to either stationary or non-stationary version of the dynamic system. In particular, a decomposition technique is described in detail and is shown to reduce effectively the computational load in parameter estimation for high-dimensional systems. Simulation results are presented which demonstrate the accuracy of the proposed parameter estimation technique.

Zusammenfassung

Dieser Artikel beschreibt einen effizienten Zerlegungsalgoritmus zur Parameterschätzung linearer dynamischer Systeme. Es wird eine Zustandsraumdarstellung gewählt, die einen “Anregungsterm” als freien, unbekannten Systemparameter enthält. Das dynamische System kann als eine natürliche Erweiterung der zustandsdiskreten Modellierung mit verdeckten Markow Prozessen (HMM) zum zustandskontinuierlichen Gegenstück betrachtet werden. Ein EM-Algorithmus zur Maximum-Likelihood-Schätzung der Systemparameter wird in Verbindung mit konventionellen Schätzern mittels Kalman-Glättung entwickelt. Das Verfahren ist sowohl auf eine stationäre, wie nichtstationäre Version des dynamischen Systems anwendbar. Eine Zerlegungstechnik wird detailliert beschrieben und es wird gezeigt, daβ diese den Rechenaufwand zur Parameterschätzung bei hochdimensionalen Systemen erheblich reduziert. Es werden ferner Simulationsergebnisse präsentiert, die die Genauigkeit der vorgestellten Parameterschätzungsmethode demonstrieren.

Résumé

Dans cet article, nous décrivons un algorithme efficace de décomposition d'estimation des paramètres de systèmes linéaires, ayant une formulation dans l'espace d'état qui contient un terme “d'entraînement” comme paramètre inconnu et libre du système. Le système dynamique peut être vu comme une extension naturelle du modèle de Markov caché avec états discrets à sa contre-partie avec états continus. Dans cet article, l'accent est mis sur les techniques unifiées pour l'estimation efficace des paramètres d'un tel modèle. L'algorithme de Maximisation d'Espérance est développé, en conjonction avec les estimateurs d'adoucissement de Kalman conventionnels, pour estimer les paramètres du système à l'aide du maximum de vraisemblance. L'algorithme développé peut être appliqué aux versions stationnaires aussi bien que non-stationnaires du système dynamique. En particulier, on décrit en détail une technique de décomposition et on montre qu'elle réduit efficacement la charge de calcul lors de l'estimation des systèmes de dimension élevée. Des résultats de simulations sont présentés, qui montrent le précision de la technique d'estimation de paramètres proposée.

Author Keywords: Maximum likelihood; Decomposition algorithm; Kalman filter; Dynamical system

Article Outline

• References