Received 18 June 1996;

accepted 15 July 1997.

Available online 5 August 1998.

Abstract

In this paper, we are concerned with those estimation and detection problems for which standard approaches based on the probability density function (pdf) are difficult to implement. We consider the characteristic function (cf) for the description of random variables (RVs). We use the empirical characteristic function (ecf) to estimate the cf of a mixture of symmetric

-stable (SS) RVs and extract information about their parameters. These parameters are further used in the design of discrete-time detectors which operate in a mixture of Gaussian and -stable noise. We introduce a novel receiver based on the ecf which exploits the correlation structure of the ecf evaluated at a finite number of points. We analyze and optimize analytically the performance of the detector proposed. The estimation and detection methods developed are general enough to be used for other noise models with the cf in a closed form, as it is demonstrated on univariate K-distributed data. Through numerical simulations, the ecf is shown to be a useful tool for parameter estimation and detection with high efficiency and certain robustness features. Statistical properties of the ecf and the ecf-based methods are examined and computational issues are discussed.

Zusammenfassung

In diesem Artikel werden Parameterschätz- und Signalentdeckungsprobleme behandelt, bei denen Standardverfahren, die auf der Wahrscheinlichkeitsdichtefunktion (Dichte) basieren, im allgemeinen schwierig zu implementieren sind. Als Beschreibung von Zufallsvariablen (ZV) wird die charakteristische Funktion (cf) verwendet. Wir benutzen die empirische charakteristische Funktion (ccf), um die cf einer Mischung von symmetrischen

-stabilen (SS) ZV zu schätzen und Informationen über ihre Parameter zu gewinnen. Diese Parameter werden dann zum Entwurf zeitdiskreter Detektoren benutzt, die mit Signalen arbeiten, die eine Mischung aus Gaußschem und -stabilem Rauschen enthalten. Wir führen einen neuartigen Empfänger ein, der auf der ecf basiert und ihre Korrelationsstruktur ausnutzt, die auf einer endlichen Zahl von Abtastwerten ausgewertet wird. Die Leistung des vorgeschlagenen Detektors wird rein analytisch untersucht und optimiert. Die entwickelten Methoden zur Schätzung und Entdeckung sind hinreichend allgemein, um sie auf andere Rauschmodelle, die sich durch eine cf in geschlossener Form beschreiben lassen, anwenden zu können. Dies wird anhand von eindimensional K-verteilten Daten demonstriert. Mit Hilfe numerischer Simulationen wird gezeigt, daß die cef ein nützliches Werkzeug zur Parameterschätzung und Detektion bei hoher Effizienz und mit gewissen Robustheitseigenschaften darstellt. Abschließend werden die statistischen Eigenschaften der ecf und der auf ecf basierenden Methoden untersucht und numerische Gesichtspunkte diskutiert.

Résumé

Nous nous intéressons dans cet article à ces problèmes d’estimation et de détection pour lesquels les approches standards basées sur la fonction de densité de probabilité (pdf) sont difficiles à mettre en oeuvre. Nous prenons en considération la fonction caractéristique (cf) pour décrire les variables aléatoires (RV). Nous utilisons la fonction caractéristique empirique (ecf) pour estimer la cf d’un mélange de variables aléatoires

-stables symétriques (SS) et extrayons de l’information sur leurs paramétres. Ces paramétres sont ensuite utilisés pour la conception de détecteurs en temps discret opérant sur un mélange de bruits gaussiens et -stables. Nous introduisons un récepteur nouveau basé sur l’ecf qui exploite la structure de corrélation de l’ecf évaluée en un nombre fini de points. Nous analysons et optimisons analytiquement les performances du détecteur proposé. Les méthodes d’estimation et de détection développées sont suffisamment générales pour pouvoir être utilisées pour d’autres modèles de bruit ayant une cf exprimable, comme il est montré sur des données K-distribuées univariées. Par le biais de simulations numériques, l’ecf est montrée être un outil utile pour l’estimation de paramètres et la détection, et présenter une grande efficacité et certains traits de robustesse. Les propriétés statistiques de l’ecf et des méthodes basées sur celle-ci sont examinées, et les considérations de calcul discutées.

Author Keywords: Detection estimation; Characteristic function;

-stable and K-distributions

Index Terms: Signal detection; Estimation; Signal receivers; Random processes; Functions; Optimization; Spurious signal noise; Statistical methods; Computer simulation; Empirical characteristic function

¹This work was supported by the Natural Sciences and Engineering Research Council of Canada (NSERC).

^*Corresponding author. Tel.: (902) 420-7703; fax: (902) 420-7535; e-mail: j.ilow@dal.ca.