Processus stochastiques et traitement statistique de ... 1 Introduction et... · ... fut à la base du développement de la théorie du signal et de ... fondamentaux de Claude Shannon

1

UNIVERSITÉ DE

SHERBROOKE 10-janv.-13 D Gingras - UdeS - GEI 756 Bloc 1 Semaine no. 1 1

Processus stochastiques et traitement statistique de signaux aléatoires

Bloc 1 : Introduction et description du cours

GEI 756

Denis Gingras

Janvier 2013

UNIVERSITÉ DE


Introduction au TSS (traitement statistique du signal)

Objectifs du cours Plan du cours Méthodologie Évaluation Horaire du cours Planification des travaux Ressources bibliographiques Révision des pré-requis

Table des matières

2

UNIVERSITÉ DE


Place du traitement des signaux dans le domaine de la science en général Les applications des sciences et de l’ingénierie sont généralement regroupées en trois domaines principaux, d'ailleurs largement interdépendants :

les sciences et les techniques des matériaux les sciences et les techniques de l'énergie; les sciences et les techniques de l'information. La théorie et le traitement des signaux est une discipline appartenant au troisième domaine, auquel elle apporte à la fois des bases théoriques fondamentales et des techniques particulières. NB: Son influence déborde toutefois aussi sur les deux autres domaines, dans la mesure où l'on y rencontre de nombreux phénomènes (fluctuations de charge d'un réseau électrique, vibrations d'une machine tournante, caractérisation spectrale d’un matériau, etc.) qui peuvent être étudiés avec les mêmes outils de traitement de données que ceux utilisés pour les signaux informationnels.

Introduction au TSS

UNIVERSITÉ DE


Les circuits de télécommunications acheminent le signal électrique ainsi créé vers son destinataire. L'informatique, grâce à son énorme puissance de calcul, permet d'effectuer des tâches complexes de manipulations et d'interprétation de l'information véhiculée par le signal (traitement numérique). L'universalité du traitement des signaux est attestée par la diversité des secteurs d'application : industriels, scientifiques, biomédicaux, militaires, spatiaux, etc. Ce que nous apprenons du monde qui nous entoure et de nous-mêmes provient de signaux qui sont traités.

La métrologie fournit les capteurs qui traduisent pratiquement n'importe quel phénomène physique en une grandeur électrique facilement amplifiée, filtrée, conditionnée, codée, etc., par des dispositifs électroniques appropriés.

Introduction au TSS

3

UNIVERSITÉ DE


Le mot signal provient de signe — signum en latin — qui dénote un objet, une marque, un élément de langage, un symbole convenu pour servir de vecteur à une information. L'usage des signes remonte à la préhistoire.

Ce n'est qu'au XIXe siècle qu'apparaît l'exploitation des signaux électriques avec l'invention du télégraphe électrique (Morse, Cooke, Wheatstone, 1830-1840). Cette invention est rapidement suivie par celle du téléphone (Bell, 1876), puis par la réalisation des premières liaisons radio (Popov, Marconi, 1895-1896).

L'émergence de l'électronique, au début du XXe siècle (Fleming, Lee de Forest, 1904-1907) permet enfin la détection et l'amplification de faibles signaux. Ce sont là les véritables prémices du traitement des signaux.

Introduction au TSS : Aperçu historique

UNIVERSITÉ DE


Les auteurs des premières contributions à l'étude mathématique des fluctuations du courant électrique se sont efforcés d'adapter à ce cas la méthode d'analyse développée par Fourier ( 1822 ) dans le cadre de ses travaux sur la propagation de la chaleur.

Les premiers travaux importants généralisant cette méthode aux phénomènes et signaux aléatoires ont été publiés à l'aube des années 1930 par Wiener et Khintchine. L'optimisation des moyens de télécommunications et de radar (pendant la deuxième guerre mondiale) fut à la base du développement de la théorie du signal et de l'information que nous connaissons aujourd'hui.

Dans les années 1920 déjà, Nyquist et Hartley s'étaient attachés à quantifier la quantité d'information transmise sur une voie télégraphique et avaient observé que la cadence maximum de transmission est proportionnelle à la largeur de bande fréquentielle disponible. In ne faut pas oublier Fisher également en agriculture à cette époque.

Il faut toutefois attendre jusqu'en 1948-1949 pour que paraissent les travaux fondamentaux de Claude Shannon sur la théorie mathématique de la communication et de Norbert Wiener sur la cybernétique (communication et commande) et le traitement optimal des signaux ou des données affectés par du bruit.

L'élément novateur est ici la prise en compte de l'aspect statistique des phénomènes étudiés.


4

UNIVERSITÉ DE


D'autres chercheurs ont contribué au développement initial de cette théorie. Citons particulièrement : Küpfmüller, Gabor, Woodward, Kolmogorov,Kotelnikov, Rice, Goldman, Lawson et Uhlenbeck, Ville, Blanc-Lapierre, Picinbono, Papoulis, Brillouin.

Les années 50 ont constitué une période de maturation, suivie rapidement par la publication de nombreux ouvrages à vocation essentiellement didactique. Simultanément, l'invention du transistor, en 1948, suivie environ dix ans plus tard par la technologie des circuits intégrés, allaient permettre la réalisation de systèmes de traitement complexes et la diversification des champs d'application.

Aujourd'hui, le traitement des signaux est une discipline autonome, qui intéresse de multiples domaines. Elle est complémentaire de l'électronique et de l'informatique, qui lui fournissent ses moyens (réalisations matérielle et logicielle).

L'évolution technologique rapide, qui permet la réalisation de processeurs spécialisés et programmable (ex. FPGA, DSP) à un coût modéré, assure au domaine un avenir durable et omniprésent.


UNIVERSITÉ DE


Les philosophes distinguent deux grandes méthodes pour acquérir des connaissances sur le monde qui nous entoure: Méthode inductive: du cas particulier à la loi générale. C’est un procédé qui vise à obtenir un principe général à partir d’un ensemble fini d’expériences et d’observations (ex. lois de Newton obtenues à partir des expériences sur la gravité). La méthode inductive constitue la base de l’apprentissage par expérience et de la science moderne. La méthode inductive est faillible, et ne peut atteindre le VRAI absolu (au sens logique), peu importe la quantité d’observations et d’expériences réalisées (ex. les lois de Newton sont moins précises que celles d’Einstein). Monde réel et incertain. Cela débouche sur la statistique inférentielle. Méthode déductive: de la loi générale au cas particulier. À partir d’un ensemble d’axiomes ou d’hypothèses générales, on dérive des propositions particulières. (ex. SI tous les humains sont mortels ET SI je suis humain, ALORS je suis mortel.). La méthode déductive est la base de la logique propositionnelle et de toutes les branches mathématiques. D’un point de vue purement logique, la méthode déductive est infaillible et permet de conclure sur le VRAI d’une proposition. Monde idéal, sans incertitude.

Introduction au TSS : un peu de philosophie…

5

UNIVERSITÉ DE


René Descartes 1596-1650

Inventeur de la géométrie analytique (alliance de la géométrie et de l'algèbre), Descartes est non seulement un mathématicien et philosophe de la raison, mais encore incarne-t-il l'aventure philosophique qui peut être celle de toute personne insatisfaite des opinions reçues. Parmi ses contributions, citons la géométrie (les espaces cartésiens, la logique, la décomposition d’un problème complexe en plusieurs problèmes simples (approche grandement utilisée en sciences modernes, en ingénierie et aussi en traitement du signal).

« Et j'avais toujours un extrême désir d'apprendre à distinguer le vrai d'avec le faux pour voir clair en mes actions et marcher avec assurance en cette vie »

Introduction au TSS : un peu de philosophie…

UNIVERSITÉ DE


Introduction au TSS Les questions que l’on se pose…

Pourquoi ? Philosophie/religion : sens

Comment ? IA, systémique, algorithmie (information procédurale et descriptive)

Quoi ? Qui ? Classification/reconnaissance

(information déclarative, étiquettes)

Combien ? Estimation (quantification/fréquence)

Où et quand ? Détection (présence/absence, oui/non)

Les questions du haut sont plus complexes que les questions du bas et leurs réponses contiennent davantage d’information. Faites l’analogie avec une enquête policière. Pensez au populaire programme télé CSI ou équivalent.

Com

ple

xité c

rois

sante

des

réponse

s

6

UNIVERSITÉ DE


Que signifie signal ? - Toute entité véhiculant une information

C’est une représentation obtenue à partir des variations d’une

grandeur physique dans le temps ou dans l’espace.

Exemples : Grandeur physique Information

Onde acoustique musique, parole…

Courant électrique mesure physique…

Traitement du signal :

Extraire l’information utile des données bruitées (filtrage, détection, estimation, analyse spectrale...)

Mettre en forme le signal (modulation, échantillonnage….)

-> forme adaptée à la transmission, au stockage ou à la visualisation

Analyser l’information: convertir en connaissances

-> classification, reconnaissance de formes, inférence

Introduction au TSS

UNIVERSITÉ DE


Dualité émetteur - récepteur Un signal peut être vu comme un “patron” (i.e. une “structure”) d’énergie (onde

EM) ou de matière (ex. ADN biomoléculaire) véhiculant de l’information.

Un signal implique toujours implicitement un récepteur (en effet, à quoi bon produire ou émettre un signal si il n’y a pas de récepteur). Un signal reçu ne fournit pas nécessairement toute la puissance requise pour produire une réponse (une réaction). Un récepteur est un mécanisme ou un système qui va associer à un signal une réponse (réaction). Parce qu’un signal ne fournit pas toute la puissance pour produire une réponse :

un récepteur requiert toujours de l’énergie et des fonctionnalités pour produire cette réponse, ex. transducteurs, portes logiques, amplificateurs etc. Un récepteur contrôle en partie la réponse, mais est sujet à l’erreur parce qu’il répond en fonction de signaux reçus qui sont à faible énergie et bruités. Un récepteur est donc inévitablement sujet à des contraintes pour la détection et la discrimination de signaux noyés dans le bruit ou en présence d’interférences. l’émetteur est en contrôle du signal émis, mais est sujet à des contraintes en dirigeant le signal au récepteur, imposées par les limites du récepteur visé

Ces attributs sur les signaux s’appliquent à toute forme de communication, biologique, électronique, acoustique, cellulaire, moléculaire, etc.

Qu’est-ce qu’un signal ?

7

UNIVERSITÉ DE


Les signaux déterministes (non-aléatoire):

On peut parfaitement prédire le signal;

Peut s’exprimer mathématiquement et parfaitement par des lois simples

Information seulement contenue dans ces lois; les nouvelles observations

ne contiennent aucune information

Quand on connaît le passé, la probabilité d’apparition d’une valeur donnée

à l’instant t est soit nulle, soit certaine (p = 1).

Les signaux déterministes continus peuvent être facilement extrapolés.

Les signaux déterministes contiennent peu ou pas d’information (ex

oscillateur)

On distingue 2 classes de signaux suivant leur évolution temporelle :

Introduction au TSS

UNIVERSITÉ DE


Les signaux aléatoires :

Ils sont imprévisibles, on ne peut pas les extrapoler

Impossible de les reproduire identique à eux-mêmes.

Ces signaux sont porteurs d’information (ex. parole, images, musique, etc.)

L’information contenue dans le signal est liée au degré d’incertitude,

d’aléatoire.

Ne peuvent pas être parfaitement décrits par des lois simples

Ce sont des paramètres statistiques qui définissent les possibilités

d’évolution du signal

Bruit: signaux indésirables. Le bruit est un signal perturbateur qui dégrade les

observations d’un signal désiré ou recherché (contextuel).

Introduction au TSS

8

UNIVERSITÉ DE


- Un signal physique est un signal expérimental physiquement réalisable

et mesurable par un capteur (ex un oscilloscope pour un signal électrique)

- Ce signal non-idéal est continu, avec une énergie finie.

- Son amplitude maximale est bornée.

- Son support temporel est fini.

- Ce signal est réel et causal (il est nul si le temps t est négatif)

- Son spectre a un support fréquentiel fini mesurable par un analyseur de

spectre

Ce signal est bruité

Signaux mathématiques versus signaux physiques

Introduction au TSS

UNIVERSITÉ DE


Un signal mathématique est une fonction d’un certain nombre de

variables dont l’une est souvent le temps. Appelons-la s(t).

Cette fonction idéale peut être discontinue ( ex. une onde carrée)

Elle peut avoir un support temporel infini

Cette fonction peut avoir une énergie infinie.

Elle est à valeurs dans ( ex. s(t)=cos(wt) ) ou dans ( ex. s(t)

= A exp (jwt) )

Elle a un spectre à support fréquentiel infini

Signaux mathématiques versus signaux physiques

Introduction au TSS

9

UNIVERSITÉ DE


Extraire l’information utile d’un signal (passer du non-contextuel au contextuel, passer des données brutes et imparfaites à la connaissance)

Traitement en vue d’une meilleure utilisation/visualisation des données

imparfaites Il s’agit souvent d’un problème inverse où il faut valider une

hypothèse (inférentielle) pour obtenir de nouvelles connaissances sur le phénomène étudié.

Qu’est-ce que l’information : Une définition statistique de Brillouin

donne l’information comme le rapport entre le nombre de réponses possibles d’une recherche avant et après l’observation. Si aucune information sur le problème n’était disponible, alors le problème aurait un espace de solution non-borné (infini). Si toute l’information sur le phénomène était disponible, alors il n’y aurait qu’une seule réponse possible (un point) dans l’espace des solutions.

Le but du traitement est donc de réduire au maximum cet espace de

solutions possibles (après observation) visant, pour des raisons pratiques et applicatives, à un seul point dans l’espace de solutions (solution unique).

Introduction au TSS

UNIVERSITÉ DE


Définition et objectif du traitement du signal

Le Traitement du Signal a pour but l’étude de l’information portée par des

signaux.

Il associe science fondamentale et technologie.

La science fondamentale s’appelle la Théorie du Signal.

Elle a pour but la description mathématique des signaux et leurs algorithmes de

traitement

La Technologie regroupe principalement l’électronique et les systèmes ordinés

l’Informatique Industrielle

Le traitement numérique des signaux et réalisation matérielle

On appelle signal toute variable physique qui porte une information.

Un signal est émis par un système physique et obtenu à l’aide d’un capteur.

Le traitement de cette information permet donc de caractériser l’évolution d’un

système physique

Le traitement statistique est une branche spécialisée du traitement du

signal, basée sur des modèles probabilistes.

Introduction au TSS

10

UNIVERSITÉ DE


Définition et objectif du traitement du signal

La conception d’un système de traitement de signaux « porteurs

d’information » (aléatoires) se base sur la modélisation et l’analyse de

caractéristiques moyennes d’une famille de ces signaux et non pas

d’un seul signal particulier (comme dans le cas déterministe).

La modélisation des familles de signaux aléatoires se fait à l’aide de la

théorie des probabilités.

L’analyse des caractéristiques moyennes d’un grand nombre de

signaux aléatoires se fait à l’aide de la statistique.

Introduction au TSS

UNIVERSITÉ DE


Quel est le but du traitement statistique des signaux ?

Extraire les composantes déterministes (des structures) des signaux aléatoires Malgré leur nature aléatoire et imprévisible, en obtenir des propriétés

déterministes afin de faire les opérations et tâches requises pour extraire l’information

Caractériser les composants aléatoires indésirables (incertitudes) qui

masquent (ou déforment) l’information contenue dans un signal. À l’ère des ordinateurs, de la numérisation et de la miniaturisation, nous

vivons dans un monde d’information. Partout, on retrouve des capteurs et des systèmes de mesures miniaturisés, intégrés et bon marchés qui génèrent de grandes quantités de données. Ces données sont la plupart du temps entachées de bruit ou dégradées par différents phénomènes parasites.

Le traitement statistique des signaux joue un rôle primordial pour l’extraction

de l’information utile et la génération de connaissances à partir de données brutes. Les techniques de traitement statistique des signaux constituent des outils de base que tout ingénieur devrait maîtriser.

Introduction au TSS

11

UNIVERSITÉ DE


Définition et objectif du traitement du signal SIGNAL : forme physique d’une information véhiculée par un système. C’est une représentation obtenue à partir des variations d’une grandeur physique. Exemples : courbe de température, code morse, tension aux bornes d’une résistance… TRAITEMENT DU SIGNAL : ensemble des techniques (analogiques, numériques) utilisées pour transformer un signal, l’analyser, l’exploiter, trier l’information contenue dans un signal, la transformer, en extraire le sens… Exemple : détection, estimation et restauration d’un signal audio noyé dans du bruit...

Introduction au TSS

UNIVERSITÉ DE


L’ordre des opérations Acquisition du signal But : obtenir un signal fiable (instrumentation de qualité) Traitement du signal But : extraire du signal l’information utile (restauration, filtrage), analyser l’information qui la compose (extraction de caractéristiques, segmentation). NB : Le traitement ne permet pas de créer de l’information, d’où l’importance de soigner la mesure ! Interprétation But : conclure sur le phénomène étudié (analyse, inférence, raisonnement)

Introduction au TSS

12

UNIVERSITÉ DE


Introduction au TSS

La représentation mathématique des signaux But : effectuer des opérations sur les signaux (en vue de les traiter) Moyen : représenter un signal (une information) sous une forme mathématique (opérations = +,-,x,…) Les mathématiques offrent plusieurs familles de modèles : fonctions d’une variable fonctions de plusieurs variables familles de fonctions fonctions continues fonctions discrètes ...

UNIVERSITÉ DE


Signal aléatoire Bruit

Introduction au TSS

Exemple: Transmettre la parole sur des cables d’alimentation du secteur 60 Hz.

Le signal important (utile) est la parole, c’est un signal aléatoire Le bruit gênant est déterministe, c’est une sinusoïde à 60 Hz

13

UNIVERSITÉ DE


Signaux aléatoires : signaux dont on ne peut connaitre les valeurs avant de les avoir observés : imprévisibles. TSS : modèles probabiliste et techniques permettant d'évaluer des propriétés statistiques (i.e. moyennes) d’un signal pour en avoir une meilleure connaissance quantitative. Exemples : Le bruit de fond additif est b(t), Le signal transmis par un système de communication. La suite est aléatoire et binaire. Questions typiques relative aux notions qui vont être introduites dans ce cours : Quelle bande passante réserver a priori à la transmission du signal x(t) ? Définir un concept de bande passante moyenne pour un signal aléatoire.

Introduction au TSS

( ) ( )n

n

x t a g t nT

n na

( ) ( ) ( )y t x t b t

UNIVERSITÉ DE


Variable aléatoire x = variable dont la valeur est imprévisible avant de l'observer lors d'une expérience.

Réalisation de x = valeur prise par x lors d'une expérience (mesure).

Signal aléatoire x(t) = signal, tel que pour tout t, x(t) est une variable aléatoire.

La réalisation d'un signal aléatoire x(t) = ensemble des valeurs prises par les v.a. x(t) quand t varie, appelée aussi trajectoire.

Un processus générateur (dit stochastique) peut produire une infinité de réalisations d’un signal aléatoire à sa sortie.

NB : On verra ces notions plus en détails à la semaine 3.

Introduction au TSS

14

UNIVERSITÉ DE


Les données sont entachées de diverses sources d’incertitude: Nature inconnue du processus Données incomplètes ou partielles Données distortionnées Données bruitées Données corrompues ou mélangées à des interférences Données vagues ou floues (arrondies) Le traitement statistique se base sur un cadre probabiliste pour permettre de tenir compte des diverses sources d’incertitude et de les mitiger. NB: Il y en a d’autres (ex. cadre possibiliste, logique floue, fonctions de croyance etc.)

Introduction au TSS

UNIVERSITÉ DE


La Théorie des probabilités permet de représenter et d’extraire les

caractéristiques statistiques (aussi appelées moments) d’un signal aléatoire

(sa valeur moyenne, sa variance, son autocorrélation, …)

Parmi les signaux aléatoires, on distingue :

Les signaux stationnaires : (les statistiques (moments) sont indépendantes

du temps)

ergodiques (une seule réalisation du signal permet d’estimer les statistiques)

non ergodiques

Les signaux non stationnaires

Ce cours sur les signaux aléatoires mettra l’accent sur les signaux

unidimensionnels gaussiens et stationnaires.

Introduction au TSS

15

UNIVERSITÉ DE


Classification des signaux

Signaux

Signaux transitoires

Signaux ergodiques

Signaux déterministes

Signaux aléatoires

Signaux

pseudo-périodiques

Signaux périodiques

Signaux non

périodiques

Signaux non

stationnaires

Signaux stationnaires

Signaux non

ergodiques

Signaux chaotiques

Introduction au TSS

UNIVERSITÉ DE


Exemple d’un problème générique : l’accent est mis sur l’extraction d’information utile à partir d’observations bruitées Y(t).

On veut caractériser le processus générateur inconnu X(t)

Signaux, données numériques bruitées, audio, images

Canaux: cables torsadés, optique, sans fil, satellite, mémoire d’ordinateur, circuits électroniques, biologique etc.

Le canal est modélisé soit comme un système déterministe/stochastique, linéaire/nonlinéaire, invariant ou non dans le temps, etc.

Y tCanal bruité

Système de traitement

X̂ tX t

Introduction au TSS

Processus Générateur

Signal observé

16

UNIVERSITÉ DE


Traitement et analyse de signaux

aléatoires

Statistiques

Théorie de

l’information

Probabilités

Processus

stochastiques

Physique

statistique

Autres Géométrie, analyse,

algèbre etc.

Le traitement et l’analyse de signaux aléatoires sont fortement basés sur les mathématiques appliquées et … les connaissances contextuelles !

Introduction au TSS

+ Info contextuelle de l’application

UNIVERSITÉ DE


L’importance des modèles en TSS et notion de robustesse Le traitement statistique de signaux est habituellement basé sur des hypothèses fortes, par exemple, les estimateurs, les détecteurs, les filtres etc. sont dérivés pour atteindre des performances qui seront optimales selon les modèles particuliers utilisés décrivant les signaux en jeu (ex. les modèles paramétriques ou les densités de probabilité (PDF)) et selon leurs caractéristiques supposées (ex. stationnarité, positivité, linéarité, indépendance et distributions identiques de v.a. (i.i.d) etc.) Toutefois, l’optimalité est atteinte uniquement si les hypothèses de départ sont vrais, i.e. qu’elles s’accordent avec la réalité (les observations). Si ce n’est pas le cas, la performance du traitement peut se dégrader fortement, même pour un faible écart des observations par rapport au modèle supposé initialement. Si la dégradation est faible même pour un écart non négligeable, on dit alors que l’algorithme est robuste. La robustesse est une qualité recherchée en TSS.

Introduction au TSS

17

UNIVERSITÉ DE


Processus physique Modèles stochastiques

(ex.PDF)

Caractéristiques?

Algorithmes de traitement

Information désirée

Critères (optimisation)

Introduction au TSS

Observations bruitées

Info a priori

Structures ?

UNIVERSITÉ DE


Capteur ou système de

mesure

Processus physique

Bruit

Signaux aléatoires

Distorsion

Signaux aléatoires

Modélisation Information utile et

connaissances obtenues

Information a priori

Introduction au TSS

Examinons ce schéma:

Deux termes-clefs : mesure et traitement, indiquent pourquoi la discipline s'est avant tout développée en relation avec les applications de la métrologie, responsable de la perception, des télécommunications et de l'informatique.

Algorithmes

Mesu

re

Tra

item

ent

18

UNIVERSITÉ DE


Modèle

Physique

Effet

instrumental

Modèle simulé

Processus expérimental

Processus

physique

inconnu

Effet

instrumental

Bruit

L’effet instrumental est parfois connu, le bruit n’est pas

nécessairement additif.

Pour trouver les paramètres inconnus du modèle physique, on

compare yi(t) et m{t,θ)}i , pour toute réalisation « i »

Données simulées

Non – bruitées

Réalisation du

modèle {m(t;θ)}i

Mesures

bruitées

yi (t)

Paramètres

inconnus θ

Introduction au TSS

UNIVERSITÉ DE


Introduction au TSS Exemple d’un modèle mathématique pour tenir compte de divers types de bruit et d’interférence. Ça peut très vite devenir compliqué !

1d d

ji ji i i i i jiX N e S e S W

Essayez avec Simulink !

19

UNIVERSITÉ DE


Les signaux et bruits sont habituellement décrits par leurs propriétés statistiques

Bruit

Processus stochastique

Stationarité, ergodicité, (au moins localement) ou non ?

Signaux

Variété intrinsèque du contenu

Transformations (modulation, géométrique, etc…)

Introduction au TSS

Chaque signal peut être représenté par un point dans un espace multidimensionnel. Les signaux similaires sont regroupés en classe.

UNIVERSITÉ DE


Un des attraits du traitement du signal

Décomposition d’un signal complexe f en composantes simples gi (c’est

la méthode de Descartes!)

On peut représenter le signal d’origine en le projetant sur ces

composantes simples et en sommant le résultat. On trouve 2 types de projections:

projections linéaires (ex. Séries de Fourier, PCA)

projections non-linéaires (ex. projections multi-échelles ou

projections sur des surfaces non-planes)

i i

i

f a g n

Introduction au TSS

20

UNIVERSITÉ DE


Décomposition d’un signal en primitives : pourquoi ?

Recherche de « structures » dans le signal Obtenir une approximation plus compacte Extraire les « composantes » principales du signal Obtenir une représentation plus localisée

Introduction au TSS

nXdécomposition

reconstruction

Signal d’origine

Signal transformé

1 2 5, , ,...X X X

Sélection des composantes

( )s t

ˆ( )s t

Il existe de nombreuses décompositions. Pouvez-vous en nommer quelques-unes ?

UNIVERSITÉ DE

SHERBROOKE

Introduction au TSS

10-janv.-13 D Gingras - UdeS - GEI 756 Bloc 1 Semaine no. 1 40

Dans une perspective de modélisation statistique, les méthodes utilisées exigent un modèle fidèle du processus (ex. lois de distribution). Ces approches tiennent leur performance de la connaissance précise des relations entre les différentes variables du processus ou du système étudié. (On verra des aspects détaillés de la modélisation à la semaine 12 du cours) Les méthodes par décomposition en fonctions simples (primitives) ne supposent habituellement aucune forme d’information à priori et comptent seulement sur les données historiques des processus ou systèmes étudiés. La transformée de Fourier est sans contredit l’une des décompositions (en exponentielles complexes) les plus célèbres.

21

UNIVERSITÉ DE


Décomposition approximative d’un signal en primitives

Introduction au TSS

Sous forme matricielle, on peut écrire une décomposition de la forme:

1

r

ij ik kj

k

V W H v w h

Où : ( )

( )

V matrice des m signaux de dimensions n

W matrice des r composantes prototypes de dimensions n x r

H matrice des poids encodage de dimensions r x m

Exemples de décomposition pour approximer un signal: VQ, PCA, NMF, ICA. Les différences entre les méthodes proviennent des contraintes

imposées sur les matrices W et H.

UNIVERSITÉ DE


Décomposition d’un signal en primitives

Introduction au TSS

VQ: quantification vectorielle Dans ce cas, la contrainte est que chaque colonne de H doit être un vecteur

unitaire avec un élément=1 et tous les autres éléments =0. Donc chaque signal de

base (colonne de W) est un signal prototypique. L’approximation consiste à

remplacer le signal original par le signal prototypique « le plus proche selon une métrique optimisée donnée ».

r

n m

r n

m

V W H

W

H V

22

UNIVERSITÉ DE



Introduction au TSS

PCA: analyse par composante principale Dans ce cas, la contrainte est que chaque ligne de H doit être orthogonale aux

autres et que toutes les colonnes de W doivent être ortho-normales. Contrainte moins rigide que la VQ. L’approximation consiste à remplacer le signal original par une combinaison linéaire de signaux « propres » (ou des images propres). En termes d’interprétation statistique, les signaux propres pointent vers les directions de variances maximales du signal original.

r

n m

r n

m

V W H

H

W

V

UNIVERSITÉ DE



Introduction au TSS

NMF: factorisation matricielle non négative Contrairement au PCA, les entrées de H et de W ne peuvent pas être

négatives. Seules les combinaisons linéaires additives sont permises. NMF est compatible avec la notion intuitive de combiner des parties pour former un tout. Intermédiaire entre la VQ et la PCA, l’approximation consiste à remplacer le signal original par un sous-ensemble des composants de base.

r

n m

r n

m

V W H

H

W

V

23

UNIVERSITÉ DE


Décomposition d’un signal en primitives simples Les conditions suivantes doivent être satisfaites: les primitives sont de même «type» (physique ou mathématique) la décomposition est exacte (la transformation doit être bijective) la décomposition doit être facilement réalisable l’analyse après décomposition doit être simple. la décomposition en primitives doit fournir des renseignements utiles et exploitables

Introduction au TSS

S(t) nXdécomposition

reconstruction

{primitives: présence / absence}

Caractérisation de l’information portée par le signal

UNIVERSITÉ DE


On comprend donc les problèmes posés au TSS :

Comment extraire l’information utile d’un signal ?

Comment transmettre l’information sans la dégrader ?

Comment transformer cette information pour la préserver/rehausser ?

Comment détecter le signal utile noyé dans le bruit ?

Comment filtrer le signal pour l’extraire du bruit ?

Introduction au TSS

24

UNIVERSITÉ DE


Exemples de tâches en traitement statistique du signal détection, filtrage, classification, caractérisation, analyse, rehaussement, prédiction, compression, identification.

3 cas typiques : signal connu noyé dans du bruit signal déterministe à paramètres inconnus noyé dans du

bruit signal aléatoire noyé dans du bruit

Introduction au TSS

UNIVERSITÉ DE


Deux domaines importants de la statistique inférentielle :

1) Théorie de la décision et de la détection :

signal connu noyé dans du bruit

télécommunications synchrone reconnaissance de formes classification de signaux

signal à paramètres inconnus noyé dans du bruit détection de pulse radar ou sonar classification de cibles classification de signaux biomédicaux spectrométrie

signal aléatoire noyé dans du bruit sonar passif détection sismique radioastronomie

Introduction au TSS

25

UNIVERSITÉ DE


Deux domaines importants de la statistique inférentielle :

2) Théorie de l’estimation

signal connu noyé dans du bruit

télécommunications synchrone (PAM, PFM, PPM) identification de systèmes déterministes

signal à paramètres inconnus noyé dans du bruit communication analogique (amplitude ou phase inconnue) estimation de vitesse, distance ou d’angle en radar ou en

sonar analyse spectrale en spectrométrie

signal aléatoire noyé dans du bruit caractérisation de signaux biomédicaux caractérisation des signaux reçu de sonar passif caractérisation des signaux sismique caractérisation des sources en radioastronomie

NB: La statistique classique peut être vu comme un outil servant à inférer des grandeurs d’un modèle probabiliste (PDF) que l’on considère comme non-aléatoires à partir d’un nombre fini d’observations ou de mesures.

Introduction au TSS

UNIVERSITÉ DE


Les douze commandements du traitement et de l’analyse de signaux par ordinateur

1. Tu respecteras les lois de la physique (le traitement et l’analyse de signaux n'est pas un problème d'informatique mais de physique et de mathématique).

2. Tu t'inquièteras de savoir ce que tu mesures avant de te demander ce que tu vas calculer.

3. Tu examineras et visualiseras tes données en tout temps lors de ton travail.

4. Tu chercheras avant tout les grandeurs quantitatives et reproductibles.

5. Tu te soucieras plus de la qualité de tes données que de la vitesse de calcul de ton ordinateur (importance de la qualité des capteurs et systèmes de mesure).

6. Tu honoreras l'algorithme plutôt que le langage de programmation.

7. Tu utiliseras toutes les informations a priori et contextuelles dont tu disposes.

8. Tu évalueras la performance de tes algorithmes par des simulations exhaustives et des essais sur un grand nombres de données réelles avant de conclure.

9. Tu éviteras, tant que faire ce peut, les approches empiriques ou les « boîtes noires ».

10. Tu auras la simplicité pour idéal.

11. Tu documenteras tes travaux et tes résultats avec le détail de tes algorithmes et paramètres utilisés.

et enfin, le douzième commandement : Tu ne te décourageras pas!

Introduction au TSS

26

UNIVERSITÉ DE


les vibrations sismiques,

les images satellite,

les signaux biomédicaux

la parole

les sons musicaux

les signaux radar

les signaux optiques

Le traitement d’image est une extension du traitement du signal (TS) qui traite

de signaux à deux dimensions: les images.

Le domaine d’application du TS est universel :

- les télécommunications,

- le traitement audio(parole et musique),

- le radar,le sonar et la sismologie,

- l’imagerie (médicale ou spatiale),

- l’automobile, l’instrumentation, la domotique …

Introduction au TSS: les applications La théorie et le traitement des signaux intéressent tous les secteurs techniques et scientifiques dans lesquels l'information est perçue par l'intermédiaire d'observations expérimentales de grandeurs mesurables.

UNIVERSITÉ DE


Objectif du cours

L’objectif de ce cours est de présenter les outils de description, de traitement et d’analyse statistiques du signal en s’appuyant sur le concept de processus aléatoire.

Ce cours s’inscrit dans le prolongement d’un cours de base sur les signaux déterministes et les systèmes linéaires.

En effet, alors qu’au niveau du baccalauréat, l’enseignement du traitement numérique du signal se fonde principalement sur des signaux déterministes, dans le monde réel, les principaux signaux sont de nature aléatoire. Donc, dans les applications réelles, impliquant du bruit et des incertitudes entachant les signaux et les données, les théories présentées dans ce cours s’avèrent essentielles.

27

UNIVERSITÉ DE


Fournir à l’étudiant une vue d’ensemble et une maîtrise de base

des outils de traitement et d’analyse de signaux aléatoires

Prendre une approche « Top-down » : principe du coffre à outil

Mettre l’accent principalement sur le cas linéaire, discret, gaussien et stationnaire

Mettre l’accent sur la résolution de problèmes plutôt que sur la démonstration de théorèmes

Adopter l’approche d’une participation active de l’étudiant.

Mettre l’accent sur la compréhension plutôt que sur la mémorisation.

Objectif du cours

Approche préconisée

UNIVERSITÉ DE


Objectifs d'apprentissage et compétences visées

L’étudiant se familiarise avec les signaux et les systèmes aléatoires L’étudiant comprend et peut appliquer les différentes méthodes pour la

modélisation et la représentation de signaux aléatoires. L’étudiant comprend et peut appliquer différentes méthodes de

traitement statistique du signal pour résoudre un problème donné. L’étudiant devient autonome dans le domaine et peut approfondir par

lui-même ses connaissances acquises dans ce cours.

L’étudiant est capable d’analyser un problème de TSS, de déterminer une procédure de traitement et de sélectionner les algorithmes les plus approprié pour l’application concernée.

Objectif du cours

28

UNIVERSITÉ DE


Bloc 1 : introduction, mise en contexte et description du cours (1 semaine)

Bloc 2 : notions de base (4 semaines)

Bloc 3 : traitement et analyse de signaux aléatoires (8 semaines)

Bloc 4 : Conclusion (2 semaine)

Plan du cours

UNIVERSITÉ DE


Pré-requis

Signaux déterministes

Systèmes linéaires analogiques et numériques

Transformées de Fourier, de Laplace et en Z

Théorie des ensembles

Quelques notions de probabilités

Algèbre linéaire

Analyse fonctionnelle

Notions de base de Matlab

29

UNIVERSITÉ DE


Semaine no. 1: introduction et mise en contexte

Plan du cours

Introduction au TSS (traitement statistique du signal)

Objectifs du cours

Plan du cours

Méthodologie

Évaluation

Horaire du cours

Planification des travaux

Ressources bibliographiques

Révision des pré-requis

UNIVERSITÉ DE


Semaine no. 2: introduction aux notions de statistiques et de probabilités

Plan du cours

Quelques rappels de la théorie des ensembles Diverses définitions de la probabilité Propriétés d’une fonction de probabilité Distributions et densités de probabilité Probabilité conditionnelle Règles de Bayes Expérience répétées, méthodes de comptage Inégalités Concepts de convergence et loi des grands nombres Variables aléatoires et leurs propriétés Transformation linéaire d’une variable aléatoire Moments statistiques et fonctions caractéristiques Diagonalisation des matrices de corrélation et covariance

30

UNIVERSITÉ DE


Semaine no. 3: introduction aux processus stochastiques

Plan du cours

Définition d’un processus stochastique

Propriétés

Indépendance

Orthogonalité

Corrélation

Stationarité

Ergodisme

Analyse des moments statistiques

Corrélation et covariance: cas gaussien simple

Théorème de Einstein-Wiener-Khinchin

Densité spectrale de puissance et décomposition de Wold

Échantillonnage d’un processus stochastique

Bruit « blanc » et processus à bande passante

Transformée de Karhunen-Loève

Processus composé ou processus stochastique double

Processus périodiques et quasi-périodiques

UNIVERSITÉ DE


Semaine no. 4: types de processus stochastiques: partie I

Plan du cours

Familles de processus

Introduction

Processus de Bernouilli

Marche aléatoire

Processus de Wiener

Mouvement brownien

Processus gaussien

Processus gaussien généralisé

Martingales

31

UNIVERSITÉ DE


Semaine no. 5: types de processus stochastiques: partie II

Plan du cours

Indépendance en probabilité conditionnelle

Processus de renouvellement

Probabilité Chaîne de Markov

Modèle de Markov caché

Algorithme « Forward », « Backward » et de Viterbi

Processus de comptage

Processus de Poisson simple et composé

Bruit de grenaille

UNIVERSITÉ DE


Semaine no. 6: transformations d’un processus stochastique

Introduction, taxinomie des systèmes

Transformation sans mémoire

Théorème de Price

Coup d’œil sur le cas nonlinéaire : transformation quadratique

Transformations linéaires et systèmes linéaires invariants

Effets d’une transformation linéaire sur les moments statistiques

Transformation avec mémoire : systèmes récursifs

Représentations spectrales et factorisation spectrale

Condition de Paley-Wiener

Exemple final: analyseur spectral analogique

Plan du cours

32

UNIVERSITÉ DE


Semaine no. 7: notions d’optimisation

Rappel sur les types de problème Optimisation: définition et principe Fonctions objectifs: cas linéaire et nonlinéaire Convexité Optimisation: cas complexe et multi-variable Stabilité Fonctions objectif: formulation et exemples Optimisation avec contraintes: multiplicateur de Lagrange Normes et critères l1, moindres-carrés, MinMax, ML, MAP

Méthodes numériques: introduction Survol des algorithmes d’optimisation locale Survol des algorithmes d’optimisation globale

Plan du cours

UNIVERSITÉ DE


Semaine no. 8: théorie de décision et détection

Introduction à la théorie de décision et à l’inférence statistique

Éléments de la théorie de détection

Détection d’un signal par corrélation croisée

Détecteur bayésien

Statistique suffisante

Détecteur à vraisemblance maximale

Détecteur Minimax

Détecteur MAP

Détecteur de Neyman Pearson

Test d’hypothèses composées

Caractéristique opérationnelle du détecteur (courbe ROC)

Détection séquentielle

Plan du cours

33

UNIVERSITÉ DE


Semaine no. 9: classification linéaire

Introduction à la classification ?

Espace de signaux et notions de distance

Extraction de caractéristiques

Techniques bayésienne: test d’hypothèses multiples

Classification linéaire (fonctions discriminantes)

Classification par moindres-carrés

Critère discriminant de Fisher

Fonctions de discrimination quadratique

Plan du cours

UNIVERSITÉ DE


Semaine no. 10: théorie d’estimation partie I

Introduction Estimation paramétrique vs non-paramétrique Estimation d’une densité de probabilité Quelques propriétés d’un estimateur Estimateur à vraisemblance maximale (ML- cas déterministe) Estimateur bayésien (cas aléatoire) Estimateur en moyenne quadratique (MS) Estimateur en moyenne valeur absolue (ABS) Estimateur MAP Estimation linéaire en moyenne quadratique (LMS) Estimation de moments statistiques Estimation de plusieurs paramètres: cas vectoriel Algorithme EM

Plan du cours

34

UNIVERSITÉ DE


Semaine no. 11: filtrage optimal

Introduction Filtrage adapté pour la détection Principe d’orthogonalité Filtrage optimal FIR pour l’estimation linéaire Prédiction linéaire Équations de Wiener-Hopf Filtrage optimal IIR pour l’estimation linéaire Filtrage IIR causal Filtrage IIR non-causal Filtrage récursif scalaire (filtrage séquentiel) Prédiction séquentielle (cas linéaire) Filtrage récursif vectoriel (filtre de Kalman) Décomposition de Wold

Plan du cours

UNIVERSITÉ DE


Semaine no. 12: modélisation et théorie d’estimation II

Modélisation introduction Observabilité d’un processus Identifiabilité d’un modèle Modèles physiques vs modèles empiriques Modèles incrémentaux – ordre d’un modèle Modèles linéaires rationnels (AR, MA, ARMA) Estimation de l’ordre d’un modèle Borne de Cramer-Rao Matrice d’information de Fisher Intervalles de confiance La technique de « bootstrap » Notions de base de la théorie de l’information

Plan du cours

35

UNIVERSITÉ DE


Semaine no. 13: estimation et analyse spectrale

Introduction Définition de la DSP Types d’estimateurs spectraux Estimation non-paramétrique

Périodogramme Périodogramme moyenné: estimateur de Bartlett Estimateur de Blackman-Tuckey (Corrélogramme) Périodogramme moyenné avec recouvrement: estimateur de Welch Les fenêtres d’apodisation Estimateur spectral à variance minimale

Estimation Paramétrique Modèles rationels AR, MA, ARMA, ARMAX Maximisation de l’entropie Méthode de Prony Prony étendue Méthode de Pisarenko Méthode de Music Esprit

Analyse spectrale analogique

Plan du cours

UNIVERSITÉ DE


Semaine no. 14 : Applications

Télécommunications et parole

Imagerie

Traitement d’antennes : radar, sonar, radio-astronomie

Télématique et géomatique

Instrumentation

Biomédical

Commande et contrôle de procédés

Économétrie et finance

Autres

NB: Les sujets abordés seront fonctions des projets de recherche (MSc et PhD) des étudiants inscrits au cours

Plan du cours

36

UNIVERSITÉ DE


Semaine no. 15 : examen final

Plan du cours

UNIVERSITÉ DE

SHERBROOKE 10-janv.-13 D Gingras - UdeS - GEI 756 Bloc 1 Semaine no. 1

Chaque séance de 3 heures sera divisé approximativement en 3 parties : Par le professeur Présentation de la matière et des notions couvertes durant la semaine incluant des exemples solutionnés (100 minutes) Par les étudiants (sous supervision) Exercices dirigés solutionnés en classe (TD) et/ou démos Matlab en classe (60 minutes) Ce faisant, les étudiants pourront également parfaire leurs aptitudes de synthèse et de communication. Par tous Discussion libre sur les notions du cours, conclusions et préparation du cours suivant (20 minutes) NB : Lors de la dernière séance du cours (semaine no. 14), chaque étudiant fera une courte présentation de son projet de recherche (15 à 20 min) en mettant l’accent sur les notions du cours GEI756 qui selon lui pourront être utilisées pour ses travaux de recherche. Le but est d’inciter une réflexion sur les notions apprises et de leur utilité dans des situations concrètes. Le matériel du cours est disponible aux étudiants inscrits sur le serveur du département. Minimisons l’utilisation du papier !

Méthodologie

37

UNIVERSITÉ DE


Exercices à remettre: directives Chaque série d’exercice sera transmise aux étudiants à chaque semaine du cours correspondant. Il y a environ 8 séries au total. Trois séries à remettre pour correction au choix. Cependant, il est fortement recommandé de faire toutes les séries pour maîtriser la matière. Chaque série d’exercices est à remettre au plus tard la semaine suivant le cours correspondant. Les copies corrigées seront retournées aux étudiants la semaine suivante. Les séries de problèmes à remettre comptent pour 30% des points Si plus de 3 séries sont remises. je prendrai les trois meilleures séries pour calculer la note finale de l’étudiant. Les exercices Matlab et travaux dirigés réalisés seront présentés en classe par les étudiants et compteront pour 40% des points. Le matériel préparé par les étudiants me sera remis.

Planification des travaux

UNIVERSITÉ DE


Heures de consultation pour le cours : Tous les jeudis et mardis de 9h30 à 12h00. Il est préférable de prendre rendez-vous ! Pour me rejoindre: Local C1-3117 Téléphone: 819 821-8000 poste 62579 Par courriel: [email protected] Mon site web: www.dgingras-artist.com

Méthodologie

mailto:[email protected]

http://www.dgingras-artist.com/



38

UNIVERSITÉ DE


Séminaires, exercices et démos en classe (40 points). Chaque étudiant durant le semestre fera trois travaux en classe (séries

d’exercices dirigés (TD) et Démos Matlab (DM)). L’horaire et l’assignation des travaux en classe sont déterminés au début du semestre Lors de la dernière semaine avant l’examen, tous les étudiants feront également un

court séminaire (15 à 20 min.) établissant les liens entre le cours et leurs travaux de recherche . Le séminaire fait par les étudiants sera présentés à l’aide de Microsoft Powerpoint, une copie est transmise au professeur

Examen final (individuel) Les livres, notes de cours et calculateurs sont permis. L’accès à Internet et les communications avec les autres étudiants sont interdites.

Séminaire, exercices et démos en classe 40%

Exercices à remettre (3 séries au choix) 30%

Examen final 30%

Évaluation

UNIVERSITÉ DE


Horaire du cours: Jeudi 13h30-16h30

Semaine no. Date Sujet

1 10 janvier 2013 Introduction au TSS et mise en contexte, discussions, questions/ réponses, révision des pré-requis

2 17 janvier Introduction aux notions de statistiques et de probabilités

3 24 janvier Introduction aux processus stochastiques

4 31 janvier Types de processus stochastiques: cas continu

5 7 février Types de processus stochastiques: cas discret

6 14 février Transformations d’un processus stochastique

7 21 février Notions d’optimisation

28 février Théorie de décision et détection

39

UNIVERSITÉ DE


Semaine no. Date Sujet

8 7 mars 2013 Semaine de relâche

9 14 mars Classificateurs linéaires de signaux

10 21 mars Théorie d’estimation I

11 28 mars Filtrage optimal

12 4 avril Modèles et théorie d’estimation II

13 11 avril Estimation et analyse spectrale

14 18 avril AM Applications et séminaires des étudiants

15 18 avril PM Examen final

Le cours se déroule au local C1-3067

Horaire du cours: Jeudi 13h30-16h30

UNIVERSITÉ DE



Aubin J - P., Applied functional analysis, Wiley, 1979. Bellanger M., Traitement numérique du signal : Théroie et pratique, Masson, 1987. Cottet F., Traitement des Signaux et acquisition de données, Dunod Golub Gene H., et al., Matrix computations, John Hopkins Uni Press, 1983. Kunt M., Traitement Numérique des Signaux, Presse Polytechnique Romande, 1980. Oppenheim Alan V., Schafer Ronald. W, Digital signal processing, Prentice-Hall, 1975. Rabiner L. R., Theory and application of digital signal processing, Prentice Hall, 1975. Strang G., Linear algebra and its application. Acad. Press., 1976. Zemanian A. H., Distribution theory and transform analysis: an introduction to generalized functions with applications, Dover, 1965.

Pour les pré-requis:

40

UNIVERSITÉ DE


Adby P.R., et al., Introduction to optimization methods, Chapman and Hall, 1982. Bendat J., Piersol, Random data : analysis and measurement procedures, Wiley, 1971 Blanchet G., Signaux et images sous Matlab, Hermes, 2001 Blanc-Lapierre A., Picinbono B., Fonctions aléatoires, Masson, 1981. Bogaert Patrick, Probabilités pour scientifiques et ingénieurs, Ed. De Boeck, Candy, James V., Signal processing: The modern approach, McGraw Hill, 1988 Duda R. O., Hart P. E. et al., Pattern classification, 2nd edition, Wiley, 2001 (avec le computer manual in Matlab) Engelberg Shlomo, Random signals and noise: a mathematical introduction. CRC Press, 2007 Fukunaga K., Introduction to statistical pattern recognition, Wiley, 1990 Hayes, M. H., Statistical Digital Signal Processing and Modeling, Wiley, 1996 Hippenstiel Ralph D., Detection theory: applications and digital signal processing, CRC Press, 2002 Kay, Steven M., Fundamentals of Statistical Signal Processing, Volume I: Estimation Theory, Prentice Hall, 1993

Pour le cours:


UNIVERSITÉ DE


Kay Steven., Fundamentals of Statistical Signal Processing: Detection Theory,, Prentice Hall, 1998. Kay Steven, Modern Spectral Estimation, Prentice-hall, 1988 Komo John J., Random signal analysis in engineering systems, Acad. Press, 1987 Lacoume, J . L., Théorie du signal Édition Que sais-je?, no. 2086, 1983 Leon-Garcia, A., Probability and Random Processes for Electrical Engineering. Addison-Wesley, 2nd ed., 1993. Manolakis Dimitris . G. et al., Statistical and adaptive signal processing, Artech House, 2005 Marcos S., Les méthodes à haute résolution – traitement d’antenne et analyse spectrale, Hermes 1998 Moon T. K. and W. C. Stirling, Mathematical Methods and Algorithms for Signal Processing, Prentice-Hall, 2000. Papoulis A., Probability, random variables and stochastic processes, McGraw Hill, 4e edition 2002 Picinbono B., Éléments de théorie du signal, Dunod 1977 Pierce D. A., Optimization theory with applications, Wiley, 1969

Pour le cours:


41

UNIVERSITÉ DE


Poor H. V., An Introduction to Signal Detection and Estimation, 2nd Ed., Springer-Verlag, 1994. Priestley M. B., Spectral analysis and time series, acad, press, 1981. Quinquis A., Le traitement du signal sous Matlab, Hermes, 2000 Réfrégier P., Théorie du bruit et applications en physique, Hermes, 2002 Scharf, Louis L., Statistical Signal Processing: Detection, Estimation, and Time Series Analysis, Addison-Wesley, 2002 Srinath M.D., P.K. Rajasekaran, R. Viswanathan, Introduction to Statistical Signal Processing With Applications, Prentice Hall, 1996 Stoica Petre et al., Spectral analysis of signals, Pearson prentice-Hall, 2005. Therrien C. W., Discrete random signals and statistical signal processing Van Tree, Harry L., Detection, Estimation, and modulation theory, Part I, Wiley, 1968 Yates Roy D. Goodman David G., Probability and stochastic processes: a friendly introduction for electrical and computer engineering, Wiley, 1999. Wozencraft J., Jacobs I., Principles of communication engineering, Wiley, 1965

Pour le cours:


UNIVERSITÉ DE


QUESTIONS?

Documents

Processus stochastiques et traitement statistique de ... 1 Introduction et... · ... fut à la base du développement de la théorie du signal et de ... fondamentaux de Claude Shannon