Le signal reçu est d'abord filtré par un filtre de
réception, il est ensuite converti en bande de base. Sans perte
de généralité la phase est désormais
supposée égale à zéro. Les composantes normalisées en
phase et en quadrature du signal reçu en bande de base,
notées respectivement et sont données par
l'équation suivante:
La première étape consiste à projeter le signal reçu sur
une période symbole sur l'espace signal généré par les
différentes impulsions transmises. Cette opération s'effectue
en filtrant le signal reçu par les filtres adaptés aux
différentes impulsions transmises. Cette projection permet,
entre autre, d'éliminer la contribution de la composante du
bruit en dehors de l'espace signal. Il existe impulsions
différentes sur chacune des voies en phase et en quadrature.
Ainsi, le signal reçu sur une période symbole est d'abord
représenté par deux vecteurs chacun de taille . Ces deux
vecteurs sont combinés pour produire un vecteur de taille
. A l'instant la composante d'ordre ,
, du vecteur coordonnées, noté , est donnée par
l'expression:
Ce calcul est effectué pour toutes les valeurs possibles de
l'état de phase
et les valeurs possibles de
. Les coordonnées obtenues permettent de
calculer la métrique de chaque transition dans le treillis. Les
métriques élémentaires peuvent être interprétées comme
étant le résultat de l'intercorrélation entre les
composantes en phase et en quadrature du signal reçu et une
impulsion temporelle de durée . Les différentes impulsions
sont données par
et
.
Le vecteur peut aussi être obtenu, d'une manière
équivalente, en considérant la sortie de filtres
adaptés échantillonnées toutes les secondes. Les
réponses des différents filtres sont adaptés aux
différentes impulsions en phase et en quadratures transmises.
Désormais, et pour des raisons de simplicité, on travaillera
dans le domaine complexe, les opérations de filtrage et de
calcul des métriques sont effectuées dans le corps des
complexes
. On considère un banc de filtres
adaptés dont les réponses sont adaptées aux différentes
impulsions susceptibles d'être transmise. Ces impulsions sont
notées
, et
s'écrivent sous la forme:
La sortie (complexe) de ce banc de filtres à un instant
sera toujours notée . La métrique d'une transition
est donnée par la probabilité conditionnelle du signal
reçu sachant .
(5.2)
Le vecteur représente la moyenne de la variable gaussienne
et sa matrice de covariance qui est
symétrique et positive. En supposant que la transition en
question correspond à l'impulsion
avec
alors le vecteur et la matrice sont
calculés de la façon suivante:
sachant que toutes les impulsions ont le même module,
la métrique peut être calculée comme suit: