1.3.2 Propriétés d'un bon estimateur

L'estimation idéale aurait une densité de probabilité f_{$\widehat{{\alpha}}$} = $\delta$($\alpha$ - $\widehat{{\alpha}}$) . L'estimateur réel s'en écarte et il y a donc du sens à parler de moyenne et de variance de l'estimateur. En pratique, on lui associe les paramètres de qualité suivants:

• le biais. Le biais est défini par

  $$\widehat{{\alpha}} \mu_{{\widehat{\alpha}}}^{} \alpha$$ (1.41)

  
  
  Un estimateur de biais nul est dit non biaisé.
• la variance de l'estimateur, qui est celle de la variable $\widehat{{\alpha}}$ , soit

  $$\sigma_{{\widehat{\alpha}}}^{{2}} \left\{\vphantom{ (\widehat{\alpha}-\mu_{\widehat{\alpha}})^{2}}\right. \widehat{{\alpha}} \mu_{{\widehat{\alpha}}}^{} \left.\vphantom{ (\widehat{\alpha}-\mu_{\widehat{\alpha}})^{2}}\right\}$$ (1.42)

  
  

• l'erreur quadratique moyenne (Mean Square Error). Il s'agit de la quantité

  $$\widehat{{\alpha}} \left\{\vphantom{ (\widehat{\alpha}-\alpha)^{2}}\right. \widehat{{\alpha}} \alpha \left.\vphantom{ (\widehat{\alpha}-\alpha)^{2}}\right\}$$ (1.43)

  
  
  On montre aisément que

  $$\widehat{{\alpha}} \widehat{{\alpha}} \sigma_{{\widehat{\alpha}}}^{{2}}$$ (1.44)

  
  

S'il est souhaitable que l'estimateur soit non biaisé, les moments d'ordre 2 jouent un rôle capital quand il s'agit d'examiner la convergence des estimateurs. En effet, il ne servirait à rien d'avoir un estimateur non biaisé mais avec un écart type élevé. Comme il faut que biais et écart type soient tous deux petits, la meilleure mesure reste l'erreur quadratique moyenne.

On parle d'estimateur consistant si son erreur quadratique moyenne tend vers 0 lorsque la durée d'observation tend vers l'infini, soit

$$\lim_{{N\rightarrow+\infty}}^{} \widehat{{\alpha}}$$ (1.45)

Cette condition, à mettre en parallèle avec l'ergodisme, est essentielle quand il s'agit d'exploiter les données d'échantillons prélevés sur une longue période.