29  Estimadores Eficientes

Dizemos que \(T(\boldsymbol{X}_n)\) é um estimador eificiente para \(g(\theta)\) se, e somente se,

  1. \(T(\boldsymbol{X}_n)\) é não-viesado para \(g(\theta)\).

  2. \(\mathrm{Var}_\theta(T(\boldsymbol{X}_n)) = \frac{g'(\theta)^2}{I_n(\theta)}, \forall \theta \in \Theta\). Em que \(I_n(\theta)\) é a informação de Fisher total.

29.1 Exemplo (Binomial)

Seja \(\boldsymbol{X}_n\) amostra aleatória de \(X\sim \mathrm{Bin}(3,\theta), \theta \in \Theta = (0,1)\).

a-) Verifique se \(\frac{\bar{X}}{3} = \frac{1}{n} \sum X_i \frac{1}{3}\) é suficiente para \(g(\theta) = \theta\).

b-) Verifique se \(\bar{X} = \frac{1}{n} \sum X_i\) é suficiente para \(g(\theta) = 3\theta\).

29.1.1 Resposta a-)

Já sabemos que \[ \begin{aligned} E_\theta\left(\frac{\bar{X}}{3}\right) &= \theta, \forall \theta \in \Theta. \\ \\ \mathrm{Var}_\theta\left(\frac{\bar{X}}{3}\right) &= \frac{1}{9n^2} \mathrm{Var}\left(\sum X_i\right) \\ &\stackrel{\mathrm{iid}}{=} \frac{1}{9n^2} \cdot n \mathrm{Var}_\theta(X) \\ &= \frac{1}{9n} 3\theta(1-\theta),\ \forall \theta \in \Theta. \end{aligned} \]

Já calculamos a informação de Fisher total. \[ I_n(\theta) = \frac{3n}{\theta(1-\theta)} \]

Como \[ \mathrm{Var}_\theta\left(\frac{\bar{X}}{3}\right) = \frac{1}{I_n(\theta)}, \forall \theta \in \Theta, \] \(\frac{\bar{X}}{3}\) é um estimador eficiente para \(g(\theta) = \theta\)

29.1.2 Resposta b-)

Sabemos que \[ \begin{aligned} E_\theta(\bar{X}) &= 3\theta,\ \forall \theta \in \Theta \\ \\ \mathrm{Var}_\theta(\bar{X}) &= \frac{3}{n} \theta(1-\theta),\ \forall \theta \in \Theta. \end{aligned} \]

Note que \[ \frac{g'(\theta)^2}{I_n(\theta)} = \frac{\theta(1-\theta)}{3n} [3]^2 = \frac{3\theta(1-\theta)}{n} \]

Logo, \(\bar{X}\) é eficiente para \(g(\theta) = 3\theta\).

29.2 Exemplo (Poisson)

Seja \(\boldsymbol{X}_n\) a.a. de \(X\sim \mathrm{Poiss}(\theta), \theta \in \Theta = \mathbb{R}_+\)

a-) Verifique se \(\bar{X}\) é eficiente para \(g(\theta) = \theta\).

b-) Verifique se \(T(\boldsymbol{X}_n) = \left(1 - \frac{1}{n}\right)^{\sum X_i}\) é eficiente para \(g(\theta) = P_\theta(X=0)\).

29.2.1 Resposta a-)

Já sabemos que

\[ \begin{aligned} E_\theta(\bar{X}) &= \theta,\ \forall \theta \in \Theta \\ \mathrm{Var}_\theta(\bar{X}) &= \frac{\theta}{n},\ \forall \theta \in \Theta. \end{aligned} \]

Como \(T(\boldsymbol{X}_n) = \bar{X}\) é não-viciado, precisamos apenas verificar se \[ \mathrm{Var}_\theta(\bar{X}) = \frac{1}{I_n(\theta)} \]

Note que \[ \begin{aligned} L_{\boldsymbol{x}_n}(\theta) &= f_\theta^{\boldsymbol{X}_n}(\theta) = \prod \left\{e^{-\theta} \frac{\theta^{x_i}}{x_i!}\right\} \\ &\Rightarrow \ln L_{\boldsymbol{x}_n}(\theta) = -n\theta + \left(\sum x_i\right) \ln \theta - \sum \ln (x_i) \\ &\Rightarrow \frac{\partial}{\partial\theta}\ln L_{\boldsymbol{x}_n}(\theta) = -n + \frac{\sum x_i}{\theta} \\ &\Rightarrow \frac{\partial^2}{\partial\theta^2}\ln L_{\boldsymbol{x}_n}(\theta) = -\frac{\sum x_i}{\theta^2} \end{aligned} \]

Pelo Teorema, como valem as condições \(C_1:C_4\), \[ \begin{aligned} I_n(\theta) &= - E_\theta\left(\frac{\partial^2 \ln L_{\boldsymbol{X}}(\theta)}{\partial\theta^2}\right) \\ &= - E_\theta\left(- \sum \frac{X_i}{\theta^2}\right) \\ &\stackrel{\mathrm{iid}}{=} \frac{1}{\theta^2} n E_\theta(X) = \frac{n}{\theta}, \forall \theta \in \Theta. \end{aligned} \]

Como \(\mathrm{Var}_\theta(\bar{X}) = \frac{1}{I_n(\theta)}\), temos que \(\bar{X}\) é eficiente para \(g(\theta) = \theta\).

29.2.2 Resposta b-)

Note que \(\sum X_i \sim \mathrm{Poiss}(n\theta), \forall \theta \in \Theta\) (por F.G.M.).

Nota

\[ M_{\sum X_i}(t) = E_\theta\left(\mathrm{e}^{t\sum X_i}\right) = \mathrm{e}^{n\theta (e^t - 1)} \]

Observe que \[ E_\theta\left(\left(1-\frac{1}{n}\right)^{\sum X_i}\right) = E_\theta\left( \mathrm{e}^{\left(\sum X_i\right) \ln \left(1-\frac{1}{n}\right)}\right) \] pois \(n > 1\).

Tome \(t = \ln\left(1-\frac{1}{n}\right)\). \[ \begin{aligned} E_\theta\left(\left(1-\frac{1}{n}\right)^{\sum X_i}\right) = M_{\sum X_i}\left(\ln\left(1-\frac{1}{n}\right)\right) &= \mathrm{e}^{n\theta\left(\mathrm{e}^{\ln\left(1-\frac{1}{n}\right)}-1\right)} \\ &= \mathrm{e}^{n\theta\left(1-\frac{1}{n}-1\right)} \\ &= \mathrm{e}^{-\theta}, \forall \theta \in \Theta. \\ \end{aligned} \] Portanto, \(E_\theta(T(\boldsymbol{X}_n)) = \mathrm{e}^{-\theta} = P_\theta(X = 0) = g(\theta)\), ou seja, é não-viciada.

Note que \[ \begin{aligned} \mathrm{Var}_\theta(T(\boldsymbol{X}_n)) &= E_\theta(T(\boldsymbol{X}_n)^2) - E_\theta(T(\boldsymbol{X}_n))^2 \\ &= E_\theta(T(\boldsymbol{X}_n)^2) - \mathrm{e}^{-2\theta} \\ \\ E_\theta(T(\boldsymbol{X}_n)^2) &= E_\theta\left(\left(1-\frac{1}{n}\right)^{2 \sum X_i}\right) \\ &= E_\theta\left(\mathrm{e}^{2\left(\sum X_i\right)\ln\left(1-\frac{1}{n}\right)}\right) \\ &= M_{\sum X_i} \left(2\ln\left(1- \frac{1}{n}\right)\right) \\ &= \mathrm{e}^{n\theta \left(\mathrm{e}^{2\ln\left(1- \frac{1}{n}\right)}-1\right)} \\ &= \mathrm{e}^{n\theta \left(\mathrm{e}^{\ln\left(1- \frac{1}{n}\right)^2}-1\right)} \\ &= \mathrm{e}^{n\theta \left(\left(1- \frac{1}{n}\right)^2-1\right)} \\ &= \mathrm{e}^{n\theta\left(1 - \frac{2}{n} + \frac{1}{n^2} - 1\right)} \\ &= \mathrm{e}^{\theta\left(\frac{1}{n} - 2\right)} = \mathrm{e}^{-2\theta} \cdot \mathrm{e}^{\frac{\theta}{n}}. \\ \\ \Rightarrow \mathrm{Var}_\theta(T(\boldsymbol{X}_n)) &= \mathrm{e}^{-2\theta} \cdot \mathrm{e}^{\frac{\theta}{n}} - \mathrm{e}^{-2\theta} \\ &= \mathrm{e}^{-2\theta}\left(\mathrm{e}^{\frac{\theta}{n}} - 1\right) \end{aligned} \]

Temos nosso LICR \[ \frac{g'(\theta)^2}{I_n(\theta)} = \frac{\theta \mathrm{e}^{-2\theta}}{n} = \mathrm{LICR} \]

Como \(\mathrm{Var}_\theta \neq \frac{g'(\theta)}{I_n(\theta)}\) para algum \(\theta \in \Theta\), como \(\theta = 1\), temos que, apesar de ser ENVVUM, \(T(\boldsymbol{X}_n)\) não é eficiente para \(g(\theta) = \mathrm{e}^{-\theta}\).

29.3 Eficiência assintótica para \(g(\theta)\)

Dizemos que \(T(\boldsymbol{X}_n)\) é um estimador assintoticamente eficiente se, e somente se,

  1. \(\lim\limits_{n\rightarrow\infty} E_\theta(T(\boldsymbol{X}_n)) = g(\theta), \forall \theta \in \Theta\).

  2. \(\lim\limits_{n\rightarrow \infty} n \mathrm{Var}_\theta(T(\boldsymbol{X}_n)) = \frac{g'(\theta)^2}{I_1(\theta)}, \forall \theta \in \Theta\).

29.3.1 Exemplo (Poisson)

Seja \(\boldsymbol{X}_n\) a.a. de \(X\sim\mathrm{Poiss}(\theta),\theta \in \mathbb{R}_+\).

a-) Verifique se \(T(\boldsymbol{X}_n) = \left(1- \frac{1}{n}\right)^{\sum X_i}\)

b-) Verifique se \(T^*(\boldsymbol{X}_n) = \frac{1}{n} \mathbb{1}(X_i=0)\)

c-) Verifique se \(T_{MV}(\boldsymbol{X}_n) = \mathrm{e}^{-\bar{X}}\) é eficiente para \(g(\theta) = P_\theta(X=0)\).

29.3.1.1 Resposta a-)

Já sabemos que

\[ \begin{aligned} \mathrm{Var}_\theta(T(\boldsymbol{X}_n)) &= \mathrm{e}^{-2\theta}(\mathrm{e}^{\frac{\theta}{n}} - 1),\ \forall \theta \in \Theta \\ \\ E_\theta(T(\boldsymbol{X}_n)) = \mathrm{e}^{-\theta} = g(\theta),\ \forall \theta \in \Theta. \end{aligned} \]

Ou seja, é não-viciado, mas não eficiente, pois \[ \mathrm{Var}_\theta(T(\boldsymbol{X}_n)) \neq \frac{\theta \mathrm{e}^{-2\theta}}{n} \]

Precisamos calcular

\[ \lim_{n\rightarrow\infty} n \mathrm{Var}_\theta(T(\boldsymbol{X}_n)) = \lim_{n\rightarrow\infty} n \mathrm{e}^{-2\theta}(\mathrm{e}^{\frac{\theta}{n}} - 1) \]

Note que \[ \mathrm{e}^x = \sum \frac{x^i}{i!} = 1 + x + \frac{x^2}{2!} + \cdots \]

Portanto, \[ \begin{aligned} \mathrm{e}^{\frac{\theta}{n}} &= 1 + \frac{\theta}{n} + (\frac{\theta}{n})^2\frac{1}{x!} + \dots \\ \iff \mathrm{e}^{\frac{\theta}{n}} - 1 &= \frac{\theta}{n} + \frac{\theta^2}{n^2 2!} + \dots \\ \iff n (\mathrm{e}^{\frac{\theta}{n}} - 1) &= \theta + \frac{\theta^2}{n 2!} + \dots \\ \Rightarrow \lim_{n\rightarrow \infty} n (\mathrm{e}^{\frac{\theta}{n}} - 1) &= \theta,\ \forall \theta \in \Theta. \end{aligned} \]

Dessa forma, \[ \lim_{n\rightarrow \infty} n \mathrm{Var}_\theta(T(\boldsymbol{X}_n)) = \mathrm{e}^{-2\theta}\theta = \frac{g'(\theta)^2}{I_1(\theta)},\ \forall \theta \in \Theta. \]

Logo, \(T(\boldsymbol{X}_n)\) é assintoticamente eficiente para \(g(\theta)\)

29.3.1.2 Resposta b-)

Note que \[ \begin{aligned} E_\theta(T^*(\boldsymbol{X}_n)) &= \frac{1}{n} \sum E_\theta(\mathbb{1}(X_i=0)) \\ &\stackrel{\mathrm{iid}}{=} \frac{1}{n} \cdot n \cdot P_\theta(X=0) =\mathrm{e}^{-\theta},\ \forall \theta \in \Theta. \\ \\ \mathrm{Var}_\theta(T^*(\boldsymbol{X}_n)) &\stackrel{\mathrm{iid}}{=} \frac{1}{n^2} \cdot n \cdot \mathrm{Var}_\theta(\mathbb{1}(X=0)),\\ &= \frac{1}{n} = \mathrm{e}^{-\theta}(1-\mathrm{e}^{-\theta}),\ \forall \theta \in \Theta. \end{aligned} \]

Observe que o LICR é \[ \frac{g'(\theta)^2}{nI_1(\theta)} = \frac{\theta\mathrm{e}^{-2\theta}}{n}. \]

Como \[ \mathrm{Var}_\theta(T^*(\boldsymbol{X}_n)) \neq \frac{g'(\theta)^2}{nI_1(\theta)}, \] concluímos que não é eficiente. Além disso, \[ \lim_{n\rightarrow \infty} n \mathrm{Var}_\theta(T^*(\boldsymbol{X}_n)) = \mathrm{e}^{-\theta}(1-\mathrm{e}^{-\theta}) \neq \theta \mathrm{e}^{-2\theta}. \] Logo, não é assintoticamente eficiente.

29.3.1.3 Resposta c-)

Note que \[ E_\theta(T_{MV}(\boldsymbol{X}_n)) = E_\theta(\mathrm{e}^{-\bar{X}}) = E_\theta(\mathrm{e}^{-\frac{1}{n} \sum X_i}) \] em que \(\sum X_i \sim \mathrm{Poiss}(n\theta), \theta \in \Theta.\)

Observe que \[ M_{\sum X_i}(t) = E_\theta\left(\mathrm{e}^{t\sum X_i}\right) = \mathrm{e}^{n\theta(\mathrm{e}^t - 1)} \]

Tomando \(t = -\frac{1}{n}\), temos que \[ E_\theta(T_{MV}(\boldsymbol{X}_n)) = M_{\sum X_i}(-\frac{1}{n}) = \mathrm{e}^{n\theta (\mathrm{e}^{-\frac{1}{n}} - 1)} \]

Ademais, \[ \begin{aligned} \mathrm{e}^{-\frac{1}{n}} &= 1 - \frac{1}{n} + \left(-\frac{1}{n}\right)^2 \cdot \frac{1}{2} + \dots \\ \iff \mathrm{e}^{-\frac{1}{n}} - 1 &= - \frac{1}{n} + \frac{1}{n^2 2!}+ \dots \\ \iff n\theta(\mathrm{e}^{-\frac{1}{n}} - 1) &= -\theta + \underbracket{\left(\frac{\theta}{2n}+ \dots\right)}_{h(\theta,n)} \\ \Rightarrow E_\theta(T_{MV}(\boldsymbol{X}_n)) &= \mathrm{e}^{-\theta + h(\theta,n)} \end{aligned} \]

Como \(h(\theta,n) \neq 0\), \[ E_\theta(T_{MV}(\boldsymbol{X}_n)) \neq \mathrm{e}^{-\theta}, \] e \[ \lim_{n\rightarrow\infty} E_\theta(T_{MV}(\boldsymbol{X}_n)) = \mathrm{e}^{-\theta},\ \forall \theta \in \Theta. \]

Apesar de \(T_{MV}(\boldsymbol{X}_n)\) ser viciado para \(g(\theta) = \mathrm{e}^{\theta}\), ela é não-viciada assintoticamente.

Note ainda que \[ \begin{aligned} E_\theta(T_{MV}(\boldsymbol{X}_n)^2) &= E_\theta\left(\mathrm{e}^{-\frac{2}{n} \sum X_i}\right) \\ &= M_{\sum X_i} (-\frac{2}{n}) \\ &= \mathrm{e}^{n\theta \left(\mathrm{e}^{-\frac{2}{n}} -1\right)} \end{aligned} \]

Portanto, \[ \mathrm{Var}_\theta(T_{MV}(\boldsymbol{X}_n)) = \mathrm{e}^{n\theta \left(\mathrm{e}^{-\frac{2}{n}} -1\right)} - \mathrm{e}^{-2\theta + 2h(\theta,n)} \]

Seguindo, \[ \begin{aligned} \mathrm{e}^{-\frac{2}{n}} &= 1 + \left(-\frac{2}{n}\right) + \left(-\frac{2}{n}\right)^2 \cdot \frac{1}{2!} + \dots \\ \iff n\theta(\mathrm{e}^{-\frac{2}{n}} - 1) &= -2\theta + \underbracket{n\theta\left(\frac{2}{n}\right)^2 + n\theta(\dots)}_{w(\theta,n)} \\ \Rightarrow \mathrm{Var}_\theta(T_{MV}(\boldsymbol{X}_n)) &= \mathrm{e}^{-2\theta + w(\theta,n)} - \mathrm{e}^{-2\theta + 2h(\theta,n)} \\ &= \mathrm{e}^{-2\theta} \left(\mathrm{e}^{w(\theta,n)} -\mathrm{e}^{2h(\theta,n)}\right) \\ \Rightarrow \lim_{n\rightarrow \infty} n \mathrm{Var}_\theta(T_{MV}(\boldsymbol{X}_n) &= \lim_{n\rightarrow \infty} n \mathrm{e}^{-2\theta} \left(\mathrm{e}^{w(\theta,n)} -\mathrm{e}^{2h(\theta,n)}\right)\\ &= \mathrm{e}^{-2\theta} \lim_{n\rightarrow \infty} n \left(\mathrm{e}^{w(\theta,n)} -\mathrm{e}^{2h(\theta,n)}\right) \\ \end{aligned} \]

Note que \[ \begin{aligned} \mathrm{e}^{w(\theta,n)} &= 1 + w(\theta,n) + \frac{w(\theta,n)^2}{2!} + \dots \\ \mathrm{e}^{2h(\theta,n)} &= 1 + 2h(\theta,n) + \frac{2h(\theta,n)^2}{2!} + \dots \\ \\ \Rightarrow \mathrm{e}^{w(\theta,n)} -\mathrm{e}^{2h(\theta,n)} &= [w(\theta,n) - 2h(\theta,n)] + \left[\frac{w(\theta,n)^2}{2!} - \frac{2h(\theta,n)^2}{2!}\right] + \dots \\ \Rightarrow n\left(\mathrm{e}^{w(\theta,n)} -\mathrm{e}^{2h(\theta,n)}\right) &= n[w(\theta,n) - 2h(\theta,n)] + \underbracket{n\left[\frac{w(\theta,n)^2}{2!} - \frac{2h(\theta,n)^2}{2!}\right] + \dots}_{\stackrel{n\uparrow\infty}{\rightarrow 0}} \\ \end{aligned} \]

Em que \[ \begin{aligned} 2h(\theta,n) &= \frac{2\theta}{2n} - \frac{2\theta}{3!n^2} + \frac{2\theta}{4!n^3} + \dots \\ w(\theta,n) &= \frac{4\theta}{2n} - \frac{8\theta}{3!n^2} + \frac{\theta}{4!n^3} + \dots \end{aligned} \]

Agora, \[ \begin{aligned} &n\left[\left(\frac{4\theta}{2!n} - \frac{8\theta}{3!n^2} + \dots\right) - \left(\frac{\theta}{n}-\frac{2\theta}{3!n^2} + \dots\right)\right] \\ &=\left[\left(2\theta - \frac{8\theta}{3!n} + \dots\right) - \left(\theta - \frac{2\theta}{3!n^2} + \dots\right)\right] \\ \stackrel{n\uparrow\infty}{\rightarrow} 2\theta - \theta &= \theta \end{aligned} \]

Portanto, \[ \lim_{n\rightarrow \infty} n \mathrm{Var}_\theta(T(\boldsymbol{X}_n)) = \mathrm{e}^{-2\theta} \cdot \theta,\ \forall \theta \in \Theta. \] e concluímos que \(T_{MV}(\boldsymbol{X}_n) = \mathrm{e}^{-\bar{X}}\) é assintoticamente eficiente.