Pour la première inégalité, on pose
et
où X suit une loi de Bernoulli de paramètre p. Par l'inégalité de Chernoff appliquée à
,
![{\displaystyle {\begin{aligned}P({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\geq p+\epsilon )&=P({\overline {Z}}_{n}\geq \epsilon )\\&\leq \mathrm {e} ^{-h_{{\overline {Z}}_{n}}(\epsilon )}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/736785f1424a8e9a15163afd237b4f2adb24b3ec)
Or
.
En effet, comme
sont i.i.d et donc
sont i.i.d.,
![{\displaystyle {\begin{aligned}E[\mathrm {e} ^{t{\overline {Z}}_{n}}]&=\prod _{i=1}^{n}E[\mathrm {e} ^{{\frac {t}{n}}Z_{i}}]\\&=E[\mathrm {e} ^{{\frac {t}{n}}Z}]^{n}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/27e32f8d6867080a086f3da03b7a377b40828056)
D'où,
![{\displaystyle {\begin{aligned}h_{{\overline {Z}}_{n}}(\epsilon )&=\sup _{t\geq 0}\{\epsilon t-\ln(E[\mathrm {e} ^{t{\overline {Z}}_{n}}])\}\\&=\sup _{t\geq 0}\{\epsilon t-n\ln(E[\mathrm {e} ^{{\frac {t}{n}}Z}])\}\\&=n\sup _{t\geq 0}\{\epsilon {\frac {t}{n}}-\ln(E[\mathrm {e} ^{{\frac {t}{n}}Z}])\}\\&=nh_{Z}(\epsilon ).\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0836287a88d695915fa92f0a1220798ea5039298)
Donc,
![{\displaystyle {\begin{aligned}P({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\geq p+\epsilon )&\leq \mathrm {e} ^{-n\sup _{t\geq 0}\{\epsilon t-\ln(E[\mathrm {e} ^{tZ}])\}}\\&\leq \mathrm {e} ^{n\inf _{t\geq 0}\{\ln(E[\mathrm {e} ^{tZ}])-\epsilon t\}}\\&\leq \mathrm {e} ^{n(\ln(E[\mathrm {e} ^{tZ}])-\epsilon t)}({\text{pour }}t\geq 0).\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/fb617683833d36f2b62da74fb1aad47fa6e7aa12)
On remarque que
.
Donc
![{\displaystyle {\begin{aligned}\ln(E[\mathrm {e} ^{tZ}])-\epsilon t&=\ln(1-p+p\mathrm {e} ^{t})-(\epsilon +p)t\\&=\Psi (t)-\epsilon t,\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a4e9c74d69d21d904eefb82f213ace5377af2193)
avec
.
En vue d'utiliser la formule de Taylor Lagrange à l'ordre 2, on calcule les dérivées premières et secondes
,
![{\displaystyle {\begin{aligned}\forall t\in \mathbb {R} ,~\Psi ^{'}(t)&=-p+{\frac {p\mathrm {e} ^{t}}{1-p+p\mathrm {e} ^{t}}}\\\Psi ^{''}(t)&={\frac {(1-p)p\mathrm {e} ^{t}}{(1-p+p\mathrm {e} ^{t})^{2}}}\\&={\frac {\alpha \beta }{(\alpha +\beta )^{2}}}\\&\leq {\frac {1}{4}},\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a358ff03f34ce9f416a690564d81b2cb4a8174ac)
avec
. On peut majorer
par
.
En effet,
.
Donc, comme
, d'après la formule de Taylor Lagrange,
,
![{\displaystyle {\begin{aligned}\Psi (t)&=\Psi (0)+t\Psi ^{'}(0)+{\frac {t^{2}}{2}}\Psi ^{''}(\theta t)\\&\leq {\frac {t^{2}}{8}},\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/bc6e5081a07e7d25f3ef8ee5d8d601be4174ca08)
avec
.
Donc,
,
![{\displaystyle {\begin{aligned}P({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\geq p+\epsilon )&\leq \mathrm {e} ^{n(\ln(E[\mathrm {e} ^{tZ}])-\epsilon t)}\\&\leq \mathrm {e} ^{n({\frac {t^{2}}{8}}-\epsilon t)}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c9bf3c5438cae35a6e9937887e8ac5c93f3147b3)
Soit
. On remarque
.
Donc g admet un minimum en
.
Ainsi,
,
![{\displaystyle {\begin{aligned}P({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\geq p+\epsilon )&\leq \mathrm {e} ^{n({\frac {16\epsilon ^{2}}{8}}-4\epsilon ^{2})}\\&\leq \mathrm {e} ^{-2n\epsilon ^{2}}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/33bbfad3745b051eea2da405881d0a9e28e3e716)
Pour la deuxième inégalité,
,
![{\displaystyle {\begin{aligned}P({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\leq p-\epsilon )&=P({\overline {Z}}_{n}\leq -\epsilon )\\&=P(-{\overline {Z}}_{n}\geq \epsilon )\\&\leq \mathrm {e} ^{-h_{-{\overline {Z}}_{n}}(t)}{\text{ d'après l'inégalité de Chernoff}}\\&\leq \mathrm {e} ^{-nh_{-Z}(t)}\\&\leq \mathrm {e} ^{n\inf _{t\geq 0}\{\ln(E[\mathrm {e} ^{-tZ}])-\epsilon t\}}\\&\leq \mathrm {e} ^{n(\ln(E[\mathrm {e} ^{-tZ}])-\epsilon t)}({\text{pour }}t\geq 0).\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/26aa4854dae1730ef9b67076f177d2b35e4f73bd)
On remarque que :
,
![{\displaystyle {\begin{aligned}E[\mathrm {e} ^{-tZ}]&=\mathrm {e} ^{pt}E[\mathrm {e} ^{-tX}]\\&=\mathrm {e} ^{pt}(1-p+p\mathrm {e} ^{-t})\\\Rightarrow \ln(E[\mathrm {e} ^{-tZ}])&=pt+\ln(1-p+p\mathrm {e} ^{-t})\\&=\Psi (-t)\\&\leq {\frac {t^{2}}{8}}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/cf07fee8b313cb37ea8758ab60f6c7500fa98cf2)
Donc,
,
![{\displaystyle {\begin{aligned}P({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\leq p-\epsilon )&\leq \mathrm {e} ^{n({\frac {t^{2}}{8}}-\epsilon t)}\\&\leq \mathrm {e} ^{-2n\epsilon ^{2}},\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/d2b4ad9dda143415a06bbe2d5f46a285e95a4539)
par un argument similaire qui a servi à démontrer la première inégalité.