05 · Étude complète d'une fonction

Intuition

Ce chapitre n'introduit aucun outil nouveau : il assemble ceux des chapitres 01 à 04 en une procédure fixe. Étudier une fonction, c'est répondre dans l'ordre à sept questions, et tracer la courbe qui résume les réponses.

La valeur de l'exercice n'est pas le dessin — c'est la discipline. Une étude complète bien menée ne laisse aucun comportement inexpliqué.

1. Le plan en sept étapes

La procédure

1. Domaine de définition \(D_f\).
2. Réductions : parité, périodicité — pour restreindre l'intervalle d'étude.
3. Limites aux bornes de \(D_f\) et en tout point exclu.
4. Dérivée et son signe.
5. Tableau de variations, avec valeurs remarquables.
6. Asymptotes et positions relatives.
7. Tracé : points particuliers, tangentes remarquables.

2. Asymptotes

Type	Condition	Équation
Verticale	\(\lim_{x\to a}f(x)=\pm\infty\)	\(x = a\)
Horizontale	\(\lim_{x\to\pm\infty}f(x)=\ell\)	\(y=\ell\)
Oblique	\(\lim_{x\to\pm\infty}\big(f(x)-(ax+b)\big)=0\)	\(y=ax+b\)

Trouver une asymptote oblique

Deux méthodes.

Méthode 1, par limites :

\[ a = \lim_{x\to+\infty}\frac{f(x)}{x} \qquad b = \lim_{x\to+\infty}\big(f(x)-ax\big) \]

Si les deux limites existent et sont finies, \(y=ax+b\) est asymptote.

Méthode 2, par division — bien plus rapide pour une fraction rationnelle. On effectue la division euclidienne du numérateur par le dénominateur :

\[ f(x) = \underbrace{ax+b}_{\text{asymptote}} + \underbrace{\frac{R(x)}{Q(x)}}_{\to\,0} \]

Position relative : le signe de \(f(x)-(ax+b)\) dit si la courbe est au-dessus ou en dessous de son asymptote.

Une asymptote peut être traversée

Rien n'interdit à la courbe de couper son asymptote — parfois une infinité de fois. \(f(x) = \frac{\sin x}{x}\) coupe son asymptote \(y=0\) en tout \(x = k\pi\).

L'asymptote décrit un comportement à l'infini, pas une barrière.

3. Branches paraboliques

Quand \(f(x)\to\pm\infty\) sans asymptote oblique :

\(\lim\frac{f(x)}{x}\)	Comportement
\(0\)	Branche parabolique de direction \((Ox)\)
\(\pm\infty\)	Branche parabolique de direction \((Oy)\)
\(a\) fini, mais \(f(x)-ax\) diverge	Direction asymptotique \(y=ax\), sans asymptote

Exemples : \(x\mapsto\sqrt x\) a une branche parabolique horizontale ; \(x\mapsto x^2\) en a une verticale ; \(x\mapsto x+\sqrt x\) a une direction asymptotique \(y=x\) sans asymptote.

4. Points particuliers

• Intersections avec les axes : \(f(0)\) pour l'ordonnée, \(f(x)=0\) pour les abscisses.
• Tangentes horizontales : points où \(f'=0\).
• Points d'inflexion : points où \(f''\) change de signe. La courbe y traverse sa tangente.

Exemples traités

Exemple 1 — Fraction rationnelle avec asymptote oblique

Étudier \(f(x)=\dfrac{x^2+x+1}{x-1}\).

1. Domaine. \(D_f = \mathbb{R}\setminus\{1\}\).

2. Réductions. Ni paire, ni impaire, ni périodique.

3. Forme réduite. Division euclidienne :

\[ x^2+x+1 = (x-1)(x+2) + 3 \]

donc

\[ f(x) = x+2+\frac{3}{x-1} \]

Limites.

\[ \lim_{x\to1^-}f = -\infty \qquad \lim_{x\to1^+}f = +\infty \qquad \lim_{x\to\pm\infty}\big(f(x)-(x+2)\big)=0 \]

4. Dérivée.

\[ f'(x) = 1 - \frac{3}{(x-1)^2} = \frac{(x-1)^2-3}{(x-1)^2} \]

Le signe est celui de \((x-1)^2-3\), qui s'annule pour \(x = 1\pm\sqrt3\).

5. Tableau.

\(x\)	\(-\infty\)		\(1-\sqrt3\)		\(1\)		\(1+\sqrt3\)		\(+\infty\)
\(f'\)		\(+\)	0	\(-\)	\(\Vert\)	\(-\)	0	\(+\)
\(f\)	\(-\infty\)	↗	\(3-2\sqrt3\)	↘	\(-\infty\)		\(3+2\sqrt3\)	↗	\(+\infty\)

(Calcul du maximum local : \(f(1-\sqrt3) = (1-\sqrt3)+2+\frac{3}{-\sqrt3} = 3-\sqrt3-\sqrt3 = 3-2\sqrt3 \approx -0{,}46\).)

6. Asymptotes.

• Verticale \(x=1\) ;
• Oblique \(y = x+2\) en \(\pm\infty\).

Position : \(f(x)-(x+2) = \frac{3}{x-1}\), du signe de \(x-1\). La courbe est au-dessus de l'asymptote pour \(x>1\), en dessous pour \(x<1\).

Exemple 2 — Fonction avec exponentielle

Étudier \(g(x)=(x^2-2)e^{-x}\).

1. \(D_g=\mathbb{R}\).

2. Aucune réduction.

3. Limites. En \(+\infty\) : croissances comparées, \(g\to0^+\) (le polynôme est positif au-delà de \(\sqrt2\)). En \(-\infty\) : \(x^2-2\to+\infty\) et \(e^{-x}\to+\infty\), donc \(g\to+\infty\).

4. Dérivée.

\[ g'(x) = 2xe^{-x} - (x^2-2)e^{-x} = e^{-x}\big(-x^2+2x+2\big) \]

\(e^{-x}>0\), donc \(g'\) a le signe de \(-x^2+2x+2\), de discriminant \(4+8=12\), de racines \(\frac{-2\pm2\sqrt3}{-2} = 1\mp\sqrt3\).

Le trinôme (de coefficient dominant \(-1\)) est positif entre ses racines.

5. Tableau.

\(x\)	\(-\infty\)		\(1-\sqrt3\)		\(1+\sqrt3\)		\(+\infty\)
\(g'\)		\(-\)	0	\(+\)	0	\(-\)
\(g\)	\(+\infty\)	↘	min	↗	max	↘	\(0^+\)

Numériquement : \(1-\sqrt3\approx-0{,}73\), \(g\approx-1{,}47\times2{,}08 \approx -3{,}06\) ; \(1+\sqrt3\approx2{,}73\), \(g\approx5{,}46\times0{,}065 \approx0{,}36\).

6. Asymptote horizontale \(y=0\) en \(+\infty\). La courbe est au-dessus pour \(|x|>\sqrt2\), en dessous entre \(-\sqrt2\) et \(\sqrt2\).

Zéros : \(x=\pm\sqrt2\).

Exemple 3 — Fonction avec logarithme

Étudier \(h(x) = x - \ln x\) sur \(\mathbb{R}^{+*}\).

Limites. En \(0^+\) : \(x\to0\) et \(-\ln x\to+\infty\), donc \(h\to+\infty\). En \(+\infty\) : croissances comparées, \(h(x) = x\left(1-\frac{\ln x}{x}\right) \to+\infty\).

Dérivée. \(h'(x)=1-\frac1x = \frac{x-1}{x}\), du signe de \(x-1\).

\(x\)	\(0\)		\(1\)		\(+\infty\)
\(h'\)		\(-\)	0	\(+\)
\(h\)	\(+\infty\)	↘	1	↗	\(+\infty\)

Minimum global : \(h(1)=1\).

Une conséquence immédiate

\(h(x)\geqslant1>0\) pour tout \(x>0\), donc \(\displaystyle \forall x>0,\quad \ln x < x\)

Plus fort encore : \(\ln x \leqslant x-1\), l'inégalité de référence, s'obtient en étudiant \(x-1-\ln x\) de la même façon.

Branche parabolique : \(\frac{h(x)}{x} = 1-\frac{\ln x}{x}\to1\), mais \(h(x)-x = -\ln x\to-\infty\). Il y a donc une direction asymptotique \(y=x\) sans asymptote.

Erreurs fréquentes

Erreur	Correction
Oublier une borne du domaine dans les limites	Toutes les bornes, y compris les valeurs interdites
Conclure à l'asymptote oblique sans vérifier \(b\)	Les deux limites doivent exister
« La courbe ne coupe jamais son asymptote »	Faux
Oublier la position relative	Elle fait partie de l'étude
Tableau de variations sans les limites aux bornes	Incomplet
Confondre direction asymptotique et asymptote	La seconde exige \(f(x)-ax \to b\) fini

Exercices

★ Exercice 1. Déterminer les asymptotes.

a) \(f(x)=\dfrac{2x+1}{x-3}\) b) \(g(x)=\dfrac{x^2}{x+1}\) c) \(h(x)=\dfrac{3x^2+1}{x^2-4}\)

★★ Exercice 2. Étude complète de \(f(x)=\dfrac{x^2-3x+2}{x-3}\).

★★ Exercice 3. Étude complète de \(g(x)=xe^{x}\) sur \(\mathbb{R}\).

★★ Exercice 4. Étude complète de \(h(x)=\dfrac{x}{x^2-1}\).

★★★ Exercice 5. Soit \(f(x)=\sqrt{x^2+1}-x\).

a) Domaine et limites. b) Montrer que \(f\) est strictement décroissante. c) Déterminer les asymptotes en \(+\infty\) et \(-\infty\). d) Tracer l'allure.

★★★ Exercice 6. Étude complète de \(f(x)=\dfrac{\ln x}{x^2}\) sur \(\mathbb{R}^{+*}\), points d'inflexion compris.

★★★ Exercice 7. Soit \(f_m(x)=x^3-3mx\) avec \(m\in\mathbb{R}\).

a) Étudier les variations selon le signe de \(m\). b) Combien de solutions l'équation \(f_m(x)=0\) admet-elle selon \(m\) ? c) Pour quelles valeurs de \(m\) la courbe admet-elle deux extremums locaux ?

★★★★ Exercice 8. Soit \(f(x)=\dfrac{e^x-1}{e^x+1}\).

a) Montrer que \(f\) est impaire. b) Étudier ses variations et déterminer ses limites. c) Montrer que \(f\) réalise une bijection de \(\mathbb{R}\) sur \(]-1;1[\) et déterminer \(f^{-1}\). d) Quel lien avec la fonction de l'exercice 7 du chapitre 04 ?

★★★★ Exercice 9 — lien informatique. La fonction sigmoïde \(\sigma(x)=\dfrac{1}{1+e^{-x}}\) est utilisée comme fonction d'activation en apprentissage automatique.

a) Étude complète : domaine, limites, variations, symétrie. b) Montrer que \(\sigma'(x)=\sigma(x)\big(1-\sigma(x)\big)\). c) En déduire \(\max\sigma'\) et sa valeur. d) Le problème du gradient qui s'évanouit : montrer que \(\sigma'(x)\to0\) quand \(|x|\to\infty\), et expliquer pourquoi cela ralentit l'apprentissage d'un réseau de neurones profond. e) Comparer avec \(\operatorname{ReLU}(x)=\max(0,x)\) de ce point de vue.

---

Corrigés

Corrigé — Exercice 1

a) \(f(x) = \dfrac{2(x-3)+7}{x-3} = 2+\dfrac{7}{x-3}\). Asymptote verticale \(x=3\), horizontale \(y=2\).

b) Division : \(x^2 = (x+1)(x-1)+1\), donc \(g(x) = x-1+\dfrac{1}{x+1}\). Asymptote verticale \(x=-1\), oblique \(y=x-1\).

c) \(h(x) = \dfrac{3(x^2-4)+13}{x^2-4} = 3+\dfrac{13}{x^2-4}\). Asymptotes verticales \(x=\pm2\), horizontale \(y=3\).

Corrigé — Exercice 2

1. Domaine. \(D_f = \mathbb{R}\setminus\{3\}\).

2. Forme réduite. \(x^2-3x+2 = (x-3)\cdot x + 2\), donc

\[ f(x) = x + \frac{2}{x-3} \]

3. Limites. \(f\to-\infty\) en \(3^-\), \(+\infty\) en \(3^+\) ; \(f(x)-x = \frac{2}{x-3}\to0\) en \(\pm\infty\).

4. Dérivée.

\[ f'(x) = 1-\frac{2}{(x-3)^2} = \frac{(x-3)^2-2}{(x-3)^2} \]

s'annule pour \(x = 3\pm\sqrt2\).

5. Tableau.

\(x\)	\(-\infty\)		\(3-\sqrt2\)		\(3\)		\(3+\sqrt2\)		\(+\infty\)
\(f'\)		\(+\)	0	\(-\)	\(\Vert\)	\(-\)	0	\(+\)
\(f\)	\(-\infty\)	↗	\(3-2\sqrt2\)	↘	\(-\infty\)		\(3+2\sqrt2\)	↗	\(+\infty\)

Maximum local \(\approx 0{,}172\), minimum local \(\approx 5{,}83\).

6. Asymptotes. Verticale \(x=3\) ; oblique \(y=x\). Position : \(f(x)-x = \frac{2}{x-3}\), positif pour \(x>3\) : la courbe est au-dessus à droite, en dessous à gauche.

Zéros : \(x^2-3x+2=0\) donne \(x=1\) et \(x=2\).

Corrigé — Exercice 3

Limites. En \(+\infty\) : \(g\to+\infty\). En \(-\infty\) : croissances comparées, \(xe^x\to0^-\).

Dérivée. \(g'(x)=e^x+xe^x = (1+x)e^x\), du signe de \(1+x\).

\(x\)	\(-\infty\)		\(-1\)		\(+\infty\)
\(g'\)		\(-\)	0	\(+\)
\(g\)	\(0^-\)	↘	\(-\frac1e\)	↗	\(+\infty\)

Minimum \(g(-1)=-e^{-1}\approx-0{,}368\).

Asymptote horizontale \(y=0\) en \(-\infty\), la courbe restant en dessous (car \(xe^x<0\) pour \(x<0\)).

Dérivée seconde : \(g''(x) = (2+x)e^x\), qui change de signe en \(x=-2\) : point d'inflexion en \((-2\,;-2e^{-2})\).

Corrigé — Exercice 4

Domaine. \(D_h = \mathbb{R}\setminus\{-1,1\}\).

Parité. \(h(-x) = \frac{-x}{x^2-1} = -h(x)\) : impaire. On étudie sur \(\mathbb{R}^+\) et on complète par symétrie centrale.

Limites.

• \(x\to1^-\) : numérateur \(\to1\), dénominateur \(\to0^-\), donc \(h\to-\infty\) ;
• \(x\to1^+\) : \(h\to+\infty\) ;
• \(x\to+\infty\) : \(h\sim\frac{x}{x^2}=\frac1x\to0^+\).

Par imparité : \(h\to+\infty\) en \(-1^-\), \(-\infty\) en \(-1^+\), \(0^-\) en \(-\infty\).

Dérivée.

\[ h'(x) = \frac{(x^2-1)-x\cdot2x}{(x^2-1)^2} = \frac{-x^2-1}{(x^2-1)^2} \]

Le numérateur \(-(x^2+1)\) est toujours strictement négatif, le dénominateur toujours positif : \(h' < 0\) partout.

\(h\) est strictement décroissante sur chacun des trois intervalles \(]-\infty;-1[\), \(]-1;1[\), \(]1;+\infty[\) — mais pas sur leur réunion.

Asymptotes. Verticales \(x=\pm1\), horizontale \(y=0\).

Zéro unique : \(x=0\), où la tangente a pour pente \(h'(0)=-1\).

Corrigé — Exercice 5

a) \(x^2+1>0\) toujours : \(D_f=\mathbb{R}\).

En \(+\infty\), forme \(\infty-\infty\). Conjuguée :

\[ f(x) = \frac{(x^2+1)-x^2}{\sqrt{x^2+1}+x} = \frac{1}{\sqrt{x^2+1}+x} \xrightarrow[x\to+\infty]{} 0^+ \]

En \(-\infty\) : \(\sqrt{x^2+1}\to+\infty\) et \(-x\to+\infty\), donc \(f\to+\infty\).

b)

\[ f'(x) = \frac{x}{\sqrt{x^2+1}}-1 = \frac{x-\sqrt{x^2+1}}{\sqrt{x^2+1}} \]

Or \(\sqrt{x^2+1} > \sqrt{x^2} = |x| \geqslant x\), donc le numérateur est strictement négatif pour tout \(x\).

\(f\) est strictement décroissante sur \(\mathbb{R}\). ✓

c) En \(+\infty\) : asymptote horizontale \(y=0\), courbe au-dessus.

En \(-\infty\) : cherchons une asymptote oblique.

\[ \frac{f(x)}{x} = \frac{\sqrt{x^2+1}}{x}-1 \]

Pour \(x<0\), \(\sqrt{x^2} = -x\), donc \(\frac{\sqrt{x^2+1}}{x} = \frac{|x|\sqrt{1+1/x^2}}{x} = -\sqrt{1+\frac{1}{x^2}} \to -1\).

Donc \(a = \lim\frac{f(x)}{x} = -2\).

\[ b = \lim_{x\to-\infty}\big(f(x)+2x\big) = \lim\left(\sqrt{x^2+1}+x\right) = \lim\frac{1}{\sqrt{x^2+1}-x} = 0 \]

Asymptote oblique \(y=-2x\) en \(-\infty\).

d) Allure. Courbe strictement décroissante, de \(+\infty\) (avec l'asymptote \(y=-2x\)) vers \(0^+\) (asymptote \(y=0\)), passant par \(f(0)=1\).

Corrigé — Exercice 6

Domaine \(\mathbb{R}^{+*}\).

Limites. En \(0^+\) : \(\ln x\to-\infty\) et \(\frac{1}{x^2}\to+\infty\), donc \(f\to-\infty\). En \(+\infty\) : croissances comparées, \(f\to0^+\).

Dérivée.

\[ f'(x) = \frac{\frac1x\cdot x^2 - \ln x\cdot 2x}{x^4} = \frac{x - 2x\ln x}{x^4} = \frac{1-2\ln x}{x^3} \]

Pour \(x>0\), le signe est celui de \(1-2\ln x\), positif ssi \(\ln x < \frac12\), soit \(x<\sqrt e\).

\(x\)	\(0\)		\(\sqrt e\)		\(+\infty\)
\(f'\)		\(+\)	0	\(-\)
\(f\)	\(-\infty\)	↗	\(\frac{1}{2e}\)	↘	\(0^+\)

Maximum \(f(\sqrt e) = \frac{1/2}{e} = \frac{1}{2e}\approx0{,}184\).

Dérivée seconde.

\[ f''(x) = \frac{-\frac2x\cdot x^3 - (1-2\ln x)3x^2}{x^6} = \frac{-2x^2-3x^2+6x^2\ln x}{x^6} = \frac{6\ln x - 5}{x^4} \]

\(f''\) change de signe en \(\ln x = \frac56\), soit \(x = e^{5/6}\approx2{,}30\).

Point d'inflexion en \(\left(e^{5/6}\,;\ \frac{5/6}{e^{5/3}}\right) \approx (2{,}30\,;\,0{,}157)\).

Zéro : \(x=1\), avec \(f'(1)=1\).

Corrigé — Exercice 7

a) \(f_m'(x)=3x^2-3m = 3(x^2-m)\).

Cas \(m\leqslant0\) : \(x^2-m \geqslant 0\) pour tout \(x\) (avec égalité seulement en 0 si \(m=0\)). Donc \(f_m'\geqslant0\) : \(f_m\) est strictement croissante sur \(\mathbb{R}\).

Cas \(m>0\) : \(f_m'\) s'annule en \(\pm\sqrt m\) et est négative entre.

\(x\)	\(-\infty\)		\(-\sqrt m\)		\(\sqrt m\)		\(+\infty\)
\(f_m'\)		\(+\)	0	\(-\)	0	\(+\)
\(f_m\)	\(-\infty\)	↗	\(2m\sqrt m\)	↘	\(-2m\sqrt m\)	↗	\(+\infty\)

(Calcul : \(f_m(-\sqrt m) = -m\sqrt m + 3m\sqrt m = 2m\sqrt m\).)

b) \(f_m(x)=0\) s'écrit \(x(x^2-3m)=0\).

• \(m\leqslant0\) : \(x^2 = 3m\) n'a pas de solution réelle non nulle (ou seulement \(x=0\) si \(m=0\)). Une seule racine, \(x=0\).
• \(m>0\) : trois racines, \(0\) et \(\pm\sqrt{3m}\).

Cohérence avec le tableau : pour \(m>0\), le maximum local \(2m\sqrt m>0\) et le minimum local \(-2m\sqrt m<0\) encadrent 0 : la courbe traverse l'axe trois fois ✓

c) Deux extremums locaux si et seulement si \(f_m'\) a deux racines distinctes, c'est-à-dire \(m>0\).

Corrigé — Exercice 8

a)

\[ f(-x) = \frac{e^{-x}-1}{e^{-x}+1} \]

Multiplions haut et bas par \(e^x\) :

\[ = \frac{1-e^x}{1+e^x} = -f(x) \]

Impaire ✓

b) Réécrivons \(f(x) = \dfrac{(e^x+1)-2}{e^x+1} = 1-\dfrac{2}{e^x+1}\).

\(x\mapsto e^x+1\) est croissante et \(>1\) ; \(t\mapsto\frac2t\) est décroissante sur \(\mathbb{R}^{+*}\) ; le signe moins renverse encore. Donc \(f\) est strictement croissante.

Limites : en \(-\infty\), \(e^x\to0\) donc \(f\to1-2 = -1\). En \(+\infty\), \(e^x\to+\infty\) donc \(f\to1\).

c) \(f\) est continue, strictement croissante, de limites \(-1\) et \(1\). Par le théorème de la bijection, elle réalise une bijection de \(\mathbb{R}\) sur \(]-1;1[\).

Réciproque : résolvons \(y = \dfrac{e^x-1}{e^x+1}\) avec \(X=e^x\) :

\[ y(X+1)=X-1 \iff X(y-1) = -1-y \iff X = \frac{1+y}{1-y} \]

Donc

\[ f^{-1}(y) = \ln\frac{1+y}{1-y}, \qquad y\in]-1;1[ \]

d) C'est exactement la fonction de l'exercice 7 du chapitre 04.

Autrement dit, \(f = \tanh\) et \(f^{-1} = 2\operatorname{artanh}\) — les deux exercices étudiaient les deux faces d'une même bijection.

On vérifie d'ailleurs :

\[ f(x) = \frac{e^x-1}{e^x+1} = \frac{e^{x/2}-e^{-x/2}}{e^{x/2}+e^{-x/2}} = \frac{\sinh(x/2)}{\cosh(x/2)} = \tanh\frac x2 \]

Corrigé — Exercice 9

a) \(1+e^{-x}>0\) toujours : \(D_\sigma = \mathbb{R}\).

Limites : \(\sigma\to0^+\) en \(-\infty\), \(\sigma\to1^-\) en \(+\infty\).

Dérivée : avec \(u = 1+e^{-x}\), \(u' = -e^{-x}\) :

\[ \sigma'(x) = -\frac{u'}{u^2} = \frac{e^{-x}}{(1+e^{-x})^2} > 0 \]

Strictement croissante sur \(\mathbb{R}\).

Symétrie :

\[ \sigma(-x) = \frac{1}{1+e^{x}} = \frac{e^{-x}}{e^{-x}+1} = 1-\sigma(x) \]

La courbe est symétrique par rapport au point \(\left(0;\frac12\right)\).

b)

\[ \sigma(x)\big(1-\sigma(x)\big) = \frac{1}{1+e^{-x}}\cdot\frac{e^{-x}}{1+e^{-x}} = \frac{e^{-x}}{(1+e^{-x})^2} = \sigma'(x) \]

\(\blacksquare\)

c) Posons \(s = \sigma(x)\in]0;1[\). On maximise \(s(1-s)\), trinôme dont le maximum est atteint en \(s = \frac12\) et vaut \(\frac14\).

Or \(\sigma(x)=\frac12 \iff x = 0\).

\[ \max\sigma' = \sigma'(0) = \frac14 \]

d) Quand \(|x|\to\infty\), \(\sigma(x)\to0\) ou \(1\), donc \(\sigma(1-\sigma)\to0\) :

\[ \lim_{|x|\to\infty}\sigma'(x) = 0 \]

Conséquence sur l'apprentissage. Dans un réseau à \(L\) couches, la rétropropagation multiplie les dérivées couche par couche : le gradient reçu par la première couche contient un produit de \(L\) facteurs \(\sigma'\).

Comme \(\sigma'\leqslant\frac14\) partout, ce produit est majoré par

\[ \left(\frac14\right)^L \]

Pour \(L=10\), cela fait \(10^{-6}\) ; pour \(L=20\), \(10^{-12}\). Le gradient devient numériquement nul et les premières couches cessent d'apprendre. C'est le problème du gradient qui s'évanouit (vanishing gradient).

La situation empire si les neurones sont saturés (\(|x|\) grand), où \(\sigma'\) est bien plus petit que \(\frac14\).

e) ReLU. \(\operatorname{ReLU}(x)=\max(0,x)\) a pour dérivée

\[ \operatorname{ReLU}'(x) = \begin{cases}1&\text{si }x>0\\0&\text{si }x<0\end{cases} \]

(non dérivable en 0, mais on convient de \(0\) ou \(1\).)

Sur la partie active, la dérivée vaut exactement 1 : le produit sur \(L\) couches vaut 1, le gradient ne s'atténue pas. C'est la raison principale pour laquelle ReLU a remplacé la sigmoïde dans les réseaux profonds depuis les années 2010.

Le prix à payer : la dérivée est nulle pour \(x<0\). Un neurone dont l'entrée reste négative ne reçoit plus aucun gradient et meurt définitivement — c'est le problème des dying ReLU, que corrigent les variantes Leaky ReLU (\(\alpha x\) pour \(x<0\)) et GELU.

Ce que l'analyse apporte ici

Le choix d'une fonction d'activation en apprentissage profond est une question d'analyse de fonction : domaine de la dérivée, valeur maximale, comportement asymptotique. Le calcul de \(\max\sigma'=\frac14\) fait, à lui seul, l'essentiel de l'argument.

---

Chapitre suivant : Primitives.