Soient $x$ et $y$ les deux nombres, alors :

• $x+y=11$
• $3(y+1)=x^2$

De l'égalité $x+y=11$ nous tirons $y=11-x$ que nous remplaçons dans la seconde égalité :

$\begin{aligned} 3(11-x+1)=x^2 &\Longleftrightarrow 3(12-x)=x^2\\ &\Longleftrightarrow 36-3x=x^2\\ &\Longleftrightarrow x^2+3x-36=0 \end{aligned}$

L'expression $x^{2}+3x-36$ est de la forme $ax^2+bx+c$ avec :

$a=1$ ; $b=3$ et $c=-36$.

Calculons son discriminant $\Delta$ :

$\Delta=b^2-4ac=3^2-4\times1\times\left(-36\right)=9+144=153$

Nous avons $\Delta>0$, donc l'équation $x^{2}+3x-36=0$ admet deux solutions réelles distinctes :

• $x_1 =\dfrac{-b-\sqrt{\Delta}}{2a} =\dfrac{-3-\sqrt{153}}{2\times 1} =\dfrac{-3-3\sqrt{17}}{2} =-\dfrac{3}{2}-\dfrac{3\sqrt{17}}{2}$
• $x_2 =\dfrac{-b+\sqrt{\Delta}}{2a} =\dfrac{-3+\sqrt{153}}{2\times 1} =\dfrac{-3+3\sqrt{17}}{2} =-\dfrac{3}{2}+\dfrac{3\sqrt{17}}{2}$

L'ensemble des solutions de l'équation considérée est $\mathrm{S}=\left\{-\dfrac{3}{2}-\dfrac{3\sqrt{17}}{2}~;~-\dfrac{3}{2}+\dfrac{3\sqrt{17}}{2}\right\}$.

Nous avons donc deux possibilités pour les deux nombres :

• $x=-\dfrac{3}{2}-\dfrac{3\sqrt{17}}{2}$ et $y=11-\left(-\dfrac{3}{2}-\dfrac{3\sqrt{17}}{2}\right)=11+\dfrac{3}{2}+\dfrac{3 \sqrt{17}}{2}=\dfrac{25}{2}+\dfrac{3 \sqrt{17}}{2}$.
• $x=-\dfrac{3}{2}+\dfrac{3\sqrt{17}}{2}$ et $y=11-\left(-\dfrac{3}{2}+\dfrac{3\sqrt{17}}{2}\right)=11+\dfrac{3}{2}-\dfrac{3 \sqrt{17}}{2}=\dfrac{25}{2}-\dfrac{3 \sqrt{17}}{2}$

Parmi les 4 valeurs ci-dessus, la plus grande est $\dfrac{25}{2}+\dfrac{3 \sqrt{17}}{2}$.