Đề bài
Cho $a,b,c$ là các số thực dương thỏa mãn điều kiện $(a+c)(b+c)=4c^2$. Tìm giá trị nhỏ nhất của biếu thức
$$P=\frac{32{{a}^{3}}}{{{\left( b+3c \right)}^{3}}}+\frac{32{{b}^{3}}}{{{\left( a+3c \right)}^{3}}}-\frac{\sqrt{{{a}^{2}}+{{b}^{2}}}}{c}.$$Lời giải
Cách 1
Đặt $x=\dfrac{a}{c},y=\dfrac{b}{c}$ ta có $\left( x+1 \right)\left( y+1 \right)=4\Leftrightarrow xy+x+y=3$ khi đó cần tìm giá trị nhỏ nhất của $$Q=\frac{32{{x}^{3}}}{{{\left( y+3 \right)}^{3}}}+\frac{32{{y}^{3}}}{{{\left( x+3 \right)}^{3}}}-\sqrt{{{x}^{2}}+{{y}^{2}}}.$$
Sử dụng bất đẳng thức AM-GM cho 3 số dương, ta có
$$\left\{ \begin{align}
& \frac{32{{x}^{3}}}{{{\left( y+3 \right)}^{3}}}+\frac{1}{2}+\frac{1}{2}\ge \frac{6x}{y+3} \\
& \frac{32{{y}^{3}}}{{{\left( x+3 \right)}^{3}}}+\frac{1}{2}+\frac{1}{2}\ge \frac{6y}{x+3} \\
\end{align} \right.$$
Do đó
$$\begin{align}
Q & \ge \frac{6x}{y+3}+\frac{6y}{x+3}-2-\sqrt{{{x}^{2}}+{{y}^{2}}} \\
& =\frac{6x}{y+3}+\frac{6y}{x+3}+\frac{3\left( x+y+3 \right)\left( xy+x+y-3 \right)}{\left( x+3 \right)\left( y+3 \right)}+3-5-\sqrt{{{x}^{2}}+{{y}^{2}}} \\
& =3 \cdot \frac{2x\left( x+3 \right)+2y\left( y+3 \right)+\left( x+y+3 \right)\left( xy+x+y-3 \right)+\left( x+3 \right)\left( y+3 \right)}{\left( x+3 \right)\left( y+3 \right)}-5-\sqrt{{{x}^{2}}+{{y}^{2}}} \\
& =3 \cdot \frac{3{{x}^{2}}+3{{y}^{2}}+6xy+9x+9y+x{{y}^{2}}+{{x}^{2}}y}{\left( x+3 \right)\left( y+3 \right)}-5-\sqrt{{{x}^{2}}+{{y}^{2}}} \\
& =3 \cdot \frac{3x\left( x+y \right)+3y\left( x+y \right)+9(x+y)+xy(x+y)}{\left( x+3 \right)\left( y+3 \right)}-5-\sqrt{{{x}^{2}}+{{y}^{2}}} \\
& =3 \cdot \frac{(x+y)(3x+3y+9+xy)}{\left( x+3 \right)\left( y+3 \right)}-5-\sqrt{{{x}^{2}}+{{y}^{2}}} \\
& =3 \cdot \frac{(x+y)(x+3)(y+3)}{\left( x+3 \right)\left( y+3 \right)}-5-\sqrt{{{x}^{2}}+{{y}^{2}}} \\
& =3(x+y)-\sqrt{{{x}^{2}}+{{y}^{2}}}-5 \\
& =3\left( x+y \right)-\sqrt{{{\left( x+y \right)}^{2}}-2xy}-5 \\
& =3\left( x+y \right)-\sqrt{{{\left( x+y \right)}^{2}}-2\left( x+y-3 \right)}-5 \\
& =3\left( x+y \right)-\sqrt{{{\left( x+y \right)}^{2}}-2\left( x+y \right)+6}-5 \\
\end{align}$$
Sử dụng bất đẳng thức $xy\le \dfrac{{{\left( x+y \right)}^{2}}}{4}$ ta có
\[\begin{align}
& 3=xy+x+y\le \frac{{{\left( x+y \right)}^{2}}}{4}+x+y \\
& \Leftrightarrow {{\left( x+y \right)}^{2}}+4(x+y)-12\ge 0 \\
& \Leftrightarrow \left( x+y-2 \right)\left( x+y+6 \right)\ge 0 \\
& \Leftrightarrow x+y\ge 2. \\
\end{align}\]
Vậy ta đưa về khảo sát hàm số $f\left( t \right)=3t-\sqrt{{{t}^{2}}+2t-6}-5,t\in \left[ 2;+\infty ) \right.$ .
Ta có
$$\begin{align}
f'(t) & =3-\frac{t+1}{\sqrt{{{t}^{2}}+2t-6}} \\
& =\frac{3\sqrt{{{t}^{2}}+2t-6}-\left( t+1 \right)}{\sqrt{{{t}^{2}}+2t-6}} \\
& =\frac{9\left( {{t}^{2}}+2t-6 \right)-{{\left( t+1 \right)}^{2}}}{\sqrt{{{t}^{2}}+2t-6}\left( 3\sqrt{{{t}^{2}}+2t-6}+t+1 \right)} \\
& =\frac{8{{t}^{2}}+16t-55}{\sqrt{{{t}^{2}}+2t-6}\left( 3\sqrt{{{t}^{2}}+2t-6}+t+1 \right)} \\
& \ge \frac{{{8.2}^{2}}+16.2-55}{\sqrt{{{t}^{2}}+2t-6}\left( 3\sqrt{{{t}^{2}}+2t-6}+t+1 \right)} \\
& =\frac{9}{\sqrt{{{t}^{2}}+2t-6}\left( 3\sqrt{{{t}^{2}}+2t-6}+t+1 \right)} \\
& >0. \\
\end{align}$$
Vậy hàm $f(t)$ đồng biến trên $\left[ 2;+\infty ) \right.$, suy ra $f\left( t \right)\ge f\left( 2 \right)=1-\sqrt{2}.$
Đẳng thức xảy ra khi và chỉ khi $t=2$ hay $a=b=c.$
Vậy giá trị nhỏ nhất của $P$ là $1-\sqrt{2} \ \blacksquare$
Cách 2
Cũng đặt như trên.
Từ $$xy+x+y=3\Rightarrow \left\{ \begin{aligned}
& 3\ge xy+2\sqrt{xy} \\
& 4.3\le {{\left( x+y \right)}^{2}}+4\left( x+y \right) \\
\end{aligned} \right.\Leftrightarrow \left\{ \begin{aligned}
& \left( \sqrt{xy}-1 \right)\left( \sqrt{xy}+3 \right)\le 0 \\
& \left( x+y-2 \right)\left( x+y+6 \right)\ge 0 \\
\end{aligned} \right.\Leftrightarrow \left\{ \begin{aligned}
& xy\le 1 \\
& x+y\ge 2 \\
\end{aligned} \right.$$
Sử dụng bất đẳng thức AM-GM cho 3 số dương, ta có
$$\left\{ \begin{aligned}
& \frac{16{{x}^{3}}}{{{\left( y+3 \right)}^{3}}} + \frac{16{{x}^{3}}}{{{\left( y+3 \right)}^{3}}} + \frac{1}{4}\ge 3\sqrt[3]{\frac{16{{x}^{3}}}{{{\left( y+3 \right)}^{3}}}.\frac{16{{x}^{3}}}{{{\left( y+3 \right)}^{3}}}. \frac{1}{4}}=\frac{12{{x}^{2}}}{{{\left( y+3 \right)}^{2}}} \\
& \frac{16{{y}^{3}}}{{{\left( x+3 \right)}^{3}}}+\frac{16{{y}^{3}}}{{{\left( x+3 \right)}^{3}}}+\frac{1}{4}\ge 3\sqrt[3]{\frac{16{{y}^{3}}}{{{\left( x+3 \right)}^{3}}}.\frac{16{{y}^{3}}}{{{\left( x+3 \right)}^{3}}}.\frac{1}{4}}=\frac{12{{y}^{2}}}{{{\left( x+3 \right)}^{2}}} \\
\end{aligned} \right.$$

Do đó $$P\ge 12\left[ \frac{{{x}^{2}}}{{{\left( y+3 \right)}^{2}}}+\frac{{{y}^{2}}}{{{(x+3)}^{2}}} \right]-\frac{1}{2}-\sqrt{{{x}^{2}}+{{y}^{2}}}.$$
Sử dụng bất đẳng thức $Cauchy-Schwarz$, ta có
$$\begin{aligned}
12\left[ \frac{{{x}^{2}}}{{{\left( y+3 \right)}^{2}}}+\frac{{{y}^{2}}}{{{(x+3)}^{2}}} \right] & \ge \frac{12{{\left( {{x}^{2}}+{{y}^{2}} \right)}^{2}}}{{{x}^{2}}{{\left( y+3 \right)}^{2}}+{{y}^{2}}{{\left( x+3 \right)}^{2}}} \\
& =\frac{12{{\left( {{x}^{2}}+{{y}^{2}} \right)}^{2}}}{9\left( {{x}^{2}}+{{y}^{2}} \right)+6xy\left( x+y \right)+2{{x}^{2}}{{y}^{2}}} \\
& \ge \frac{12{{\left( {{x}^{2}}+{{y}^{2}} \right)}^{2}}}{9\left( {{x}^{2}}+{{y}^{2}} \right)+6.1.\sqrt{2\left( {{x}^{2}}+{{y}^{2}} \right)}+{{2.1}^{2}}} \\
& =\frac{3{{\left[ 2\left( {{x}^{2}}+{{y}^{2}} \right) \right]}^{2}}}{\frac{9}{2}.2\left( {{x}^{2}}+{{y}^{2}} \right)+6\sqrt{2\left( {{x}^{2}}+{{y}^{2}} \right)}+2} \\
\end{aligned}$$
Do đó $$P\ge \frac{3{{\left[ 2\left( {{x}^{2}}+{{y}^{2}} \right) \right]}^{2}}}{\frac{9}{2}.2\left( {{x}^{2}}+{{y}^{2}} \right)+6\sqrt{2\left( {{x}^{2}}+{{y}^{2}} \right)}+2}-\frac{\sqrt{2\left( {{x}^{2}}+{{y}^{2}} \right)}}{\sqrt{2}}-\frac{1}{2}.$$
Đặt $t=\sqrt{2\left( {{x}^{2}}+{{y}^{2}} \right)}\ge x+y\ge 2$, ta đưa về tìm giá trị nhỏ nhất của $$f\left( t \right)=\frac{3{{t}^{4}}}{\frac{9}{2}{{t}^{2}}+6t+2}-\frac{t}{\sqrt{2}}-\frac{1}{2}=\frac{6{{t}^{4}}}{{{\left( 3t+2 \right)}^{2}}}-\frac{t}{\sqrt{2}}-\frac{1}{2},t\in \left[ 2;+\infty ) \right.$$
Ta có
$$\begin{align}
& f'(t)=\frac{36{{t}^{4}}+28{{t}^{3}}}{{{\left( 3t+2 \right)}^{3}}}-\frac{1}{\sqrt{2}},\forall t\in \left( 2;+\infty \right) \\
& f”(t)=\frac{12{{t}^{2}}\left( 9{{t}^{2}}+24t+14 \right)}{{{\left( 3t+2 \right)}^{4}}}>0,\forall t\in \left( 2;+\infty \right) \\
\end{align}$$
Do đó $f'(t)$ là hàm đồng biến trên $\left[ 2;+\infty ) \right.$ nên
$$f'(t)\ge f'(2)=\frac{{{36.2}^{4}}+{{28.2}^{3}}}{{{\left( 3.2+2 \right)}^{3}}}-\frac{1}{\sqrt{2}}=\frac{25}{16}-\frac{1}{\sqrt{2}}>0.$$
Do đó $f(t)$ là hàm đồng biến trên $\left[ 2;+\infty ) \right.$ nên
$$f\left( t \right)\ge f\left( 2 \right)=1-\sqrt{2}.$$
Đẳng thức xảy ra khi và chỉ khi $t=2$ hay $a=b=c.$

Vậy giá trị nhỏ nhất của $P$ là $1-\sqrt{2} \ \blacksquare$