Đáp án:
GTLN của $P$ là $\dfrac{1}{2}$, đạt đc khi $a = b = c = 1$.
Giải thích các bước giải:
Ta có
$(a-b)^2 + (b-1)^2 \geq 0$ với mọi $x,y > 0$
$\Leftrightarrow a^2 - 2ab + 2b^2 - 2b + 1 \geq 0$
$\Leftrightarrow a^2 + 2b^2 + 1 \geq 2ab + 2b$
$\Leftrightarrow a^2 + 2b^2 + 3 \geq 2ab + 2b + 2$
$\Leftrightarrow \dfrac{1}{a^2 + 2b^2 + 3} \leq \dfrac{1}{2}.\dfrac{1}{ab + b + 1}$
Áp dụng tương tự với các số hạng khác ta suy ra
$2P \leq \dfrac{1}{ab + b + 1} + \dfrac{1}{bc + c + 1} + \dfrac{1}{ca + a + 1}$
$= \dfrac{ca}{ca^2b + abc + ca} + \dfrac{a}{abc + ac + a} + \dfrac{1}{ca + a + 1}$
$= \dfrac{ca}{ca + a + 1} + \dfrac{a}{ca + a +1} + \dfrac{1}{ca + a + 1}$
$= \dfrac{ca + a + 1}{ca + a + 1} = 1$
$\Leftrightarrow P \leq \dfrac{1}{2}$
Dấu "=" xảy ra khi và chỉ khi $a = b = 1$, $b = c = 1$ và $c = a = 1$, tức là $a = b = c = 1$.
Vậy GTLN của $P$ là $\dfrac{1}{2}$, đạt đc khi $a = b = c = 1$.