Đáp án đúng:

Phương pháp giải:

Với gợi ý từ câu 1, kết hợp sử dụng bất đẳng thức Cauchy Schwarz Giải chi tiết:Áp dụng câu trước ta có:
\(\begin{array}{l}P = \frac{1}{{\sqrt {{a^2} - ab + 3{b^2} + 1} }} + \frac{1}{{\sqrt {{b^2} - bc + 3{c^2} + 1} }} + \frac{1}{{\sqrt {{c^2} - ca + 3{a^2} + 1} }}\\P \le \frac{4}{{a + 5b + 2}} + \frac{4}{{b + 5c + 2}} + \frac{4}{{c + 5a + 2}}\end{array}\)
Áp dụng bất đẳng thức Cauchy Schwarz ta có:
$\frac{1}{a}+\frac{1}{b}+\frac{1}{b}+\frac{1}{b}+\frac{1}{b}+\frac{1}{b}+\frac{1}{1}+\frac{1}{1}\ge \frac{{{\left( 1+1+1+1+1+1+1+1 \right)}^{2}}}{a+5b+2}$
$\Leftrightarrow \frac{1}{a}+\frac{5}{b}+2\ge \frac{64}{a+5b+2}$
$\Leftrightarrow \frac{4}{a+5b+2}\le \frac{1}{16}\left( \frac{1}{a}+\frac{5}{b}+2 \right)$
Hoàn toàn tương tự, ta có $\frac{4}{b+5c+2}\le \frac{1}{16}\left( \frac{1}{b}+\frac{5}{c}+2 \right);\frac{4}{c+5a+2}\le \frac{1}{16}\left( \frac{1}{c}+\frac{5}{a}+2 \right)$
Suy ra $P\le \frac{1}{16}\left( \frac{6}{a}+\frac{6}{b}+\frac{6}{c}+6 \right)\Rightarrow P\le \frac{1}{16}\left( 6.3+6 \right)\Rightarrow P\le \frac{3}{2}$
Vậy GTLN của $P$ là $\frac{3}{2}$, dấu bằng xảy ra khi $a=b=c=1$.