a) $\quad x^2 - 4x + 2m - 6 = 0$
Phương trình có hai nghiệm phân biệt
$\Leftrightarrow \Delta' > 0$
$\Leftrightarrow 4 - (2m-6)>0$
$\Leftrightarrow - 2m + 10 > 0$
$\Leftrightarrow m < 5$
Áp dụng định lý Viète ta được:
$\begin{cases}x_1 + x_2 = 4\\x_1x_2 = 2m - 6\end{cases}$
Khi đó:
$\quad x_1^2 + x_2^2 < 16$
$\Leftrightarrow (x_1 + x_2)^2 - 2x_1x_2 < 16$
$\Leftrightarrow 4^2 - 2(2m-6) < 16$
$\Leftrightarrow 2m - 6 > 0$
$\Leftrightarrow m > 3$
Kết hợp điều kiện có nghiệm phân biệt, ta được:
$3 < m < 5$
Vậy $3 < m < 5$
b) Ta có:
$\sqrt{2ab + 2a} + \sqrt{2bc + 2b} + \sqrt{2ca + 2c}$
$= \sqrt{2a}.\sqrt{b+1} + \sqrt{2b}.\sqrt{c +1} +\sqrt{2c}.\sqrt{a +1}$
$\leqslant \sqrt{(2a+2b+2c)(b+1+c+1+a+1)}\quad (BDT\ Bunyakovski)$
$= \sqrt{2.4}= 2\sqrt2$
Dấu $=$ xảy ra $\Leftrightarrow a = b = c =\dfrac13$
