a) Ta có ptrinh
$\sqrt{x-1} + \sqrt{9-x} + 2\sqrt{-x^2 + 10x - 9} = 12$
ĐKXĐ: $1 \leq x \leq 9$
Đặt $t = \sqrt{x-1} + \sqrt{9-x}$. Khi đó ta có
$t = \sqrt{x-1} + \sqrt{9-x} \geq \sqrt{x-1 + 9-x} = 3$
Mặt khác
$t^2 = x-1 + 9-x + 2\sqrt{(x-1)(9-x)} = 8 + 2\sqrt{-x^2 +10x - 9}$
Suy ra
$2\sqrt{-x^2 + 10x - 9} = t^2 - 8$
Thay vào ptrinh ta có
$t + t^2 - 8 = 12$
$\Leftrightarrow t^2 + t - 20 =0$
$\Leftrightarrow (t+5)(t-4) = 0$
Vậy $t = 4$ hoặc $t = -5$ (loại)
Suy ra ta có
$\sqrt{x-1} + \sqrt{9-x} = 4$
$\Leftrightarrow x-1 + 9-x + 2\sqrt{-x^2 + 10x - 9} = 16$
$\Leftrightarrow \sqrt{-x^2 + 10x - 9} = 4$
$\Leftrightarrow -x^2 + 10x - 9 = 16$
$\Leftrightarrow x^2 - 10x + 25 = 0$
$\Leftrightarrow (x-5)^2 = 0$
$\Leftrightarrow x = 5$ (TM)
Vậy $S = \{5\}$.
