Điều kiện \(x\ge-1\) và \(y\ge-2\). Gọi T là tập giá trị của K. Khi đó \(m\in T\) khi và chỉ khi hệ sau có nghiệm :
\(\begin{cases}x-3\sqrt{x+1}=3\sqrt{y+2}-y\\x+y=m\end{cases}\) \(\Leftrightarrow\begin{cases}3\left(\sqrt{x+1}+\sqrt{y+2}\right)=m\\x+y=m\end{cases}\) (1)
Đặt \(u=\sqrt{x+1};v=\sqrt{y+2}\), điều kiện \(u\ge0;v\ge0\)
Thay vào (1), ta được :
\(\begin{cases}3\left(u+v\right)=m\\u^2+v^2=m+3\end{cases}\) \(\Leftrightarrow\begin{cases}u+v=\frac{m}{3}\\uv=\frac{1}{2}\left(\frac{m^2}{9}-m-3\right)\end{cases}\)
Hay u và v là nghiệm của phương trình :
\(t^2-\frac{m}{3}t+\frac{1}{2}\left(\frac{m^2}{9}-m-3\right)=0\)
\(\Leftrightarrow18t^2-6mt+m^2-9m-27=0\) (2)
Hệ (1) có nghiệm x, y thỏa mãn điều kiện \(x\ge-1\) và \(y\ge-2\) khi và chỉ khi (2) có nghiệm không âm, hay :
\(\begin{cases}\Delta'=-9\left(m^2-18m-54\right)\ge0\\S=\frac{m}{3}\ge0\\P=\frac{m^2-9m-27}{18}\ge0\end{cases}\)
\(\Leftrightarrow\frac{9+3\sqrt{21}}{2}\le m\le9+3\sqrt{15}\)
Vậy \(T=\left[\frac{9+3\sqrt{21}}{2};9+3\sqrt{15}\right]\)
Suy ra Max K = \(\frac{9+3\sqrt{21}}{2}\)
Min K = \(9+3\sqrt{15}\)