Giải thích các bước giải:
a.Ta có :
$x^2+y^2+2x+2y=11$ 
$\to (x+y)^2+2(x+y)-2xy=11$ 
$\to 3^2+2.3-2xy=11$ 
$\to xy=2$
$\to\begin{cases}x+y=3\\xy=2\end{cases}$
$\to x,y$ là nghiệm của phương trình :
$t^2-3t+2=0\to (t-1)(t-2)=0\to t\in\{1,2\}$
$\to (x,y)\in\{(1,2),(2,1)\}$
b.ĐKXD : $x\ge -3$
$(x+1)\sqrt{x+3}+(x+7)\sqrt{x+10}=x^2+6x+1$
$\to (x+1)(\sqrt{x+3}-3)+(x+7)(\sqrt{x+10}-4)=x^2+6x+1-3(x+1)-4(x+7)$
$\to (x+1).\dfrac{x+3-9}{\sqrt{x+3}+3}+(x+7).\dfrac{x+10-16}{\sqrt{x+10}+4}=x^2-x-30$
$\to (x+1).\dfrac{x-6}{\sqrt{x+3}+3}+(x+7).\dfrac{x-6}{\sqrt{x+10}+4}=(x-6)(x+5)$
$\to x=6$
Hoặc
$ \dfrac{x+1}{\sqrt{x+3}+3}+\dfrac{x+7}{\sqrt{x+10}+4}=x+5$
Nếu $x>6$
$\to\dfrac{x+1}{\sqrt{x+3}+3}+\dfrac{x+7}{\sqrt{x+10}+4}<\dfrac{x+1}{\sqrt{6+3}+3}+\dfrac{x+7}{\sqrt{6+10}+4}$
$\to x+5<\dfrac{7x+25}{24}\to x<-\dfrac{95}{17}$ loại
Nếu $x<6$
$\to \dfrac{x+1}{\sqrt{x+3}+3}+\dfrac{x+7}{\sqrt{x+10}+4}<\dfrac{x+1}{0+3}+\dfrac{x+7}{0+4}$
$\to x+5<\dfrac{x+1}{0+3}+\dfrac{x+7}{0+4}$
$\to x<-7$ vô lý vì $x\ge -3$