Đáp án:
$\displaystyle \begin{array}{{>{\displaystyle}l}} a.\ x >3\ hoặc\ x< -3\\ b.\ m=-\frac{7}{2} \end{array}$
Giải thích các bước giải:
$\displaystyle \begin{array}{{>{\displaystyle}l}} Xét\ PT\ hoành\ độ\ giao\ điểm:\\ x^{2} -2( m+1) x+2m+10=0\\ \Delta '=( m+1)^{2} -2m-10\\ =m^{2} -9\\ Để\ ( P) \ cắt\ ( d) \ tại\ 2\ điểm\ phan\ biệt\ \\ \Leftrightarrow m^{2} -9 >0\\ \Leftrightarrow x >3\ hoặc\ x< -3\\ Theo\ Viet:x_{1} +x_{2} =2m+2;\ x_{1} x_{2} =2m+10\\ Ta\ có\ A=12x_{1} x_{2} +x_{1}^{2} +x_{2}^{2}\\ A=12x_{1} x_{2} +( x_{1} +x_{2})^{2} -2x_{1} x_{2}\\ A=10x_{1} x_{2} +( x_{1} +x_{2})^{2}\\ A=10( 2m+10) +( 2m+2)^{2}\\ A=4m^{2} +28m+104\\ A=( 2m+7)^{2} +55\geqslant 55\\ Vậy\ GTNN\ của\ A=55\\ Dấu\ "="\ xảy\ ra\ \Leftrightarrow m=-\frac{7}{2} \ ( TM)\\ \end{array}$