$P= x^2+3y^2+2xy-2x-10y+10 $
$=x^2+2xy-2x+3y^2-10y+10$
$=x^2+2x(y-1)+y^2-2y+1+2y^2-8y+9$
$=x^2+2x(y-1)+(y-1)^2+2y^2-8y+8+1$
$=(x+y-1)^2+2(y-2)^2+1 ≥ 1$
Dấu "=" xảy ra khi:
$\left \{ {{x+y-1=0} \atop {y-2=0}} \right.$ ⇔ $\left \{ {{x=-1} \atop {y=2}} \right.$
Vậy giá trị nhỏ nhất của $P$ là $1$ khi $x=-1;y=2$