x ²-(5m-1)x +6m ²+2m=0
Để PT có 2 nghiệm PB thì Δ = (5m-1)² - 4(6m²+2m)
= 25m² - 10m + 1 - 24m² - 8m
= m² - 18m + 1 > 0
=> \(\left[ \begin{array}{l}m<9-4√5\\m>9+4√5\end{array} \right.\) (1)
Áp dụng hệ thức vi-ét, ta có: $\left \{ {{x1 + x2 = 5m-1} \atop {x1.x2=6m²+2m}} \right.$
Theo đề bài: x1² + x2² ≥ 0
<=> (x1+x2)² - 2.x1.x2 ≥ 0
Hay (5m-1)² - 2(6m² + 2m) ≥ 0
<=> 25m² - 10m + 1 - 12m² - 4m ≥ 0
<=> 13m² - 14m + 1 ≥ 0
<=> 13m² - 13m - m+ 1 ≥ 0
<=> (13m-1)(m-1) ≥ 0
=> \(\left[ \begin{array}{l}m<\frac{1}{13}\\m>1\end{array} \right.\) (2)
Kết hợp (1) và (2), ta được \(\left[ \begin{array}{l}m<9-4√5\\m>9+4√5\end{array} \right.\