Điều kiện xy≥0,5y4−x4≥0. Xét phương trình (1) xem x2+5y2 là ẩn chính ta có (5y2+x2)2+2xy(5y2+x2)−12xy−36=0,Δ=(xy+6)2
Do đó:
x2+5y2=6,x2+5y2=−2xy−6 (loại)
Thay x2+5y2=6 vào (2) ta có 5y4−x4−(x2+5y2)(x2−y2)=2xy
⇔5y4−x4+(5y4−5x4)=4x2y2+2xy
Xét f(t)=t2+t,t≥0. Hàm số này đồng biến do đó 5y4−x4=2xy⇔x=y
Thay vào x2+5y2=6 giải ra ta có x=±1,y=±1. Vậy hệ đã cho có nghiệm (x;y)=(1;1),(−1;−1)