Từ đẳng thức đã cho ta có
$2x^2 - 7xy + 3y^2 = 0$
$<-> (x-3y)(2x-y) = 0$
Vậy $x = 3y$ hoặc $y = 2x$.
Do $x > y > 0$ nên chỉ có trường hợp $x = 3y$ là thỏa mãn, còn $y = 2x$ là loại.
Ta xét $x = 3y$.
Thay vào ta có
$P = -3y(3y) + 6y - 1 = -9y^2 + 6y - 1 = -(9y^2 - 6y + 1) = -(3y-1)^2 \leq 0$ với mọi $y$.
Vậy ta có $P \leq 0$ với mọi $x, y$ thỏa mãn đk.