Từ đẳng thức đã cho ta có
$a^2-1 = 12b^2$
$<-> (a-1)(a+1) = 12b^2$
Do $a$ là số nguyên tố nên $a$ phải là số lẻ, do đó $a - 1$ và $a + 1$ là 2 số chẵn liên tiếp.
Đặt $a-1 = 2k$ suy ra $a + 1 = 2k + 2$.
Thay vào ta có
$2k(2k+2) = 12b^2$
$<-> 4k(k+1) = 12b^2$
$<-> k(k+1) = 3b^2$
Ta thấy rằng vế trái là tích của 2 số tự nhiên liên tiếp do đó có ít nhất 1 trong 2 số là số chẵn, vậy $k(k+1)$ là số chẵn.
Tuy nhiên, do $b$ là số nguyên tố nên $b$ là số lẻ và do đó $3b^2$ là số lẻ.
Vậy ta có vế trái là một số chẵn bằng vế phải là một số lẻ. Điều này là vô lý.
Vậy không có số nguyên tố $a, b$ nào thỏa mãn đề bài
