b) Ta có
$A = n^3 - 2n^2 + (n-2)(n-1)$
$= n^2(n-2) + (n-2)(n-1) $
$= (n-2)(n^2 + n - 1)$
Để biểu thức $A$ là số nguyên tố thì một trong hai thừa số trên phải bằng 1.
TH1: $n - 2 = 1$
Suy ra $n = 3$. Khi đó ta có
$n^2 + n - 1 = 9 + 3 - 1 = 11$
Vậy $A = 1.11 = 11$ là số nguyên tố.
TH2: $n^2 + n - 1 = 1$
Tương đương vs
$n^2 + n - 2 = 0$
$<-> n^2 -n + 2n - 2 = 0$
$<-> n(n-1) + 2(n-1) = 0$
$<-> (n+2)(n-1) = 0$
Vậy $n = -2$ hoặc $n = 1$
Nếu $n = -2$ ta suy ra
$A = (n-2)(n^2 +n-1) = -4(4 - 2 - 1) = -4$ ko là số nguyên tố.
Nếu $n = 1$ thì
$A = (n-2)(n^2 + n - 1) = -1(1 + 1 - 1) = -2$ là số nguyên tố.
Vậy $n = 1, 3$.