Lời giải:
a)
Ta có: C=x2+y2−xy−x−y+1
⇔2C=2x2+2y2−2xy−2x−2y+2
⇔2C=(x−y)2+(x−1)2+(y−1)2
Ta thấy rằng (x−y)2,(x−1)2,(y−1)2≥0∀x,y∈R⇒C≥0
Do đó, Cmin=0⇔x=y=1
b) n2+3n là số nguyên tố tương đương với n(n+3) là số nguyên tố.
Ta thấy n+3−n=3 là số lẻ nên n và n+3 khác tính chẵn lẻ, do đó luôn tồn tại một số chẵn, kéo theo n(n+3) luôn chia hết cho 2
Để n(n+3) là số nguyên tố thì nó phải có giá trị bằng 2. Xét n=0 không thỏa mãn. Mà với n≥1→n(n+3)≥4>2
Do đó không tồn tại n thỏa mãn.