Đáp án + giải thích các bước giải:
Áp dụng bất đẳng thức `(a+b+c)^2>=3(ab+bc+ca)`
`->ab+bc+ca<=(a+b+c)^2/3 `
Áp dụng bất đẳng thức Cô-si:
`->abc<=(a+b+c)^3/27`
Đặt `a+b+c=x`
`->4<=x^2/3+x^3/27`
`->x^3+9x^2-108>=0`
`->x^3-3x^2+12x^2-36x+36x-108>=0`
`->(x^2+12x+36)(x-3)>=0`
`->(x+6)^2(x-3)>=0`
`->x>=3`
Quay lại bài toán:
`a^2+b^2+c^2+5abc=a^2+b^2+c^2+(9abc)/3 + (6abc)/3 >=a^2+b^2+c^2+(9abc)/(a+b+c)+2abc`
Áp dụng bất đẳng thức Schur:
`a^2+b^2+c^2+(9abc)/(a+b+c)+2abc>=2(ab+bc+ca)+2abc=8 `
Dấu bằng xảy ra khi `a=b=c=1` (theo Cô-si) hoặc `(a;b;c)=(0;2;2)` và các hoán vị (theo Schur)