Đặt \(f(x)=2x^3-yx^2-z^2x+2(y^3+z^3)-y^2z\). Ta có \(f'(x)=6x^2-2yx-z^2;f'(x)=0\Leftrightarrow x=x_1=\frac{1}{6}(y-\sqrt{y^2+6z^2})\) \(x=x_2=\frac{1}{6}(y+\sqrt{y^2+6z^2})\) Nhận xét: \(x_1otin (0;1)\), lập bảng biến thiên ta thấy khi \(x_2\in (0;1)\) hay \(x_2otin (0;1)\) thì \(\underset{x\in [0;1]}{Maxf(x)}=Max \left \{ f(0);f(1) \right \}\) Mà \(f(0)=2(y^3+z^3)-y^2z\leq 2(y^3+z^3)-y^2z+(2-y-z^2)=f(1)\) \(f(x)\leq f(1)=2y^3-zy^2-y+2z^3-z^2+2 \ (1)\) Lại đặt \(g(y)=2y^3-zy^2-y+2z^3-z^2+2\) \(g'(y)=6y^2-2zy-1;g'(y)=0\Leftrightarrow y=y_1=\frac{1}{6}(z-\sqrt{z^2+6})\) \(y=y_2=\frac{1}{6}(z+\sqrt{z^2+6})\) Nhận xét tương tự suy ra \(\underset{y\in [0;1]}{Max}g(y)=Max\left \{ g(0);g(1) \right \}\). Suy ra \(g(y)\leq g(1)=2z^3+2-z^2+(1-z)=2z^3-z^2-z+3\) (2) Cuối cùng đặt \(h(z)=2z^3-z^2-z+3\) với \(z\in [0;1],h'(z)=6z^2-2z-1\) \(h'(z)=0\Leftrightarrow z_1=\frac{1-\sqrt{7}}{6};z_2=\frac{1+\sqrt{7}}{6}\). Lập bảng biến thiên suy ra: \(\underset{z\in [0;1]}{Max}h(z)=h(1)=3 \ \ (3)\) Dấu bằng xảy ra ở (1), (2), (3) khi x = y = z = 1.Vậy giá trị lớn nhất của P là 3 đạt được khi x = y = z = 1.