Đáp án:
$\min M = \dfrac32 \Leftrightarrow x = y =z =1$
Giải thích các bước giải:
$\begin{array}{l}\text{Áp dụng bất đẳng thức AM-GM ta được:}\\ \quad \dfrac{x^2}{y+1} + \dfrac{y+1}{4}\geq 2\sqrt{\dfrac{x^2}{y+1}\cdot\dfrac{y+1}{4}} = x\\ \text{Tương tự ta được:}\\ \quad \dfrac{y^2}{z+1} + \dfrac{z+1}{4} \geq y\\ \quad \dfrac{z^2}{x+1} + \dfrac{x+1}{4} \geq z\\ \text{Cộng vế theo vế ta được:}\\ \quad \dfrac{x^2}{y+1} + \dfrac{y^2}{z+1} +\dfrac{z^2}{x+1} + \dfrac{z+y+z+3}{4} \geq x+y+z\\ \to \dfrac{x^2}{y+1} + \dfrac{y^2}{z+1} +\dfrac{z^2}{x+1} \geq x+y+z - \dfrac{3+x+y+z}{4}\\ \to \dfrac{x^2}{y+1} + \dfrac{y^2}{z+1} +\dfrac{z^2}{x+1} \geq \dfrac34(x+y+z) - \dfrac34\\ \to \dfrac{x^2}{y+1} + \dfrac{y^2}{z+1} +\dfrac{z^2}{x+1} \geq \dfrac34\cdot 3 - \dfrac34\\ \to \dfrac{x^2}{y+1} + \dfrac{y^2}{z+1} +\dfrac{z^2}{x+1} \geq \dfrac32\\ \to M \geq \dfrac32\\ \text{Dấu = xảy ra}\,\,\Leftrightarrow \begin{cases}4x^2 =(y+1)^2\\4y^2= (z+1)^2\\4z^2 = (x+1)^2\\x+y+z=3\\x;\,y;\,z>0 \end{cases} \Leftrightarrow x = y= z =1\\ Vậy\,\,\min M = \dfrac32 \Leftrightarrow x = y =z =1\end{array}$