$a)\quad z = 5xy - x^5 - y^5$

Ta có:

$\quad\ \begin{cases}z_x' = 0\\z_y'= 0\end{cases}$

$\Leftrightarrow \begin{cases}5y - 5x^4= 0\\5x - 5y^4 = 0\end{cases}$

$\Leftrightarrow \left[\begin{array}{l}x = y = 0\\x= y = 1\end{array}\right.$

Đặt $\begin{cases}A = z_{xx}'' = - 20x^3\\B = z_{xy}'' = 5\\C = z_{yy}'' = - 20y^3\end{cases}$

Tại $M_1(0;0)$ ta được:

$\begin{cases}A = 0\\B =5\\C = 0\end{cases}\Rightarrow B^2 - AC = 25 > 0$

$\Rightarrow$ Hàm số không đạt cực trị tại $M_1(0;0)$

Tại $M_2(1;1)$ ta được:

$\begin{cases}A = -20 < 0\\B =5\\C = -20\end{cases}\Rightarrow B^2 - AC = -375 < 0$

$\Rightarrow$ Hàm số đạt cực đại tại $M_2(1;1),\ z_{max} = 3$

$b)\quad z = xy - x^2y - xy^2$

Ta có:

$\quad\ \begin{cases}z_x' = 0\\z_y'= 0\end{cases}$

$\Leftrightarrow \begin{cases}y - 2xy - y^2= 0\\x - x^2 - 2xy = 0\end{cases}$

$\Leftrightarrow \left[\begin{array}{l}\begin{cases}x = 0\\y =1\end{cases}\\\begin{cases}x = \dfrac13\\y =\dfrac13\end{cases}\\\begin{cases}x = 0\\y =0\end{cases}\\\begin{cases}x = 1\\y =0\end{cases}\end{array}\right.$

Đặt $\begin{cases}A = z_{xx}'' = - 2y\\B = z_{xy}'' = 1-2x-2y\\C = z_{yy}'' = - 2x\end{cases}$

Tại $M_1(0;1)$ ta được:

$\begin{cases}A = -2 < 0\\B = -1\\C = 0\end{cases}\Rightarrow B^2 - AC = 1 > 0$

$\Rightarrow$ Hàm số không đạt cực trị tại $M_1(0;1)$

Tại $M_2\left(\dfrac13;\dfrac13\right)$ ta được:

$\begin{cases}A = -\dfrac23 < 0\\B = -\dfrac13\\C = -\dfrac23\end{cases}\Rightarrow B^2 - AC = -\dfrac13 < 0$

$\Rightarrow$ Hàm số đạt cực đại tại $M_2\left(\dfrac13;\dfrac13\right),\ z_{max} = \dfrac{1}{27}$

Tại $M_3(0;0)$ ta được:

$\begin{cases}A = 0\\B = 1\\C = 0\end{cases}\Rightarrow B^2 - AC = 1 > 0$

$\Rightarrow$ Hàm số không đạt cực trị tại $M_3(0;0)$

Tại $M_4(1;0)$ ta được:

$\begin{cases}A = 0\\B =- 1\\C = 1\end{cases}\Rightarrow B^2 - AC = 1 > 0$

$\Rightarrow$ Hàm số không đạt cực trị tại $M_4(1;0)$

$c)\quad z = x^2 + y^2 - 2\ln x - 2\ln y$

Ta có:

$\quad\ \begin{cases}z_x' = 0\\z_y'= 0\end{cases}$

$\Leftrightarrow \begin{cases}2x - \dfrac2x= 0\\2y - \dfrac2y = 0\end{cases}$

$\Leftrightarrow \begin{cases}x = 1\\y =1\end{cases}$

Đặt $\begin{cases}A = z_{xx}'' = 2 +\dfrac{2}{x^2} \\B = z_{xy}'' = 0\\C = z_{yy}'' = 2+ \dfrac{2}{y^2}\end{cases}$

Tại $M(1;1)$ ta được:

$\begin{cases}A = 4 > 0\\B = 0\\C=4\end{cases}\Rightarrow B^2 - AC = -16 < 0$

$\Rightarrow$ Hàm số đạt cực tiểu tại $M(1;1),\ z_{min} = 2$

$d)\quad z = -\dfrac13x^3 + x^2 + 2xy + y - 4y^2$

Ta có:

$\quad\ \begin{cases}z_x' = 0\\z_y'= 0\end{cases}$

$\Leftrightarrow \begin{cases}- x^2 + 2x + 2y = 0\\2x +1 - 8y = 0 \end{cases}$

$\Leftrightarrow \left[\begin{array}{l}\begin{cases}x=\dfrac{5 -\sqrt{29}}{4}\\y =\dfrac{7 - \sqrt{29}}{16}\end{cases}\\\begin{cases}x =\dfrac{5 +\sqrt{29}}{4}\\y=\dfrac{7 +\sqrt{29}}{16}\end{cases}\end{array}\right.$

Đặt $\begin{cases}A = z_{xx}'' = -2x+2 \\B = z_{xy}'' = 2\\C = z_{yy}'' = -8\end{cases}$

Tại $M_1\left(\dfrac{5 -\sqrt{29}}{4};\dfrac{7 - \sqrt{29}}{16}\right)$ ta được:

$\begin{cases}A = \dfrac{\sqrt{29} -1}{2} > 0\\B = 2\\C = -8\end{cases}\Rightarrow B^2 - AC = 4\sqrt{29} > 0$

$\Rightarrow$ Hàm số không đạt cực trị tại $M_1\left(\dfrac{5 -\sqrt{29}}{4};\dfrac{7 - \sqrt{29}}{16}\right)$

Tại $M_2\left(\dfrac{5 +\sqrt{29}}{4};\dfrac{7 + \sqrt{29}}{16}\right)$ ta được:

$\begin{cases}A = \dfrac{-\sqrt{29} -1}{2} < 0\\B = 2\\C = -8\end{cases}\Rightarrow B^2 - AC =- 4\sqrt{29} < 0$

$\Rightarrow$ Hàm số đạt cực đại tại $M_2\left(\dfrac{5 +\sqrt{29}}{4};\dfrac{7 + \sqrt{29}}{16}\right);\ z_{min} = \dfrac{161 + 29\sqrt{29}}{96}$