Khi $m=4$
a)${x^2} + 4x + 3 = 0 \Leftrightarrow \left( {x + 1} \right)\left( {x + 3} \right) = 0 \Leftrightarrow \left[ \begin{array}{l} x = - 1\\ x = - 3 \end{array} \right. \Rightarrow S = \left\{ { - 1; - 3} \right\}$
b) Để phương trình có nghiệm thì $\Delta ' \ge 0 \Leftrightarrow 5 + m \ge 0 \Leftrightarrow m \ge - 5$
Theo định lý Viet ta có:
$\begin{array}{l} \left\{ \begin{array}{l} {x_1} + {x_2} = \dfrac{{ - b}}{a} = - 4\\ {x_1}{x_2} = m - 1 \end{array} \right.\\ GT \to {x_1} + {x_2} = {\left( {{x_1}{x_2}} \right)^2} \Leftrightarrow - 4 = {\left( {m - 1} \right)^2}(VL)\\ Do\,{\left( {m - 1} \right)^2} \ge 0, - 4 < 0 \to m \in \emptyset \end{array}$