Đáp án đúng: C

Phương pháp giải:
Tìm số nghiệm ở phương trình \(\sin x + \cos x = 1\)trong đoạn đã cho, rồi thiết lập điều kiện của \(m\)để phương trình \(\sin 4x = m\)có nghiệm trong đoạn sao cho tổng hai nghiệm cả hai phương trình là bốn nghiệm phân biệt.
Giải chi tiết:
 
Ta có \(\left( {{\mathop{\rm sinx}
olimits}  + cosx - 1} \right)\left( {\sin 4x - m} \right) = 0 \Leftrightarrow \left[ \begin{array}{l}\sin x + \cos x = 1\,\,\,\,\left( 1 \right)\\\sin 4x = m\,\,\,\,\,\,\,\,\,\,\,\,\,\,\left( 2 \right)\end{array} \right.\).
\(\left( 1 \right) \Leftrightarrow \sqrt 2 \sin \left( {x + \dfrac{\pi }{4}} \right) = 1 \Leftrightarrow \left[ \begin{array}{l}x + \dfrac{\pi }{4} = \dfrac{\pi }{4} + k2\pi \\x + \dfrac{\pi }{4} = \pi  - \dfrac{\pi }{4} + k2\pi \end{array} \right. \Leftrightarrow \left[ \begin{array}{l}x = k2\pi \\x = \dfrac{\pi }{2} + k2\pi \end{array} \right.\,\,\left( {k \in \mathbb{Z}} \right).\)
\( + )\,\,\dfrac{\pi }{8} \le x = k2\pi  \le \dfrac{{5\pi }}{6} \Rightarrow \dfrac{1}{{16}} \le k \le \dfrac{5}{{12}},\,\,k \in \mathbb{Z} \Rightarrow k \in \emptyset .\)
\( + )\,\,\dfrac{\pi }{8} \le x = \dfrac{\pi }{2} + k2\pi  \le \dfrac{{5\pi }}{6} \Rightarrow  - \dfrac{3}{{16}} \le k \le \dfrac{1}{6},\,\,k \in \mathbb{Z} \Rightarrow k = 0\)
Do đó (1) có nghiệm duy nhất là: \(x = \dfrac{\pi }{2}\) thỏa mãn yêu cầu.
TH1: \(x = \dfrac{\pi }{2}\) là 1 nghiệm của (2), khi đó ta có: \(\sin 4\dfrac{\pi }{2} - m = 0 \Leftrightarrow m = 0\).
Thử lại: Với \(m = 0\) thì \(\sin 4x = 0 \Leftrightarrow x = \dfrac{{k\pi }}{4}\,\,\left( {k \in \mathbb{Z}} \right)\).
\(\dfrac{\pi }{8} \le \dfrac{{k\pi }}{4} \le \dfrac{{5\pi }}{6} \Leftrightarrow \dfrac{1}{2} \le k \le \dfrac{{10}}{3} \Rightarrow k \in \left\{ {1;2;3} \right\} \Rightarrow x \in \left\{ {\dfrac{\pi }{4};\dfrac{\pi }{2};\dfrac{{3\pi }}{4}} \right\}\).
Vậy phương trình ban đầu có 3 nghiệm phân biệt thỏa mãn yêu cầu bài toán \( \Rightarrow m = 0\) loại.
TH2: \(x = \dfrac{\pi }{2}\) không là nghiệm của (2) \( \Rightarrow m
e 0\).
Khi đó để phương trình ban đầu có 4 nghiệm thỏa mãn yêu cầu bài toán thì (2) có 3 nghiệm phân biệt thỏa mãn \(x \in \left[ {\dfrac{\pi }{8};\dfrac{{5\pi }}{6}} \right]\backslash \left\{ {\dfrac{\pi }{2}} \right\}\).
Với \(x \in \left[ {\dfrac{\pi }{8};\dfrac{{5\pi }}{6}} \right] \Rightarrow 4x \in \left[ {\dfrac{\pi }{2};\dfrac{{10\pi }}{3}} \right]\), dựa vào đường tròn lượng giác ta tìm được \(m \in \left[ { - \dfrac{{\sqrt 3 }}{2};1} \right)\).
Vậy \(m \in \left[ { - \dfrac{{\sqrt 3 }}{2};1} \right)\backslash \left\{ 0 \right\} \Rightarrow \left\{ \begin{array}{l}a =  - \dfrac{{\sqrt 3 }}{2}\\b = 1\\c = 0\end{array} \right. \Rightarrow {a^2} + 2b + c = \dfrac{3}{4} + 2 = \dfrac{{11}}{4}\).
Chọn C.