Vì hàm số $(P): ax^2+bx+3(a\ne 0)$ đạt giá trị lớn nhất nên $(a<0)$
Vì giá trị lớn nhất của hàm số bằng $12$ khi $x=3$ nên ta có:
Hàm số $y=ax^2+bx+c(a<0)$ đạt $GTNN$ khi $x=-\dfrac b{2a}$ và $\max y=\dfrac{-\Delta}{4a}$
$\begin{array}{l} \Rightarrow 3 = x = \dfrac{{ - b}}{{2a}} \Rightarrow 6a = - b\left( 1 \right)\\ A\left( {3;12} \right) \in \left( P \right)\\ \Rightarrow 12 = 9a + 3b + 3\\ \Rightarrow 9 = 9a + 3b \Rightarrow 3 = 3a + b\left( 2 \right)\\ \left( 1 \right) \to \left( 2 \right):3 = 3a - 6a \Rightarrow 3 = - 3a \Rightarrow a = - 1\\ \Rightarrow b = - 6a = - 6.\left( { - 1} \right) = 6\\ \Rightarrow \left( P \right): - {x^2} + 6x + 3 \end{array}$
12) $(P):y=ax^2+bx+c(a\ne 0)$
Vì $(P)$ tiếp xúc với trục hoành tại điểm có hoành độ bằng $1$ nên
$\left\{ \begin{array}{l} a + b + c = 0\\ \dfrac{{ - b}}{{2a}} = 1 \end{array} \right.$
Vì $(P)$ đi qua điểm $M(3;5)$ nên: $5 = 9a + 3b + c$
Từ đó ta có hệ phương trình:
$\begin{array}{l}
\left\{ \begin{array}{l}
5 = 9a + 3b + c\\
a.1 + b.1 + c = 0\\
\dfrac{{ - b}}{{2a}} = 1
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
9a + 3b + c = 5\\
a + b + c = 0\\
2a + b = 0
\end{array} \right.\\
\Leftrightarrow \left\{ \begin{array}{l}
a = \dfrac{5}{4}\\
b = - \dfrac{5}{2}\\
c = \dfrac{5}{4}
\end{array} \right. \Rightarrow \left( P \right):\dfrac{5}{4}{x^2} - \dfrac{5}{2}x + \dfrac{5}{4}
\end{array}$