Điều kiện xác định:

$sinx+\sqrt{3}cosx\ge0\Leftrightarrow tanx\ge-\sqrt{3}\Leftrightarrow x\ge\dfrac{2\pi}{3}+k\pi$

Đặt $t=\sqrt{sinx+\sqrt{3}cosx},t\ge0$

Phương trình đã cho trở thành:

$t^2+t-2=0\Leftrightarrow\left(t-1\right)\left(t+2\right)=0$

$\Leftrightarrow\left[{}\begin{matrix}t=1\left(\text{nhận}\right)\\t=-2\left(\text{loại}\right)\end{matrix}\right.$

Với t = 1, ta có

$sinx+\sqrt{3}cosx=1\Leftrightarrow2.\left(\dfrac{1}{2}sinx+\dfrac{\sqrt{3}}{2}cosx\right)=1$

$\Leftrightarrow2.cos\left(x-\dfrac{\pi}{6}\right)=1\Leftrightarrow cos\left(x-\dfrac{\pi}{6}\right)=\dfrac{1}{2}=cos\dfrac{\pi}{3}$

$\Leftrightarrow\left[{}\begin{matrix}x-\dfrac{\pi}{6}=\dfrac{\pi}{3}+k2\pi\\x-\dfrac{\pi}{6}=-\dfrac{\pi}{3}+k2\pi\end{matrix}\right.$ $\Leftrightarrow\left[{}\begin{matrix}x=\dfrac{\pi}{2}+k2\pi\\x=-\dfrac{\pi}{6}+k2\pi\end{matrix}\right.$

Đối chiếu với điều kiện xác định, ta phải có

$\left\{{}\begin{matrix}\dfrac{\pi}{2}+k2\pi\ge\dfrac{2\pi}{3}+k\pi\\-\dfrac{\pi}{6}+k2\pi\ge\dfrac{2\pi}{3}+k\pi\end{matrix}\right.$ $\Leftrightarrow\left\{{}\begin{matrix}k\ge\dfrac{1}{6}\\k\ge\dfrac{5}{6}\end{matrix}\right.$ $\Rightarrow k\ge1$

Vậy phương trình có hai họ nghiệm là $x=\dfrac{\pi}{2}+k2\pi$ và $x=-\dfrac{\pi}{6}+k2\pi$ với $k\in Z,k\ge1$