Để dễ hiểu với bạn mình sẽ chia từng phần để biến đổi nhé
Điều kiện $\sin 2x \ne 0 \Leftrightarrow x \ne \dfrac{k\pi}{2}, \ k \in Z$
Ta có $1 + \cot 2x \cot x = \dfrac{\sin 2x \sin x + \cos 2x \cos x}{\sin 2x \sin x} = \dfrac{\cos x}{\sin 2x \sin x} = \dfrac{1}{2\sin^2 x}$
+ $\sin^4 x + \cos^4 x = (\sin^2 x + \cos^2 x)^2 - 2\sin^2 x \cos^2 x = 1 - 2\sin^2 x \cos^2 x$
Thay vào bài ta có
$\dfrac{1}{2\sin^2 x \cos^2 x} + 2(1 - 2\sin^2 x \cos^2 x) = 3$. Đặt $\sin x \cos x = t$ ta có
$\dfrac{1}{2t^2} + 2 (1 - 2t^2) = 3$
$\Leftrightarrow 4t^2 - 8t^4 + 1 = 6t^2$ là phương trình trùng phương bạn làm nốt nhé