Điều kiện của bất phương trình là $x<-1\vee x>1$.Trường hợp $x<-1$. Khi đó bất phương trình vô nghiệm vì nó có vế trái nhận giá trị âm.
Trường hợp $x>1$. Biến đổi tương đương bất phương trình đã cho và ta được
$x\left ( \sqrt{x^2-1}+1 \right )>\frac{3\sqrt{5}}{2}$
$\Leftrightarrow 2.\frac{\sqrt{x^2-1}+1}{x}>3\sqrt{5}.\frac{\sqrt{x^2-1}}{x^2}$ $(1)$.
Đặt $u=\frac{\sqrt{x^2-1}+1}{x}$ với $1
$2u>3\sqrt{5}.\frac{u^2-1}{2}$,
$\Leftrightarrow 3\sqrt{5}u^2-4u-3\sqrt{5}<0$.
Giải bất phương trình này và nhận nghiệm $u$ thỏa mãn $1
Với kết quả trên, ta có $1<\frac{\sqrt{x^2-1}+1}{x}<\frac{3}{\sqrt{5}}$ $(2)$.
Vì $\frac{\sqrt{x^2-1}+1}{x}>1,\forall x>1$ nên ta có
$(2)\Leftrightarrow \begin{cases}x>1 \\ \frac{\sqrt{x^2-1}+1}{x}<\frac{3}{\sqrt{5}}\end{cases}$
$\Leftrightarrow \begin{cases}x>1 \\ \sqrt{5}\sqrt{x^2-1}<3x-\sqrt{5}\end{cases}$
$\Leftrightarrow \begin{cases}x>1 \\5(x^2-1)<(3x-\sqrt{5})^2\end{cases}$ $\Leftrightarrow \begin{cases}x>1 \\4x^2-6\sqrt{5}x+10>0\end{cases}$
$\Leftrightarrow \begin{cases}x>1 \\x<\frac{\sqrt{5}}{2}\vee x>\sqrt{5}\end{cases}$
$\Leftrightarrow 1<x<\frac{\sqrt{5}}{2}\vee x>\sqrt{5}$
Vậy, tập nghiệm của bất phương trình đã cho là $S=\left ( 1;\frac{\sqrt{5}}{2}\right )\cup \left ( \sqrt{5};+\infty \right )$.