3. Bình phương 2 vế, ta có:
$(5x^2+14x+9)-(5\sqrt{x+1}+\sqrt{x^2-x-20})^2=0$
$\Leftrightarrow 2x^2-5x+2=5\sqrt{(x-5)(x+1)(x+4)}$
$\Leftrightarrow (2x^2-5x+2)^2-25(x-5)(x+1)(x+4)=0$
$\Leftrightarrow (x-8)(4x+7)(x^2-5x-9)=0$
Với điều kiện $x \ge -1$, ta chọn được 2 nghiệm: $x\in\{8; \frac{1}{2}(5+\sqrt{61})\}$