Từ pt(2) .ta có $2x=x^2+2y^2+4y-3$Thế vào phương trình 1 và thu gọn : $2x^2-2y^2-4y-2+2x\sqrt{x^2+1}=2(y+1)\sqrt{(y+1)^2+1}$
$\Leftrightarrow 2x^2+2x\sqrt{x^2+1}=2(y+1)^2+2(y+1)\sqrt{(y+1)^2+1}$
$\Leftrightarrow x=y+1$ (hàm đồng biến và liên tục)
Thay $x=y+1$ vào pt(2) ta được một pt bậc 2. Dễ dàng giải và ta có 2 nghiệm của hệ
$S=\left\{ (-1,-2);\left( \frac 53 ;\frac 23 \right)\right\} $