Điều kiện: $x+y \ge 0.$Phương trình $(1)$ của hệ tương tương với:
$(x+y)^2-1+\sqrt{2(x+y)}-\sqrt{x+y+1}=0$
$\Leftrightarrow (x+y-1)(x+y+1+\frac{1}{\sqrt{2(x+y)}+\sqrt{x+y+1}})=0$
$\Leftrightarrow x+y=1$ (vì $x+y+1+\frac{1}{\sqrt{2(x+y)}+\sqrt{x+y+1}}>0, \forall x+y \ge 0.$)
$\Leftrightarrow y=1-x.$
Thay $y=1-x$ vào PT $(2)$ của hệ ta được:
$(2)\Leftrightarrow x^3-5(1-x)^2-4x^2+4(1-x)-5=3\sqrt[3]{6x^2+2}$
$\Leftrightarrow (x-1)^3+3(x-1)=6x^2+2+3\sqrt[3]{6x^2+2}$
$\Leftrightarrow f(x-1)=f(\sqrt[3]{6x^2+2})$ $(*)$ với $f(t)=t^3+3t.$
Dễ thấy $f(t)$ đồng biến trên $\mathbb {R}$ nên
$(*)\Leftrightarrow x-1=\sqrt[3]{6x^2+2}$
$\Leftrightarrow (x-1)^3=6x^2+2$
$\Leftrightarrow x^3-9x^2+3x-3=0$
$\Leftrightarrow x=.......\Rightarrow y=.....$
KL:.....................................