Đầu tiên ta hãy xét PT:$\sqrt{x^2+3y^2}=y$ Dễ thấy PT này vô nghiệm nên $(\sqrt{x^2+3y^2}-y)\neq 0$PT(2) tương đương:
$x^4+3(xy)^2+\frac{x(x^2+2y^2)(\sqrt{x^2+3y^2}-y)}{(\sqrt{x^2+3y^2}+y).(\sqrt{x^2+3y^2}-y)}=5$
$\Leftrightarrow x^4+3(xy)^2+\frac{x(x^2+2y^2)\sqrt{x^2+3y^2}-y}{x^2+2y^2}=x^4+3(xy)^2+x(\sqrt{x^2+3y^2}-y)=5$
Trừ PT này cho PT 1 thu dc 1 PT bậc 2 ẩn $xy$